Изкуственият интелект може да подпомага научната работа, но не и да поеме отговорността

Изкуственият интелект (ИИ) все по-осезаемо навлиза и в научната работа. Той вече може да подпомага търсенето и структурирането на информация, анализа на данни, езиковата и стиловата редакция, подготовката на резюмета, формулирането на заглавия и дори обсъждането на възможни хипотези. Това развитие поставя редица важни въпроси. Най-същественият сред тях обаче не е дали ИИ трябва да бъде използван в науката, а как да бъде използван отговорно.

Показателен е един скорошен експеримент във финансовата област. В него е описан автоматизиран процес, чрез който за кратко време са анализирани налични данни и са създадени стотици цялостни текстове, оформени като научни статии. Езиковите модели могат да създават убедително изглеждащи академични текстове с различни обосновки на получените резултати.

Ако хипотезата се формулира, след като закономерностите в данните вече са открити, се стига до позната в науката практика, обозначавана като HARKing - формулиране на хипотеза след получаване на резултатите. Самото търсене на закономерности в данните не е проблем. Рискът възниква, когато впоследствие формулираната хипотеза се представя като предварително зададена или не се проверява допълнително.

Този риск не е възникнал с появата на ИИ. Новото е, че технологията може да го разшири до мащаби, които доскоро трудно можеха да бъдат постигнати. Количеството текстове не може да замести качеството на научната работа. Добре оформеният текст не е равнозначен на научен принос. Убедително звучащото твърдение не е задължително вярно. А наличието на множество таблици, анализи и цитати не означава автоматично, че е зададен смислен научен въпрос.

Между подпомагането и подмяната

Това обаче не означава, че използването на ИИ в научната работа трябва просто да бъде ограничавано. Подобен подход би бил едностранчив и трудно приложим. ИИ неизбежно ще участва все по-активно в изследователския процес. Нали именно това е идеята на тези технологии - да подпомагат учените и изследователите там, където могат да спестят време, да предложат различни варианти, да структурират информация и да улеснят работата по отделни етапи. Границата трябва да бъде поставена не между използване и неизползване на ИИ, а между подпомагане и подмяна.

Какво всъщност е проблемното в това един научен текст да бъде прецизиран с помощта на ИИ, ако са спазени изискванията за прозрачност и защита на данните и ако авторът съзнателно е потърсил такава помощ, поставил е конкретни изисквания, прегледал е критично получения резултат, проверил е твърденията, данните и източниците, направил е необходимите промени и накрая застава с името си зад публикацията? В такъв случай ИИ не замества автора. Той остава помощен инструмент за редакция, анализ и структуриране на научния текст. Отговорността е на изследователя - за научния въпрос, методологията, интерпретацията на резултатите, проверката на източниците и крайния вариант на публикацията.

От 2023 г. работя именно в тази посока в редица свои научни публикации и разработки. В част от тях разглеждам възможностите, предизвикателствата и ограниченията при използването на ИИ в научните изследвания. В други предлагам алгоритми и итеративни подходи за подпомагане на отделни етапи от научната работа - избор и прецизиране на тема и заглавие, избор на тема за научен проект, създаване на резюме, генериране на структура на научна публикация, проверка на граматиката и стила, форматиране на цитати, както и подпомагане на процеса на рецензиране на научни ръкописи и проектни предложения и други свързани дейности.

Основната идея в тези разработки не е ИИ да замести изследователя или рецензента. Целта е технологията да подпомага работата чрез последователни стъпки, критерии за оценка, проверка и възможност за преработване на резултата. Изследователят не трябва да приема механично първото предложение на езиковия модел. Той трябва да го оцени, да го коригира и при необходимост да повтори процеса. Крайният резултат трябва да бъде не просто добре оформен текст, а текст, който авторът може аргументирано да защити.

Отговорността остава при автора

Тази логика не е характерна само за науката. Например в програмирането ИИ все по-често се използва при създаването на програмни приложения, генерирането на отделни фрагменти код, откриването на грешки и подготовката на тестове. Отговорността за крайния продукт обаче не е на самия инструмент. Разработчиците преглеждат, тестват и валидират създаденото. Компаниите застават зад приложенията, които предоставят на своите потребители.

Същата логика важи и за научната работа. Изследователят може да използва ИИ като помощник, но остава този, който проверява, осмисля и защитава всяко твърдение, резултат и заключение в публикацията си. В научната работа еквивалентът на тестването е проверимостта на данните, възпроизводимостта на анализа и възможността изводите да бъдат защитени. Ако в текста има грешка, непроверено твърдение или неправилен извод, за това отговаря авторът, както е отговарял и преди появата на генеративния ИИ.

Когато ИИ е използван съществено при подготовката на публикацията, това следва да бъде посочено ясно и прозрачно съобразно правилата на конкретното издание. Но фактът, че е използван ИИ, не отменя отговорността на автора. Не я прехвърля и към инструмента. Авторът остава отговорен за съдържанието, под което поставя името си. Това разграничение е особено важно. Декларирането на използването на ИИ не трябва да се превръща нито в основание за автоматично отхвърляне на публикацията, нито в удобно оправдание при допуснати неточности. Прозрачността е необходима, но тя трябва да върви заедно с проверката и личната отговорност.

Отговорното използване на ИИ може да се разпознае по няколко основни признака: ясно формулиран научен въпрос, проверими данни и източници, проследимост на използваните методи, възможност резултатите да бъдат възпроизведени и готовност авторът да защити всяко съществено твърдение в публикацията си. ИИ може да предложи вариант, но не може сам по себе си да бъде източник на научна истина.

Докторантът и научният ръководител

Тези въпроси са особено важни при работата с докторанти - младите изследователи, които подготвят дисертация и постепенно изграждат своята самостоятелност в науката. Те са бъдещите учени и именно затова начинът, по който още на този етап използват ИИ, не е маловажен.

Докторантът носи отговорност за текста и резултатите, които представя. Научният ръководител обаче има съществена роля да го насочва, да изисква проверка на твърденията и източниците и да поставя въпроси, чрез които да се вижда дали съдържанието е действително осмислено. Целта не е докторантът просто да представи добре оформен текст. Той трябва постепенно да изгради способност самостоятелно да формулира научни въпроси, да защитава избраната методология и да застава зад своите изводи. Научният ръководител не трябва да мисли вместо докторанта, а да му помогне постепенно да поеме щафетата на самостоятелния изследовател. С придобиването на докторската степен тази отговорност вече трябва да бъде част от неговата собствена професионална позиция.

Не само правила, а култура на отговорно използване

Подобно на образованието, и в науката правилата са необходими, но не са достатъчни. Нужна е култура на отговорно използване. Това означава ясно разграничаване на личния принос, проверимост на резултатите, проследимост на отделните етапи и готовност изследователят да защити това, което представя. ИИ може да подпомага научната работа, но не може да поеме авторската отговорност. Тя остава при изследователя, който задава научния въпрос, избира подхода, проверява резултатите, осмисля изводите и в крайна сметка поставя името си под публикацията. Отговорното използване на ИИ може да освободи време за по-съществената част от научната работа - формулирането на важни въпроси, критичния анализ, интерпретацията и търсенето на нови решения.

Ако се съсредоточим единствено върху ограниченията, рискуваме да пропуснем част от тези възможности. В крайна сметка най-важният въпрос не е кой е помогнал при създаването на първия вариант на текста, а кой е проверил, осмислил и защитил окончателния резултат.

По-важният въпрос не е как да спрем използването на ИИ, а как да се научим да го използваме отговорно, критично и прозрачно, без да отстъпваме от изискванията за научно качество и лична отговорност.

*Проф. д-р инж. Алдениз Рашидов е преподавател в Технически университет – Габрово, катедра "Автоматика, информационна и управляваща техника". Той е директор на Центъра за електронно и дистанционно обучение и ръководител на сектор "Информационно осигуряване" към университета. Научните му интереси са в областта на интернет базираните системи, индустриалните информационни системи и приложението на изкуствения интелект в образованието и научните изследвания. Проф. Рашидов е автор на над 115 научни публикации и е старши член (Senior Member) на IEEE, както и член на IEEE Computer Society и IEEE Robotics and Automation Society.