В последно време все по-често се използват детектори за съдържание, генерирано от изкуствен интелект (ИИ). Така постепенно се създава усещането, че проблемът с използването на ИИ в образованието, науката и професионалната работа вече има решение. Пишеш текст, проверяваш го и получаваш отговор. Изглежда елементарно. Но дали наистина разбираме какво точно установяваме с тези инструменти?

Детекторите създават усещане за сигурност, но не дават сигурен отговор

Отговорът, който тези инструменти дават, всъщност не е категоричен. Детекторите не могат да установят кой стои зад даден текст. Те анализират езикови модели и изчисляват вероятности. Това прави техните резултати ориентир, но не и доказателство.

Разбира се, не бива да се отрича и гледната точка на тези, които настояват за използването на подобни инструменти. В условията на широко навлизане на ИИ в образованието, науката и професионалната работа преподаватели, редактори и издатели имат нужда от първоначален ориентир. Детекторите могат да бъдат полезни точно в такава роля, като сигнал за по-внимателен преглед, особено когато има съмнение за механично създаден или неосмислен текст. Проблемът започва тогава, когато този сигнал се превърне в окончателна присъда.

Това не означава, че всяко използване на ИИ трябва да се приема безкритично или че злоупотребите трябва да се пренебрегват. Напротив, именно защото рискове има, е необходима по-точна преценка, а не механично доверяване само на автоматичен резултат.

Когато контролът се превърне в надпревара между генератори и детектори

На практика това може да превърне процеса в своеобразно състезание между генератори и детектори. Авторът започва да преработва, перифразира и "почиства" текста, за да не бъде разпознат като създаден с помощта на ИИ. От своя страна детекторите се усъвършенстват и търсят нови признаци. Така вниманието постепенно се измества от съдържанието и разбирането към заобикалянето и разпознаването. А това едва ли е посоката, от която образованието и останалите области, в които ИИ вече се използва активно, имат нужда.

Така постепенно се стига до един парадокс. Инструмент, който има потенциал да подпомага обучението, научната работа и публичната комуникация, започва да се възприема като риск. Например студент може да използва ИИ, за да си обясни по-добре трудна тема, да провери логиката на своя текст или да подобри езиковото му оформление. По същия начин изследовател може да го използва, за да преработи свой текст, като запази идеята и аргументацията, но подобри стила, яснотата и последователността на изложението. Това се отнася и за подготовка на публични текстове, включително в журналистиката и експертните коментари по сложни теми, когато целта е по-ясно структуриране на позицията, проверка на логическата последователност и по-разбираемо представяне. Във всички тези случаи съдържанието, тезата и отговорността остават при автора, а ИИ изпълнява ролята на помощен инструмент. Ако обаче всяка подобна намеса се приема като съмнителна, дори най-малката помощ започва да поражда колебание дали не са нарушени правила, които все още се формират и често се тълкуват по различен начин. Така полезното използване на ИИ постепенно започва да се избягва, дори когато носи реална стойност.

Проблемът не е само в текста, а в това дали зад него стои мислене

Тук се откроява и по-същественият въпрос. Не толкова дали е използван ИИ, а дали човекът разбира това, което представя. Един ученик или студент може да предаде текст, написан изцяло без ИИ, но съставен механично от чужди източници, без ясна лична позиция и без разбиране на основните понятия. И обратното – може да използва ИИ, за да подреди собствените си идеи, да провери дали изложението е логично и да направи текста по-ясен. Подобна помощ не означава непременно липса на мислене. Затова проверката не трябва да спира до самия текст. Ако авторът може да обясни тезата си, да отговори на въпроси и да защити избраните аргументи, тогава вече се вижда дали зад текста има реално разбиране. Истинският проблем не е в технологията, а в това дали тя заменя или подпомага мисловния процес.

Възниква и един напълно практичен въпрос – как да се извърши такава проверка, без тя да се превърне в прекомерно натоварване за преподавателя или рецензента. Отговорът не изисква сложни процедури.

В много случаи са достатъчни няколко кратки уточняващи въпроса, свързани с основната теза, използваните понятия или направените изводи. Например, когато човек представя текст, разработка, анализ или становище, следва да обясни защо е избрал конкретен подход или как би защитил основния си аргумент. По подобен начин при научна статия рецензентът може да постави въпроси, които изискват ясно обосноваване на избора на метод, интерпретацията на резултатите или връзката с предходни изследвания. При представяне на статията самото обосноваване на автора и защитата пред научната общност също играят ключова роля, тъй като именно в този процес се откроява доколко изследването е осмислено и доколко авторът стои зад своите резултати. В подобни случаи по-ясно се разбира дали авторът наистина стои зад текста си. Отговорността обаче остава преди всичко негова. Издателят може да въведе насоки и изисквания за прозрачност, но не може да замени личната отговорност на изследователя за съдържанието, което представя.

Тук възниква и друг съществен въпрос. Ако един текст е осмислен, аргументиран и защитим от автора, има ли изобщо проблем в начина, по който е създаден, при условие че не става дума за плагиатство? Разликата не е в това дали е използван инструмент, а в това дали той е подпомогнал или е подменил мисленето. Например студент може да използва ИИ, за да получи първоначално обяснение на дадена тема, но след това да го преработи, да го съпостави с учебни източници, да добави свои примери и да изгради собствена логика на изложението. По същия начин изследовател може да използва ИИ като отправна точка, но да провери, коригира и допълни текста, като го свърже с реалните резултати от своето изследване. В подобни случаи трудно може да се твърди, че липсва интелектуален принос. ИИ не пише вместо автора, когато авторът действително участва в процеса. Той може да помогне за по-добро подреждане на мисълта, за уточняване на формулировки или за по-ясно представяне на вече изградена идея. Затова не е правилно подобна употреба автоматично да се отхвърля като нарушение. По-важно е авторът да може да покаже какво е неговото участие, как е променил текста и защо е застанал зад крайния вариант. Именно тогава отговорността не се размива, а остава там, където трябва да бъде, при човека, който представя съдържанието като свое.

Правилата са необходими, но не могат да заменят отговорността

В този контекст възниква и по-широк въпрос. Не дали трябва да има правила, а дали те са достатъчни. Правила са необходими, но сами по себе си не гарантират нито разбиране, нито качество. В крайна сметка отговорността за текста е на автора. Той трябва да стои зад тезата си, зад начина, по който я развива, и зад изводите, до които стига. Това важи за студент, който предава курсова работа, за изследовател, който публикува научна статия, за журналист, който подготвя анализ или коментар, както и за специалист от практиката, който изготвя доклад, анализ или техническо становище. Проверка трябва да има, но тя не бива да се свежда само до въпроса дали е използван ИИ. Същественото е да се види дали написаното е разбрано, дали резултатите са правилно тълкувани и дали авторът може да защити своя принос. Така проверката не отпада, а просто се връща към истинската си цел. Именно тук се вижда границата между подпомагане и подмяна. Един човек може да използва ИИ като насока, но след това трябва да прецени какво от предложения резултат има място в текста. Трябва да го провери, да го промени, ако е необходимо, и накрая да може ясно да заяви: това е моята позиция и аз стоя зад нея.

Границата не е в инструмента, а в начина, по който го използваме

В моята работа използвам генеративен ИИ като помощник, но не и като заместител на собственото мислене, преценка и отговорност. Той ми помага при обсъждане и подреждане на идеи, структуриране на научни публикации, проверка на логиката на изложението, езиково прецизиране на текстове и разработване на учебни материали.

Това обаче не означава автоматично приемане на предложения резултат. Напротив, всеки такъв резултат трябва да бъде прегледан, проверен, променен и съобразен с конкретната цел. Според мен именно това е отговорното използване на ИИ. Той може да подпомага процеса, но не отменя необходимостта от лична преценка и критичен прочит.

Тази позиция не е само лично впечатление. Тя се основава и на научната ми работа през последните няколко години. В една от моите публикации например представям алгоритъм за подпомагане на процеса на рецензиране на научни ръкописи с помощта на ChatGPT. В него ИИ не замества рецензента, а подпомага отделни етапи от оценяването чрез количествени и качествени критерии, претегляне и SWOT анализ.

Подобна логика следвам и в друга моя публикация, свързана със създаване на резюме на научна статия с помощта на ИИ. Там авторът задава изискванията, оценява предложения текст, прави корекции, използва SWOT анализ, а при необходимост включва превод и
езикова проверка.

И в двата случая водеща остава ролята на човека. Имам редица публикации в тази посока, свързани пряко с използването на ИИ в научната дейност, които са реферирани и индексирани в световноизвестни бази данни с научна информация. Именно този опит ме кара да гледам на тези системи не като на заместител на експертизата, а като на инструмент. Те могат да помогнат с идеи, анализ и организация, но смисълът на решенията остава извън самия инструмент. Затова и темата за детекторите не трябва да се разглежда само като технически въпрос. Ключовото е дали ИИ подпомага автора или подменя неговото мислене, отговорност и принос.

Детекторите могат да насочват, но не могат да решават вместо човека

Детекторите за съдържание, генерирано с ИИ имат своето място. Те могат да насочат вниманието към текст, който изглежда съмнителен, но не бива да се приемат като последна инстанция. Един автоматичен резултат не може да покаже дали авторът разбира написаното, дали може да го защити и дали в него има реален личен принос. Затова при съмнение за неавтентичен текст е по-разумно детекторът да бъде само начална точка. След него трябва да има човешка преценка. Ако авторът е осмислил текста, проверил го е, преработил го е отговорно и може да обясни тезата и изводите си, тогава въпросът не се свежда само до това дали е използван ИИ. По-важно е дали е запазен неговият интелектуален принос. В крайна сметка стойността на един текст не се определя само от начина, по който е създаден, а от това дали зад него стои мислещ човек, който поема отговорност за думите си.

*Проф. д-р инж. Алдениз Рашидов е преподавател в Технически университет – Габрово, катедра "Автоматика, информационна и управляваща техника". Той е директор на Центъра за електронно и дистанционно обучение и ръководител на сектор "Информационно осигуряване" към университета. Научните му интереси са в областта на интернет базираните системи, индустриалните информационни системи и приложението на изкуствения интелект в образованието и научните изследвания. Проф. Рашидов е автор на над 115 научни публикации и е старши член (Senior Member) на IEEE, както и член на IEEE Computer Society и IEEE Robotics and Automation Society.