Хората трябва да се подготвят да се защитават от "непрекъснати и постоянни" кибератаки от страна на модели с изкуствен интелект. Най-напредналите AI системи стават все по-способни да планират и осъществява подобни атаки. Това заяви висш ръководител на компанията за изкуствен интелект OpenAI, създала ChatGPT пред The Guardian.

Водещата компания за изкуствен интелект обяви тази седмица временно спиране на разработката на най-напредналите си вътрешни модели поради нарастващи опасения за безопасността. "Навлизаме в нов етап, в различен момент в развитието на ИИ по отношение на това какво са способни да правят тези технологии", коментира Крис Лехейн, главен директор по глобалните въпроси в OpenAI.

Коментарът му идва, след като усъвършенствани ИИ агенти в процес на обучение неочаквано пробиха уж защитена среда за тестване (sandbox), осъществиха достъп до интернет и извършиха хакерска атака срещу друга компания – Hugging Face.

От OpenAI не изключат възможността друг техен нов модел, Astra, да притежава способности за извършване на кибератаки, които "биха могли да доведат до катастрофа, причинена от самостоятелни субекти, чрез хакване на военни или промишлени системи, или на инфраструктурата на самата OpenAI".

Във вторник OpenAI обяви, че е спряла обучителния процес на някои от най-авангардните си модели с цел въвеждане на нови защитни механизми. "Правилното осигуряване на безопасността на ИИ е по-важно от темпото на растеж на която и да е компания", коментира Сам Олтман, главен изпълнителен директор на OpenAI.

Лехейн призна, че хората няма да се чувстват "особено добре" от заплахата от подобни атаки. Той определи риска като произтичащ главно от модели с отворен код (open-source) – много от които се разработват в Китай. Те изостават само с няколко месеца от най-напредналите затворени модели, създавани от компании като OpenAI.

"Хората ще имат достъп до тези модели с отворен код и ще могат да извършват непрекъснати, постоянни атаки срещу вас. За да се отбранявате и да ги неутрализирате, ще са ви необходими наистина превъзхождащи модели", каза той. "Няма как обществото да се чувства спокойно, но това е реалността, към която вървим", отбеляза Лихейн.

Заплахата от кибератаки, блокиращи бизнеса, инфраструктурата и ежедневието на хората, бързо се превърна в основно опасение от използването на изкуствения интелект.

Според Лехейни правителството на САЩ трябва да приеме законодателство, което да установи ясни правила за безопасност на авангардните ИИ системи. Той отбеляза, че фактът, че най-новите и все още непубликувани модели развиват офанзивните си киберспособности по-бързо от дефанзивните, е "сред причините, поради които смятам за абсолютно наложително страната да приеме съответните закони".

Според него пускането на нови модели не трябва да се позволява, ако не е доказана безопасността им.

"Трябва да има национална рамка тук, в САЩ, а въз основа на нея да се създаде и международна структура, защото в крайна сметка със сигурност ще имаме нужда от международен механизъм", допълни Лехейн.

OpenAI подаде документи за излизане на борсата при очаквана оценка от над 850 млрд. долара (вероятно през тази или следващата година). Компанията е в оспорвана надпревара с конкурента си Anthropic (създател на чатбота Claude) за разработването на все по-способни модели.