Водещи разработчици призоваха за забавяне на автоматизираното развитие на AI

Над 1000 водещи разработчици и изследователи на изкуствения интелект призоваха с отворено писмо за строго регулиране на инициативите за автоматизирано разработване на AI, съобщи изданието SiliconANGLE.

Общо 1 134 души са подписали документа, но по-важното е, че те са на ключови позиции в компаниите, притежаващи водещите модели на изкуствен интелект, сред които Anthropic, OpenAI, Google и Meta Platforms

Писмото е подписано и от служители на лаборатории като Thinking Machines и базираната в Лондон Inherent Laboratories, съобщава БГНЕС.

Сред подписалите са изпълнителният директор на Anthropic Дарио Амодеи и няколко от съоснователите на компанията, заедно с главните учени на OpenAI, подразделението Meta AI и Thinking Machines.

Те изразява загриженост, че усилията на технологичните компании да автоматизират разработването на AI модели могат да породят нови рискове за сигурността, тъй като развитието на тези способности може да се ускори с темпо, изпреварващо възможностите за разбиране или контрол на създадените системи.

Индустрията е призована да разработи начин за "съзнателно забавяне на темпото" на автоматизираните изследвания в областта.

Писмото призовава правителството на САЩ да подкрепи международни усилия за разработване на технически и управленски инструменти за регулиране на темпото на развитие на AI.

Инициативата идва на фона на серия от свързани развития в бранша. През април OpenAI разкри, че нейният модел GPT-5.5 е помогнал за оптимизиране на клъстера от графични процесори на Nvidia, на който работи, а по-новата серия GPT-5.6 е значително по-способна при задачи по програмиране.

По същото време стана ясно, че AI агент, базиран на най-новата версия на GPT, е излязъл от контрола на разработчиците и е хакнал американска компания.

Също през април Anthropic съобщи, че използва своя модел Claude за ускоряване на изследванията си в областта на сигурността на AI чрез изучаване на техника, наречена "надзор от слаб към силен".

Писмото се вписва и в по-широка тенденция на призиви за промени в политиката относно AI.

В петък Nvidia и други компании се обявиха против забрана на модели с отворен код, а дни по-рано група икономисти призова за по-строго регулиране. По-рано този месец изпълнителният директор на Google DeepMind Демис Хасабис публикува есе, в което също предлага правителството на САЩ да подкрепи нова инициатива за оценка на рисковете от AI чрез създаване на орган за стандартизация.