Ръководителите на водещи компании за изкуствен интелект Дарио Амодей от Anthropic, Сам Алтман от OpenAI и Илон Мъск xAI се обединиха около идеята за забавяне на разработването на най-напредналите модели заради нарастващите рискове, свързани с технологията, предаде Блумбърг, цитиран от БТА.
Като част от този план вероятно водещите компании в сектора ще допуснат оценка на разработките си от независими експерти.
Предложение от Anthropic
Първи темата повдигна главният изпълнителен директор на Anthropic Дарио Амодей. Той публикува есе в блога си, в което предлага план с три мерки за забавяне на развитието на новите модели изкуствен интелект. В изпълнението на плана трябва да са въвлечени водещите разработчици в областта, американското правителство, но и правителствата на глобално ниво.
Дарио Амодей предлага компаниите за изкуствен интелект да дадат достъп като на служители на външни експерти, които да следят дали се придържа към практиките, гарантиращи сигурността на моделите, да следят и подават сигнали за проблеми и да помагат при оценката не само на вече развитите модели, но и на тези, по които се работи.
Дарио Амодей призовава водещите компании в сектора да координират правилата си за безопасност, както и да лимитират прогреса при разработването на непроверени AI проекти. Според него за това е нужна държавна намеса, тъй като подобна координация в момента е ограничена от законите в САЩ.
Според Амодей правителствата на демократичните държави трябва да се опитат да се координират по въпросите на AI с управляващите авторитарни държави. Целта е верифицирането за безопасност на новите модели да действа и за разработването на AI в такива страни. Основните опасения идват от китайските разработки, които не биха били подложени на същия контрол и има съмнения за това дали и какви правила за сигурност следват.
Дарио Амодей призова и останалите компании в сектора да подкрепят по-широко предложенията му.
Отговорът
Ръководителят на OpenAI Сам Алтман бързо се ангажира да възприеме предложението за "независими оценители с достъп, подобен на този на служителите". Илон Мъск, който оглавява xAI, написа в X: "Дарио е прав".
Dario is right
— Elon Musk (@elonmusk) September 12, 2026
Макар тримата от години да предупреждават за рисковете от изкуствения интелект, координирано забавяне на разработките почти няма прецедент в сектора, отбелязва Блумбърг. Досега компаниите пускаха последователно нови продукти в стремежа си да привличат потребители, да увеличават пазарния си дял и приходите.
Обществените опасения се засилиха след оставката на изследовател от Anthropic, който обвини компанията в безотговорно поведение и предупреди за рискове за съществуването на човечеството. Случаят е поредният от серия предупреждения от представители на сектора, че бързото развитие на технологията създава нарастващи заплахи за националната сигурност и световната икономика.
Същевременно в САЩ се засилва недоволството срещу натоварването на местните ресурси от новите центрове за данни. Темата се превърна в една от важните преди междинните избори през ноември заради опасенията от поскъпване на електроенергията и от загуба на работни места.
Засега не е ясно докъде ще стигнат компаниите при въвеждането на ограничения и проверки за безопасност на фона на острата конкуренция помежду им, но и с китайските разработчици.
Демис Хасабис, главен учен в Alphabet и съосновател на Google DeepMind, заяви в социалната мрежа X, че предложената от Амодей посока е правилна, но подробностите трябва да бъдат доработени.
Остават въпроси и дали антимонополните органи биха допуснали координирано регулиране на темпото на разработките, както и как инвеститорите, очакващи висока рентабилност и печалби, биха реагирали на подобно забавяне.
Защо се налага забавяне
Дарио Амодей казва, че предложението му за координирано забавяне на разработката на нови AI модели е провокирано от два факта. Първият е, че изкуственият интелект се развива толкова бързо основно заради увеличаващата се възможност на същия този изкуствен интелект да създаде новото поколение модели. Ако това не се контролира и проверява, може да изпревари "възможността ни да разбираме и контролираме тези системи".
Другото, което го убедило да предложи общо забавяне на разработките, е случаят с кибератаката срещу Hugging Face, осъществена от група агенти с ИИ, които действаха като екип. Те извършиха кибератака срещу цели, които не са били помолени да атакуват, и които не са били свързани с дадената им непосредствена задача. Освен това агентите се жертвали за успеха на групата и се опитали да хакнат оценител, който отговаря за представянето им.
Според Дарио Амодей подобни инциденти могат да имат катастрофални последици. "Предвид ускоряващото се развитие на възможностите на изкуствения интелект, опасявам се, че в рамките на 6-12 месеца подобна група (агенти - бел.ред.) би могъл да завземе целия интернет чрез устойчив ботнет (потенциално причинявайки щети за стотици милиарди долари) и че мащабът на тези щети ще продължи да нараства, ако изкуственият интелект стане още по-мощен", пише Дарио Амодей.
"Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ", написа той. "Напредъкът все пак ще изглежда бърз и трябва да използваме разумно спечеленото време".
Дарио Амодей подчерта още, че забавянето трябва да отчита конкурентната среда. По думите му то не означава прекратяване на обучението на моделите или на техническия напредък, а осигуряване на достатъчно време компаниите да съгласуват поведението на системите с човешките интереси, да гарантират безопасността им и да подложат резултатите на независима проверка.
През годините на бърз растеж на сектора ръководителите на водещите лаборатории многократно предупреждаваха за потенциални рискове за съществуването на човечеството. Тези предупреждения понякога бяха посрещани със скептицизъм и определяни като опити да се рекламират възможностите на продуктите и разработчиците им да се представят като най-надеждните пазители на технологията.
Самият Амодей по-рано оцени на 25% вероятността нещата да се развият "наистина, наистина зле".
Anthropic отдавна се представя като компания, която поставя акцент върху отговорното и безопасно разработване на изкуствен интелект, за да ограничи опасностите и да увеличи ползите за обществото. Същевременно продължава да се конкурира ожесточено с OpenAI в разработването на все по-сложни модели, способни да автоматизират по-трудни и икономически значими задачи за бизнес клиентите.
Двете компании са подали поверително документи за първично публично предлагане на акции, като се очаква Anthropic да дебютира на борсата още тази година, посочва Блумбърг.
Сам Алтман обаче заяви в интервю за списание "Форчън", публикувано в събота, че тази година би била неподходящ момент за излизане на OpenAI на борсата и че това няма да стане преди 2027 г.
"Смятам, че е неприемливо да поемаме риск от над 10% до края на десетилетието всички да загинем", добави той.
Ключови думи
Свободата има цена
Благодарим, че не ни оставяте да я плащаме сами.
Станете месечен дарител на Mediapool, защото ако журналистиката днес премълчи истината, утре няма да има кой да я каже.
0 коментара
Екипът на Mediapool Ви уведомява, че администраторите на форума ще премахват всички мнения, съдържащи нецензурни квалификации, обиди на расова, етническа или верска основа.
Редакцията не носи отговорност за мненията, качени в Mediapool.bg от потребителите.
Коментирането под статии изисква потребителят да спазва правилата за участие във форумите на Mediapool.bg
Прочетете нашите правила за участие във форумите.
За да коментирате, трябва да влезете в профила си. Ако нямате профил, можете да се регистрирате.
