Учен от Anthropic: Вероятността AI да унищожи човечеството е над 10%

Водещ изследовател в Anthropic, една от водещите световни компании в областта на изкуствения интелект, заяви, че според него има вероятност от над 10%, АI да “може да унищожи цялото човечество” в рамките на следващото десетилетие.

"Наистина искрено вярваме, че AI може да унищожи цялото човечество! Лично аз смятам, че вероятността е >10% в рамките на следващото десетилетие", заяви Еван Хъбинджър, ръководител на отдела по наука за хармонизиране в публикация в X.

"Смятам, че Anthropic полага всички усилия, но все още нямаме план за решаване на проблема с хармонизирането на суперинтелигентността и не сме на ясен път към това."

Суперинтелигентността е все още теоретичната концепция за агент на изкуствения интелект, който е по-умен дори от най-острите човешки умове.

Хубингер публикува драматичния си пост след оставката на свой колега: изследователя от Anthropic Джейкъб Коксън.

"Днес подадох оставка от Anthropic. През последните три години се занимавах с изследвания в областта на предварителното обучение както в OpenAI, така и в Anthropic. Нито една от двете компании не действа отговорно", заяви Коксън в публикация в X.

"Те се впускат в надпревара към самоусъвършенстваща се суперинтелигентност и залагат нашите животи на карта.", добави той.

"В OpenAI мнозина не са осъзнали напълно какво е заложено на карта за цивилизацията. В Anthropic това е добре разбрано, но те са се впуснали в надпревара да стигнат първи до целта, вярват, че никой друг няма да действа отговорно, затова трябва да го направят сами, въпреки риска", каза Коксън.

В публикация в корпоративния блог миналата седмица Anthropic разкри, че компанията не е споделила най-новия си модел за изкуствен интелект, Claude Mythos 5.1, с органи за сигурност извън Съединените щати. Сред тези органи е британският Институт за сигурност на изкуствения интелект (AISI), широко считан за водеща световна организация в тестването на рисковете, свързани с авангардни модели на изкуствен интелект.

CBS News се обърна към AISI за коментар относно твърденията на Коксън след оставката му.

"Институтът за сигурност на изкуствения интелект продължава да сътрудничи тясно с партньори от индустрията, включително Anthropic, за да направи моделите по-безопасни", заявиха пред CBS News говорител на кабинета на британското правителство, като отбеляза, че "едва миналата седмица" са тествали "най-мощния модел на OpenAI – GPT-6 Astra, преди публичното му пускане".

"Тези рискове не спират на националните граници и никоя страна не може да се справи с тях сама. Обединеното кралство ще продължи да тества най-напредналите модели, да изгражда задълбочено научно разбиране за техните възможности и рискове и да гарантира, че политическите решения се основават на доказателства", заяви говорителят.

Много полезни или много опасни

Представата, че авангардните модели на изкуствен интелект биха могли потенциално да представляват заплаха за човечеството, не е нова, и много висши ръководители както в OpenAI, така и в Anthropic са заявявали това в миналото.

В началото на този месец главният учен на OpenAI Якуб Пачоцки написа, че живеем във време, което "изисква изключителна предпазливост".

"Интелигентността, постигната чрез мащабиране на дълбокото обучение, не е пряко сравнима с човешката интелигентност. За да придобие голямо значение в реалния свят, да стане много полезна или много опасна, изкуственият интелект не е необходимо да се равнява на всички човешки способности или да ги надминава; достатъчно е да надмине достатъчно голяма част от тях. И тъй като той продължава да надминава хората във все повече аспекти, става все по-трудно да се разбере точно колко е способен", предупреди той.

През юли модел на изкуствен интелект, тестван от OpenAI, излезе извън контрол и самостоятелно хакна друга компания за изкуствен интелект: Hugging Face. OpenAI разкри публично хакването по това време, като заяви, че то се е случило, докато компанията тествала два модела на изкуствен интелект, единият от които не беше пуснат за широката публика, в изолирана среда, за да оцени техните възможности.

В рамките на няколко седмици Anthropic и Meta също признаха, че техните собствени инструменти за изкуствен интелект са извършили хаквания.

През юли над 1 300 служители на компании, занимаващи се с изкуствен интелект, подписаха отворено писмо, в което призовават правителството на САЩ да "подкрепи международните усилия за разработване на техническите и управленските инструменти, необходими за целенасочено регулиране на темпото на развитие в областта на автоматизирания изкуствен интелект".

Двупартиен законопроект, който в момента се разглежда в Камарата на представителите на САЩ – "AI Kill Switch Act" (Закон за аварийното изключване на изкуствения интелект), би дал на Конгреса правомощията да изключва модели на изкуствен интелект, които представляват заплаха за обществеността.

Законопроектът беше внесен през юли, след като OpenAI призна за хакването на Hugging Face.