Производителят на чипове Nvidia обяви в понеделник, че въвежда нова софтуерна платформа, за да отговори на опасенията относно агенти с изкуствен интелект, които са "излезли извън контрол" и действат извън човешкия контрол.

"Днес, заедно с над 100 партньори от бранша, представихме платформата NVIDIA Open Agent Safety Platform", написа главният изпълнителен директор на Nvidia Дженсън Хуанг в публикация в X в понеделник.

Nvidia (NVDA) твърди, че технологията ѝ ще даде възможност на компаниите да наблюдават всяко действие, предприето от агент с изкуствен интелект, както и да прилагат политиките си.

"Невероятният потенциал на изкуствения интелект за обществото ще се реализира само ако решим въпроса с безопасността на изкуствения интелект", добави Хуанг в изявление, цитирано от CNN. 

"Докато продължаваме да разкриваме границите на възможностите на изкуствения интелект, трябва да ускорим изследванията в областта на безопасността на изкуствения интелект.", добави той.

Съобщението идва на фона на поредица от инциденти, при които системи за изкуствен интелект са проникнали в корпоративни и правителствени системи, без да са получили такава заповед. 

Висши ръководители в областта на изкуствения интелект, като главният изпълнителен директор на OpenAI Сам Олтман и главният изпълнителен директор на Anthropic Дарио Амодей, многократно са призовавали за въвеждането на международни регулации, които да ограничават тези системи, а някои изследователи предупредиха, че изкуственият интелект може дори да представлява заплаха за човешкия живот.

Хуанг обаче отхвърли тези опасения, като определи всяка екзистенциална заплаха като преувеличена, и заяви миналата седмица, че всякакви регулации трябва да насърчават растежа на индустрията за изкуствен интелект, а не да го възпрепятстват.

"Ако смятат, че компанията им е извън контрол, нека я поставят под контрол", заяви Хуанг пред Андерсън Купър от CNN в петък.