Компанията, развиваща АI модели Anthropic заяви, че експериментите ѝ сочат, че малките модели на изкуствен интелект може би са на няколко месеца разстояние от това да придобият достатъчна способност да се самовъзпроизвеждат на търговски устройства от типа "Интернет на нещата" (IoT), като например умни фурни и Android TV декодери от неизвестни производители.

В своите експерименти Anthropic проучи дали моделите на изкуствен интелект могат да откриват уязвими устройства, да се копират в тях и да продължат да се разпространяват без човешка помощ.

Установено бе, че малки модели с по-малко от 30 милиарда параметри могат да изпълнят многото стъпки, необходими за самовъзпроизвеждането.

Въпреки това компанията установи, че такива модели на изкуствен интелект също изпитват затруднения при изпълнението на цялата последователност от начало до край.

В своите опростени тестове, при които бяха премахнати някои мерки за сигурност, Anthropic установи, че GLM-5.2 и по-мощните модели са способни на репликация от край до край.

Репликиращите се модели би било трудно да бъдат деактивирани, тъй като нямат централна точка за изключване и, за разлика от зловредния софтуер, който не използва изкуствен интелект, те биха могли сами да разпознават непознати устройства и да атакуват процесорите в центровете за данни, предупреди Anthropic.

В своето проучване компанията се съсредоточи върху устройства от типа "Интернет на нещата" (IoT), като телевизори с Android, умни уреди и други устройства, свързани с интернет, тъй като те обикновено са слабо защитени.

Големият играч в областта на изкуствения интелект също така предупреди, че ако малките модели продължат да се усъвършенстват със същия темп, както досега, те ще бъдат в състояние да се самовъзпроизвеждат до края на тази година, а малките репликатори, базирани на теглото, ще последват примера им скоро след това.

Anthropic също така посочи, че подобни автономни системи с изкуствен интелект вероятно ще се разпространяват бавно и ще разчитат на широко достъпни, относително незащитени изчислителни ресурси. Компанията добави, че системите трябва да бъдат укрепени, за да се затрудни разпространението на такива агенти с изкуствен интелект.