Американската компания Anthropic е установила пет случая, при които нейният модел с изкуствен интелект Claude е бил използван в изследвания, които може да са били свързани с разработването на биологично оръжие. Компанията не знае какви точно са били плановете на учените, а също така не разкрива имената на изследователските организации и държавите.
Според Anthropic едни и същи методи могат да бъдат използвани както при разработването на лекарства и ваксини, така и за създаването на опасни патогени.
"Не виждате човек, който да казва, както в комиксите: "Хей, искам да създам биологично оръжие и да убия всички", заяви ръководителят на отдела за анализ на заплахите на Anthropic Джейкъб Клайн.
Един от случаите е станал през май 2026 г. Учен е поискал от Claude да му помогне при написването на заявление за финансиране на изследване на вируса чикунгуня. Проектът е предвиждал генетична модификация на вируса, изследване на разпространението му и способността му да избягва имунния отговор. Работата е била планирана във военен изследователски институт.
Също през май друг изследовател е използвал Claude при работа с вируса на птичия грип. Изследването е било свързано с адаптирането на вируса към бозайници и проучването на механизмите, които му позволяват да предизвиква тежко заболяване извън дихателната система.
Anthropic е установила, че този акаунт е свързан с държавна лаборатория за инфекциозни заболявания.
Старшият научен сътрудник на американския Council on Strategic Risks Андрю Уебър определи тези случаи като тревожни примери за това как учени от други държави могат да получат достъп до възможностите на водещи модели с изкуствен интелект за разработване на биологично оръжие.
Anthropic определя използването на изкуствен интелект при опасни биологични изследвания като един от най-сериозните рискове и признава, че това може да доведе до катастрофални последици.
Русия фигурира в доклада на Anthropic във връзка със случаи на кибершпионаж, разработване на оръжия и пропаганда.
В доклада е описана дейността на групата GTG-20006, която е свързана с руската хакерска група Midnight Blizzard. Американските власти са заявявали, че тя работи със Службата за външно разузнаване на Русия.
Групата е атакувала държавни институции, военни и отбранителни компании в Украйна и Европа. Anthropic пише, че групата е направила опити да проникне в акаунтите в WhatsApp на представители на украинското правителство, военни и дипломати.
GTG-20006 е използвала изкуствен интелект на всички етапи от операциите си.
Claude е бил използван и за военни разработки. Anthropic е установила руска група разработчици, която е използвала изкуствен интелект за работа върху автономен рояк от FPV дронове. Компанията смята, че те може да са имали връзки с Руската академия на науките.
Освен това Claude е бил използван от руски държавни медии за създаване на пропагандни материали. Изкуственият интелект е бил прилаган за създаване на текстове и политическо съдържание, например материали, свързани с изборите в Молдова.
Американската компания е успяла да блокира тези кампании.
Американската компания Anthropic е установила пет случая, при които нейният модел с изкуствен интелект Claude е бил използван в изследвания, които може да са били свързани с разработването на биологично оръжие. Компанията не знае какви точно са били плановете на учените, а също така не разкрива имената на изследователските организации и държавите. Според Anthropic едни и същи методи могат да бъдат използвани както при разработването на лекарства и ваксини, така и за създаването на опасни патогени. "Не виждате човек, който да казва, както в комиксите: "Хей, искам да създам биологично оръжие и да убия всички", заяви ръководителят на отдела за анализ на заплахите на Anthropic Джейкъб Клайн.
Регистрация
Благодарим ви, че четете Mediapool.bg. Регистрирайте се, за да подкрепите мисията ни за независима журналистика и за да имате достъп до над 20-годишния ни архив.
Влезте в своя профил или се регистрирайте безплатно.
- Безплатен достъп до пълния архив.
- Възможност да коментирате във форума.
- Бърза регистрация за специалния ни бюлетин с коментар от журналистите от Mediapool.
Ключови думи
За честна и независима журналистика
Подкрепи Mediapool.bg с 5€, за да разчитате и занапред на независима, професионална и честна информационно-аналитична медия.
9 коментара
Екипът на Mediapool Ви уведомява, че администраторите на форума ще премахват всички мнения, съдържащи нецензурни квалификации, обиди на расова, етническа или верска основа.
Редакцията не носи отговорност за мненията, качени в Mediapool.bg от потребителите.
Коментирането под статии изисква от потребителят да спазват правилата за участие във форумите
Прочетете нашите правила за участие във форумите.
За да коментирате, трябва да влезете в профила си. Ако нямате профил, можете да серегистрирате.
В отговор на #3929183
В отговор на #3928936
В отговор на #3928936