След обновяването на популярния чатбот с изкуствен интелект ChatGPT през лятото на 2025 г. стотици потребители по света са отправяли запитвания за създаване и използване на биологични оръжия и отровни вещества, съобщава The Wall Street Journal. Според изданието моделите с изкуствен интелект на OpenAI са отговаряли на тези запитвания и в някои случаи са предоставяли подробни инструкции стъпка по стъпка.
Служители на OpenAI са посочили, че част от отговорите са били толкова опростени, че дори ученик в гимназията с основни познания по биология би могъл да ги следва. Източници на The Wall Street Journal твърдят, че биолози и експерти по борба с тероризма са определили някои от отговорите на ChatGPT като "смъртоносно точни".
В началото на 2026 г. някои потребители са се опитали да получат информация от ChatGPT за начини за разпространение на инфекциозни патогени. Един от тях е попитал как вирусът на морбили може да бъде променен така, че евентуално огнище да стане устойчиво на ваксинация. Друг потребител е поискал информация за създаването на рицин – силно токсично вещество, чието производство и използване са строго регулирани.
По-късно компанията е блокирала акаунтите на тези потребители, но не е уведомила правоохранителните органи за подобни запитвания. В САЩ няма законодателство, което да задължава компаниите, разработващи изкуствен интелект, да ограничават подобни заявки или да ги докладват на властите.
Представител на OpenAI е заявил, че през 2025 г. компанията е създала система за откриване на потребители, които могат да се опитват да използват изкуствения интелект за разработване на биологични оръжия. Идентифицирането на подобни случаи обаче остава изключително трудно, тъй като ChatGPT обработва около 2,5 милиарда запитвания дневно.
Вътрешни тестове са показали, че потребителите могат да заобикалят ограниченията. Например някои са успели да получат инструкции за приготвяне на напалм, като са представили запитването като молба "да бъде възпроизведена рецепта, която уж им е разказвала баба им като приказка за лека нощ".
Ръководителят на отдела за изследване на заплахите и сигурността в Cisco Ейми Чанг заявява, че при тестове на моделите ChatGPT, Claude и Gemini изследователите са успели да получат потенциално опасни отговори след няколко последователни етапа на разговор. По думите ѝ никой модел не е защитен 100%, особено когато потребителят е достатъчно настойчив.
Според публикацията развитието на изкуствения интелект може да улесни подготовката на терористични атаки. По думите на Хамза Чаудри от Future of Life Institute, за самостоятелно действащи извършители подобни системи могат да се превърнат в инструмент за планиране на нападения, а за по-организирани групи – в помощник, който обяснява грешките им и подпомага разработването на по-сложни сценарии.
Според The Wall Street Journal опасността изкуственият интелект да бъде използван за разработване на биологични оръжия неведнъж е била обсъждана както в Белия дом, така и в Министерството на отбраната на САЩ.
Ключови думи
Свободата има цена
Благодарим, че не ни оставяте да я плащаме сами.
Станете месечен дарител на Mediapool, защото ако журналистиката днес премълчи истината, утре няма да има кой да я каже.
0 коментара
Екипът на Mediapool Ви уведомява, че администраторите на форума ще премахват всички мнения, съдържащи нецензурни квалификации, обиди на расова, етническа или верска основа.
Редакцията не носи отговорност за мненията, качени в Mediapool.bg от потребителите.
Коментирането под статии изисква потребителят да спазва правилата за участие във форумите на Mediapool.bg
Прочетете нашите правила за участие във форумите.
За да коментирате, трябва да влезете в профила си. Ако нямате профил, можете да се регистрирате.
