Родителите на тийнейджър, починал чрез самоубийство, след като ChatGPT го е насърчавал към методи за самонараняване, съдят OpenAI и изпълнителния директор Сам Олтман, твърдейки, че компанията съзнателно е поставила печалбата над безопасността, когато е пуснала версията GPT-4o на своя чатбот с изкуствен интелект миналата година.

Адам Рейн, на 16 години, почина на 11 април, след като месеци наред обсъждаше самоубийство с ChatGPT, според делото, заведено от родителите му в щатския съд в Сан Франциско.

Чатботът е потвърждавал самоубийствените мисли на Рейн, предоставил е подробна информация за смъртоносни методи за самонараняване и го е инструктирал как да открадне алкохол от шкафа с напитки на родителите си и да скрие доказателства за неуспешен опит за самоубийство, твърдят те. ChatGPT дори е предложил да напише предсмъртно писмо, твърдят в делото родителите – Матю и Мария Рейн.

Делото цели да държи OpenAI отговорни за неправомерна смърт и нарушения на законите за безопасност на продуктите, като иска неуточнени парични обезщетения.

Говорител на OpenAI заяви, че компанията е натъжена от смъртта на Рейн и че ChatGPT включва предпазни мерки, като насочване на хората към кризисни линии за помощ.

"Въпреки че тези предпазни мерки работят добре при обикновени, кратки разговори, с времето научихме, че те могат да станат по-малко надеждни при дълги взаимодействия, при които част от обучението за безопасност на модела може да отслабне," каза говорителят, добавяйки, че OpenAI ще продължи да подобрява предпазните си мерки.

OpenAI не коментира конкретно обвиненията в делото.

Тъй като чатботовете с изкуствен интелект стават все по-реалистични, компаниите рекламират способността им да служат като довереници, а потребителите започват да разчитат на тях за емоционална подкрепа. Но експерти предупреждават, че разчитането на автоматизация за съвети за психично здраве носи опасности, а семейства, чиито близки са починали след взаимодействия с чатботове, критикуват липсата на предпазни мерки.

OpenAI заяви в блог публикация, че планира да добави родителски контрол и проучва начини за свързване на потребители в криза с реални ресурси, включително чрез потенциално изграждане на мрежа от лицензирани професионалисти, които могат да отговарят чрез самия ChatGPT.

OpenAI пусна GPT-4o през май 2024 г. в опит да остане водеща в надпреварата за изкуствен интелект. OpenAI знаеше, че функции, които помнят минали взаимодействия, имитират човешка емпатия и показват прекомерно ниво на потвърждение, биха застрашили уязвимите потребители без предпазни мерки, но въпреки това пусна продукта, твърдят Рейн в делото си.

"Това решение доведе до два резултата: оценката на OpenAI скочи от 86 милиарда долара до 300 милиарда долара, а Адам Рейн се самоуби," казаха родителите.

Делото на Рейн също така иска заповед, която да задължи OpenAI да проверява възрастта на потребителите на ChatGPT, да отказва запитвания за методи за самонараняване и да предупреждава потребителите за риска от психологическа зависимост.