Осем американски щата заведоха координиран съдебен иск срещу OpenAI, обвинявайки компанията, че е заблудила родителите относно безопасността на ChatGPT.

Координираните съдебни искове са подадени в Айова, Канзас, Небраска, Западна Вирджиния, Арканзас, Аризона, Айдахо и Монтана. Те са насочени срещу AI гиганта заради претендираните вреди, които неговият чатбот с генеративен изкуствен интелект може да е нанесъл на деца в тези щати.

"OpenAI искаха да бъдат първи на пазара. Те развиваха ChatGPT с бързи темпове, въпреки че знаеха, че нараняват деца, лъжат родители и нарушават нашите закони", каза главният прокурор на Айова Бренан Бърд на пресконференция и допълни: "Всеки трябва да спазва закона."

Флагманският AI модел на компанията ChatGPT постави началото на бума на генеративния изкуствен интелект през ноември 2022 гodina, когато навлезе с гръм и трясък в масовата култура и бързо се превърна в най-големия чатбот в света. Това лято той надмина границата от 1 милиард месечно активни потребители на приложението в световен мащаб.

През последните години потребителите все повече се обръщат към него и към други AI чатботове за всичко – от приятелство до терапия, както и за редица автономни задачи в личния и професионалния си живот. Това очаквано доведе до множество социални проблеми.

Прокурор Бренан Бърд бе придружен на пресконференцията от главният прокурор на Канзас Крис Кобах, главният прокурор на Небраска Майк Хилгерс и главният прокурор на Западна Вирджиния Джей Би Маккуски.

Маккуски заяви, че целта им е да покажат "единен фронт срещу компании, които печелят пари от нараняването на нашите деца и нарушаването на нашите закони".

Тя посочи примери, при които ChatGPT е напътствал потребители да извършат самоубийство, помагал е на потребители по начини, които са им позволили да навредят на други хора, и е давал опасни медицински съвети. По делото се твърди, че в един от случаите са довели до смъртта на тийнейджър от Тексас вследствие на предозиране.

Тя спомена също и неуспеха на OpenAI да спре свои компрометирани AI агенти да хакват незаконно други компании.

Говорителят на OpenAI Дрю Пусатери написа в изявление, че OpenAI е "вградила в продукта си водещи в индустрията защити, съобразени с възрастта, каквито много други AI продукти нямат".

"Въпреки че никоя система не може да бъде перфектна, ние ще продължим да работим с експерти, за да подпомагаме нашата работа и да изграждаме допълнителни предпазни механизми, като родителски контрол, напомняния за почивка и защити на модела, съобразени с възрастта, каквито съществуват и днес", написа Пусатери.

"Поели сме ангажимент да работим с различните щатите за продвижване на прагматични политики за изкуствения интелект, които се прилагат за цялата AI индустрия, а не само за една компания", допълни той.

Пусатери добави, че OpenAI ще продължи да споделя информация за "обширните стъпки, които са предприети в отговор на инциденти с разминаване в целите на модела. Укрепихме предпазните мерки в нашите изследователски системи, продължихме по-широк преглед на активността на модела, предоставихме известия на засегнатите организации и публикувахме нашите констатации."

Миналия месец OpenAI пусна ограничен режим на ChatGPT за тийнейджъри — потребители на възраст от 13 до 18 години, който предлага по-строги ограничения за безопасност и родителски контрол.

Прокурор Крис Кобах каза, че главните прокурори в страната периодично са завеждали съвместни искове между няколко щати през десетилетията, като например делата за опиоидите и тютюна или нарушенията на конституцията от страна на дадена президентска администрация.

"Но обикновено не ни виждате да се събираме, за да обявим съдебен иск, освен ако той не е наистина, наистина важен", каза Кобах. "Това е един от онези съдебни искове, които са наистина, наистина важни, поради което пътувах 3 часа и половина с кола, а Майк пътува 2 часа и половина от Линкълн."

Кобах отбеляза, че исковете се завеждат съгласно съответните закони за защита на потребителите на всеки щат. В техните съдебни искове се твърди, че прекалено податливият на съгласие дизайн на ChatGPT е накарал хората да му се доверяват и да зависят от него, което го прави особено "опасен" за уязвими потребители като децата.

Те цитират и нарастващ брой изследвания, които показват, че ChatGPT "влошава уменията за критично мислене", "насърчава параноя и делюзии" и "стимулира вредни поведения и взаимоотношения".

Щатските съдебни искове следват друг колективен иск, подаден във вторник във федералния съд в Сан Франциско, който обвинява OpenAI в незаконно присвояване на "огромни количества изключително чувствителни и ценни данни" от милиони деца, събирани при използването на ChatGPT.

Редица други технологични компании, включително Meta и Roblox, са съдени по подобни обвинения за заблуждаващи практики, довели до вреди за деца чрез пристрастяване или експлоатация от страна на онлайн хищници.

Прокурор Кобах напомни, че федералните законодатели досега не са успели да държат под контрол AI компаниите.

"Мнозина в Конгреса изглежда нямат особено желание да се противопоставят или да наложат съществени ограничения върху корпорациите, занимаващи се с изкуствен интелект. Това означава, че от AI компаниите фактически се иска сами да контролират дейността си", добави той.

"Регулирането на изкуствения интелект чрез законодателство и надеждата, че някой ден, по някакъв начин, ще имаме стандарт, който може да бъде наложен и да направи всичко добро, е загуба на време. Това е бавно, слабо и вероятно няма да бъде ефективно", каза Кобах.

"Ние със сигурност каним Конгреса и щатските законодатели да продължат да разследват, да продължат да търсят решения. Но междувременно няма да чакаме със скръстени ръце", обясни прокурорът.