OpenAI блокира руски акаунти в ChatGPT, използвани за дезинформация

OpenAI е блокирала група акаунти в платформата за генеративен изкуствен интелект ChatGPT с произход от Русия, които, според американската компания, са били използвани в подкрепа на тайна онлайн кампания с цел разпространение на дезинформация, предаде във вторник CNBC.

По принцип граждани на Русия нямат достъп до изкуствения интелект на ChatGPT, тъй като са ограничени от платформата, но те са използвали VPN, т.е. виртуална мрежа, чрез която са дали фалшиво свое местоположение и така са получили неправомерен достъп.

Американският разработчик е открил проблема след разследване на публикации в социалните медии, генерирани от изкуствен интелект, което я е довело до "много по-мащабна операция за влияние", съобщи OpenAI в публикация в блога си.

През февруари OpenAI съобщи, че е закрила акаунти в ChatGPT, свързани с "Рибар", проруска медийна компания, която британското правителство описва като "частично координирана от президентската администрация", финансирана от руската държавна корпорация "Ростех" и сътрудничеща с членове на руските разузнавателни служби.

Проруска кампания за влияние

Операторите на акаунтите давали команди на руски език за генериране на коментари в социалните медии, които били публикувани в Substack, Telegram, X, Facebook и LinkedIn, и инструктирали ChatGPT да скрие всякакви езикови улики, че са от Русия, посочиха от OpenAI.

Кампанията е била "изградена около уебсайт, съдържащ копирани и неправилно приписани академични трудове, който представя Русия в благоприятна светлина, както и усилия за прикриване на руския произход на операторите на акаунтите, добави компанията. Кампанията за влияние също така е създала “индекс на суверенитета”, който възхвалява Русия и очерня западните държави, според OpenAI.

Голяма част от генерираното съдържание е популяризирало организация, наречена International Burke Institute – IBI. На уебсайта на организацията се публикуват статии, копирани от истински академични текстове, понякога с фалшиво посочени източници.

Макар че непосредственото въздействие на операцията изглежда ограничено, “значението на операцията се състои не толкова в аудиторията, до която е достигнала, колкото в инфраструктурата, която е изградила“, добавиха от компанията.

Публикациите, създадени от ChatGPT, сочеха към “институция, която на пръв поглед изглеждаше достоверна, с т.нар. експерти, препубликувани академични трудове и т.нар. собствен индекс на риска”, заяви OpenAI.

“Това илюстрира как лицата, упражняващи влияние, могат да използват изкуствения интелект като подкрепящ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и изграждане на ресурси, които могат да бъдат разширени с течение на времето”, обясниха от компанията за изкуствен интелект.