Папа Франциск предупреди за заплахите от опорочаването на изкуствения интелект

Папа Франциск каза днес, че самият той е станал жертва на така дълбок фалшификат (т. нар. дийпфейк), и предупреди за опасностите, които крие опорочаването на изкуствения интелект (ИИ). Римският първосвещеник отново призова за въвеждане на международни регулации при използването на тази технология така, че тя да служи на общото благо, а не за зловредни цели, предаде Ройтерс.

Франциск разказа за опасенията и надеждите си, свързани с ИИ, в послание по случай инициирания от Римокатолическата църква Световен ден на социалните комуникации, който ще бъде отбелязан по целия свят на 12 май.

Макар и в тристраничното си обръщение папата да призова хората поне на първо време да изоставят присъщите за тях "катастрофични предсказания", свързани с всичко ново, той предупреди за опасност от "когнитивно (мисловно) замърсяване", което може да изопачи действителността, да доведе до разпространение на дезинформация и да затваряне на хората в идеологически "ехо камери".

"Нека само си помислим за дългогодишния проблем с дезинформацията под формата на фалшиви новини, които днес могат да бъдат генерирани с помощта на технологията на така наречените дийпфейкове, а именно създаването и разпространението на изображения, които на пръв поглед изглеждат съвсем истински, но са фалшиви - аз самият станах обект на подобно нещо", написа Франциск.

Очевидно той имаше предвид своята фалшива снимка, която миналата година взриви социалните мрежи. На нея той носеше бяло пухено палто, дълго до коленете му, като неизвестният автор на изображението беше използвал програма за възпроизвеждане на образи за направата ѝ.

Франциск обърна внимание и на фалшивите "аудиопослания, при които нечий глас бива използван, за да се каже нещо от името на дадения човек, което той никога не е казвал".

В понеделник главният прокурор на американския щат Ню Хемпшир съобщи, че е започнало разследване за установяване на автора на фалшиви обаждания от чатбот, симулиращи гласа на президента на САЩ Джо Байдън и призоваващи избиритателите да не излизат да гласуват на вчерашните първични избори.

"Технологиите за симулация, лежащи в основата на тези програми, могат да бъдат полезни в определени области, но те се опорочават, когато изкривяват отношенията ни с другите хора и действителността", написа папата.

Той отново призова за сключването на международен договор, който да регулира ИИ.

В днешното си послание папата осъди и "съпътстващите ИИ патологии" като намаляването на плурализма и процъфтяването на "груповото мислене", при което на преден план се извеждат консенсусни позиции, без да бъдат взети под внимание критичните и алтернативни на тях гледни точки.

Франциск спомена и опасността, която изкуственият ум крие за медиите, особено при отразяването на военен конфликт, когато те може да бъдат подложени на паралелна война, водена чрез дезинформационни кампании.

ИИ трябва да бъде в помощ на журналистиката на терен, а не да премахва ролята ѝ, каза той.