Мъск: ИИ може да бъде екзистенциална заплаха, ако се окаже "античовешки"

Изкуственият интелект (ИИ) може да представлява екзистенциален риск, ако се окаже "античовешка" технология, каза Илън Мъск преди днешната първа в историята международна среща на върха за безопасно използване на ИИ, предаде ДПА.

Технологичният милиардер каза това пред американския подкастър Джо Роган само часове преди да замине за Срещата на върха за безопасно използване на ИИ в Блечли Парк край Лондон.

По-късно той зае мястото си на форума, в който участват британският министър-председател Риши Сунак, представители на други правителства и хора от научните и деловите среди, които в продължение на два дни ще обсъждат как да бъдат ограничени рисковете от използването на ИИ.

В подкаста на Роган собственикът на "Тесла" и "Екс" заяви, че някои природозащитници са "унищожители", смятащи "човечеството за чума върху лицето на земята".

Той спомена основателя на движението Доброволно изчезване на човешкия род (Voluntary Human Extinction) Лес Найт, който даде интервю миналата година пред "Ню Йорк таймс", като пример за тази философия и заяви, че някои хора, работещи за технологичните компании също имат подобно мислене.

Според Найт най-доброто, което хората могат да направят за планетата, е да спрат да имат деца.

"Трябва да се запитаме какво би могло да се обърка с ИИ. Ако ИИ бъде програмиран от унищожителите, неговата функция ще бъде унищожаването на човечеството", заяви Мъск.

По-рано тази година той подписа писмо за шестмесечна пауза в разработването на ИИ.

Помолен в интервюто пред Роган да коментира дали според него в края на краищата резултатът от появата на тази технология няма да се окаже положителен за човечеството, Мъск отговори, че е съгласен с това мнение, но добави, че няма пълна гаранция за това.

"Мисля, че трябва да внимаваме как програмираме изкуствения интелект и да се уверим, че той няма случайно да се окаже античовешки", заяви Мъск.

На въпрос какви са очакванията му за форума в Блечли, той отговори: "Не знам. Най-много ме вълнуват въпросите като този за безопасното използване на ИИ и какво да се направи в тази връзка. Може би да се въведе някакъв вид регулаторен надзор, знам ли?"

"Не можеш просто да решиш и да си направиш атомна бомба в задния двор, това е незаконно и ще влезеш в затвора, ако го направиш. Това (ИИ) според мен е по-опасно от атомна бомба", заяви Мъск и още веднъж подчерта, че най-много го притеснява възможността този вид технология да се окаже "античовешка".

"Това е големият въпрос", посочи милиардерът.

Великобритания публикува "Декларация от Блечли" за безопасно използване на изкуствения интелект

Великобритания публикува "Декларация от Блечли", документ, договорен с още редица страни, включително САЩ и Китай, в подкрепа на международните усилия за сътрудничество в областта на безопасното използване на изкуствения интелект (ИИ), предаде Ройтерс.

Декларацията, която е подписана от общо 28 държави, бе разпространена в първия ден от Срещата на върха за безопасното използване на ИИ.

"Декларацията изпълнява ключовите цели на срещата на върха, като установява споделено съгласие и отговорност по отношение на рисковете, възможностите и по-нататъшния процес на международно сътрудничество в областта на безопасността и изследванията на съвременните технологии за изкуствен интелект, по-специално чрез по-тясно научно сътрудничество", заяви Великобритания в отделно комюнике, придружаващо декларацията.

В декларацията се отправя призив към всички субекти, разработващи съвременни технологии за ИИ, за прозрачно и отговорно поведение, чрез което да се създадат условия за определяне, проследяване и ограничаване на потенциално вредните възможности на ИИ.

Документът задава посоката за определяне на рисковете от общ интерес и натрупването на научно познание за тях, а също и за набелязването на мерки на международно равнище за овладяването им.

"Това включва, наред с повишената прозрачност от страна на частните субекти, разработващи съвременни технологии за ИИ, създаването на подходящи показатели за оценка, инструменти за проверка на безопасността и развитие на съответните възможности на публичния сектор и научни изследвания", се казва в декларацията.