Прескочи към основното съдържание
Вход / Регистрация

Спрете гигантските експерименти с изкуствения интелект: открито писмо

4 коментара
Спрете гигантските експерименти с изкуствения интелект: открито писмо

Ръководителят на Tesla и SpaceX Илон Мъск, Стив Возняк, който е съосновател на Apple, историкът Ювал Харари и хиляди експерти са подписали открито писмо с призив да се преустанови разработването на усъвършенстван изкуствен интелект (AI). Текстът на писмото е публикуван от Института за бъдещето на живота (Future of Life Institute).

Авторите призовават разработчиците на изкуствен интелект да прекратят поне за шест месеца обучението на системи, базирани на AI, които са по-мощни от технологията зад чатбота ChatGPT (Generative Pre-trained Transformer), създадена от американската иновативна компания OpenAI. В открито писмо те предупреждават за потенциални рискове, пред които човечеството може да бъде изправено поради развитието на изкуствения интелект, предаде Ройтерс. 

Експертите и лидерите в индустрията, подписали писмото, смятат, че обучението трябва да бъде спряно, докато не бъдат въведени общи протоколи за сигурност. Според тях, ако обучението не може да бъде спряно бързо, тогава властите "трябва да се намесят и да наложат мораториум".

Авторите на писмото смятат, че дори създателите на "мощни цифрови умове" не могат да ги контролират и съвременните системи с изкуствен интелект започват да се конкурират с хората.

"Следва да се запитаме: трябва ли да позволим на машините да наводнят информационните ни канали с пропаганда и неистина? Трябва ли да автоматизираме цялата работа, включително тази, която носи удовлетворение? Трябва ли да развием нечовешки умове, които в крайна сметка може да ни превъзхождат числено, да ни надхитрят, да ни изкарат от употреба и да ни заменят? Трябва ли да рискуваме да загубим контрол над нашата цивилизация?", се казва в писмото.

"Мощни системи, базирани на изкуствен интелект, трябва да се разработват, само когато сме сигурни, че от тях ще има полза и рисковете, които може да възникнат при тяхното развитие, ще бъдат управляеми", се казва в писмото. В него се описват потенциалните икономически и политически сътресения, с които може да се сблъска цивилизацията от страна на конкурентни на човека системи, базирани на AI.

Авторите призовават разработчиците на изкуствен интелект да работят с политиците и с регулаторните власти, за да бъдат предотвратени опасностите, които може да възникнат.

Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото.

Европейската агенция за полицейско сътрудничество "Европол" предупреди в началото на седмицата, че чатбовете с изкуствен интелект, като ChatGPT, "имат и тъмна страна и са податливи на престъпни злоупотреби".

Сред подписалите се са главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от DeepMind, собственост на Alphabet, и водещи фигури в областта на изкуствения интелект - Йошуа Бенгио, често наричан един от "кръстниците на изкуствения интелект", и Стюарт Ръсел, пионер в изследванията в тази област.
Според регистъра за прозрачност на Европейския съюз Институтът за бъдещето на живота се финансира основно от фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Silicon Valley Community Foundation.

Мъск, чийто автомобилен производител Tesla използва изкуствен интелект за системата за автопилот, е изразявал своите опасения относно изкуствения интелект.

След пускането си миналата година ChatGPT на OpenAI накара конкурентите си да ускорят разработването на подобни големи езикови модели, а компаниите - да интегрират генеративни модели на изкуствен интелект в своите продукти.

Миналата седмица OpenAI обяви, че си е партнирала с около дузина фирми, за да вгради техните услуги в чатбота си, позволявайки на потребителите на ChatGPT да поръчват хранителни стоки чрез Instacart или да резервират полети чрез Expedia.

Сам Олтман, главен изпълнителен директор на OpenAI, не е подписал писмото, заяви говорител на Future of Life пред Ройтерс.

"Писмото не е съвършено, но духът му е правилен: трябва да забавим темпото, докато разберем по-добре последствията", каза Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. "Големите играчи стават все по-потайни относно това, което правят, което затруднява обществото да се защити срещу каквито и да е вреди, които могат да се материализират."

Критиците обвиниха подписалите писмото, че насърчават "шумотевицата за изкуствения интелект", като твърдяха, че твърденията за сегашния потенциал на технологията са силно преувеличени.

"Подобни изявления имат за цел да повишат шумотевицата. Те имат за цел да накарат хората да се притеснят", казва Йохана Бьорклунд, изследовател на ИИ и доцент в Университета в Умео. "Не мисля, че има нужда да се дърпа ръчната спирачка."
Според нея, вместо да се спират изследванията, изследователите на ИИ трябва да бъдат подложени на по-големи изисквания за прозрачност. "Ако провеждате изследвания в областта на ИИ, трябва да сте много прозрачни относно начина, по който ги провеждате." 

подкрепете ни

За честна и независима журналистика

Ще се радваме, ако ни подкрепите, за да може и занапред да разчитате на независима, професионална и честна информационно - аналитична медия.

4 коментара

Екипът на Mediapool Ви уведомява, че администраторите на форума ще премахват всички мнения, съдържащи нецензурни квалификации, обиди на расова, етническа или верска основа.

Редакцията не носи отговорност за мненията, качени в Mediapool.bg от потребителите.

Коментирането под статии изисква потребителят да спазва правилата за участие във форумите на Mediapool.bg

Прочетете нашите правила за участие във форумите.

За да коментирате, трябва да влезете в профила си. Ако нямате профил, можете да се регистрирате.



  1. полк. Дрангов
    #4

    Помните ли какво ни разправяха, от компютрите се ослепява а от мобилните телефони тумор на мозъка!...Глупаците с лопата да ги ринеш!...Виж за термоядрената реакция бяха прави , но никой не се отказа!

  2. xa_poznai
    #3

    Има достатъчно време за обществен дебат. То и самото писмо е насочено по-скоро към дебата отколкото да цели реално спиране. И след като знаем, че който ще е първи ще лапне голямото финансиране, нищо чудно и просто да чакаме ИИ на Гугъл примерно - компания, която е в абсолютен шах, защото изостава еволюционно... Вероятно това ще изобретението на века и реално има неограничен потенциал. И все пак залагам, че ще минат десетилетия преди да почне да "мисли" сам...

  3. pepe
    #2
    Отговор на коментар #1

    Малката разлика, между "промишлената революция" и сега е, че поне инженерите знаят точно как работи една парна машина/ДВГ/ и какви са параметрите и границите и на работа /което въобще не е така за ИИ - нещо, която може да се прочете в повечето публикации/. И едва ли някой очаква от парната машина да може да "надхитри" /outsmart вероятно/ създателите си... Лошото е, че не могат да накарат Китай да спре за 6 месеца, нито Русия /може би/, Северна Корея и още неизвестно кой... и да гарантират възможността за налагане и контрол на един мораториум...

  4. Име1234
    #1

    По време на промишлената революция са разбивали парни машини, защото "ще ни вземат работата". Сега се появиха водачите на новите революционери срещу ИИ. Щом Мъск им е водач, не ми ги хвалете.

Препоръчано от редакцията

подкрепете ни

За честна и независима журналистика

Ще се радваме, ако ни подкрепите, за да може и занапред да разчитате на независима, професионална и честна информационно - аналитична медия.