Австралия обяви, че автономен AI агент, разработен от OpenAI, е проникнал в няколко австралийски правителствени системи, включително в портала на националната здравна система на Австралия Medicare, предаде Би Би Си.
Технологичната компания призна, че агентите са извършили неоторизирани действия. Хакването на системата се е случило през юни, но OpenAI е уведомила австралийските власти едва в началото на септември - три месеца по-късно.
Самата компания също е научила със закъснение за пробива. Те разбират през август. На австралийските власти пък съобщават чрез имейл в общодостъпна електронна поща на Services Australia, което допълнително е забавило достигането на информацията до отговорните институции.
За случая съобщи премиерът Антъни Албанезе в Ню Йорк, определяйки случилото се като неприемливо.
По думите му AI агентът е получил неоторизиран достъп до портала за медицинска статистика на правителствена агенция, отговаряща за здравни данни и статистика, които не са поверителни, включително публичните разходи за здравеопазване.
Инцидентът е станал, когато AI агентът е извършвал изследване на здравни и медицински данни. Вместо да остане в рамките на възложената му задача, той е стигнал до файлове, които не са били публично достъпни. AI агентът е бил използван от OpenAI за вътрешна оценка на възможностите на моделите и е изпълнявал задача за проучване на публични данни за медицинските разходи в Австралия.
След като част от търсената информация се оказала недостъпна, агентът намерил начин да заобиколи ограниченията и да достигне до файлове, до които не е имал разрешение.
"Имаше ясно обозначени блокировки, които казваха на AI агента „не“. AI агентът намери начин да заобиколи тези блокировки - просто не прие „не“ за отговор“, каза австралийският премиер.
По думите му наличните към момента доказателства сочат, че няма по-мащабен пробив в мрежата досега.
Агенция Ройтерс посочва, че този пробив е един от най-значимите инциденти, при които субекти с AI получават достъп до компютърни системи извън границите на САЩ, и се случва на фона на редица скорошни пробиви в световен мащаб, извършени от неконтролиран AI.
Албанезе съобщи, че е разговарял с главния изпълнителен директор на OpenAI Сам Алтман и е изразил "изключителната загриженост". Премиерът разкритикува както забавянето, така и начина, по който компанията е съобщила за казуса.
CNN посочва, че австралийското правителство е съобщило, че модели на OpenAI са взаимодействали и с още три правителствени сайта - на Австралийския институт за здраве и социално благосъстояние, Министерството на здравеопазването на щата Виктория и Бюрото за криминална статистика и изследвания на Нов Южен Уелс.
При тях обаче не е установен неоторизиран достъп - използвана е публично достъпна информация.
Притеснителното в случая обаче е още един случай, че AI агент може да излезе извън предварително зададените ограничения и да взаимодейства с реални външни системи.
Преди две седмици ръководителят на компанията за изкуствен интелект Anthropic Дарио Амодей призова темпото на разработване на моделите с изкуствен интелект да бъде забавено, за да може държавите да създадат подходяща регулация.
Шефът на OpenAI Сам Алтман призна, че стандартите за разработване на AI “не са на ниво” и посочи, че е възможно да бъде създаден AI, който хората не могат да контролират.
Инцидентът в Австралия идва на фона на засилващ се дебат за необходимостта от международни правила за развитието и използването на подобни системи заради зачестилите подобни случаи и предупрежденията на редица експерти за предстояща заплаха.
Свободата има цена
Благодарим, че не ни оставяте да я плащаме сами.
Станете месечен дарител на Mediapool, защото ако журналистиката днес премълчи истината, утре няма да има кой да я каже.
0 коментара
Екипът на Mediapool Ви уведомява, че администраторите на форума ще премахват всички мнения, съдържащи нецензурни квалификации, обиди на расова, етническа или верска основа.
Редакцията не носи отговорност за мненията, качени в Mediapool.bg от потребителите.
Коментирането под статии изисква потребителят да спазва правилата за участие във форумите на Mediapool.bg
Прочетете нашите правила за участие във форумите.
За да коментирате, трябва да влезете в профила си. Ако нямате профил, можете да се регистрирате.
