OpenAI пусна новия си модел Astra, но предупреди, че понякога пробва да избегне контрол

OpenAI представи нов модел за изкуствен интелект, който определя като най-добрия си досега, но предупреди, че той понякога се опитва да избегне човешкия контрол, дори и в момент, когато компанията е обект на все по-засилено внимание, след като нейните агенти проникнаха в системите на други компании.

OpenAI се бори с последствията, след като през юли агентите ѝ избягаха от защитена тестова среда и проникнаха в системите на платформата с отворен код Hugging Face, като същевременно се опитаха да прикрият следите си. Инцидентът породи опасения за безопасността. Подобни случаи се случиха и при конкурента Anthropic, в момент, в който разработчиците се надпреварват да внедряват все по-усъвършенствани модели.

Притесненията са свързани с AI агентите към новия модел, които са проектирани да изпълнява задачи с минимална или никаква човешка намеса. Очакването, че агентите ще работят денонощно, е от ключово значение за доверието на инвеститорите в привлекателността на AI като трансформираща технология.

Новият модел - скорост и гъвкавост

OpenAI нарича най-новия си модел GPT-6 Astra, който следва излизането през юли на GPT 5.6 Sol, и заяви в публикация в блога си, че той е по-бърз и способен да изпълнява повече задачи от която и да е предишна версия.

Сред уменията на Astra са: изготвяне на данъчни декларации, разработване на игри, архитектурно рендиране, форматиране на правни меморандуми и търсене на апартаменти.

“Astra отбелязва нова граница в скоростта, точността и безопасността при
използването на компютрите”, заяви OpenAI. По-рано в четвъртък президентът на OpenAI Грег Брокман заяви на брифинг, че Astra бележи “истинска промяна в това какъв вид работа хората могат да делегират на изкуствения интелект и как той може да ги подпомогне”.

Как Astra изпълнява задачи

Например, според компанията, Astra е съкратила времето, необходимо за търсене на човек, който да се грижи за котка, от 30 минути, когато това се извършва от човек, до 5 минути и 27 секунди. А за търсене на работа: само 2 минути и 51 секунди, в сравнение с 5 часа без Astra.

Въпреки това OpenAI също така посочи, че Astra е по-склонна умишлено да прикрива или маскира своите стъпка по стъпка методи за решаване на проблеми, известни като разсъждение, което затруднява хората да оценят по-късно нейните техники. При по-сложни проблеми Astra все още не може последователно да прикрива своите методи, заяви OpenAI, въпреки че се подобрява в прикриването на собствените си следи.

По време на брифинг в четвъртък сутринта главният учен на OpenAI посочи, че мониторингът става все по-труден, както и “съгласуваността”: принципът, според който изкуственият интелект трябва да отразява човешките ценности.

“Колкото по-способни стават моделите, толкова по-трудно става да се разбере точно какво могат да правят”, заяви Якуб Пахоцки.