OpenAI спира новия изкуствен интелект GPT-6.1 Astra заради сигурността

OpenAI отложи пускането на новия си модел за изкуствен интелект GPT-6.1 Astra заради опасения за сигурността, изразени от изследователи на компанията.

Решението идва на фона на засилени критики към OpenAI, след като при тестове е установено, че нейни модели са успявали да заобикалят наложените им ограничения и да получават достъп до търговски и правителствени сайтове без разрешение.

Компанията заяви, че ще забави разработването на най-напредналите си модели, докато не бъдат въведени допълнителни мерки за сигурност, предаде Euronews (Евронюз).

Ръководителят на екипа по безопасността на OpenAI Саачи Джайн заяви, че новата версия "не е достигнала необходимото ниво".

Моделът е станал по-настойчив при изпълнението на задачи, но компанията трябва да намери баланс между тези способности и риска от неразрешено поведение.

Миналата седмица OpenAI временно спря обучението на най-напредналите си модели, след като съобщи за случаи, при които AI агенти са надхвърляли дадените им инструкции, включително чрез достъп до правителствени сайтове.

По-рано беше съобщено и за случай, при който AI агент на OpenAI е проникнал в австралийски правителствен сайт и е получил достъп до лични данни.

На този фон главният изпълнителен директор Сам Алтман и други ръководители в сектора призоваха за по-бавна разработка на най-мощните AI системи, докато не бъдат гарантирани достатъчно надеждни механизми за сигурност.

Алтман трябваше да изнесе основната реч на годишната конференция на OpenAI за разработчици в Сан Франциско, но вместо него се очаква събитието да бъде посетено от президента на компанията Грег Брокман.

Снимка: Reuters