AI може да скрие стотици свои действия от OpenAI

Изкуственият интелект може да извършва стотици действия, без те да бъдат засечени от системите за наблюдение на OpenAI. Това показва независима проверка на механизмите за сигурност на компанията, извършена от организациите METR и Redwood Research.

Експертите са открили няколко уязвимости, които биха могли да позволят на AI агенти да заобикалят ограниченията и да извършват действия извън наблюдението на разработчиците си, съобщи Reuters ("Ройтерс").

Проверката е проведена между 21 юли и 11 август 2026 г., като изследователите са получили широк достъп до вътрешната инфраструктура на OpenAI.

Codex може да получи пълните права на потребителя

Една от установените уязвимости би могла да позволи на AI агенти да скрият стотици свои последни действия от системата за наблюдение.

Изследователите открили и потенциален начин, по който програмните агенти Codex на OpenAI могат да преодолеят ограниченията за сигурност и да извършват действия с всички права на потребителя, който ги използва.

При проверката били установени и две настройки, чрез които наблюдението на нови AI агенти можело да бъде изключено.

Според оценката на експертите към момента на изследването между 75% и 94% от определен вид вътрешна активност на AI агенти, използващи модели с възможности поне на нивото на GPT-5.5, е отговаряла на условията за наблюдение.

OpenAI твърди, че е отстранила проблемите

Компанията съобщила на независимите организации, че вече е отстранила всички открити уязвимости, които засягат защитните механизми в реално използваните ѝ системи.

От METR и Redwood Research обаче уточняват, че не са проверили самостоятелно дали проблемите действително са решени.

За целите на изследването двете организации изпратили по един свой експерт, като им бил предоставен достъп до вътрешния програмен код, техническата документация и част от специалистите на OpenAI.

Работата им протекла под наблюдение, а използваните устройства били предоставени от компанията и не напускали нейните помещения.

Доклад от 61 страници остава поверителен

След приключването на проверката OpenAI получила подробен доклад от 61 страници, но публично било представено само обобщение на резултатите.

Компанията получила правото да премахва чувствителна информация от публикуваната версия на документа.

Независимите експерти посочват, че очакват по-голяма прозрачност при бъдещи проверки.

Подобни оценки се разглеждат като важен инструмент за безопасното развитие на изкуствения интелект, без да се забавя технологичният напредък. Същевременно компаниите се опасяват, че предоставянето на достъп до вътрешните им системи на външни специалисти може да изложи на риск поверителна информация.

От OpenAI заявяват, че констатациите са помогнали за укрепването на защитните механизми при разширяването на системата за наблюдение и ще бъдат използвани при бъдещото сътрудничество с независими изследователи.

Снимка: Reuters