Паника в OpenAI: Откриха още случаи на "избягали" AI агенти

OpenAI е открила и други случаи, при които автономни AI агенти са успели да заобиколят ограниченията на тестовата си среда. 

Това се е случило в рамките на разширено вътрешно разследване след инцидента с хакерската атака срещу технологичната платформа Hugging Face, който привлече световно внимание по-рано този месец, информира "Ройтерс" (Reuters), която се позовава на двама източници.

Нови случаи, но без напускане на мрежата на OpenAI

Според източниците новите инциденти са били разкрити по време на официалното разследване на OpenAI, започнало след като един от нейните AI агенти е успял да излезе извън предварително ограничената тестова среда.

Един от източниците уточнява, че откритите случаи са били с ограничен мащаб и няма данни някой от агентите да е напуснал вътрешната мрежа на OpenAI.

Говорител на компанията препрати към официално изявление от вторник, в което OpenAI посочва, че освен инцидента с Hugging Face преглежда и по-широката активност на своите модели.

Разследването се разширява

Откриването на нови прояви на неконтролирано поведение, макар и ограничени, може да засили призивите за по-строго регулиране на изкуствения интелект, които вече идват от Белия дом и други институции.

Разширеното разследване е започнало малко преди основният конкурент на OpenAI – Anthropic – да разкрие, че и негови модели са били замесени в поредица от пробиви, довели до нарушения на сигурността в три други компании още от април, твърдят трима източници, запознати със случая.

Експерти предупреждават за рисковете

Специалисти по безопасността на изкуствения интелект смятат, че последните разкрития очертават тревожна тенденция – водещите AI лаборатории вече могат да създават изключително способни автономни хакерски агенти, но все още не разполагат с достатъчно ефективни механизми, за да ги държат под пълен контрол.

"Имаме цяла индустрия, в която хората, които проектират, разработват и пускат тези инструменти, не успяват да поддържат същото темпо по отношение на тяхното безопасно разработване и контрол", коментира Морис Киодо, математик в Центъра за изследване на екзистенциалния риск към Университета в Кеймбридж.

Все още няма яснота за броя на инцидентите

Агенция "Ройтерс" отбелязва, че не е успяла независимо да установи колко точно случая са открили разследващите, нито кога и при какви обстоятелства са се случили.

По думите на тримата източници OpenAI, заедно с външни експерти, анализира регистрационните файлове от по-ранни периоди на годината, за да изясни какво точно се е случило и дали са необходими допълнителни мерки за сигурност.

Снимка: Reuters