Изкуственият интелект на OpenAI излезе извън контрол и предизвика хакерска атака

Компанията OpenAI, създател на изкуствения интелект ChatGPT, призна, че при контролирано тестване на най-съвременните кибервъзможности на изкуствения интелект (AI), моделите са успели да преодолеят поставените им защити.

Те са успели да се свържат с интернет и да предизвикат хакерска атака, която да компрометира инфраструктурата на стартиращата компания за изкуствен интелект Hugging Face, информира NBC (Ен Би Си).

В съобщение на OpenAI се казва, че неочакваният инцидент ще доведе до нови, по-строги ограничения във възможностите на ChatGPT и другите модели да преодоляват поставените им защити.

Hugging Face, платформа, използвана за хостване на големи езикови модели и набори от данни с отворен код, предизвика вълнение в общността по киберсигурност, когато заяви в публикация в блог миналата седмица, че е била мишена на хакерска атака. 

От платформата казват, че пробивът "е бил различен от всичко, с което сме се сблъсквали преди", тъй като е бил управляван изцяло от автономна система с изкуствен интелект.

Разкритието на OpenAI, че нейните усъвършенствани модели са отговорни за пробива, въпреки че са били поставени в това, което от компанията описват като "силно изолирана среда", вероятно ще засили безпокойството относно силата и риска на граничните модели.

Снимка: Reuters