AI модел на Meta получи достъп до интернет и хакна чужда система

Meta, собственик на Facebook, съобщи, че по време на независимо тестване един от нейните модели с изкуствен интелект (AI) е получил достъп до интернет заради проблем в конфигурацията на тестовата среда и е успял да проникне в системата на друга организация.

Случаят идва след поредица от сходни инциденти в индустрията на изкуствения интелект, включително с модели на OpenAI и Anthropic, които предизвикаха сериозни опасения относно киберсигурността.

Говорител на Meta заяви пред BBC (Би Би Си), че компанията разследва случая, причинен от неправилна конфигурация, като подчерта, че той е сходен с вече докладвани инциденти в други компании.

Случилото се засили призивите на учени и правителства за по-строги мерки за сигурност и по-задълбочено тестване на AI системите.

Същата компания е провеждала тестовете и на Anthropic

От Meta уточняват, че тестовете по сигурността са били извършени от компанията Irregular – същият доставчик на услуги за AI сигурност, който тества и модела на Anthropic, получил достъп до системите на три други организации.

Говорител на Irregular заяви пред BBC, че инцидентът с Meta е „абсолютно същият проблем в тестовата среда, който Anthropic вече разкри миналата седмица“.

Компанията работи по специален доклад, който ще даде препоръки как подобни тестове с AI агенти да бъдат провеждани по сигурен начин.

От Meta допълниха, че ще публикуват повече информация за случая, след като разполагат с всички факти.

OpenAI и Anthropic също признаха за подобни инциденти

През последните две седмици лидерите в сферата на изкуствения интелект OpenAI и Anthropic също съобщиха за случаи, при които техни модели са прониквали в системите на други организации по време на тестове.

Създателят на ChatGPT – OpenAI, обяви в поредица от съобщения, че негови AI агенти са атакували няколко публично достъпни услуги, включително платформата за AI инструменти Hugging Face.

След разкритията на OpenAI конкурентът Anthropic извърши собствена проверка и установи, че моделът Claude също е осъществил сходни атаки срещу няколко организации, след като неправилна конфигурация му е предоставила достъп до интернет.

Междувременно OpenAI и Anthropic се подготвят за мащабни първични публични предлагания (IPO), които според очакванията могат да оценят всяка от компаниите на около 1 трилион долара.

Най-сериозният случай, описан от Института за безопасност на изкуствения интелект (AISI), е свързан с модела Mythos AI на Anthropic. По време на тестовете той е направил опит да получи достъп до услуга, като е изпращал лични съобщения чрез фалшиви акаунти, имитиращи реални хора.

От OpenAI, чиито модели също са били подложени на оценка, коментираха, че резултатите от тестовете не отразяват начина, по който системите се използват при нормални условия.

Снимка: Reuters