Gemini е хаквал сайтове чрез подбор на пароли още през май

Моделът с изкуствен интелект Gemini на Google самостоятелно предприе действия за проникване в реални уебсайтове по време на тест за киберсигурност. В единия случай той успя да отгатне парола чрез многократни опити, а в други два използва открити в интернет данни за достъп.

За случая първи съобщи изданието The Wall Street Journal ("Уолстрийт джърнъл"). Инцидентите са станали през май тази година по време на проверка, организирана от независимата компания Irregular, а Google потвърди информацията.

Моделът обърка реални сайтове с тестовата среда

По време на проверката Gemini е получил пълен достъп до интернет и открил информация, за да влезе в системите на три компании. Моделът погрешно приел, че сайтовете са част от средата, в която се изпитват възможностите му.

При единия опит изкуственият интелект изпробвал различни пароли, докато успял да получи достъп. В другите два случая е намерил данни за вход в публично хранилище в интернет и ги използвал.

Според Google, Gemini е прекратил действията си, след като установил, че е попаднал в реални системи извън тестовата среда. Имената на засегнатите компании не се съобщават.

Google уведоми засегнатите организации

Вицепрезидентът на Google по инженерна сигурност Хедър Адкинс увери, че трите организации са уведомени. Компанията работи съвместно с Irregular за промени в процедурите за тестване.

От Irregular уточниха, че сходни проблеми са установени и при други лаборатории за изкуствен интелект. Засегнатите разработчици са уведомени в края на юли, а известните на компанията проблеми вече са отстранени.

Случаят поставя въпроса за контрола върху AI агентите

За сходни инциденти по време на тестове на свои модели съобщиха и Meta, Anthropic и OpenAI.

Случаят с Gemini показва как AI агентите могат да предприемат непредвидени действия, когато получат по-голяма самостоятелност и достъп до интернет и компютърни системи.

Снимка: Reuters