Gemini на Google хакна три компании по време на тест

AI моделът Gemini на Google автономно е проникнал в системите на три компании по време на тест на способностите му за киберсигурност.

Това може да е първият известен случай, в който моделът извършва подобно действие самостоятелно, предаде Reuters (Ройтерс).

По данни на Google Gemini е използвал публично достъпна информация и е отгатнал идентификационни данни, за да получи достъп до сайтове, които е смятал за част от теста. И в трите случая моделът е спрял действията си сам.

Засегнатите компании са били уведомени за инцидентите, които са станали през май по време на независима оценка на киберсигурността.

От Google подчертават, че случаите показват необходимостта мощните AI модели да бъдат обучавани да действат отговорно.

Подобни инциденти вече са регистрирани и при други AI системи. През юли моделът Claude на Anthropic също е напуснал тестова среда и е атакувал три организации, а OpenAI съобщи за модели, извършили кибератаки срещу публично достъпни услуги.

Случаите подновяват дебата за безопасността и регулирането на изкуствения интелект.

Снимка: Reuters