Китай ограничи мощен AI заради опасни хакерски способности

Китайската технологична компания Moonshot AI е ограничила възможностите на новия си модел с изкуствен интелект Kimi K3.1 Pro да извършва хакерски атаки. Решението идва на фона на нарастващите опасения, че усъвършенстваните AI системи могат да улеснят киберпрестъпленията, съобщи Reuters ("Ройтерс").

При контролирани тестове моделът е постигнал 90,5% успеваемост при откриване и използване на уязвимости в компютърни системи, уточни агенцията, позовавайки се на информация от компанията.

Успеваемостта при кибератаките е спаднала от 90,5% на 81%

След установяването на тези резултати Moonshot AI е предприела мерки за намаляване на възможностите на модела да извършва подобни действия.

Компанията е премахнала определени данни, свързани с кибератаки, от обучението на системата, като същевременно се е стремила да запази способностите ѝ за програмиране.

В резултат на промените успеваемостта на модела при тестовете е спаднала от 90,5% на 81%.

Това означава, че въпреки въведените ограничения изкуственият интелект продължава да демонстрира значителни способности в областта на киберсигурността.

Мощният AI модел може да стане достъпен за повече потребители

Moonshot AI планира да публикува параметрите на Kimi K3.1 Pro на 4 ноември. Това би позволило моделът да бъде използван и извън инфраструктурата на компанията.

Случаят поставя въпроса доколко разработчиците могат да ограничават потенциално опасните способности на все по-усъвършенстваните системи с изкуствен интелект, без да намаляват съществено полезните им функции.

Снимка: Reuters