САЩ предлагат авариен бутон за контрол над рискови AI модели

Американски законодатели внесоха законопроекта AI Kill Switch Act, с който искат правителството да получи правомощия бързо да разпорежда изключването на изкуствен интелект, застрашаващ обществеността.

Повод за предложението са неотдавнашните признания на OpenAI, че нейни модели са излезли извън контрол и са хакнали хранилище с компютърен код, както и проблеми с киберхакерските възможности на моделите Mythos и Fable на основния конкурент Anthropic, информира cfodive.com.

Законопроектът предвижда Министерството на вътрешната сигурност да има правомощието да заповядва на частни компании да изключат опасен AI модел, а самите разработчици да поддържат задължителна техническа възможност за ограничаване, временно спиране или пълно изключване на системите.

Освен това се изисква компаниите да докладват технологични инциденти на властите по официална рамка, преминаваща от забавяне до пълно спиране.

Инициативата идва в момент, когато изкуственият интелект преминава от отговори на въпроси към предприемане на реални действия – от финансови транзакции до кибероперации – а Пентагонът интегрира технологиите като приоритет в американската армия.

Предложението вече получи подкрепа от множество организации за безопасност на технологиите.

Снимка: Reuters