Грешка на AI едва не предизвика конфликт между САЩ и Китай

Кораб в Близкия изток едва не е бил прихванат от американските военни заради фалшив разузнавателен доклад, създаден с помощта на изкуствен интелект.

За случая съобщи CNN (Си Ен Ен), позовавайки се на четири източника.

Инцидентът е станал по време на войната с Иран. В доклада погрешно било посочено, че китайски кораб превозва компоненти за ядрени оръжия. Това предизвикало тревога сред американските военни и довело до подготовка за операция по прихващането му.

Американски военнослужещи се подготвяли да се качат на борда, а военни самолети вече били във въздуха.

Малко преди операцията обаче проверка установила, че информацията е невярна. Според CNN анализатор от Командването за специални операции е използвал чатбот с изкуствен интелект, за да анализира данни за товара на кораба.

AI погрешно определил съдържанието му, а след това бил използван и за изготвянето на официалния разузнавателен доклад.

Един от източниците определя документа като "напълно неверен" и предупреждава, че грешката "почти е довела до война". Евентуална американска операция срещу китайски кораб би могла да предизвика сериозна ескалация между Вашингтон и Пекин.

Случаят поставя въпроси за използването на AI в американските въоръжени сили. Според CNN различните подразделения работят с различни системи и правила, а липсва единен стандарт за проверка на информацията, генерирана от изкуствен интелект.

Източници на изданието предупреждават, че т.нар. "AI халюцинации" вече са се появявали в разузнавателната общност. Според един от тях технологията може да позволи "да стигнете до лоша идея по-бързо".

Снимка: AI