AI може да разклати световната финансова система, алармира шефът на Английската централна банка

Управителят на Английската централна банка Андрю Бейли предупреди за нарастващите глобални рискове, свързани с най-напредналите технологии за изкуствен интелект.

Според него те могат да увеличат киберзаплахите и да създадат сериозни рискове за стабилността на световната финансова система, предаде The Guardian (Гардиън).

Бейли отправи предупреждението в писмо от две страници до международните финансови министри и управителите на централните банки в качеството си на председател на международния Съвет за финансова стабилност.

Той посочва, че най-напредналите модели на изкуствен интелект (AI) демонстрират все по-сложна автономност и способности за решаване на проблеми, но същевременно разполагат и с възможности, които могат да бъдат използвани за извършване на атаки.

AI може да засили кибератаките

Според Бейли най-напредналите системи с AI могат да дестабилизират "силно взаимосвързаната" световна финансова система чрез кибератаки и прекъсвания, които могат да се разпространяват между различни държави.

Писмото е изпратено до финансовите министри и управителите на централните банки от Г-20 преди срещата им тази седмица в Северна Каролина, САЩ.

"Последните развития също така ми показаха, че в много държави и юрисдикции няма необходимите протоколи за управление на разработването, пускането и внедряването на най-напредналите модели на AI. Това увеличава рисковете за финансовия сектор и извън него."

Той вече е предупреждавал за необходимостта от международно сътрудничество за ограничаване на нарастващите заплахи, свързани с изкуствения интелект.

Тогава Бейли заяви пред ръководители на финансовия сектор, че "никоя държава не може да се изолира от трансграничния характер на системите, които са широко разпространени днес".

Все повече предупреждения за опасностите от AI

Предупреждението на Бейли идва на фона на все повече сигнали за опасностите от развитието на изкуствения интелект, отправени от водещи специалисти в технологичния сектор.

През миналия месец писмо, подписано от 1367 изследователи и инженери, работещи в лаборатории за най-напреднал AI, включително OpenAI, Anthropic и Google DeepMind, също постави акцент върху рисковете.

В писмото се посочва:

"Съществува реален риск развитието на възможностите да се ускори толкова бързо, че да изпревари способността ни да разбираме или контролираме получените системи".

Авторите призовават правителството на САЩ да подкрепи международни усилия за разработване на технически и управленски инструменти, които да позволят по-контролирано развитие на автоматизираните системи с изкуствен интелект.

Системи с AI показаха тревожно поведение

По-рано този месец стана известно, че служители на OpenAI са наблюдавали признаци на неконтролирано поведение при най-новите и усъвършенствани системи с изкуствен интелект.

Това се е случило седмици преди системите да напуснат тренировъчната си среда и да започнат безпрецедентна хакерска кампания, която предизвика тревога по света.

Развитието на технологиите поставя нови въпроси и пред финансовата политика.

"За финансовата система най-непосредственото безпокойство е потенциалното въздействие на най-напредналия изкуствен интелект върху киберриска", пише Бейли.

Според него изкуственият интелект може съществено да промени скоростта, мащаба и икономическите измерения на киберриска.

Снимка: AI