Папа Лъв призова за "разоръжаване" на AI заради заплахи от "дигитални робства"

Папа Лъв представи първия голям напътствен документ от своя понтификат, в който отправя предупреждение, че изкуственият интелект (AI) трябва да бъде "разоръжен".

"Думата е силна, зная, но е съзнателно избрана, тъй като настоящият момент изисква думи, способни да привлекат вниманието", заяви Светият отец.

Енцикликите по същество са писма до католическите епископи, но през последните десетилетия тези послания се превърнаха в обръщения на папата към целия свят. Въпреки че това писмо е фокусирано основно върху AI, папа Лъв включи в него и едно от най-категоричните и всеобхватни извинения от страна на Ватикана за ролята на Католическата църква в робството, пише BBC. 

В текста се посочва, че е "невъзможно да не се изпита дълбока скръб при съзерцаването на огромното страдание и унижение, понесени от толкова много хора", като папата добавя, че "искрено моли за прошка" от името на Църквата.

Рискът от "ново дигитално робство"

Папа Лъв обвърза темата за търговията с роби с тази за изкуствения интелект, като изрази опасение, че светът е изправен пред опасността отново да нормализира експлоатацията на хора – както при създаването на технологиите, така и при тяхното приложение.

Някои от най-силните метафори в документа са свързани именно с робството. Папата предупреждава за паралели между историческата трагедия на традиционното робство и зараждащите се заплахи от "нови дигитални робства". Той загатна за сходен риск от нормализиране на експлоатацията и подчерта, че в момента човечеството се намира пред съдбоносен морален кръстопът.

По необичаен начин папа Лъв избра лично да представи енцикликата – озаглавена "Magnifica Humanitas" ("Великолепно човечество") – във Ватикана, редом до експерти в областта на изкуствения интелект, сред които и Кристофър Олах, съосновател на американския технологичен гигант Anthropic.

В изказването си след представянето Олах призна, че всяка лаборатория за AI, включително неговата собствена, работи "в рамките на набор от стимули и ограничения, които понякога влизат в конфликт с правилното поведение". Той допълни, че би било грешка да се вярва, че въпросите около изкуствения интелект са изцяло от компетенцията на компютърните инженери:

"Въпросите, повдигнати от AI, са по-големи от общността на изследователите в тази сфера – не само по отношение на последиците от тях, но и по самата си същност."

AI във военното дело и политиката

Енцикликата на папата, която отчита и многобройните потенциални капани на AI, е същевременно и остро, директно послание към имащите власт относно техните отговорности за ограничаване на заплахите.

Папата осъди използването на изкуствен интелект във военните действия, заявявайки, че намаляването на човешкия контрол над оръжията прави още по-трудно определянето на една война като "справедлива", и предупреди срещу стартирането на надпревара във въоръжаването с AI.

"Нито един алгоритъм не може да направи войната морално приемлива", пише папата.

Според него изкуственият интелект не само не премахва "присъщата нехуманност" на войната, но и крие риск от по-бързо разпалване на конфликти и превръщането им в по-безлични, тъй като "намалява прага за прибягване до насилие, трансформира защитата в прогнозиране на заплахи и по този начин свежда жертвите до обикновени данни".

Папа Лъв разкритикува и начина, по който AI влияе на политиката – например чрез използването му за манипулиране на изображения и видеоклипове, което по думите му излага хората на преднамерени или подвеждащи гледни точки.

Урокът на историята и отговорността на разработчиците

В миналото папата е оприличавал днешната нужда от предпазни мерки за защита на хората пред лицето на AI с регулациите, които бяха необходими за гарантиране на човешкото достойнство по време на Индустриалната революция.

Той направи сравнение между евентуалното нежелание за действие срещу рисковете от AI днес и "забавянето, с което обществото и Църквата осъдиха бича на робството". Папата дори говори за опасностите от "дигитален колониализъм", свързвайки злоупотребите от колониалната епоха с модерните технологични практики.

В документа Светият отец отправя и "специален апел" директно към хората, които създават тези технологии:

"Разработчиците носят особена етична и духовна отговорност, тъй като всеки избор при проектирането отразява определен мироглед за човечеството."

Какъв ще бъде реалният ефект?

Папа Лъв вече свика комисия, която да продължи работата му по темата, но остават огромни въпроси относно това колко ефективно ще бъде всичко това на фона на бурния технологичен напредък.

През 2015 г. покойният папа Франциск написа своята енциклика Laudato Si, фокусирана върху спешната нужда от справяне с климатичната криза, но през 2023 г. изрази разочарованието си от последвалото бездействие.

Колкото и страстен да е в призивите си за овладяване на изкуствения интелект, папа Лъв може да се окаже в позицията да отправи подобно горчиво предупреждение през следващите години.

Снимка: БГНЕС