Изкуственият интелект може да манипулира спомените ни

Една от заплахите от изкуствения интелект (АІ) и свързаните с него технологии е способността му да манипулира спомените, пише американския журналист Ф. Д. Флам в материал за Bloomberg.

Психологът Елизабет Лофтъс е прекарала последните 50 години в това да покаже това колко лесно хората могат да бъдат манипулирани да си спомнят неща, които никога не са се случили – особено в ръцете на прокурори и полицаи, разпитващи свидетели.

Сега Лофтъс, професор в Калифорнийския университет в Ървайн, обединява сили с изследователи от Масачузетския технологичен институт (MIT), за да проучи как изкуственият интелект може да манипулира това, което мислим, че помним. Тази манипулация се случва дори когато субектите знаят, че гледат генериран от изкуствен интелект текст и изображения.

Констатациите показват, че изкуственият интелект може да усили способността на хората да възприемат фалшиви спомени.

въпреки доказателствата ,все още не можем да се отърсим от идеята, че паметта е като запис на събитие на касета – и че погрешното възприемане на събитията от собствения ни ум ни прави уязвими.

Мозъкът ни изгражда спомени от частици, придобити по различно време

"Хората, които поддържат този модел за паметта като лента на касета, изглежда не оценяват това, че паметта е конструктивен процес", коментира Лофтъс, според която мозъкът ни изгражда спомени от частици, придобити по различно време.

Интуитивно схващаме забравянето като загуба или избледняване на спомени, но не и добавянето на фалшиви подробности.

Лофтъс също така изучава потенциала за създаване на хаос в ума чрез т. нар. push polls, при които социолози вграждат дезинформация в зададения от тях въпрос.

Например: "Какво бихте си помислили за Джо Байдън, ако знаехте, че е осъден за укриване на данъци?". Лофтъс намира за много плашеща мисълта колко ефективно АІ би могъл да извършва такъв вид измама в голям мащаб.

Хората не поставят под въпрос собствената си памет

Манипулирането на паметта, отбелязва Пат Патаранутапорн, изследовател към Медийната лаборатория на MIT, е много по-различен процес от заблуждаването на хората с дийпфейк съдържание. Не е нужно да създавате сложен фалшив източник на уебсайта на New York Times, например – просто трябва да убедите хората, че са чели нещо там в миналото.

"Хората обикновено не поставят под въпрос собствената си памет", казва той.

Патаранутапорн е водещ автор в три експеримента с човешката памет, първият от които показва как разпитващи чатботове могат да променят показанията на свидетели, просто като вграждат предположения във въпросите си – разширение с изкуствен интелект на по-ранната работа на Лофтъс върху разпитите на хора.

Четете повече в investor.bg.

Снимка: Reuters