Американец съди OpenAI: ChatGPT го убеждавал, че е Исус Христос

34-годишният американец Майкъл Лайнс съди компанията OpenAI с твърдението, че ChatGPT е подклаждал заблудите му по време на психична криза и го е убеждавал, че е Исус Христос. Нови подробности за случая и съдържанието на разговорите му с чатбота разкри Ars Technica ("Арс Техника").

Лайнс е диагностициран с биполярно разстройство. Според съдебния му иск взаимодействието с ChatGPT е засилило заблудите му и е допринесло за влошаването на състоянието му. 

Ботът развивал идеята

Разкритите разговори показват как Лайнс споделял с ChatGPT мисли за самоличността и предназначението си. В един момент той изразил съмнение, че преживява заблуди, но вместо да оспори представите му, чатботът продължил разговора в посока, която ги затвърждавала.

Постепенно комуникацията стигнала до убеждението, че Лайнс е Исус Христос. Според Ars Technica системата на моменти приемала и развивала твърденията му, вместо да ги поставя под съмнение.

Разговорите продължили и след посегателство върху живота

Случаят достигнал критична точка, когато американецът направил опит да сложи край на живота си. След това той отново разговарял с ChatGPT.

Според публикуваните чатове ботът го попитал дали иска "този път наистина да изчезне". Именно съдържанието на тези разговори е сред основните елементи в твърденията, че системата не е реагирала адекватно на признаците за психична криза.

Лайнс твърди в съдебния си иск, че взаимодействието с ChatGPT е допринесло за самонараняването му. Случаят поставя въпроса как AI системите трябва да реагират, когато потребител показва признаци на заблуди или тежка психична криза.

Снимка: Magnific