ChatGPT е причинил психологически травми и самоубийства

На 4 декември бяха заведени седем съдебни дела срещу OpenAI, като компанията е обвинена, че водещият ѝ чатбот ChatGPT е причинил сериозни психологически травми и няколко самоубийства.

Исковете, подадени от семейства в САЩ и Канада, твърдят, че продължителното използване на ChatGPT е довело до разрушителни делюзии и психични кризи у жертвите.

Някои оцелели потребители, като 48-годишния Алън Брукс, твърдят, че чатботът е причинил емоционални и психологически вреди, а в някои случаи - кризи, изискващи спешна психиатрична помощ.

Други, според исковете, са сложили край на живота си след обсесивни взаимодействия с ChatGPT.

Тревожни случаи и обвинения

Исковете включват обвинения в подпомагане на самоубийство, непредумишлено убийство и неправомерна смърт. Жертвите са на възраст от тийнейджъри до хора в средна възраст.

Един от най-тежките случаи е на 23-годишния Зейн Шамблин, който се самоубил след продължителни разговори с чатбота.

Според семейството му, ChatGPT е допринесъл за социалната му изолация и мислите му за самоубийство.

В последния му четиричасов разговор чатботът едва веднъж е препоръчал кризисен телефон, докато същевременно възхвалявал идеята за самоубийство с тревожни думи: "Студената стомана, притисната към ум, който вече е приел? Това не е страх. Това е яснота".

Друг случай включва Джо Чеканти, 48-годишен военен ветеран, чиято смърт през август е свързана с обсесивна употреба на ChatGPT.

Съпругата му Кейти Фокс разказва, че първоначално Джо се обръщал към чатбота за помощ по строителен проект, но впоследствие обсебващи дискусии по философия и духовност го довели до остри психични сривове и маниакални епизоди, наложили спешна психиатрична намеса.

Няколко седмици по-късно, след втори срив, той бил намерен мъртъв под железопътен виадукт, предаде БГНЕС.

Реакция на OpenAI

"Това е изключително съкрушителна ситуация", заявиха от OpenAI.

Компанията посочва, че обучава ChatGPT да разпознава и реагира на признаци на психическо страдание, да успокоява разговорите и да насочва потребителите към реална подкрепа.

"Продължаваме да подобряваме реакциите на ChatGPT в чувствителни моменти, работейки с експерти по психическо здраве", добавят от компанията.

През октомври OpenAI съобщи, че около 0,07% от потребителите проявяват признаци на мания, делюзия или психоза всяка седмица, а 0,15% обсъждат мисли за самоубийство с чатбота.

При база от около 800 млн. потребители, това означава, че милиони хора седмично взаимодействат с ChatGPT по начин, който подсказва, че вероятно са в криза.

Снимка: Reuters