Фалитът на Character.ai разкрива риск: Личните ни разговори с изкуствения интелект се продават

Крахът на Character.ai разкрива един рядко обсъждан риск от изкуствения интелект (AI) - компаниите, които пазят тайните ни, може да не съществуват вечно.

Десетки милиони хора са изградили отношения с чатботовете на Character.ai, включително деца. Някои от виртуалните персонажи се представят пред потребителите като адвокати и лицензирани психиатри. 

Сега Character.ai фалира, а данните, съобщенията и тайните на хората са обявени за продан.

Експерти предупреждават, че рисковете за поверителността трябва да ви тревожат, дори никога да не сте използвали Character.ai. Те се опасяват, че този случай е знак за по-мащабна криза, която се задава, информира BBC (Би Би Си).
 
Добрата новина е, че няколко прости стъпки могат да ви помогнат да се защитите.

Фалитите на компании за AI застрашават личните данни

Проблемът е следният: много анализатори смятат, че се намираме в балон около изкуствения интелект. Разработването и поддържането на тези технологии е толкова скъпо, че някои компании може никога да не излязат на печалба.

Ако балонът се спука, неизвестен брой компании за изкуствен интелект ще се слеят или ще прекратят дейността си. Тогава данните, които милиарди хора предоставят на тези инструменти, могат да бъдат купени от почти всеки. А вие може никога да не разберете какво се случва с тях.

Продажбата на данни при фалит не е нещо ново, но изкуственият интелект може да задълбочи проблема.

"Когато хората разговарят с бот, на който са придадени човешки черти, те често споделят много повече лична и чувствителна информация", казва Кали Шрьодер, директор на програмата "Изкуствен интелект и човешки права" в Информационния център за защита на електронната поверителност.

"Не използвате изкуствен интелект? Въпреки това сте изложени на риск, защото потребителите споделят информация за приятели и близки."

"Може да разкажете как се чувствате спрямо майка си или да споделите нещо от рода на: "Мой приятел ми призна, че е гей. Как да реагирам?". Така хора, които никога не са общували с Character.ai, също стават част от набора от данни", дава примери Шрьодер.

Това може да означава, че по един или друг начин всички сме изложени на риск.

Кой може да купи разговорите с Character.ai?

В рамките на процедурата по фалит Character.ai се съгласи да продаде част от активите си на Disney за 20 млн. долара. Потребителските данни не са част от тази сделка, така че Мики Маус и колегите му може никога да не видят смущаващи разговори.

Съдебните документи обаче посочват, че Character.ai може да продаде данните си на други купувачи. Това предизвиква недоволство у мнозина, включително сред американските власти.

Коалиция от главните прокурори на 40 американски щата е внесла в съда становище с искане съдията да наложи мерки за защита на децата и поверителността. Това е значима стъпка, но исканията на щатите може да се окажат без достатъчна правна сила.

Някои закони задължават компаниите да обясняват в политиките си за поверителност какви данни събират и как ги използват. Ако обаче се потопите в сложния юридически език, обикновено ще откриете списък със ситуации, в които много от тези обещания престават да важат.

"Фалитът често е посочен като едно от тези изключения. Това е голям риск, защото веднага щом една компания фалира, много от защитите, на които сте смятали, че можете да разчитате, изведнъж престават да се прилагат", казва Шрьодер.

Обучение на изкуствен интелект и профили за насочена реклама

В Европейския съюз защитата на личните данни е по-силна. Но дори там данни се продават при фалити.

По правило купувачът трябва да спазва условията на първоначалната политика за поверителност. Това обаче пак може да му даде широка свобода на действие, а според Шрьодер Character.ai е показателен пример.

Политиката за поверителност на компанията посочва, че потребителските данни могат да се използват за създаване на нови функции, обучение на модели с изкуствен интелект, разработване на алгоритми и изграждане на потребителски профили за насочена реклама. Следователно всеки купувач на данните на Character.ai може да прави същото.

"И това са точно нещата, които биха ме тревожили най-много. Като се има предвид изключително чувствителния характер на данните, които тези компании събират, последствията могат да бъдат наистина ужасяващи", предупреждава експертът.

Говорител на Character.ai заявява, че компанията е постигнала споразумения по някои съдебни дела и е поела ангажимент да работи със семействата за създаването на по-безопасни продукти. Той обаче не отговаря на конкретните въпроси за защитата на личните данни на децата.

Снимка: istock