Общуването с чатботове и подвеждането по дийпфейк могат да бъдат много опасни

Все повече хора избират да общуват с чатботове. Това крие рискове, особено при загубата на реална преценка, че насреща стои изкуствен интелект.

"Тези чатботове са езикови статистически модели, създадени да казват нещо, което в голяма степен е вярно, но не разполагат с инструментариум да преценят дали нещо трябва да се каже. Целта на езиковия модел е винаги да даде отговор, дори когато аргументирано няма такъв отговор може да си го измили, т.нар. халюциниране, задачата му е да отговори - това стои зад случаите на отказа на определени модели да се изключат при команда", заяви адвокат Емилиян Арнаудов в студиото на "България сутрин". 

Той подчерта, че при създаването на регулации е важно да се дефинират зоните, при които AI да откаже да отговори и да препрати към човешко същество за продължаване на разговора. 

"В Дания за първи път се изготви законопроект - опит да се ограничи използването на дийпфейк - човек ще получи определена закрила, за да не се използва за такъв тип манипулации", посочи юристът.

В ефира на Bulgaria ON AIR той уточни, че за дийпфейк се възприема използването на глас и образ на реален човек, но с монтаж се постигат послания, които реално не е отправил. 

"Много малко сме защитени в такива ситуации. Напоследък в България имаше много използван дийпфейк, включително за реклама на медицински продукти от известни специалисти", каза Емилиян Арнаудов.

Защита има, когато се касае са авторска творба на артист или изпълнител, но не и когато са използвани публикации в социалните мрежи например.

"Идеята на закона, с който Дания се очертава да бъде пионер, регламентира и такива случаи, очаква се ЕС да помисли за някакъв регламент", допълни адв. Емилиян Арнаудов.

Специфичното в европейското законодателство е, че им области, които са хармонизирани и има области, в които отделна държава има свобода на действие. 

Ако България прецени, че обществените отношения са назрели в степен, че това трябва да бъде регламентирано, може да създаде собствени регламенти.

Гледайте целия разговор във видеото.