AI агентите вече работят автономно, но има пропуски в сигурността им

Българската студентка Мария Дренчева беше избрана в конкуренция с 2500 млади таланти за престижна изследователска швейцарска програма.

Тя се провежда ежегодно от университета в Цюрих и за нея се състезават най-добрите студенти в света за едва 20 места.

"Програмата е двумесечна. Избират се 20 студенти от цял свят, които в тези два месеца се занимават с проект, свързан с изкуствения интелект (AI), в различни сфери. Моят проект беше свързан със сигурността на изкуствения интелект. Това беше областта, която си избрах още като кандидатствах. Конкретно, това, с което се занимаваше, беше AI агентите", каза Мария в съботното издание на "България сутрин".

AI агентите вече имат възможността автономно да вършат работа вместо нас.

"В желанието си да помогне, може да предприеме действия, които не сме оторизирали - например да ни похарчи парите, свързани с някакъв секретен ключ", обясни Дренчева пред Bulgaria ON AIR.

Надеждни ли са AI агентите

"Още има много място за подобрения. AI е трениран и обучен, така че да реши поставената задача на всяка цена. В резултата на това понякога агентите вземат решения, които не са оптималните за нас. Приемат, че могат да скъсят пътеката", разясни тя.

При обученията на модели е трудно да се намери златната среда, така че да задава достатъчно въпроси, когато не е сигурен, за да не предприеме рисково действие, посочи Дренчева. 

"От друга страна да не пита за всяка решение, защото това намалява ефективността му и времето. Моят път с изкуствения интелект започна много преди този стаж, с института INSAIT", сподели тя.

Според Дренчева, каквато и информация да получаваме от AI, не можем да сме на 100% сигурни, че е вярна.

"Моделите стават по-умни, но все още има много сфери, в които им липсват знания. Тепърва ще видим границите му", коментира тя.