AI агенти излизат от контрол, има риск изкуственият интелект да стане неуправляем

Доскоро големият въпрос беше кой ще спечели надпреварата за изкуствения интелект (AI). Днес въпросът започва да звучи по-тревожно - ами ако победителят се окаже този, който пръв създаде нещо, което не може да контролира напълно?

Това вече не е предупреждение от хора, които стоят извън технологичната революция. Идва от самия ѝ център. От компаниите, които инвестират милиарди, строят огромни центрове за данни и се състезават кой ще покаже следващия, още по-мощен модел.

И точно оттам идва предложението, което само допреди година би звучало почти абсурдно: може би трябва да намалим скоростта. Не защото изкуственият интелект не работи достатъчно добре. А защото започва да може прекалено много.

Моделите вече не просто пишат текст, превеждат или отговарят на въпроси. Те решават сложни задачи, пишат код, откриват уязвимости, използват външни инструменти, планират поредица от действия.

Машини, които вземат решения вместо нас

Следващата граница са автономните агенти – системи, на които човек задава цел, а те сами решават как да я постигнат.

И тук се появява парадоксът на тази технологична революция - възможностите на машините растат по-бързо от способността ни да изграждаме правилата, защитите и институциите, които трябва да ги държат под контрол.

Една технологична дилема постепенно се превръща в икономическа и геополитическа. Затова разговорът вече не е дали изкуственият интелект е добър или лош.

Нито дали машините утре ще заменят човека. Въпросът е много по-конкретен: Кой определя границата между технологичния пробив и неприемливия риск.

След като AI агенти излязоха извън средата си – дойдоха и първите призиви за забавяне на развитието на технологията.

Какви са най-големите предизвикателства, които интегрирането на изкуствения интелект поставя, какво ще се случи с работните места? Дебат по темата в студиото на "Директно" с експерта по киберсигурност Любомир Тулев и члена на УС на БАСКОМ Мони Дочев.