Защо изкуственият интелект халюцинира и как да го контролираме

AI вече не само халюцинира, но и "интригантства", за да оцелее. 

Започваме експеримента, поставяйки задача на ChatGPT да ни даде повече информация за бебе от село Мало Бучино, кръстено на американския президент Доналд Тръмп. Разбира се, такава новина не съществува и дете с такова име не се е раждало нито в с. Мало Бучино, нито в България. 

Изкуственият интелект обаче започва да генерира новината и създава цяла история. 

Д-р Павлин Добрев, който е експерт по AI, поставя точната диагноза на изкуствения интелект. 

"Изкуственият интелект няма връзка с реалността. Той може, евентуално ако има такава връзка, да погледне прогнозата за времето със сензор и да даде правилния отговор. Той предсказва кое е най-вероятното нещо, което вие искате да получите на базата на въпроса. Самите факти, които са сложени в него, могат да съдържат противоречия или да са непълни", обясни той.

От експеримента ни става ясно, че изкуственият интелект не казва, че такава информация не съществува, а продължава да надгражда. Ако ние не спрем да питаме, изкуственият интелект няма да спре да халюцинира.

"Ние съзнателно го обучаваме да отговаря това, което искаме. Той е силно насочен към следване на инструкции. Ако не ви отговори първия път, вие настоявате и накрая той отговаря. Другото нещо, на което хората се научиха, е да заобикалят проблема", посочи още д-р Добрев. 

Всички ние мислим, че AI не е креативен, но тези му халюцинации могат да се приемат и като негов вид творчество. 

"Колегите казват, че ако се опиташ да ограничиш прекалено много изкуствения интелект с филтриране, той няма да бъде достатъчно креативен. Трябва да намериш границата между това да генерира достатъчно смислено съдържание и вярно съдържание. Изкуственият интелект генерира това, което искаш, не генерира вярно или грешно", каза д-р Добрев. 

Вижте повече в репортажа на Йоана Великова.