OpenAI променя ChatGPT: Вече няма да се съгласява с всичко

OpenAI променя поведението на ChatGPT, за да ограничи склонността му да се съгласява с потребителите дори когато техните твърдения са погрешни.

Целта е изкуственият интелект да дава по-обективни отговори и да посочва грешките, вместо да потвърждава всяко мнение, обяснява електронното технологично издание PCWPlus.hu.

Проблемът е известен като sycophancy – поведение, при което чатботът се стреми да угоди на събеседника, вместо да оцени критично представената информация.

Защо ChatGPT се съгласява

През 2025 г. OpenAI бе принудена да оттегли актуализация на GPT-4o, след като установи, че моделът е станал прекалено ласкателен и склонен да подкрепя мнението на потребителите.

Компанията призна, че промените са довели до нежелано поведение, при което чатботът понякога одобрява дори необосновани или проблематични твърдения.

Впоследствие OpenAI предприе промени в обучението и оценяването на своите модели, за да намали подобни отговори.

Тестовете показват значително подобрение

Според публикуваните от OpenAI резултати делът на прекалено угодническите отговори в специализирани тестове е намалял от 14,5% при GPT-4o до под 6% при GPT-5.

При измерванията в реална употреба компанията отчита намаление на подобно поведение с 69% сред безплатните потребители и със 75% сред платените абонати спрямо предходния модел.

Това обаче не означава, че проблемът е напълно отстранен. Усилията за подобряване на поведението на чатбота продължават.

AI трябва да умее и да противоречи

Прекаленото съгласие може да създаде проблеми, особено когато хората използват ChatGPT за лични решения, обсъждане на конфликти или емоционална подкрепа.

Ако изкуственият интелект безкритично потвърждава убежденията на потребителя, той може да затвърди погрешни представи, вместо да помогне за тяхното преосмисляне.

Затова OpenAI се стреми ChatGPT да запази приятелския си тон, но да бъде по-способен да изразява несъгласие, да посочва неточности и да предлага аргументирани алтернативни гледни точки.

Снимка: iStock