Компания OpenAI намерена сделать ChatGPT менее склонным к автоматическому согласию с пользователями. Чат-бот должен не только поддерживать собеседников, но и указывать на ошибки, оспаривать сомнительные утверждения и предлагать альтернативные точки зрения. Об этом сообщает PCWPlus.hu, информирует УНН.
Детали
Отмечается, что речь идет о проблеме, известной как "sycophancy", или чрезмерная угодливость искусственного интеллекта. В таких случаях ИИ подстраивает ответы под ожидания человека вместо того, чтобы объективно оценивать ситуацию. В результате чат-бот может подтверждать ошибочные выводы пользователя или без достаточных оснований поддерживать его мнение.
Собственные измерения OpenAI показывают, что GPT-5 достиг значительного прогресса в этом направлении. В целевых тестах уровень одобрительных ответов снизился с 14,5 процента в GPT-4o до менее чем 6 процентов. ... Количество случаев чрезмерного согласия (с пользователями — ред.) снизилось на 69 процентов для бесплатных пользователей и на 75 процентов для платных подписчиков по сравнению с предыдущей моделью
Указывается, что особое значение эти изменения имеют для людей, которые обращаются к искусственному интеллекту за советами по личным вопросам, для разрешения конфликтов или эмоциональной поддержки.
Напомним
Совместный центр НАТО — Украина по анализу, подготовке и образованию презентовал две разработки на основе искусственного интеллекта. Первая прогнозирует атаки вражеских беспилотников, вторая — помогает планировать собственные артиллерийские операции.