Компания OpenAI намерена сделать ChatGPT менее склонным к автоматическому согласию с пользователями. Чат-бот должен не только поддерживать собеседников, но и указывать на ошибки, оспаривать сомнительные утверждения и предлагать альтернативные точки зрения. Про це повідомляє PCWPlus.hu, інформує УНН.
Деталі
Зазначається, що йдеться про проблему, відому як "sycophancy", чи надмірна догідливість штучного інтелекту. У таких випадках ШІ підлаштовує відповіді на очікування людини замість того, щоб об'єктивно оцінювати ситуацію. В результаті чат-бот може підтверджувати помилкові висновки користувача або без достатніх підстав підтримувати його думку.
Власні вимірювання OpenAI показують, що GPT-5 досяг значного прогресу в цьому напрямі. У цільових тестах рівень схвальних відповідей знизився з 14,5 відсотка в GPT-4o до менш ніж 6 відсотків. ... Кількість випадків надмірної згоди (з користувачами - ред.) знизилася на 69 відсотків для безкоштовних користувачів і на 75 відсотків для платних передплатників порівняно з попередньою моделлю
Вказується, що особливе значення ці зміни мають для людей, які звертаються до штучного інтелекту за порадами з особистих питань, у вирішенні конфліктів або емоційною підтримкою.
Нагадаємо
Спільний центр НАТО-Україна з аналізу, підготовки та освіти презентував дві розробки на основі штучного інтелекту. Перша прогнозує атаки ворожих безпілотників, друга - допомагає планувати власні артилерійські операції.