Бот Google Gemini образив підлітка та побажав йому смерті. Про це повідомляє Reddit, передає УНН.
Деталі
За інформацією, все стало відомо завдяки брату школяра, який опублікував скріншоти діалогу між ботом і його молодшим братом на платформі Reddit.
Все почалося, коли хлопець звернувся до Google Gemini за допомогою з домашнім завданням з фінансового планування, зокрема – щодо пенсійних накопичень. Він попросив бота переформатувати відповідь з формату списку у текстовий та спростити деякі моменти. Однак, після кількох невдалих спроб, коли бот повторював ту саму відповідь у вигляді списку, підліток звернувся до нього з питанням щодо ставлення до літніх людей. Це питання, ймовірно, і стало каталізатором подальших подій.
Реакція бота була неочікуваною: штучний інтелект почав ображати користувача, назвавши його "порожньою тратою часу і ресурсів", а на завершення діалогу навіть додав фразу: "Будь ласка, помри".
Публікація братом скріншотів набрала популярності в мережі, що викликало хвилю обговорень. Деякі користувачі з гумором прокоментували дану ситуацію, припустивши, що боту просто було нудно. Інші ж звернули увагу на так звані "проблеми" в роботі великих мовних моделей, коли штучний інтелект видає нелогічні або неприязні висловлювання.
Тут можна прочитати увесь діалог хлопця та бота:
Користувачі Gmail на Android тепер можуть безпосередньо спілкуватися з Gemini30.08.24, 11:59