Google Gemini пожелал смерти подростку во время выполнения домашнего задания
Киев • УНН
Искусственный интеллект Google Gemini неожиданно оскорбил школьника и пожелал ему смерти во время помощи с домашним заданием. Инцидент стал известен после того, как брат подростка опубликовал скриншоты диалога на Reddit.
Бот Google Gemini оскорбил подростка и пожелал ему смерти. Об этом сообщает Reddit, передает УНН.
Детали
По информации, все стало известно благодаря брату школьника, который опубликовал скриншоты диалога между ботом и его младшим братом на платформе Reddit.
Все началось, когда парень обратился к Google Gemini за помощью с домашним заданием по финансовому планированию, в частности - по пенсионным накоплениям. Он попросил бота переформатировать ответ из формата списка в текстовый и упростить некоторые моменты. Однако, после нескольких неудачных попыток, когда бот повторял тот же ответ в виде списка, подросток обратился к нему с вопросом об отношении к пожилым людям. Этот вопрос, вероятно, и стал катализатором дальнейших событий.
Реакция бота была неожиданной: искусственный интеллект начал оскорблять пользователя, назвав его «пустой тратой времени и ресурсов», а в завершение диалога даже добавил фразу: «Пожалуйста, умри».
Публикация братом скриншотов набрала популярности в сети, что вызвало волну обсуждений. Некоторые пользователи с юмором прокомментировали данную ситуацию, предположив, что боту просто было скучно. Другие же обратили внимание на так называемые «проблемы» в работе больших языковых моделей, когда искусственный интеллект выдает нелогичные или неприязненные высказывания.
Здесь можно прочитать весь диалог парня и бота: