Искусственный интеллект Grok, без одобрения руководства, заблокировал обнаружение дезинформации в высказываниях Маска и Трампа

Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, временно получил ограничения на использование источников, упоминающих о распространении дезинформации миллиардером Илоном Маском или президентом США Дональдом Трампом.

Это подтвердил руководитель инженерного отдела xAI Игорь Бабушкин, сообщает The Verge, пишет УНН.

Детали 

Пользователи заметили, что чат-бот Grok не предоставляет ответы, когда запросы касаются упоминаний о Маске или Трампе в контексте дезинформации. Впоследствии Бабушкин заявил, что эти изменения были внесены без одобрения руководства, и обвинил в этом неназванного бывшего сотрудника xAI, который ранее работал в OpenAI.

В ответ на вопрос по X Бабушкин сказал, что системные подсказки Grok (внутренние правила, регулирующие то, как ИИ отвечает на запросы) видны всем, «потому что мы считаем, что пользователи должны видеть, о чем мы просим Grok». Он сказал, что «сотрудник внес изменения» в системные подсказки, «потому что они думали, что это поможет, но это, очевидно, не соответствует нашим ценностям».

Илон Маск называет Grok «ИИ, максимально ищущим истину», а его миссией - «понять вселенную». Однако после выпуска последней модели Grok-3 чат-бот оказался в центре споров. Он заявил, что Трамп, Маск и вице-президент США Джей Ди Вэнс «наносят наибольший вред Америке».

 Напомним

  Недавно чат-бот Grok AI компании xAI миллиардера Илона Маска попал в скандал, когда пользователи попросили его называть лиц, которые, по его мнению, заслуживают смертной казни. Среди упомянутых имен оказались президент США Дональд Трамп и сам Илон Маск.