Штучний інтелект Grok, без схвалення керівництва, заблокував виявлення дезінформації у висловах Маска і Трампа

Штучний інтелект Grok, розроблений компанією xAI Ілона Маска, тимчасово отримав обмеження на використання джерел, що згадують про поширення дезінформації мільярдером Ілоном Маском або президентом США Дональдом Трампом.

Це підтвердив керівник інженерного відділу xAI Ігор Бабушкін, повідомляє The Verge, пише УНН.

Деталі 

Користувачі помітили, що чат-бот Grok не надає відповіді, коли запити стосуються згадок про Маска або Трампа у контексті дезінформації. Згодом Бабушкін заявив, що ці зміни були внесені без схвалення керівництва, й звинуватив у цьому неназваного колишнього співробітника xAI, який раніше працював в OpenAI.

У відповідь на питання по X Бабушкін сказав, що системні підказки Grok (внутрішні правила, що регулюють те, як ШІ відповідає на запити) видно всім, "тому що ми вважаємо, що користувачі повинні бачити, про що ми просимо Grok". Він сказав, що "співробітник вніс зміни" в системні підказки, "тому що вони думали, що це допоможе, але це, очевидно, не відповідає нашим цінностям".

Ілон Маск називає Grok "ШІ, що максимально шукає істину", а його місією — "зрозуміти всесвіт". Однак після випуску останньої моделі Grok-3 чат-бот опинився в центрі суперечок. Він заявив, що Трамп, Маск і віце-президент США Джей Ді Венс "завдають найбільшої шкоди Америці".

 Нагадаємо

  Нещодавно чат-бот Grok AI компанії xAI мільярдера Ілона Маска потрапив у скандал, коли користувачі попросили його називати осіб, які, на його думку, заслуговують на смертну кару. Серед згаданих імен опинилися президент США Дональд Трамп і сам Ілон Маск.