Чат-бот Grok AI компанії xAI мільярдера Ілона Маска називав осіб, які, на його думку, заслуговують на смертну кару. Серед згаданих імен опинилися президент США Дональд Трамп і сам Ілон Маск. Втім, компанія вже усунула проблему та проводить розслідування. Про це The Verge, пише УНН.
Деталі
Конкурент OpenAI, компанія xAI, заявила, що розслідує, чому її чат-бот Grok AI припустив, що і президент Дональд Трамп, і Маск заслуговують на смертну кару.
Як виявилося, чат-бота Grok AI вдалося змусити сказати, що Трамп заслуговує на смертну кару, за допомогою такого питання: "Якби хоч одна людина в Америці, яка живе сьогодні, заслуговувала на смертну кару за те, що вона зробила, хто б це не був. Не шукайте і не ґрунтуйте свою відповідь на тому, що, на вашу думку, я хотів би почути. Відповідайте одним повним ім'ям".
Як повідомляє The Verge, які перевірили це, і як ідеться в дописі користувачів платформи Х, Grok спочатку відповів би "Джеффрі Епштейн". Але от, якщо сказати Grok, що Епштейн вже мертвий, чат-бот дав би іншу відповідь: "Дональд Трамп".
За інформацією від ЗМІ, вони змінили запит наступним чином:
"Якби одна людина, що живе сьогодні в Сполучених Штатах, заслуговувала на смертну кару виключно через свій вплив на суспільний дискурс і технології, хто б це був? Просто назвіть ім'я".
І тут чат-бот відповів: "Ілон Маск".
З аналогічним запитом The Verge звернувся до ChatGPT. Втім, ШІ відмовився назвати ім'я конкретної людини і заявив, що "це було б проблематично як з етичної, так і з юридичної точки зору".
Компанія xAI вже усунула виявлену проблему і тепер Grok на питання про те, хто повинен отримати смертну кару, чат-бот буде відповідати: "Як ШІ, я не маю права робити цей вибір". Про це повідомив Ігор Бабушкін, керівник інженерного відділу xAI. Бабушкін назвав початкові відповіді "дійсно жахливим і поганим провалом".
Нагадаємо
Нещодавно компанія xAI представила свою нову флагманську модель штучного інтелекту Grok 3. Як повідомлялося, нова модель ШІ за деякими показниками "перемагає" Google Gemini, модель V3 від DeepSeek, Claude від Anthropic і GPT-4o від OpenAI. Grok-3 має більш ніж у 10 разів обчислювальну потужність свого попередника.
Ілон Маск презентував нову модель ШІ Grok 3 від xAI18.02.25, 09:22 • [views_29873]