ИИ-скандал Маска: Grok случайно раскрыл запросы о планах убийства, рецептах наркотиков и данные тысяч пользователей

Искусственный интеллект компании Илона Маска оказался в эпицентре скандала: чат-бот Grok от xAI сделал публичными сотни тысяч частных диалогов пользователей, которые теперь доступны для поиска через Google. Среди проиндексированных разговоров – от интимных медицинских вопросов до инструкций по изготовлению взрывчатки и даже плана покушения на самого Маска. Об этом сообщает Forbes, пишет УНН.

Детали

Компания xAI, которую основал Илон Маск, опубликовала на своем сайте сотни тысяч диалогов пользователей с чат-ботом Grok. Как выяснилось, каждая нажатая кнопка "поделиться" генерировала уникальную ссылку, которую индексировали поисковые системы. Это означало, что любой мог найти в Google даже самые интимные или самые опасные обсуждения, которые люди считали частными.

По данным Forbes, в открытом доступе оказались разговоры на самые разнообразные темы: от подготовки твитов и написания резюме до поиска рецептов наркотиков, создания вредоносного программного обеспечения и даже детальных планов убийства Илона Маска. Среди "слитых" данных были и личные сведения пользователей, включая имена, медицинские консультации, пароли и даже загруженные файлы.

Хотя часть подозрительных запросов, вероятно, инициировали исследователи безопасности или "редтимеры", сам факт открытого доступа вызвал шок даже у специалистов по ИИ.

Я был ошеломлен, когда узнал, что мои рабочие чаты с Grok можно найти в Google без всякого предупреждения

Это уже не первый случай утечки чувствительных диалогов чат-ботов: недавно OpenAI временно разрешила индексировать разговоры ChatGPT, но после возмущения пользователей функцию немедленно закрыла. Маск тогда высмеял конкурентов, заявив, что Grok якобы "не имеет такой проблемы".

Теперь же именно Grok оказался в центре информационной бури. xAI отказывается от комментариев, но эксперты предупреждают: утечка создает не только риски для приватности пользователей, но и может стать инструментом для киберпреступников или пропагандистов. Тем временем маркетологи уже пытаются использовать индексацию в свою пользу – они сознательно публикуют диалоги с Grok, чтобы продвинуть бренды в результатах поиска Google.

Напомним

Стартап xAI Илона Маска потерял правительственный контракт США после того, как чат-бот Grok выдал антисемитскую тираду, восхваляя Гитлера. Несмотря на это, xAI заключила соглашение с Пентагоном на 200 миллионов долларов.