Европейский орган по защите персональных данных начал "масштабное" расследование в отношении чат-бота X Илона Маска из-за созданных с помощью ИИ изображений сексуального характера без согласия, что является очередным свидетельством того, как регулирующие органы проверяют чат-бот Grok, используемый в социальной сети, пишет УНН со ссылкой на Financial Times.
Детали
Ирландская комиссия по защите данных (Data Protection Commission), отвечающая за соблюдение Общего регламента ЕС по защите данных, заявила в понедельник вечером, что начала расследование создания и публикации Grok "потенциально вредоносных" изображений сексуального характера, содержащих или связанных с обработкой данных пользователей из ЕС.
Чат-бот Grok интегрирован в ленты социальных сетей X и разработан стартапом Маска xAI, который в прошлом году приобрел X. Ранее в этом месяце xAI объединился с компанией Маска SpaceX, создавшей ракетную компанию, в результате чего образовался гигант стоимостью 1,5 триллиона долларов.
Расследование стало последним в серии проверок, проводимых международными органами в отношении X после того, как в начале января с помощью Grok были созданы тысячи сексуализированных дипфейков с изображением женщин, что вызвало широкую волну возмущения со стороны пользователей, экспертов по безопасности и политиков.
"Комиссия по защите данных взаимодействует с [X] с тех пор, как несколько недель назад в СМИ появились сообщения о вероятной возможности пользователей X запускать учетную запись @Grok в X для создания сексуализированных изображений реальных людей, включая детей", - заявил в понедельник заместитель комиссара Комиссии по защите данных Грэм Дойл.
Он добавил, что комиссия "начала масштабное расследование, которое изучит соблюдение [X] некоторых из своих основных обязательств в соответствии с GDPR по рассматриваемым вопросам".
Маск, пишет издание, занял пассивную позицию в отношении модерации чат-бота Grok, ссылаясь на свободу слова. Прошлым летом компания xAI внесла изменения в чат-бота после того, как он восхвалял Гитлера и публиковал антисемитские сообщения на платформе X.
В начале февраля французские и европейские следователи провели обыск в офисах X в Париже в рамках масштабного расследования алгоритмов X, а также распространения материалов сексуального характера, созданных с помощью ИИ. Французская прокуратура вызвала Маска и Линду Яккарино, бывшего генерального директора X, на "добровольные допросы" в Париже в апреле.
На прошлой неделе Управление комиссара по информации Великобритании (Information Commissioner’s Office) также объявило о начале нового расследования в отношении X и xAI, заявив о "серьезных опасениях" относительно использования Grok персональных данных и "его потенциальной способности создавать вредоносный контент сексуального характера в виде изображений и видео".
ЕС уже начал официальное расследование в отношении xAI по факту распространения Grok изображений сексуального характера женщин и детей в соответствии с Законом о цифровых услугах ЕС (Digital Services Act), который обязывает крупные технологические платформы принимать меры по предотвращению распространения незаконного и вредоносного контента.
Однако европейское расследование, объявленное в понедельник, оценит, нарушила ли компания X основные правила ЕС GDPR, которые обязывают компании обеспечивать обработку персональных данных пользователей только для конкретных законных целей, учитывать конфиденциальность при разработке продуктов и проводить анализ рисков до запуска, например, функций, представляющих высокий риск.
После давления со стороны правительств разных стран, включая угрозы штрафов и запретов в ЕС, Великобритании и Франции, в прошлом месяце компания X ввела "технологические меры", чтобы ограничить возможность Grok создавать определенные изображения откровенного характера. Однако компания настаивает на удалении материалов, содержащих детскую сексуальную эксплуатацию, и материалов с изображением обнаженного тела без согласия.
В ответ на французские рейды компания X заявила в своем сообщении, что обвинения "безосновательны" и она "категорически отрицает любые правонарушения". Она назвала рейд "злоупотреблением, актом правоохранительной деятельности, направленным на достижение незаконных политических целей", добавив, что расследование "искажает французское законодательство, обходит надлежащую правовую процедуру и ставит под угрозу свободу слова".
Последнее расследование проводится в неспокойный период для компании X, когда на прошлой неделе компанию покинули десятки сотрудников, в том числе два соучредителя. На общем собрании в среду Маск заявил, что проводит реструктуризацию группы после слияния со SpaceX.