Модель искусственного интеллекта Илона Маска Grok больше не сможет редактировать фотографии реальных людей, чтобы показывать их в откровенной одежде в юрисдикциях, где это незаконно, после распространенной обеспокоенности по поводу сексуализированных дипфейков, созданных искусственным интеллектом, пишет УНН со ссылкой на BBC.
Детали
"Мы внедрили технологические меры, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде, такой как бикини, в учетной записи Grok. Это ограничение распространяется на всех пользователей, включая платных подписчиков", – говорится в объявлении в X, который управляет инструментом Grok AI.
Об изменении было объявлено через несколько часов после того, как главный прокурор Калифорнии заявил, что штат расследует распространение сексуализированных дипфейков ИИ, в частности детей, сгенерированных моделью ИИ.
"Теперь мы геоблокируем возможность всех пользователей создавать изображения реальных людей в бикини, нижнем белье и подобной одежде через учетную запись Grok и в Grok в X в тех юрисдикциях, где это незаконно", - говорится в заявлении X в среду.
Там также повторили, что только платные пользователи смогут редактировать изображения с помощью Grok на платформе.
Это добавит дополнительный уровень защиты, помогая гарантировать, что те, кто пытается злоупотреблять Grok для нарушения закона или политики X, будут привлечены к ответственности, согласно заявлению.
С включенными настройками NSFW (не безопасно для работы) Grok должен разрешать "обнажение верхней части тела воображаемых взрослых людей (не реальных)", что соответствует тому, что можно увидеть в фильмах с рейтингом R, написал Маск в сети в среду.
"Это фактический стандарт в Америке. Это будет различаться в других регионах, в зависимости от законов каждой страны", - сказал мультимиллиардер в сфере технологий.
Ранее Маск защищал X, опубликовав сообщение, что критики "просто хотят подавить свободу слова", а также два изображения премьер-министра Великобритании Кира Стармера в бикини, созданные искусственным интеллектом.
Остаются вопросы относительно того, как X будет применять свои новые правила, например, как модель искусственного интеллекта будет знать, является ли изображение настоящим человеком, и какие действия она будет предпринимать, когда пользователи будут нарушать правила, говорят в экспертных кругах.
Дополнение
В последние дни лидеры всего мира раскритиковали функцию редактирования изображений Grok.
На прошлой неделе Малайзия и Индонезия стали первыми странами, которые запретили ИИ-инструмент Grok после того, как пользователи заявили, что фотографии были изменены для создания откровенных изображений без их согласия.
Британский медиарегулятор Ofcom заявил в понедельник, что будет расследовать, не нарушил ли X законодательство Великобритании относительно изображений сексуального характера. Стармер предупредил, что X может потерять "право на саморегулирование" из-за негативной реакции на изображения, созданные искусственным интеллектом, но позже на той же неделе заявил, что приветствует сообщения о том, что X принимает меры для решения этой проблемы.