Смонтированное видео, имитирующее голос вице-президента США Камалы Харрис, которая говорит то, чего она не говорила, вызывает опасения относительно способности искусственного интеллекта вводить в заблуждение в день выборов, который состоится в Соединенных Штатах примерно через три месяца, пишет УНН со ссылкой на AP.
Детали
Видео привлекло внимание после того, как технологический миллиардер Илон Маск поделился им на своей платформе социальных сетей X в пятницу вечером, не указав явно, что изначально оно было выпущено как пародия.
В видео используется много из тех же визуальных эффектов, что и в настоящей рекламе, которую Харрис, вероятный кандидат в президенты от Демократической партии, выпустила на прошлой неделе, запуская свою кампанию. Но в видео закадровый звук заменен другим голосом, который убедительно выдает себя за Харрис, пишет издание.
На видео, как сообщается, сохранен брендинг "Харрис в президенты". Также к нему добавлены некоторые настоящие кадры из прошлого с Харрис.
Миа Эренберг, представитель кампании Харрис, заявила в электронном письме Associated Press: "Мы считаем, что американский народ хочет настоящей свободы, возможностей и безопасности, которые предлагает вице-президент Харрис, а не фальшивой сфальсифицированной лжи Илона Маска и Дональда Трампа".
Первоначальный пользователь, разместивший видео, ютубер, известный как Mr Reagan, раскрыл и YouTube, и X, что сфальсифицированное видео является пародией. Но пост Маска, который, по данным платформы, был просмотрен более 123 миллионов раз, включает только подпись "Это потрясающе" со смеющимся эмодзи.
Хотя некоторые пользователи функции "заметки сообщества" X, чтобы добавлять контекст к сообщениям, предложили пометить сообщение Маска, по состоянию на воскресенье днем такая метка к ней не была добавлена. Некоторые пользователи в сети задавались вопросом, может ли его сообщение нарушать политику X, которая гласит, что пользователи "не могут делиться синтетическими, сфальсифицированными или вырванными из контекста медиа, которые могут обмануть или запутать людей и привести к вреду".
В политике есть исключение для мемов и сатиры, если они не вызывают "значительной путаницы относительно подлинности медиа".
Ранее в этом месяце Маск поддержал бывшего президента США Дональда Трампа, кандидата от республиканцев.
Два эксперта, специализирующиеся на медиа, созданных с помощью ИИ, изучили аудиозапись фейковой рекламы и подтвердили, что большая ее часть была создана с использованием технологии ИИ.
"Широко распространенное видео является примером того, как реалистичные изображения, видео или аудиоклипы, созданные ИИ, использовались как для насмешек, так и для обмана в отношении политики, на фоне приближающихся президентских выборов в Соединенных Штатах. Оно показывает, как, хотя высококачественные инструменты ИИ стали намного доступнее, до сих пор не предпринимается значительных действий на федеральном уровне по регулированию их использования, в результате чего правила, регулирующие использование ИИ в политике, в основном остаются на усмотрение штатов и платформ социальных сетей", - говорится в публикации.
Видео, как отмечает издание, также поднимает вопрос о том, как лучше всего обращаться с контентом, который размывает границы того, что считается надлежащим использованием ИИ, особенно если он попадает в категорию сатиры.
Google, OpenAI и другие создают коалицию за безопасный ИИ19.07.2024, 08:24