Каждый 15-й взрослый столкнулся с абьюзом на основе ИИ-изображений - исследование
Киев • УНН
Опрос более 7200 взрослых показал: 7% подверглись абьюзу из-за интимных изображений, созданных ИИ, без согласия. 87% пострадавших столкнулись с последствиями.
Около одного из пятнадцати взрослых сталкивался с абьюзом, совершённым с помощью изображений, созданных искусственным интеллектом, согласно новому исследованию. Об этом УНН пишет со ссылкой на Phys.org.
Детали
Опрос более 7200 взрослых в США, Великобритании и Австралии показал, что 7% из них сталкивались как минимум с одной формой абьюза, осуществляемого с помощью изображений, созданных искусственным интеллектом, после достижения 18 лет.
Это включало создание или изменение интимного изображения с их участием с помощью ИИ без их согласия, распространение интимного изображения, созданного ИИ, без их согласия или угрозу распространения такого изображения.
Почти 87% пострадавших сообщили как минимум об одном последствии этого явления в своей жизни, включая влияние на здоровье и благополучие, отношения, работу или финансы.
Ведущий автор исследования Никола Генри, профессор Университета RMIT в Австралии, провела исследование при поддержке Google и заявила, что результаты показывают масштабы абьюза в обществе в целом.
"Теперь у нас есть доказательства того, насколько широко абьюз, основанный на изображениях, созданных с помощью ИИ, влияет на людей в обществе в целом, а не только на знаменитостей и общественных деятелей", — сказала она.
"Реальный масштаб может быть ещё больше, потому что некоторые люди могут никогда не узнать, что изображения, созданные с помощью ИИ, были созданы или распространены", — добавила она.
Более высокие показатели абьюза, созданного с помощью ИИ, были отмечены среди людей младше 35 лет, представителей расовых и этнических меньшинств, мужчин и людей с инвалидностью.
Мужчины сообщали о случаях абьюза более чем вдвое чаще, чем женщины: 10,2% против 3,8%.
Однако женщины сообщали о более негативных реакциях и последствиях, включая страх за свою безопасность и влияние на их психическое и физическое здоровье. Это может отражать более широкое гендерное неравенство, стигму и риски для безопасности, с которыми женщины сталкиваются непропорционально чаще.
Генри сказала, что результаты показывают: любой человек может пострадать от этого абьюза, но и риск столкнуться с ним, и его последствия распределены неравномерно.
"По мере того как генеративный ИИ становится всё более доступным, возрастает потенциал злоупотребления этими инструментами для создания, распространения или угрозы распространения интимных изображений без согласия", — сказала она.
"Мы пока не знаем, насколько быстро это приводит к увеличению числа жертв", — отметила она.
Последние результаты, опубликованные в International Journal of Human-Computer Interaction, основываются на двух предыдущих исследованиях, использующих тот же международный набор данных.
Одно из предыдущих исследований показало, что 3,2% респондентов сообщили о создании, распространении или угрозе распространения изображений сексуального характера, созданных с помощью ИИ, без согласия.
Среди тех, кто распространял материалы, наиболее часто указываемой мотивацией было "ради развлечения или в шутку".
Другое исследование показало, что почти каждый пятый взрослый намеренно просматривал сгенерированные ИИ изображения сексуального характера с участием реальных людей, за исключением тех, кто делал это исключительно для того, чтобы сообщить о материале или удалить его.
Генри заявила, что результаты исследования укрепили аргументы в пользу большей ответственности технологических компаний за предотвращение злоупотреблений, связанных с изображениями, созданными с помощью ИИ, до того, как они произойдут.
Соавтор исследования, доктор Ребекка Умбах, штатный исследователь пользовательского опыта Google, заявила, что результаты исследования предоставили важные новые доказательства этой формы злоупотреблений.
Для справки
Абьюз, согласно определению представителей социальных служб, — это любая форма насилия или жестокого обращения, причиняющая вред физическому, психологическому, эмоциональному или финансовому благополучию человека. Это не всегда физические повреждения: абьюз может быть скрытым.