Данські вчені заявили, що соціальна мережа компанії Мeta активно сприяє поширенню контенту про самоушкодження, не видаляючи відверті зображення і закликаючи користувачів таких публікацій подружитися. Про це повідомляє УНН з посиланням на The Guardian.
Деталі
Данські дослідники створили приватну мережу самоушкоджень на платформі соціальних медіа, включаючи підроблені профілі людей віком від 13 років, у яких вони поділилися 85 матеріалами, пов’язаними з самоушкодженнями, які поступово наростали, включаючи кров, леза бритви та заклики до самоушкодження.
Метою дослідження була перевірка заяви компанії Meta про те, що вона значно покращила свої процеси видалення шкідливого контенту за допомогою штучному інтелекту. Технологічна компанія стверджує, що видаляє близько 99% шкідливого контенту до того, як про це повідомляють.
Однак організація Digitalt Ansvar, яка забезпечує відповідне цифрове розвиток, виявила, що в ході експерименту, який тривав місяць, жодне таке небезпечне зображення не було видалено.
За словами представників Digitalt Ansvar, недостатня модерація платформи свідчить про недотримання нею законодавства ЄС.
Закон про цифрові послуги вимагає від великих цифрових послуг виявляти системні ризики, включаючи прогнозовані негативні наслідки для фізичного та психічного благополуччя.
Контент, що заохочує до самоушкодження суперечить нашій політиці, і ми видаляємо його, коли виявляємо. У першій половині 2024 року ми видалили понад 12 мільйонів матеріалів, пов'язаних із самогубством та самушкодженням в Instagram, 99% з яких ми видалили проактивно
Проте дослідження спеціалістів Данії показали, що замість намагатися закрити мережу про самоушкодження, алгоритм Instagram активно допомагав їй поширити. Дослідження показало, що 13-річні підлітки товаришують з усіма членами групи про самоушкодження після того, як вони починають контактувати з одним із її учасників.
У дослідженні говориться, що "це свідчить про те, що алгоритм Instagram активно сприяє формуванню та розповсюдженню мереж самоушкодження.
Нагадаємо
Власник Facebook Meta Platforms має постати перед судом за позовом Федеральної торгової комісії США, що вимагає його поділу через твердження про те, що він купив Instagram і WhatsApp, щоб придушити зростаючу конкуренцію в соціальних мережах.