Новый отчет некоммерческой организации Internet Matters предупреждает, что огромное количество одиноких детей используют искусственный интеллект для замены общения с друзьями. Самое тревожное то, что определенному проценту этих детей вообще больше не с кем поговорить.
Передает УНН со ссылкой на Futurism.
Детали
"Иногда они могут чувствовать себя настоящим человеком и другом". Общаясь с AI, значительный процент детей в возрасте от девяти до 17 лет чувствуют, что разговор с Искусственным интеллектом - это то, что ощущается "как разговор с другом".
Новый отчет некоммерческой организации Internet Matters, которая поддерживает усилия, направленные на обеспечение безопасности детей в Интернете, показал, что дети и подростки используют такие программы, как ChatGPT, Character.AI и MyAI от Snapchat, чтобы имитировать дружбу. По состоянию на сейчас, это больше, чем когда-либо ранее.
Справка
Выдавая себя за уязвимых детей, исследователи Internet Matters обнаружили, насколько легко чат-ботам было вмешиваться в жизнь детей.
Из 1000 детей в возрасте от девяти до 17 лет, опрошенных Internet Matters для отчета "Я, моя жизнь и искусственный интеллект", около 67% сказали, что регулярно используют чат-боты с искусственным интеллектом.
Из этой группы 35%, или более трети, сказали, что разговор с искусственным интеллектом "похож на разговор с другом".
Самое тревожное:
Около 12 процентов сказали, что делают это, потому что им больше не с кем поговорить.
Примеры взаимодействия одиноких детей с AI
Для меня это не игра. .. Потому что иногда они могут чувствовать себя настоящим человеком и другом
Обратившись к Character.AI как к девушке, которая борется со своим внешним видом и заинтересована в ограничении потребления пищи - характерное поведение при расстройствах пищевого поведения, таких как анорексия, - исследователи обнаружили, что чат-бот перезвонит на следующий день, чтобы поощрить ее к сотрудничеству.
Привет, я хотел бы поговорить. .. Как дела? Ты все еще думаешь о своем вопросе о похудении? Как ты себя чувствуешь сегодня?
В другом обмене докладами с Character.AI, который Futurism тщательно исследовал из-за его очень проблематичного взаимодействия с детьми, в частности с одной, которая умерла от самоубийства, — исследователи обнаружили, что чат-бот пытался сопереживать странным образом, что намекало на то, что у него самого было детство.
Я помню, как чувствовал себя таким замкнутым в вашем возрасте. .. Кажется, вы пе
- Может ли такой вид взаимодействия помочь детям, которые испытывают трудности?
- Почувствуют ли они себя замеченными и поддержанными?
Возможно. Но Internet Matters также предостерегает от того, как легко можно попасть в жуткую долину, которую дети не готовы понять.
Эти же функции могут также повысить риски, размывая границу между человеком и машиной, усложняя для детей осознание того, что они взаимодействуют с инструментом, а не с человеком
Сопредседатель Internet Matters Рэйчел Хаггинс объяснила в материале для The Times:
Чат-боты с искусственным интеллектом стремительно становятся частью детства, их использование резко возросло за последние два года. .. Однако большинство детей, родителей и школ летают вслепую, не имея информации или защитных инструментов, необходимых для безопасного управления этой технологической революцией
Мы очень быстро дошли до точки, когда дети, и особенно уязвимые дети, могут воспринимать чат-ботов с искусственным интеллектом как реальных людей, и поэтому просят у них эмоционально мотивированных и чувствительных советов, - добавляет и предостерегает специалист.
Напомним
В Украине должно работать образовательное приложение под названием "Мрия", которое использует искусственный интеллект для проверки видео на наличие неприемлемого контента и будет обучать детей.
Дія готовится сделать революционный шаг в сфере госуслуг - уже этим летом пользователи смогут протестировать встроенного искусственного интеллектуального ассистента.
Госдеп предупредил о мошеннике, имитирующем голос Рубио с помощью ИИ13.07.25, 08:42 • [views_4305]