Instagram благодаря ИИ будет распознавать фото с оскорблениями еще до публикации

“Мы внедряем новую функцию, которая будет сообщать людям о том, когда их подписи к фото или видео могут считаться оскорбительными, и давать им возможность задуматься над своими словами перед публикацией”, — говорится в сообщении.

“В рамках нашего долгосрочного обязательства возглавить борьбу с онлайн-буллингом, мы разработали и протестировали искусственный интеллект, который может распознавать различные формы буллинга в сети Instagram. Ранее в этом году мы запустили функцию, которая сообщает людей о том, когда их комментарии могут считаться оскорбительными, прежде чем они будут опубликованы. Результаты оказались многообещающими, и мы обнаружили, что такие толчки могут побудить людей пересмотреть свои слова, когда у них появится возможность”, — добавили в пресс-релизе.

ЧИТАЙТЕ ТАКЖЕ: В Instagram начали скрывать лайки под постами пользователей

“Сегодня, когда кто-то пишет подпись к публикации и наш ИИ определяет эту подпись как потенциально оскорбительную, он получит сообщение о том, что эта подпись похожа на те, по которым ранее поступали жалобы о буллинге. У них (пользователей) будет возможность отредактировать свои подписи до того, как они будут опубликованы”, — добавляется в сообщении.

По мнению разработчиков Instagram, это должно приучить пользователей тому, что в этой социальной сети “мы не позволяем” и когда действия пользователей и их учетные записи “могут быть опасными для нарушения правил (соцсети)”.

ЧИТАЙТЕ ТАКЖЕ: Наибольший прорыв за 5 лет: Google внедряет новый алгоритм для своей поисковой системы

В пресс-релизе отметили, что в начале функция будет развернута только в некоторых странах, а в ближайшие месяцы ее распространят по всему миру. Однако, разработчики не указали, о каких именно стартовые страны идет речь.

Напомним, Instagram начал спрашивать возраст при создании аккаунта.