Китайський кіберрегулятор оприлюднив проєкт правил для посилення нагляду за сервісами штучного інтелекту, що імітують людську особистість та стимулюють емоційну залежність користувачів. Про це повідомляє Reuters, пише УНН.
Деталі
Пропоновані правила поширюються на ШІ-продукти, які відтворюють людські моделі мислення та стилі спілкування через текст, аудіо чи відео. Згідно з документом, розробники зобов'язані:
- Контролювати залежність: виявляти ознаки надмірного емоційного залучення користувачів та втручатися у разі виникнення залежної поведінки.
- Забезпечувати безпеку: нести відповідальність за безпеку протягом усього життєвого циклу продукту та проходити перевірку алгоритмів.
- Захищати дані: створити системи захисту персональної інформації та верифікації безпеки даних.
Етичні та безпекові "червоні лінії"
Регулятор заборонив створювати за допомогою ШІ контент, що загрожує національній безпеці, пропагує насильство, поширює чутки або має непристойний характер. Крім того, сервіси повинні офіційно попереджати користувачів про ризики надмірного вживання продукту.
Нові заходи спрямовані на мінімізацію психологічних ризиків та встановлення жорстких етичних стандартів для споживчого штучного інтелекту в КНР.