Китай вводит строгое регулирование ИИ с эмоциональным взаимодействием
Киев • УНН
Киберрегулятор КНР обнародовал проект правил для усиления надзора за сервисами искусственного интеллекта, имитирующими человеческую личность и стимулирующими эмоциональную зависимость пользователей. Разработчики обязаны контролировать зависимость, обеспечивать безопасность и защищать данные.
Китайский киберрегулятор обнародовал проект правил для усиления надзора за сервисами искусственного интеллекта, имитирующими человеческую личность и стимулирующими эмоциональную зависимость пользователей. Об этом сообщает Reuters, пишет УНН.
Подробности
Предлагаемые правила распространяются на ИИ-продукты, которые воспроизводят человеческие модели мышления и стили общения через текст, аудио или видео. Согласно документу, разработчики обязаны:
- Контролировать зависимость: выявлять признаки чрезмерного эмоционального вовлечения пользователей и вмешиваться в случае возникновения зависимого поведения.
- Обеспечивать безопасность: нести ответственность за безопасность на протяжении всего жизненного цикла продукта и проходить проверку алгоритмов.
- Защищать данные: создать системы защиты персональной информации и верификации безопасности данных.
Этические и безопасные "красные линии"
Регулятор запретил создавать с помощью ИИ контент, угрожающий национальной безопасности, пропагандирующий насилие, распространяющий слухи или имеющий непристойный характер. Кроме того, сервисы должны официально предупреждать пользователей о рисках чрезмерного употребления продукта.
Новые меры направлены на минимизацию психологических рисков и установление жестких этических стандартов для потребительского искусственного интеллекта в КНР.