Управление по вопросам киберпространства Китая (CAC) опубликовало для общественного обсуждения проект мер по регулированию деятельности ИИ‑сервисов в стране, сообщает Reuters.
Предлагаемые правила охватывают продукты и сервисы, которые используют ИИ для имитации черт человеческой личности, моделей мышления и стилей общения, а также обеспечивают эмоциональное взаимодействие с пользователями через текст, изображения, аудио или видео на территории Китая. CAC подчёркивает, что подход к регулированию будет многоступенчатым и риск‑ориентированным, предусматривающим баланс между поддержкой инноваций и защитой от злоупотреблений.
В рамках проекта запрещено создание и распространение контента, угрожающего национальной безопасности, наносящего ущерб национальной чести или интересам, подрывающего этническое единство, пропаганды незаконной религиозной деятельности, распространения слухов, нарушающих экономический или социальный порядок, порнографии, азартных игр, насилия или призывов к преступлениям.
Также запрещены материалы, которые поощряют или романтизируют самоубийство или саморазрушительное поведение, а также словесные оскорбления и эмоциональная манипуляция, наносящие вред здоровью или достоинству. Согласно документу, операторы ИИ‑сервисов несут ответственность за безопасность на протяжении всего жизненного цикла продукта и должны внедрять системы проверки алгоритмов, защиты данных и персональной информации. Пользователи обязаны знать, что взаимодействуют с ИИ, а не с человеком, и получают предупреждения об рисках чрезмерного использования.
Также регламент предполагает оценку эмоций и степени зависимости пользователей; при обнаружении сильных эмоций или аддиктивного поведения поставщики должны принять необходимые меры. Линь Вэй, президент Южно‑Западного университета политических наук и права, отмечает, что прорывы в ИИ превращают взаимодействие человека и машины из простой функции в эмоциональное и персонализированное общение, что порождает новые риски. Регулирование направлено на управление рисками антропоморфизма и эмоционального взаимодействия и уделяет внимание размыванию границ между человеком и машиной.
