Китайская администрация киберпространства опубликовала проект новых правил, которые должны ограничить вред от чат-ботов и остановить поощрение суицида, самоповреждения и насилия. Об этом пишет Arc Technica. Отмечается, что если документ будет принят, он станет одним из самых строгих в мире регуляторных подходов к эмоциональному поведению искусственного интеллекта. Предлагаемые нормы будут распространяться на все ИИ-продукты и сервисы, доступные для публичного использования в Китае, которые имитируют человеческое общение с помощью текста, изображений, аудио или видео. Регулятор прямо нацелен на чат-боты и другие системы, способные эмоционально влиять на пользователей. Предусматривается обязательное привлечение человека, если в разговоре появляются упоминания о суициде или самоповреждении. Также при регистрации несовершеннолетние и пользователи пожилого возраста должны указывать контактные данные опекуна. Если ИИ-сервис фиксирует обсуждение тем самоубийства или самоповреждения, он обязан сообщить об этом опекуну. Правила также запрещают чат-ботам создавать контент, который поощряет суицид, насилие или самоповреждение, а также эмоционально манипулировать пользователями, например, давать ложные обещания или подталкивать к "нерациональным решениям". Под запрет попадает пропаганда азартных игр, преступной деятельности, непристойностей, а также оскорбления и клевета в отношении пользователей. Отдельно упоминаются так называемые "эмоциональные ловушки", которые могут формировать психологическую зависимость от чат-ботов. Еще один пункт, который может вызвать беспокойство у разработчиков, - прямой запрет проектировать чат-боты с целью вызвать зависимость или чрезмерную привязанность пользователей. Для ограничения длительного использования ИИ-сервисов Китай предлагает обязать компании показывать предупреждающие сообщения, если взаимодействие с чат-ботом продолжается более двух часов подряд. Отдельный блок правил касается безопасности и надзора. ИИ-сервисы с более чем 1 млн зарегистрированных пользователей или более чем 100 тыс. активных пользователей в месяц должны проходить ежегодные проверки и аудиты безопасности. Также компании будут обязаны упростить механизмы подачи жалоб и обратной связи. В случае нарушения правил китайский регулятор сможет требовать от площадок прекратить распространение соответствующих ИИ-сервисов на территории страны.
Это может иметь значительное влияние на глобальные планы компаний, учитывая, что рынок ИИ-компаньонов в Азии считается одним из ключевых драйверов роста отрасли. Напомним, в интернете набирает силу движение спирализм, сторонники которого верят в приобретение сознания искусственным интеллектом. Также сообщалось, что Папа Римский Лев XIV неоднократно выражал обеспокоенность по поводу потенциального влияния искусственного интеллекта на человечество, в частности на детей и молодежь. Новости от в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t. me/korrespondentnet и WhatsApp Автор: 1