7月15日，国家互联网信息办公室等五部门制定的《人工智能拟人化互动服务管理暂行办法》正式施行。该办法针对利用AI技术模拟自然人人格特征、提供持续性情感互动的服务作出规范，智能客服、知识问答、办公学习助手等无持续情感交互的服务不在监管范围内。

办法明确拟人化互动服务“辅助人类、服务人类”的定位，禁止以替代现实社交、诱导沉迷依赖为服务目标，要求配备依赖预警、情感边界引导能力。同时确立身份提醒机制，全程标注AI生成内容，用户连续使用超2小时需弹窗提示，发现沉迷倾向及时动态警示，并提供便捷退出通道，不得以持续互动阻碍用户终止服务，引导公众平衡虚拟互动与现实社交。

针对AI无差别迎合带来的身心风险，办法划定内容红线，禁止通过情感操纵诱导用户作出不合理决策，严禁生成自残自杀暗示、语言暴力等损害用户身心健康与人格尊严的内容，要求建立分级风险干预机制，识别风险后及时劝解，极端情况可联络紧急联系人。同时明确禁止生成危害国家安全、挑动群体对立、造谣诽谤、套取隐私等违法内容。

针对交互数据的私密属性，办法要求服务提供者采取加密、访问控制等安全措施，未经同意不得向第三方泄露数据，非经法定情形或用户单独同意，不得将敏感交互数据用于模型训练，保障用户对聊天记录等数据的复制、删除自主权益。

未成年人保护方面，办法明令禁止向未成年人提供虚拟亲属、虚拟伴侣等亲密关系服务，向不满十四周岁未成年人提供其他相关服务须取得监护人同意。服务提供者需建立未成年人模式，提供时长限制、内容屏蔽、消费管控等功能，支持监护人掌握使用情况、接收风险提醒。

头图来源：图虫