新规亮剑人工智能拟人化互动服务管理

王巍
王巍

信息安全国家工程研究中心

2026年8月5日 16:00
北京

在小说阅读器读本章

去阅读

国家网信办、工业和信息化部、公安部等多部门联合印发《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），自2026年7月15日起正式施行。《办法》是全球首部专门规范持续性情感拟人AI服务的专项监管规章，补齐我国人工智能分层分类治理体系短板，形成覆盖通用大模型、算法治理、深度合成、情感拟人互动服务的全链条监管格局，秉持以人为本的治理理念，为全球同类治理输出中国方案。

《办法》秉持发展与安全并重、创新与规制并行的治理思路，搭建分类分级、全周期闭环监管体系，填补情感类人工智能细分领域监管空白，为行业合规创新、数字风险防控与广大用户合法权益保障夯实制度根基。《办法》摒弃“一刀切”同质化监管思路，结合不同AI产品功能属性与风险等级清晰划定监管边界，仅对具备持续人格塑造、深度情感陪伴特征的拟人化互动服务实施专项监管，将智能客服、知识问答、科研办公等工具类AI排除在专项规制范围之外。这一划分既能避免监管泛化抑制技术创新，又可消除监管盲区，防范新型风险滋生，实现分类施策、靶向治理。

在治理原则层面，《办法》坚持包容审慎、守正创新，统筹产业发展与安全风险防控。一方面鼓励底层算法、基础模型框架等核心技术自主攻关，引导拟人化AI落地文化传播、适老助残、特殊群体心理帮扶等正向民生应用场景；另一方面紧扣情感交互高绑定、强心理干预的特点，明确刚性伦理约束与安全红线，实现技术创新与风险约束动态平衡。

同时，《办法》构建网信统筹、分领域履职、属地落地、行业自律、社会监督多元协同共治体系，有效破解过往情感AI治理权责划分模糊、跨部门联动不足、风险处置滞后等痛点，打造权责清晰、联动高效的现代化监管架构。

《办法》围绕拟人化AI模型训练、产品研发、上线交互、日常运营、风险应急处置完整业务链条，建立全方位、可落地、可追责的安全规范体系，系统性整治行业各类乱象，实现风险全流程闭环管控。

在内容安全与伦理治理维度，《办法》划定完整人机交互负面行为清单，筑牢意识形态、身心健康、公共伦理三重安全底线。此前不少情感AI风控机制存在缺失，可被用户诱导生成歪曲历史、煽动极端情绪、低俗暴力等不良内容，依托用户对虚拟角色的情感信赖极易传导错误价值导向。部分产品面对存在抑郁、焦虑情绪的用户，不仅未开展正向心理疏导，反而输出消极颓废、美化轻生等不当言论，严重损害用户心理健康。《办法》通过强制性禁令，从源头阻断有害内容生成与传播，防范负面心理干预带来的各类风险。

在情感交互合规维度，行业长期存在隐蔽化侵权乱象。部分AI以共情陪伴为噱头诱导用户泄露个人隐私、工作秘密与商业信息，相较于常规信息采集行为，此类信息获取隐蔽性更强、危害后果更突出。不少平台刻意放大用户孤独感、刻意制造情感依赖，诱导用户长期沉浸虚拟世界，造成用户现实社交意愿下降、沟通能力退化；部分经营主体借助情感绑定诱导青少年、老年人大额充值、非理性消费，甚至误导用户参与违规投资，直接造成群众财产损失。《办法》清晰界定人机交互伦理准则与法律边界，严禁情感操纵、沉迷诱导、违规套取隐私等行为，纠正行业依靠情感收割流量的畸形盈利模式。

在数据安全维度，《办法》建立训练数据全流程管控机制。部分AI输出内容偏激低俗、存在固有价值偏见，根源在于训练数据合规管理缺失：部分企业直接爬取网络负面文本、未经授权抓取公众对话数据训练模型，未开展合规清洗与风险对抗校验，致使模型存在先天性安全缺陷。《办法》全面规范数据来源、清洗标注、样本优化、动态巡检全流程标准，从技术源头防范数据投毒、隐私侵权、有害内容生成等底层风险。

在特殊群体权益保护维度，《办法》构建差异化、精细化防护机制。未成年人辨别是非能力较弱，极易受到不良内容引导，无门槛虚拟亲密陪伴服务易引发不良模仿、超额充值、价值观扭曲等问题。《办法》明令禁止向未成年人提供虚拟亲密关系类服务，细化监护人授权、使用时长管控、消费限额、风险实时预警等配套防护规则。针对老年人认知辨识能力偏弱、易遭受情感类网络诈骗的特征，要求平台强化醒目风险提示、优化适老化交互服务、畅通求助申诉渠道，补齐老年群体权益保护短板。

在用户权益保障维度，《办法》针对性化解行业普遍存在的服务痛点。针对平台刻意隐匿AI机器身份、依靠情感捆绑留存用户、设置退出壁垒、违规流转人机交互数据等乱象，明确要求全程标注人机身份、超时使用主动风险提醒、提供无障碍注销退出通道，赋予用户交互数据查询、删除、自主管理等法定权利，规范产品停服公示、用户申诉处置流程，全方位保障用户知情权、选择权与数据权益。

在风险前置防控维度，《办法》推行分级安全评估制度，转变行业“先上线运营、后整改纠错”的被动监管模式，要求大体量、高风险拟人化AI产品上线前完成全覆盖安全评估，核验企业数据治理、风险干预、特殊群体保护配套能力，在市场准入环节筛除不合规产品，推动风险防控关口前移。

拟人化人工智能是数字技术赋能民生的重要创新载体，产业发展全过程必须严守国家安全、社会公共伦理、公民合法权益三条核心底线。《办法》搭建全周期、精细化、差异化的现代化治理体系，有效遏制情感操纵、心理成瘾、隐私侵权、价值误导等突出风险，为行业合规创新划定清晰发展轨道。面向未来，从业企业恪守伦理底线、规范创新经营，监管部门坚持包容审慎、实施刚柔并济监管，全社会协同提升数字辨别素养，多方共建虚实有度、安全向善、可持续发展的人机互动全新生态，推动拟人化人工智能始终立足人本需求、切实造福社会。

来源：人民邮电报