告别“机械对话”，成为隐藏在用户屏幕背后的“情感伴侣”。互补的人工智能越来越“理解”你。人与机器关系的新极限在哪里？记者杨兆奎，《工人日报》（2026年1月1日第4页）近年来，随着情感计算、自然语言处理、多模态交互等人工智能技术的发展，拟人化交互人工智能服务通过模拟人的性格特征、思维模式和沟通方式，实现了从“机械对话”到“深度共情”的跨越。沟通，成为隐秘的“情感伴侣”。在用户屏幕后面。但与此同时，体现人工智能的互动服务也面临着信息安全、数据泄露等隐私、社会伦理、未成年人保护等多重风险挑战。中央经济工委会提出深化拓展“人工智能+”，完善人工智能治理。近日，国家网信办起草了《拟人互动人工智能服务管理暂行办法（征求意见稿）》（以下简称《办法》），并向社会公开征求意见。征求意见截止日期为2026年1月25日。中国信息通信研究院经济与政策研究所副所长李强志表示，《办法》有效化解了人工智能应用情感交互、心理疗愈的风险，体现了“在发展中规范、在标准中发展”的治理智慧，对于构建健康、公平、互惠的人机关系具有重要意义。沙勒恩格斯。目前，互补人工智能等人工智能拟人化交互服务正在展现出像人类一样理解情境和表达同理心的能力，为人机关系和社交互动创造了新的模式。与此同时，拟人化交互服务的快速发展也面临着一系列的风险和挑战，其中包括：从数据隐私的角度来看，我们面临着传达用户最私密的感受和想法的数据被滥用和暴露的风险。从伦理角度来看，高度拟人化的设计很容易让用户产生非理性的情感依赖。使用会导致真正的社会排斥。在安全方面，缺乏有效的年龄识别和内容过滤，使弱势群体的心理健康甚至人身安全面临风险。国家互联网应急中心副主任张震表示，Artif作为一种新的应用形式科技情报技术、拟人化互动服务具有独特的技术特征和显着的风险特征。例如，情感交互的深度与信息查询、内容生成等传统功能服务的深度不同。拟人化交互服务可以通过算法模拟人类情绪反应机制，与用户建立情感联系，显着影响用户的心理状态和行为模式。与用户关系的连续性。拟人化的交互服务往往涉及高频、长时间的交互过程。用户可以与人工智能系统形成类似于人际关系的情感纽带。这种持续的互动关系会积累并放大潜在的风险。 “值得一提的是，未成年人正处于认知发展阶段，而老年人面临着数字鸿沟的挑战。当这些群体使用人类需要形态互动的服务、适当的指导和保护机制，以避免过度依赖。此外，拟人化互动服务往往在互动过程中更直接地生成内容，具有很大的价值。“意见的沟通更加微妙、潜移默化，对人的世界观、人生观、价值观产生更深层次的影响。”中国法学会政法学副会长表示，在此背景下，《办法》的制定将推动拟人化互动人工智能服务有序发展，引领人工智能领域的“责任创新”。人工智能，为构建“以人为中心”的人工智能治理体系提供重要制度支撑。在对策方面，我们将精准识别并系统应对拟人化和情感化两大核心特征所产生的重要风险。互动，并建立多方面的互动。以模糊人与机器界限为“对”治理的重点的风险管理与预防体系。为了精准防范人与机器界限模糊带来的认知混乱、信任下降、侵犯道德权利、违反伦理等风险，提案提出建立身份透明体系，划定拟人化的安全红线。 “以明确身份识别义务为核心的身份透明制度，重点保护用户的知情权和选择权，通过提供明确的法律责任起点，可以有效遏制技术滥用的匿名盾牌，降低认知混乱和来源信任侵蚀的风险。”林伟说。拟人化的互动服务由于其高度的情感反应和友情，自然会带来成瘾的风险。 《办法》反对服务提供商应明确提醒用户，他们正在与人工智能而不是自然人类进行交互。当用户第一次使用它并再次登录时，您应该通过弹出窗口或其他方法动态通知它。用户交互内容由人工智能生成。活动期间需设置断冷提醒功能。如果要求用户连续使用服务超过一定时间，应以弹窗的形式提醒用户休息一下，定期打断算法营造的沉浸感。 《办法》提出加强特殊群体保护。 、拟人化互动服务提供者必须建立应急响应机制。当用户明确提出自杀或自残等极端情况时，有人会接管对话并采取适当的措施联系用户的联系人监护人或紧急联系人。对于未成年人和老年用户，供应商需要在注册过程中输入他们的要求。家长信息、紧急联系人和其他用户信息。同时，《办法》还强调严格保护用户交互信息。 “情感个人信息可以反映用户的内心生活、情感弱点和潜意识倾向，如果使用不当，可能会导致心理操纵、差别对待和情感勒索等风险。”与“主动计算”相关的技术可用于提供令人上瘾的服务，用户可能会在不知不觉中泄露更多敏感信息。因此，对用户交互数据实施更严格的目的限制、安全存储和使用禁止，是数字智能时代道德权利保护的延伸。林威说道。人与机器和谐共处，《对策》明确了目标以安全为目标，同时积极推动拟人化交互服务在理性场景下的创新应用。张震表示，拟人化交互服务作为人工智能技术应用的重要方向，在教育培训、医疗健康、养老服务、文化娱乐等多个领域具有广泛的应用潜力。李强志表示，在技术层面，拟人化交互服务将推动情感计算和多模态沟通。 “交互、长期记忆等前沿技术的集成创新和场景落地，将提升人机交互水平，为应用的范式演进和反馈提供重要的试验场。在经济层面，拟人化交互服务是一个快速增长的新兴领域，正逐步应用于娱乐、教育、养老、文化等领域。”其他场景。包括角色扮演游戏、心理治愈、数字复兴、人工智能玩具等产品和服务业态，带动了从底层算法、内容创作到硬件终端的产业链发展，成为“人工智能+”运动中极具活力的消费级应用。在社会层面，拟人化互动服务作为特定的社会压力释放阀和情感供给站，在人口日益老龄化、城市生活加剧个体孤独感的背景下，为特定群体提供触手可及的情感支持，这一“举措”也不仅仅鼓励科技释放其抚慰心灵、增进幸福的潜力。但它也在隐私、道德和拟人化互动方面划出了一条不可逾越的界限。我们的目标是让创意服务成为建设真正“温暖、智慧”社会的力量人类与机器和谐共存，推动社会不断发展，走向科技真正优越的美好未来。 （工人日记）
（编辑：何欣）
作者
