改脸、改声、侵犯版权……如何应对生成式AI的滥用？

所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
改脸、改声、侵犯版权……如何应对生成式AI的滥用？
2025年10月22日 07:26 来源：央视新闻客户端
中国互联网络信息中心近日发布了《生成式人工智能应用发展报告（2025）》。据介绍，我国生成式人工智能产品用户规模已达5.15亿人。报告还指出，随着生成式人工智能的快速普及，面部修改、声音修改、侵犯版权、学术滥用等问题日益突出。这些问题在实践中如何解决？我们如何管理和应对这些风险挑战？利用人工智能改变面孔和声音以达到目的的事件时有发生。产生虚假广告。生成式人工智能的多模态功能允许用户轻松改变视频中人物的面孔和声音，或者直接生成完全虚构的视频，给犯罪分子以可乘之机。最近，人工智能通过改变面孔和声音生成虚假广告的案例屡见不鲜。比如，有的假奥运冠军宣传散养鸡蛋，有的则冒充医生推销保健品，严重误导公众。这些深度语音和面部改变的人工智能合成是如何生成的？如何识别这些假视频？业内人士告诉记者，随着技术变声、变脸AI策略越来越成熟，现在已经足以让假货看起来像真的了。判断视频或声音是否高度合成的最好方法是使用人工智能来识别。换句话说，用AI来识别AI。大型人工智能模型研究员潘继明：从技术角度有效的，最快的方式是基于人工智能的识别，比如deepfake专门的识别模型。这包括眨眼频率、面部肌肉运动的生理一致性、语速和纯唇同步以及光源。它用于分析视频和音频中的不自然特征，例如连贯性和检测其他细微的物理或生理缺陷。专家：治理的核心在于实施完善的内容标签制度。近两年，利用人工智能深度合成明星脸部和声音并进行修改的视频层出不穷，并屡遭封禁。从这个意义上说，专家表示，治理的核心在于全面推行内容标签制度。北京航空航天大学法学院副教授赵景武：我国9月20日起正式出台《人工智能生成合成内容标注办法》25. 该措施要求所有人工智能生成的文本、图像、视频和其他内容都明确标记为“暴露身份”，并鼓励使用数字水印等隐性标签。平台企业必须按照《标签办法》从源头上纳入识别机制，对人工智能生成的合成内容进行识别，对人工智能生成的内容附加防篡改的数字水印，并确保这些标签即使经过编辑和压缩也能被准确识别。专家认为，AI深度合成的用户在使用AI创作视频时，应该对违规行为设定法律界限，合法合规地使用AI深度合成。北京航空航天大学法学院副教授赵景武：在明确合法性边界方面，需要严格区分AI换脸技术的合法适用和非法滥用。法律应用通常包括具有合法价值的场景，如影视制作、教育、医疗康复等。这些应用必须遵守法律规定的最低必要原则，确保使用范围与目的一致并获得相应的许可。非法滥用主要表现在未经授权使用肖像、传播虚假信息、制作淫秽色情内容等场景。训练大规模人工智能模型会引发版权问题。我们如何解决冲突？我们来看看人工智能带来的版权侵权问题。去年 10 月，已有超过 10,000 名来自文学和音乐界的人士提交了自己的作品来训练生成式人工智能。他们发表联合声明，谴责未经授权的使用。为什么大规模AI模型使用的数据会引发版权纠纷？问题又该如何解决呢？听听专家怎么说不得不说。业内AI Stria相关人士告诉记者，目前训练大规模人工智能模型的数据大部分来自互联网，并且这些数据中包含版权相关数据。 AI大规模模型研究员潘继明：现有的大规模模型都是用大量数据训练的。来源包括来自互联网的数据，以及书籍、文章、行业数据等。经过数据预处理、无监督学习、微调、强化学习后，即可用于内容生成。然而，该模型不了解版权。当前数据中如果没有明确的版权标记，很难知道哪些内容受版权保护，哪些内容不能轻易生成。目前，大型模型的基本做法是根据版权状况进行独立的数据捕获训练。对于大规模人工智能模型相关的版权问题，专家表示，人工智能的发展不应该与我以牺牲版权为代价，两者的和谐共存应该建立在尊重知识产权的基础上。北京航空航天大学法学副教授赵景武表示，人工智能开发者和运营者应建立完善的版权合规机制，包括：在训练数据收集阶段进行版权评估，优先获得许可并使用公开许可的资源。维护模型训练过程中的数据源日志。将反剽窃检测纳入内容生成过程。在输出阶段添加徽标版权和水印。同时，主管部门应拓宽训练数据供应渠道，解决训练数据不足与版权之间的矛盾。学生和研究人员滥用人工智能撰写论文和抄作业的行为引起了人们的关注。除了刚才提出的问题外，报告还提到，学生和研究人员研究人员利用生成人工智能来撰写文章和抄作业也引起了各个领域的关注。专家表示，生成式人工智能在学术研究中的广泛应用将使学术诚信体系前所未有。他们说它面临挑战。事实证明，简单的禁令既无效又难以执行。 “堵更糟”“救”的治理理念正在成为全球学术界的共识。关键是要认识到人工智能技术在提高科学研究效率方面的积极价值，同时通过规范性指导确保其应用不会损害学术诚信。北京航空航天大学法学院副教授 赵景武：在教育活动中，教师帮助学生正确使用人工智能工具和教学工具，从“偷懒”、“省工”的错误定位调整到了“提高学习效率”和“支持学术研究”的正确功能定位，以及辅助岗位的属性。已得到澄清。同时，教师还需要设计能够评价学生思维过程的评价方法，减少对纯文本输入的依赖，增加过程评价的比重。 （央视新闻客户端）
（编辑：魔术师丹）