在短视频社交平台的隐蔽角落，利用虚拟合成技术的犯罪正在悄然蔓延。记者调查发现，大量违反伦理道德的色情视频是利用人工智能改造、深度造假等虚拟合成技术“制作”出来的。受害者的面孔被恶意嫁接到各种低俗电影上，甚至制作出黑灰色产品。行业相关人士呼吁加强治理，指出这些假真换脸视频不仅跨越了法律和道德门槛，而且对人身安全、社会秩序和良好道德构成严重威胁。萧宇是一位娱乐节目主持人，他的脸被恶意移植到了女性的脸上。直播的内容主要是和粉丝聊天，没有外围内容。然而，当不法分子用色情视频替换了小雨的脸并传播后，她就陷入了困境。无缘无故地卷入不良舆论。 “视频不能修图”、“他们竟然背着我们偷拍”……看到直播间公屏上类似爆炸般的轰炸，小宇从此失去了参与线上线下社交活动的勇气。随后，小雨看到有人在短视频平台公然宣传有关她的色情视频。按照对方提供的联系方式，小宇进入了所谓的“工程设计交流群”，发现群里充斥着各种网站地址和行业术语。在这个群体中，不法分子翻出了许多色情影片中女性的名册，以获取非法利益。最终，小宇报了警，五名嫌疑人被抓获，相关账号和群聊也被永久封禁。小宇的经历并不是个例。记者潜入了一个名为“科灵AI交流群”的群聊。一位网友来自一个名为“你在学校，你在参与社会”的群里，一位边缘商家表示，“教堂套餐包含988元，流量很好。”我发布了一个视频。视频中，一名自称大学生的人坐在宿舍的床上，穿着黑丝袜、蕾丝袜，做出各种粗俗行为。这位网友自称是人工智能面部修饰领域的高手。每当您向我们发送您的脸部照片时，我们都可以生成照片中主角的视频。如果你在淘宝搜索“AI换脸”，你会发现很多公司提供AI换脸视频制作服务。消费者只需要花几元到十多元就可以定制自己的换脸视频。换脸的对象可以是普通女性，也可以是女网红，也可以是女明星。法律专家指出，这些明码实价的照片和视频严重损害了公众的形象权和合法权益。受害者的人格尊严必须尽快被摧毁。 Deepfakes背后的黑色产业链是指利用人工智能生成技术，将人的声音、面部表情、肢体动作拼接成虚假内容。最常见的是AI面部修饰技术，包括音频模拟、面部合成、视频生成等。 2024年8月，韩国发生了一起影响深远的造假事件，引起了世界的关注。在这起事件中，韩国网民发现通讯软件Telegram上存在多个聊天群，其成员制作并分享露骨的“深度造假”色情图片，且涉及多名未成年少女。在付费 Deepfake Telegram 频道中，男性订阅者甚至需要提供照片，付费后频道可以为他们制作色情图片。社交媒体上流传的 Deepfake 名单包括 100 多个韩国初选y、中学和国际学校，受害者超过 220,000 人。 Deepfake“确认工具”从何而来？记者在采访中了解到，只需要四样东西：改变面孔的人工智能软件、预先训练的模型、交换面孔的视频和受害者的照片。首先，改变人工智能的面孔总是需要受害者的照片。根据相关技术社区的行动，四深度 Jeri 的初始版本需要大约 50 张多个角度的高分辨率照片，才能实现看起来更自然的视频构图。但经过几年的迭代，我们现在只需要大约20张照片就可以实现这一目标。其次，要制作流畅、高分辨率版本的AI换脸视频，我们需要获得预训练的模型。预训练模型是人工智能发展的基本机制。由于大多数AI模型的预训练任务都是相同的，开发者倾向于预训练相同的部分并将它们用作类似任务的共同基础。对于AI人脸修改任务来说，大多数初学者训练的AI人脸修改模型都会因为训练方法难以学习而出现人脸不自然、掉帧严重的情况。在这种情况下，您必须使用预先训练的模型。对于非技术人员来说，获得深度伪造的预训练模型是有意义的。但事实并非如此。如果你打开很多电商和二手货平台，你很容易就能找到专门针对 Deepfake 预训练的模型。这些模型俗称“AI Elixir”，只需几块钱就能轻松买到。接受采访的专家表示，从窃取照片到交易预先训练的模型，每一步都暴露了当今网络环境中的漏洞。呼吁加强监督和治理 事实上，公共安全机构在打击人工智能驱动的换脸色情视频的技术斗争中面临着前所未有的挑战伊根斯。太原市公安局王警官表示，深度换脸技术的受害者主要是女性。社交平台上发布的高中女生穿着校服的照片是用裸体表情符号组成的。网络上流传的相关群聊，只需提供照片即可自动合成色情图片和视频，并按城市或教育中心进行分类，目的是扩大这些人的朋友圈。追踪服务器和保存证据是困难的，这是警方必须面对的现实问题。 “追查人工智能生成的内容来源，可不是大海捞针，就像找针一样困难。犯罪嫌疑人通过频繁更换服务器和匿名网络信息来掩盖踪迹。”王说，“此外，电子证据很容易被加密、篡改和毁坏，给警方收集证据和侦查案件带来了困难。”独立证据收集几乎是不可能的。 “传统的人人收赃的办案模式在人工智能犯罪面前已经行不通了。”王警官坦言。值得注意的是，近年来，公安机关在“利用人工智能技术打击犯罪”方面的多方位防线日趋严密，包括实施各类专项行动、加强技术攻关、必要时与国际执法机构合作等。 2025年1月，天津市民李先生因看到骗子制作的某企业主的假视频，被诱骗转账95万元。 。专案组与网络安全公司合作，分析汇款流向并追踪异常IP地址，利用AI语音合成技术重构了犯罪组织诈骗活动的全过程。最终，警方和银行联合冻结了李某的账户并追回83万元。业内人士指出，无论技术多么实用，人性的差距总会带来突破。遇到可疑来电时要保持冷静，收到家人或朋友的紧急转接请求时要多渠道查看，还要警惕幕后可能出现的人工智能文字转语音陷阱。
（编辑：何欣）
作者
adimin@12thpress.com