深度技术就像一把双刃剑，带来欢笑和温暖的同时，也带来了新的威胁。
特约撰稿人邓志梅，《瞭望东方周刊》编辑陈荣学
最近《梦想中国录》热播，剧后粉丝有了新玩法——只要上传自己的照片，相关系统就能自动“变脸”，生成粉丝顺利穿越入剧扮演主角的视频。
这种实现“沉迷主角”的技术叫做深度合成。深度合成作为AI技术的新应用和实践，早已在音乐、影视、综合娱乐、社交等多个行业场景中普及应用。业内人士认为，未来随着数据自动生成、全身合成、3D建模等技术的逐步形成，基于深度合成技术将会推出全新的人类生存场景。
值得注意的是，当真假难辨时，眼见不再为实，深度合成技术就像一把双刃剑，在带来欢笑和温暖的同时，也带来了新的威胁。
改变你的声音和面容
通过深度合成技术，犯罪分子可以很容易地伪造音视频，改变声音和面孔，进行新的诈骗。
2021年，山东省公安厅网络安全总队公布了几起利用深度合成技术实施诈骗的案例。某公司财务部接到领导电话，要求立即转账2万元给供应商，并将转账信息通过邮件发送到对方邮箱。由于电话里老板的口音很实在，公司财务毫不怀疑地在一个小时内完成了转账。
公安部“净网2021”专项行动中安徽合肥警方捣毁的一个犯罪团伙的作案手法更是让人大跌眼镜。在警方抓捕现场，几名嫌疑人用电脑将静态照片制作成人脸动态视频。模拟的动态人物不仅可以点头、摇头，还可以眨眼、张嘴、皱眉。原来，该团伙通过伪造他人人脸动态视频，为黑灰产业链提供注册手机卡等技术支持。
在上述犯罪嫌疑人的电脑中，警方发现了大量的公民人脸数据。“身份证正反面照片，手持身份证照片，自拍等。都叫做一套。”警方介绍，整套照片叫“材料”，卖的人叫“材料商”。这些资料在网上已经被转手多次，但资料的拥有者却毫不知情。犯罪嫌疑人马某交代，由于制作简单，一个视频的价格只有2至10元，“客户”往往会批量购买。
在深度合成技术的加持下，不法分子“暗藏猫腻”:有的假领导带口音打电话，骗取公司员工转账；有的“化身”知名演员，让中老年粉丝沉迷于被忽悠；有的在不雅视频上嫁接女明星头像，在色情网站上大量播放牟利。
广泛的应用场景
根据2022年1月28日国家互联网信息办公室发布的《互联网信息服务深度合成管理规定》，深度合成技术是指利用以深度学习、虚拟现实为代表的合成算法制作文本、图像、音频、视频、虚拟场景等信息的技术。
回过头来看，深度合成曾经被称为Deepfake，即深度伪造。2017年，一位名叫“Deepfake”的用户在美国一家网站上分享了一段篡改人脸的视频，将深度合成技术带到了大众面前。
最初深度合成的目标人物主要是视听形象遍布网络的公众人物，如名人、知名商界人士等，其造假场景主要是公开演讲、搞笑视频等。为了吸引流量，国内外很多网站和UP主都热衷于制作和发布“复合视频”。
随着技术的进步，深度合成已经广泛应用于影视制作、广告营销、社交娱乐等领域，包括AI合成主播、虚拟偶像、历史老照片还原等。与此同时，越来越多的企业利用深度合成技术为大众提供产品和服务:支持风格定制的特效视频制作软件；语音导航、有声书等应用衍生的方向；文本合成广泛应用于新闻报道、聊天问答等。
2021年“超宇宙”概念的流行，为深度合成技术提供了更广阔的应用场景。业内人士表示，未来随着数据自动生成、全身合成、3D建模等技术的逐步形成，将基于深度合成技术开发出全新的人类生存场景。
清华大学人工智能研究院和国家工业信息安全研究中心联合发布的《深度合成十大趋势报告》显示，2017年以来，大量深度合成内容被创作和传播，关注度呈指数级增长。
以视频为例，通过搜索国内外十大主流音视频平台，2021年新发布深度复合视频数量为24317条，比2017年增长10倍；新增赞或赞达到3.16亿次，呈指数级增长；平均每1000次播放可以产生8.92个赞或喜欢，同时产生3.51次转发进行新一轮传播。
主流音视频平台上，如爱奇艺、腾讯视频、优酷、⭧⭧⭧⭧⭧⭧⭧⭧⭧⭧⭧⭧⭧
