面部替换、表情操纵、语音合成……伴随技术的发展成熟，当前互联网上出现了越来越多的深度合成内容。

作为人工智能行业的领域之一，深度合成的重要性正在渗透进生活的方方面面。

无论是视频换脸、语音合成，或是影像修复以及最近因元宇宙大火的虚拟数字人，其背后均是深度合成技术在发挥作用。在当下，深度合成正愈发频繁地出现在社交娱乐、影视制作等领域，并发展出多元化的数字应用。

从内容量而言，深度合成行业应用也在迎来跳跃发展。

近日清华大学人工智能研究院、国家工业信息安全发展研究中心等机构联合发布的《深度合成十大趋势报告(2022)》(以下简称《报告》)显示，互联网中深度合成视频的新增发布量从2017年的1680个飙升至2021年的24317个，互联网中深度合成视频的点赞/喜欢数量也从2017年的249.74万次，跃至2021年的3.16亿次。

在行业蓬勃发展的过程中，行业相关的合规步伐也在提速。3月1日，由国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合颁布的《互联网信息服务算法推荐管理规定》正式施行，其中明确要求不得生成合成虚假新闻信息。

而就在2022年1月28日，国家互联网信息办公室还颁布《互联网信息服务深度合成管理规定(征求意见稿)》，旨在促进深度合成技术依法合理、有效利用，规范发展互联网信息服务深度合成活动。

在接受包括21世纪经济报道在内的媒体采访时，中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文表示，深度合成技术涉及认知安全，所以要提升社会认知安全意识，提升公众的数字素养。与此同时，政府部门、企业及各界需要积极开展相关法律伦理、治理的对话与规范制定，从而实现创新与治理间的动态平衡。

应用提速

面部替换、表情操纵、语音合成……伴随技术的发展成熟，当前互联网上出现了越来越多的深度合成内容。

《报告》显示，根据不完全统计，创作者在互联网平台中发布的深度合成内容数量，正在呈现高速增长。以视频为例，2021年新发布的深度合成视频数量，较2017年已增长10倍以上。

不仅是内容量本身暴增，深度合成的内容关注度也在呈现指数级增长。《报告》指出，以视频的“点赞/喜欢”数据为例，自2017年以来，该项数据呈现出指数级的显著增长，2021年新发布的深度合成视频点赞数已超过3亿。

此外，《报告》选取超过4000条深度合成视频的互动视频，并分析“播放量、点赞/喜欢数、收藏数、转发数、评论数”几项互动数据之间的关系后发现，平均每1000次播放，可产生约8.92次点赞/喜欢，同时会产生约3.51次转发，从而将深度合成内容进行新一轮传播。

除了内容层面之外，在技术层，深度合成领域同样飞速发展。《报告》显示，2021年深度合成领域的论文发表数量达到4559篇，相较2017年的1012篇大幅提升。在这些深度合成领域的论文中，包含对图像、视频、音频、文本等不同模态合成方面的技术研究，其中针对图像类生成模型的研究占比高达64%。

与此同时，自2017年以来，深度合成领域的开源项目发布数量也在逐年提升。到2021年，在GitHub中，与“GAN”等16个关键词相关的开源项目发布量已达到23030个，相较2017年的8250个增长179%。深度合成在开源社区中持续走高的热度，也将继续推动该技术的发展与在产业中的落地。

事实上，当前深度合成的应用场景已经在持续丰富，无论是手语AI生成主播、虚拟偶像或是修复老照片、AI换脸等，随着技术成熟度的持续提升，深度合成正在快速进入大众视野，越来越多的企业机构也开始利用深度合成技术，提供面向公众的产品和服务。

这也很大程度上降低了深度合成的门槛。瑞莱智慧CEO田天介绍称，以自去年下半年开始大热的虚拟数字人为例，如果没有深度合成技术，虚拟形象的成本非常高昂，且需要极强的专业性。“但基于深度合成技术，可以通过AI自动学习来降低成本及门槛，从而令更多人参与到内容生成中，并促进数字空间的发展。”

合规治理

随着深度合成行业持续发展，内容制作的技术门槛持续降低甚至实现技术“平民化”，相关的内容风险也在持续加剧。

事实上，通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗等违法行为和事例已屡见不鲜，深度伪造内容数量持续增多、危害性不断增强，因此，深度合成行业治理也是亟待解决的问题。

“目前深度合成的鉴别需求在快速增长，但鉴别难度也在快速提升。”田天向21世纪经济报道记者坦言道，行业挑战主要体现在深度合成逼真度正在快速提升，甚至很难分辨真伪边界，此外最新的深度伪造技术具备强对抗性，天然针对检测方法进行对抗攻击，从而使检测方法失效。

而为了促进深度伪造检测技术的发展，国内外已发布专项研究计划及开展相关学术竞赛。目前，学术界和产业界均已对深度合成鉴别检测技术的研发进行了大量投入，包括Meta、谷歌、微软等机构均推出视频认证的方法或产品，在国内包括清华大学、中科大等机构及企业也已构建人脸合成检测平台并发布针对性检测产品。

从监管机制而言，