元宇宙、AIGC火热之时，其背后的推手——深度合成技术正被戴上“紧箍咒”，防止技术滥用。

近日，国家网信办、工信部、公安部三部门发布《互联网信息服务深度合成管理规定》(以下简称“《规定》”)，从技术提供者、服务使用者以及监管等各方面，对深度合成技术应用提出规范。据悉，该规定将于2023年1月10日起施行。

“AIGC概念"背后的技术将受约束

所谓“深度合成技术”，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括文本转语音、音乐生成、人脸生成、人脸替换、图像增强等技术。目前该技术已应用于传媒、影视制作、社交娱乐、教育以及电子商务等行业，如修复历史老照片、虚拟主播、AI换脸等。

清华大学人工智能研究院发布的《深度合成十大趋势报告（2022）》显示，据不完全统计，创作者在互联网平台中发布的深度合成内容的数量呈高速增长。仅以视频为例，2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

南都湾财社记者注意到，有关深度合成技术的玩法近期甚为火热，其中由于效果千奇百怪的抖音AI绘画特效，截至发稿已有近2600万人使用。

国泰君安研报预计未来5年，AI绘画在图像内容生成领域的渗透率将达到10%—30%，随着AI绘画将下一代互联网作为关键着力点，该市场规模超600亿元。

除了AI绘画外，最近火热的聊天机器人ChatGPT，“科技与狠活”AIGC（AI-Generated content 即AI生产内容）、二级市场热炒的数字人等均属于深度合成技术领域。

此次《规定》对深度合成服务提供者和技术支持者提出了明确的数据和技术管理规范。其中包括，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

南都湾财社记者注意到，2019年AI“换脸”应用ZAO走红网络，用户只需要上传一张自己的照片，就可以换脸成为影视剧中的明星。然而仅仅三天，ZAO便因涉嫌未依法依规收集使用人脸信息被工信部约谈，接着便被下架。

此外，《规定》还明确，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

避免技术滥用，数字人也被纳入监管

据媒体12月14日报道称，ChatGPT的爆红让谷歌员工们担心公司是否“错失了一个机会”。对此，谷歌AI主管杰夫·迪恩(Jeff Dean)表示，公司的产品具备了类似能力，但提供错误信息会让公司面临大得多的“声誉风险”，所以他们的步伐要比小型创业公司更保守。

实际上，伴随技术的近年来广泛落地，以及一二级市场对相关赛道关注热度的持续升温，深度合成技术的滥用也随之产生。在业界人士看来，《规定》的落地利于避免技术滥用于诈骗等不法行为。

中国政法大学副校长时建中认为，随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。但深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

有业内律师指出，新规对于提供深度合成服务的创业公司来说影响较大，由于深度合成内容涵盖范围广，供应商需要加大力度进行相关审核，会抬高合规要求和合规成本。

事实上，自2019年11月起，我国先后出台《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等文件，对生成合成类内容提出不同程度的监管要求。2022年1月28日，国家互联网信息办公室公布《互联网信息服务深度合成管理规定（征求意见稿）》，向社会公开征求意见，对深度合成内容的用途、标记、使用范围以及滥用处罚作出具体规定。

南都湾财社记者注意到，与征求意见稿相比，《规定》所称“深度合成技术”明确将“数字人物”纳入监管范围中。此外，《规定》还新增了条款，要求具有生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的深度合成服务提供者和技术支持者，应当自行或者委托专业机构开展安全评估。

二级市场上，A股“AIGC概念股”、虚拟数字人板块拉升，截至14日收盘，风语筑、吉宏股份涨停，天娱数科、中文在线等股跟涨。

采写：南都·湾财社记者 叶露