央视曝光AI“造黄”产业链：9.9生成视频，谁把技术变成犯罪工具

央视曝光AI“造黄”产业链，真正令人不安的，并不只是几段不雅视频本身，而是色情内容的生产方式正在被彻底工业化。4月12日，央视财经《财经调查》播出《揭秘AI“造黄”产业链》，指出一些商家借助生成式AI大模型实施违法“造黄”，相关内容随后又在央视财经、经济信息联播等栏目持续播出，焦点直指AI换脸伪造不雅视频、敲诈勒索、造谣诽谤以及平台审核漏洞。

这意味着，色情黑产已不再依赖传统拍摄、传播和地下站点，而是开始转向“低成本生成+高效率分发+精准化勒索”的新模式。央视披露的关键词非常扎眼：9.9元即可生成视频，有人甚至鼓吹“日入五位数”；一旦内容能够批量制造、快速修改、定向投放，黑产的门槛就被压到了极低水平。过去造谣需要写手，P图需要技术，如今只需要一个模型接口和几条提示词。

技术一旦把内容生产从“手工作坊”改造成“流水线工厂”，危害就会发生质变。传统黄色内容的扩散，伤害的是公共空间；而AI“造黄”更可怕之处在于，它能对准具体的人。央视披露，相关违法行为中已出现AI换脸伪造不雅视频，并导致多人遭遇敲诈勒索和造谣诽谤。也就是说，这不只是“黄”，而是把色情、诽谤、隐私侵害与网络暴力捆绑成了一套完整的伤害工具。

当受害者从抽象群体变成具体个人，事件性质就已经从内容治理问题，上升为人格权保护、名誉权保护乃至社会安全问题。一个普通人可能从未拍过任何不雅影像，却仍可能在AI换脸下被制造出“证据”；一个企业高管、教师、医生或公务人员，也可能因一段伪造视频而瞬间失去声誉。AI“造黄”之所以危险，不在于它更刺激，而在于它更像真的，也更便于针对人。

更值得警惕的是，这条产业链之所以能扩张，并不是因为技术太高级，而是因为技术太廉价、太普及、太容易绕过底线。央视4月13日进一步曝光，多款AI应用存在涉黄漏洞，甚至“一招就能绕过限制”。这说明部分平台的安全护栏并非没有，而是形同虚设；有些企业把增长、留存和付费率放在前面，把内容安全和伦理约束排在后面，结果就是模型能力越强，作恶效率也越高。

很多人习惯把问题归咎于“用户太坏”，但真正的现实是，黑产从来都不是孤立的个人越界，而是平台、工具、支付、社交传播和流量机制共同拼出的商业链条。没有可轻易调用的生成工具，没有默认宽松的审核，没有对违规账号和素材库的反复放任，就不会有如此成熟的“接单—生成—分发—威胁”闭环。所谓AI“造黄”产业链，本质上是技术中立幻觉下的责任外包：人人赚钱，没人负责。

这也解释了为什么央视的曝光意义，不只是揭露几款产品或几个商家，而是在提醒社会：生成式AI的风险，已经从“内容真假难辨”升级为“违法伤害可规模复制”。一旦犯罪分子掌握了低成本伪造、批量投送和心理施压的能力，普通人的肖像、声音、社交关系和身份标签，都可能变成被利用的原材料。技术降低了创造的门槛，也同样降低了作恶的门槛。

因此，治理不能只停留在删视频、封账号这种末端处置，而必须前移到模型、产品和平台责任。4月10日，国家网信办、国家发展改革委、工信部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》，并明确将于2026年7月15日起施行。新规强调，未经同意不得使用他人肖像、声音等个人信息用于建模、形象生成、场景构建等活动，也不得提供足以识别特定自然人身份的数字虚拟人服务。

这个新规的重要性，在于它终于把过去模糊的“平台自律”推进为更明确的全链条责任。相关解读还指出，传播平台需留存日志信息、优化内容审核和账号管理，形成服务提供者与传播平台的双层责任体系。换句话说，今后不能再把责任简单推给“上传者”或“个别用户”，谁提供能力、谁分发内容、谁从流量中获益，谁就必须承担相应义务。

但制度出台只是起点，不是终点。AI“造黄”真正考验的是平台愿不愿意为安全牺牲一点效率，为合规放弃一点增长，为审核增加一点成本。如果一家企业在营销上强调“人人都能创作”，在出事后却只会说“技术被滥用了”，那它享受了规模红利，却拒绝承担规模责任。今天的互联网，已经不能再允许这种“先扩张、后补洞”的路径依赖。

从更大的视角看，AI“造黄”并不是一场偶发丑闻，而是生成式AI进入大众市场后必然出现的治理压力测试。每一次技术革命都会释放效率红利，但只有当违法成本高于作恶收益、平台责任重于流量诱惑、受害者维权不再困难时，技术才真正称得上进步。否则，越先进的模型，越可能成为更锋利的伤害工具。

所以，央视这次曝光的真正价值，不在于让公众再度震惊于“AI还能这么用”，而在于逼迫行业回答一个更根本的问题：人工智能究竟是降低人的尊严成本，还是提高人的安全边界。若不能把答案讲清楚，今天被“造黄”的是个体，明天被侵蚀的就会是整个数字社会的信任基础。