在阅读此文之前，辛苦您点击一下“关注”，既方便您进行讨论和分享，又能给您带来不一样的参与感，感谢您的支持！

编辑：

[免责声明]文章的时间、过程、图片均来自于网络，文章旨在传播正能量，均无低俗等不良引导，请观众勿对号入座，并上升到人身攻击等方面。观众理性看待本事件，切勿留下主观臆断的恶意评论，互联网不是法外之地。本文如若真实性存在争议、事件版权或图片侵权问题，请及时联系作者，我们将予以删除。

凌晨三点，大多数人还在熟睡。演员吴越突然在社交平台发文，开头第一句就把人看精神了。

“一觉醒来，谁在利用AI肆意抓人替自己作恶？”

她喊话的对象是一个叫“花姐”的人，质问对方到底骗了多少人的钱，要求如数奉还。让吴越半夜气得睡不着的，是一段她压根没拍过的带货视频。

在这段视频里，“吴越”拎着一瓶精华液，用跟她一模一样的声音对镜头说：“这个产品不是他们找我，是我找他们的”“闭着眼睛用，孕妇妈妈都能用”。

口型对不上，声音却是真的。这不是吴越本人，是AI深度伪造技术合成的假人。

一个演了三十多年戏的实力派演员，在自己毫不知情的情况下，成了别人直播间里叫卖的“工具人”。

假人卖出真货，口型对不上也挡不住割韭菜

先把这起AI造假带货事件的细节拆开看。

根据北京日报和潮新闻的报道，涉事账号叫“花姐美肤日记”，发布的是以“明星同款、吴越推荐”为由头的护肤品推介视频。

视频里的“吴越”不仅外形和声音高度逼真，台词也编得有模有样，声称吴越为了回馈老粉丝，联合厂家给大家送福利。

技术层面其实算不上多高明。视频中存在明显的口型对不上的问题，稍微仔细一点就能看出破绽。

但骗子赌的就是大多数人刷短视频时不会逐帧分析，听声音像、看脸像，再配上“明星同款”“送福利”的字眼，防线就松了。

更让人无语的是，这段视频的结尾还捎带上了邓亚萍。账号里同样发布了多条标有“奥运冠军邓亚萍推荐”的相似视频，操作手法一模一样。

一个“花姐”，把文艺界的吴越和体育界的邓亚萍打包塞进了同一条AI流水线。

吴越的怒斥，戳破了一个普通人很难证明的困境

吴越这次发声，愤怒归愤怒，但指向的问题非常具体：AI造假带货，正在让受害者陷入“很难证明我是我”的困境。

演员温峥嵘的遭遇就是现成的例子。她曾刷到“自己在直播”，进直播间质问了一句“你是温峥嵘那我是谁”，直接被对方拉黑了。

温峥嵘在采访里说得很无奈：“我现在就很难证明我是我”。

这背后是一套成本极度失衡的生意。对造假者来说，截取几段公开素材，用AI工具合成一段带货视频，成本可能只有几块钱甚至几毛钱。

但对被冒名的明星来说，要证明“视频里那个人不是我”，需要取证、公证、发声明、投诉、甚至打官司，中间耗费的时间和金钱，跟造假成本完全不在一个量级。

吴越凌晨发文，本质上是用自己作为公众人物的影响力，在做一件本该由平台和技术手段来完成的打假工作。

她喊话“花姐”把钱吐出来，但真正该被追问的是：这段假视频是怎么在平台上跑起来的？带“AI生成”标识为什么没有拦住它？

标识标了，账号封了，但漏洞补上了吗

事件发酵后，平台动作不算慢。“花姐美肤日记”账号被永久封禁，内容清空不可见。吴越发文前，相关视频下方其实已经标注了“作者提示：含AI生成内容”。

问题恰恰出在这里。标识是有的，但它小到几乎不会被注意到，更拦不住视频的传播和转化。

一个带AI提示的假吴越，照样在卖货，照样有人下单。标识制度如果只是“标了就行”，而不去追究“用假身份卖货”这个行为本身，那它就是一纸空文。

更值得警惕的是造假的门槛还在持续走低。

新华社此前的调查报道显示，在二手交易平台上，AI声音克隆服务已经形成了一条灰色产业链。

最快15分钟就能拿到成品，价格低至千字15元，商家面对侵权质疑时直言“问就是有侵权”。造假的工具已经白菜价，打假的成本却还是天价。

面对这种真假难辨的视频，普通老百姓一旦中招，连自己是怎么被坑的都摸不着头脑。

如果真刷到了类似“明星推荐”的产品，最稳妥的办法就是去该明星的官方实名认证账号里看一眼，如果官方没发，直接点右上角举报“AI造假/冒充他人”，千万别急着下单。

因为你掏的每一分钱，都在给造假者的下一段假视频充值。

平台并非没有动作。今年3月，微信视频号曾发布公告称已建立针对AI生成合成内容的常态化管控机制，对疑似内容添加标识提示。

抖音电商此前也处置了涉及仿冒温峥嵘、李玫瑾、罗永浩、董宇辉等多位名人的账号1.1万个。但封号的速度，始终追不上换号重开的速度。

今年9月底，中央网信办印发通知，在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动。

明确将“通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为”列为重点整治对象。治理的方向已经划得很清楚，关键在于落实的颗粒度。

我的辣评：吴越这件事，最让人不舒服的不是AI技术有多先进，是它被用在了最不该用的地方。

一个演员，靠的是脸和声音吃饭。AI把她的脸和声音扒下来，安在一段她根本没说过的话上，拿去卖她根本没用过的产品。

这跟偷钱不一样，偷钱偷的是财物，这个偷的是一个人的身份和信誉。

被骗的消费者冲着“吴越推荐”下了单，拿到手的东西好不好用另说，那份信任是被实实在在地消费掉了。

平台封号是必须的，但封一个“花姐”，还有下一个“花姐”在排队。

AI伪造名人的成本已经低到用“白菜价”来形容都算贵了，今天伪造吴越，明天就能伪造任何一个有知名度的人。

如果治理的逻辑始终停留在“发现一个封一个”，那这场猫鼠游戏永远打不完。

真正的防线应该前移。AI生成内容标识不能小字一标就完事，用假身份带货必须跟真实身份认证绑定，平台对“明星推荐”类内容应该要求上传授权证明。

澎湃新闻的评论指出，平台在识别出公众人物肖像、声音特征后，可以进一步比对发布账号与授权信息，对无法验证授权关系的内容予以限制，从源头阻击AI换脸的冒头。

这些做起来不复杂，难的是平台愿不愿意在流量和合规之间，把合规往前面放一放。

吴越凌晨三点不睡觉也要把这事捅出来，不是因为她闲。

是因为她知道，如果连她这样的公众人物都只能靠发微博来维权，那普通人碰上同样的事，连喊一嗓子的地方都找不到。

你觉得平台对AI伪造名人带货，应该“发现即封”就够了，还是必须在发布环节就设卡审核？评论区聊聊。

#头条聊天室#

信息来源：