国外十大令人发指的深度造假丑闻

不可否认：正如我们所知，人工智能正在改变世界。但这些变化会变得更好吗？近年来，我们见证了深度伪造的兴起。漂亮的算法允许用户修改照片和视频，用另一个人的脸替换一个人的脸。

Deepfake技术已被广泛用于各种用途，其中许多是积极的。《星球大战》的粉丝修改了 2018 年独奏电影的镜头，使男主角奥尔登·埃伦赖希像年轻的哈里森·福特。就在去年圣诞节，英国电视台第4频道播放了女王演讲的数字修改版本。与她通常的善意信息不同，女王陛下被看到对今年的事件开了个冷嘲热讽的笑话，然后跳到她的办公桌上参加节日的布吉。

但是，即使按照现代技术的标准，deepfake AI也有一个有害的软肋。嫉妒的用户现在只需点击几下即可制作虚假的复仇色情内容。政客们正在部署深度伪造，以增加假新闻和错误信息的增加。网络犯罪分子利用这些算法从企业高管那里窃取了数十万美元。这是这种操纵性新技术的十种最奇怪和最令人震惊的用途。

10.嫉妒的母亲伪造女儿啦啦队的露骨形象

当你十几岁的时候，父母可能是一场噩梦，但很少有人像拉斐拉·斯波恩那样糟糕。这位宾夕法尼亚州的母亲制作了她女儿的啦啦队对手的虚假犯罪照片，恶意试图让他们被踢出球队。利用社交媒体上的图片，她能够捏造胜利毒蛇成员“裸体，喝酒和吸烟”的镜头。

斯波内在几个女孩的家人报警后被抓获。他们告诉警察，他们和他们的女儿收到了来自未知号码的威胁短信。警方能够追踪到神秘施虐者的电话号码。这导致他们进入了一个电话号码销售网站。通过这个网站，警方发现了一个IP地址，该地址显示Spone是网络滥用者。他们不相信她的女儿知道她所谓的行为。

此后，斯彭被指控骚扰并向团队成员、他们的父母和健身房老板发送辱骂信息。

9.德里选举中的深度伪造

政客们以他们的口是心非的行为而闻名。在一个假新闻和后真相的时代，一位政治家转向深度伪造来推动他们的竞选活动。

2020年<>月，随着德里各地的人们准备参加投票，两个视频开始在WhatsApp上流传。他们似乎展示了一位高级政治家批评德里政府。看到人民党主席Manoj Tiwari用两种语言攻击他的竞争对手Arvind Kejriwal。第一个视频让他说英语。在第二秒，他用流行的印地语方言Haryanvi说话。但其中只有一个是真实的。

蒂瓦里与一家通信公司合作，创造了出于政治动机的深度伪造。他用英语发表了简短的演讲，并让技术专家操纵镜头，使其看起来好像他也在说哈里安维语。大约15万人看到了伪造的夹子。可以理解的是，他们中的许多人觉得自己被欺骗了。

事件发生后，专家警告说，我们可能会转向人们无法信任他们在网上看到的任何东西的情况。假新闻在印度的传播已经如此严重，以至于被贴上了“公共卫生危机”的标签。

8.汤姆克鲁斯抖音之旅

2021 年，一段 deepfake 视频上传到 TikTok，显示汤姆克鲁斯在他豪华的房子里走来走去时绊倒了。更多好莱坞一线明星打高尔夫球、吮吸棒棒糖和表演魔术的片段出现了。

它们都不是真实的。幸运的是，没有涉及任何骗局。负责剪辑的帐户DeepTomCruise直言不讳地表示它们缺乏真实性。但是这些镜头看起来非常逼真，以至于一些用户拒绝相信这是假的。一些人猜测这是真正的汤姆克鲁斯声称是假的，作为社交媒体虚张声势的一部分。

在撰写本文时，DeepTomCruise帐户的关注者远远多于Cruise的实际帐户，尽管该演员从未发布过视频。真正的汤姆克鲁斯在该应用程序上拥有大约 35，000 名粉丝，而虚假帐户拥有近一百万名粉丝。

7.网络犯罪分子从首席执行官那里窃取了 240，000 美元

在电影中，抢劫通常是大胆的冒险，充满了危险的冒险和高风险的特技。但是现在，由于deepfake技术，网络犯罪分子可以通过电话窃取数十万美元。

2019 年 240 月，欺诈者打电话给一家冒充德国老板的英国能源公司的首席执行官。他们使用算法在电话中模仿老板温和的德国口音。这位英国首席执行官没有理由怀疑犯规。犯罪分子要求他向匈牙利供应商汇款超过000万美元，声称这是一笔紧急转账，需要在一小时内完成。直到他们再次打电话要求第二次付款时，他才开始怀疑。

专家声称，这一说法可能是犯罪分子第一次在抢劫中使用人工智能。以前的任何事件要么没有报告，要么没有得到承认。但技术专家已经意识到人工智能攻击的可能性已有一段时间了。像这样的骗局对公司构成了新的威胁，网络安全公司正在开发新的软件来抵御这些深度伪造攻击。

6.头像，深度伪造缩放过滤器

在大流行期间，Zoom 和 Skype 等视频会议应用程序变得非常受欢迎。但是，对于我们中的许多人来说，无休止的 Zoom 通话可能有点拖累。为了减轻一些无聊，程序员为视频通话创建了一个deepfake过滤器。Avatarify允许用户采用其他人的身份。漂亮的软件可以将另一张脸叠加在您自己的脸上。Avatarify的创建者Ali Aliev假装是Elon Musk在工作Zoom电话中，这让他的同事感到困惑。

虽然令人印象深刻，但《阿凡达化》并不是特别令人信服。至关重要的是，它不会影响用户的声音。但是，随着时间的推移，这项技术只会变得更好。少数几家公司在开发音频深度伪造方面取得了稳步进展。谁知道呢，不久的将来，有可能在 Zoom 通话中令人信服地将自己伪装成 VIP。而且，当你想到这一点时，这可能会对被冒充的名人产生一些非常可怕的后果。

5.南希佩洛西醉酒的视频

2019年<>月，南希·佩洛西的一段视频在网上疯传。该剪辑以AI修改版的众议院议长在官方活动中醉酒乱七八糟为特色。有人看到她指责美国前总统在美国进步中心活动中“掩盖”。她的讲话明显变慢了。

特朗普总统的律师、前纽约市长鲁迪·朱利安尼（Rudy Giuliani）是在社交媒体上分享视频的人之一。该剪辑继续获得了数百万的观看次数。目前尚不清楚deepfake来自哪里，但它出现在一连串试图将佩洛西抹黑为精神不稳定或严重依赖酒精的人中。就在几天前，总统分享了一段不同的视频，似乎显示演讲者在演讲中磕磕绊绊地说。

4.孟买学生将少女的脸编辑成色情视频

2019年，孟买警方逮捕了一名20岁的大学生，罪名是用虚假色情制品勒索一名少女。这名学生将她的脸编辑成淫秽视频。他后来使用匿名帐户在Instagram上与她联系，并威胁要在网上分享。这名少年被迫将视频发送给另一位社交媒体用户。报道称，他对另外两名年轻女子也做了同样的事情。

这名女孩在Lokmanya Tilak Marg警察局报告了这一事件。警方成功追查并逮捕了肇事者。

3.英国活动人士遭到不存在的记者袭击

两名巴勒斯坦人权活动分子震惊地得知，他们被挑出来作为恐怖主义同情者。这项指控是由一位名叫奥利弗·泰勒的英国记者提出的。根据他的在线个人资料，泰勒是一名犹太长大的大学生，对政治，尤其是以色列和反犹太主义有着浓厚的兴趣。他已被《耶路撒冷邮报》和《以色列时报》出版。

在犹太报纸The Algemeiner的一篇文章中，他指责已婚夫妇Mazen Masri和Ryvka Barnard是“已知的恐怖主义同情者”。马斯里是伦敦城市法学院的讲师。2018年，他帮助起诉以色列科技公司NSO在墨西哥电话窃听丑闻中的角色。他和他的妻子被这些出乎意料的指控吓了一跳，想知道为什么他们会被一名学生盯上。

事情是这样的：奥利弗·泰勒不存在。他的大学没有他在那里学习的记录。法医分析显示，泰勒的个人资料照片是深度伪造的。没有人知道作者是谁，假图像无法追踪。Algemeiner声称泰勒通过电子邮件与他们联系，从未要求付款。他们和《以色列时报》后来删除了他的作品。但他的几篇文章仍然在线，包括他为《耶路撒冷邮报》和《阿鲁茨谢巴》撰写的文章。

2.网络犯罪分子试图从科技公司窃取资金

2020 年 <> 月，网络犯罪分子使用音频深度伪造试图诱骗科技公司员工向他们汇款。该员工收到了一个奇怪的语音邮件，来自一个听起来与首席执行官相似的人。电话里的声音声称他需要“立即协助以完成紧急商业交易”。

幸运的是，该员工并不买账。他们看得出来，这个消息有些不对劲。后来发现这是一个音频深度伪造。分析人士发现，语音邮件是使用人工智能软件创建的，以欺骗接收者汇款。声音并不完全遵循常规的语音模式，没有任何背景噪音，这两种迹象都是虚假信息的迹象。袭击背后的人的身份仍然未知。

1.未经同意的色情内容

未经同意的色情内容是迄今为止deepfake技术的最大用途。这种趋势几年前首次出现在Reddit上。用户会拍摄现有的成人视频，并用名人的脸替换表演者的脸，几乎总是女性。人们震惊地发现，这些不是由最先进的电影制片厂创造的，而是通过使用在线免费提供的机器学习工具创建的。第一批将他们的脸通过算法插入色情片的人包括盖尔·戈多、斯嘉丽·约翰逊、泰勒·斯威夫特和麦茜·威廉姆斯。

从那时起，deepfake色情已经发展，程序员带来了3D数字化身。现在，色情创作者正在生成栩栩如生的模型，对它们进行编程以执行性行为，然后用玛格特·罗比（Margot Robbie）或艾米莉亚·克拉克（Emilia Clarke）等人替换他们的脸。这意味着任何人都可以控制3D化身，迫使它进入他们喜欢的任何性爱姿势，然后映射一个真实的人的脸。

2019年，deepfake程序员发布了应用程序DeepNude。DeepNude使用神经网络来脱掉女性的照片，创造出令人信服的裸体图像。只需上传一个穿着衣服的女人的图像，人工智能就会把他们简化为生日套装。该应用程序没有存活很长时间。就在推出几天后，DeepNude的匿名创作者“Alberto”将其下线。

可以想象，深度伪造色情的增长趋势引发了各种道德问题。丹妮尔·香橼（Danielle Citron）被要求就人工智能生成的色情内容构成的威胁向国会作证，称该技术是“侵犯性隐私”。

复仇色情专家凯莉·戈德堡（Carrie Goldberg）律师同样持批评态度。“任何说互联网不是现实生活或虚拟现实是假的人都只是在为做坏事找借口，”她告诉记者。“毫无疑问，在VR中构建一个强奸机器人会给被描绘的人带来不同的伤害，而不是实际去攻击她。然而，两件不同的事情可能同时是错误和不道德的。