被挂在黄色网站上的女孩们

“我认为我们应该立刻禁止在人工智能领域的一切研发活动！”

“人类与人工智能之间的大战，迟早会爆发。”

“届时，究竟是人工智能取代人类，还是人类还是战胜人工智能捍卫自己的地位，谁都说不准！”

01

这几年关于人工智能的争论依旧沸沸扬扬，网上有各种观点。我个人认为，人工智能的发展还是很有必要的，可以有效地将人类从一部分附加值低的劳动中解放出来，提升效率。

直到我了解到一个功能——AI换脸。

这项技术从2017年出现至今，早已无人知晓它最初是用来做什么的了，AI换脸，似乎已经和黄色内容牢牢挂钩，一提起这个名词，随之想象到的，都是不健康的内容。

据网络数据显示，最初使用这项技术的，是一位美国的年轻人，他将盖尔加朵和其他知名女星的脸嫁接到片中在网络上发布，瞬间引起了众怒，在一片骂声中，该年轻人的账号被官方封禁，而视频也被删除。

但是事情到这里并没有画上句号，这位年轻人将AI换脸的源代码发布到了网上。

这一举动就像打开了罪恶的潘多拉魔盒。

技术本身无罪，也许可以用到一些更具有人文关怀的事情上，给人们带去便捷和温暖，但是总有人锁不住心中不可见人的野兽，将这些技术应用到它本不该应用的地方，凭借AI换脸成本低廉的技术和难以彻底管控的互联网环境，做到了年入百万。

这巨额的收入背后，是无数莫名其妙被造了黄谣的女明星和素未谋面的素人。

02

近日，有一则新闻，在网络上取得广泛关注，是一位长相漂亮身材匀称的女生搭乘地铁，明明是很正常的行为，什么都没有做，只是站在那里，却被不怀好意的人拍下来，利用AI软件P图，P掉该女生的衣物，在多个微信群有偿散布“裸照”。

甚至更有甚者，借助微博、贴吧、QQ等组建大量的“吃瓜群”，利用链接跳转等形式，贩卖AI技术生产的不健康照片和视频，还有组建支付宝群聊，付费才可以进入，群内有各种各样的“瓜”。

令人惊讶，这种见不得光的违背道德和法律的事情，在我们看不见的地方，几乎已经有了一套成熟的经营体系和“产业链”。

“看吗？五块钱一张，地铁3号线有女生没穿衣服就上来了！”

“我靠！真的假的，我看看！”

“给我来一张！”

“我也要！”

“我这还有支付宝群，九块钱进群里面什么瓜都有！进来看看不？才九块钱！”

……

我无法想象当事人知道这件事情时，会是怎样的反应。

惊讶、恐惧、错愕、气愤……什么样的词汇都不足以形容，当事人怎样的心情都无法被恶意造谣P图的作恶者体会到，而伴随当事人的，是他人投来的异样的眼光，和身边人压低声音的戏谑的话语，足以逼死一个人的心理压力和无论如何都显得那么无力的解释……这些都是狠狠扎在受害者身上的刀子！

这种事情不是第一次发生了，无论是在我国，还是在国外，每年都会有这样的事情，层出不穷，随着技术的进步和网络的发展，似乎很多事情的成本都大大降低了，尤其是造黄谣这种事情，几乎只是动动手指头，就足以让一个女生顶不住羞愤和侮辱，从高楼上一跃而下。

什么都没有做的受害者自杀了，但是躲在角落里的色情生产者依旧在狂喜，每天都有数不清的钞票流进自己的钱包。

AI换脸终于带来了恐慌——你怎么知道自己的脸不会出现在某一个不健康的网站的视频里？

03

2022年年底，有媒体报道，英特尔公司研发出了一款名为 FakeCatcher 的软件。

翻译过来就是「虚假捕猎者」，其主要用途，就是用来检测和封杀 AI 换脸视频。

为什么英特尔要搞这么一出呢？说到底，还是这项技术实在是太过于离谱了，AI换脸技术带来的弊端已经发展到了不容忽视的地步了，必须对其采取管控措施。

我想说，对于深刻认识AI换脸技术的弊端，每一个人都不应该置身事外。

这项技术的滥用导致的受害者可不止国内外一众知名女星，就连普通人都有很大的可能性遭受诈骗，其诈骗手段不止包括AI换脸换成熟人的脸庞向你视频通话借钱，其诈骗手段层出不穷，让人防不胜防。

抵制AI换脸合成的不健康视频，提高警惕，以善心对待生活中的每一个人，才是我们应该做的。

04

老子反对主谈文化学术的圣人，认为文化学术是统治者麻痹奴役和欺骗群众的工具，但是造成这种局面，并不是文化学术本身的罪过，AI技术也是同理。

文化怎么运用，技术如何操作，公道都在人心，一念之差，就是善恶之间。

通过规章制度合理引导解决科学技术的伦理问题，固然重要。

但是更重要的是我们每一个人都能管好自己心中的那头原始的野兽，和自己的劣根性作斗争，尊重并爱护生活中遇到的人，追逐善念，严于律己。

愿善心永存，愿恶人伏法。

作者：叔虞

全网新媒体同名“小城故事馆”