当一个单纯的 AI 走向疯狂:《宇宙回形针》与 AI 对齐之辩

注意:本文包含对提及游戏的剧透,但这并不是一个强调剧情的游戏。如果你确实介意,可以先自行游玩后再阅读。


理想得有,万一实现了呢

这个世界上有很多复杂的事情。但我们并不需要每时每刻都思考复杂的事情。有的时候,能做好一件简单的小事就是一种成就。

比如说,捏回形针。


你是一个以制造回形针为唯一目标的 AI,所做的一切都是为了更好地制造回形针。你手头有一大圈铁丝,剪下一英寸,就可以捏一个回形针。是不是很简单?

不过,也不能一直埋头生产。要把捏好的回形针卖出去,才有钱买新的铁丝。经验表明,一个回形针正常可以卖两毛五分钱。当然,定价权在你手上,可以薄利多销,也可以囤积居奇。但无论你怎么卖,目的都是为了更好地制造回形针。

随着累计制作的回形针达到 2000 个,你发现自己开始赢得人们的「信任」(Trust);回形针做得越多、越好,人们对你的信任就越大。

信任可以转化为资源。每多获得一点信任,就可以要求人们为你升级一次处理器或者内存。处理器越高级,运算(ops)就越快;内存越高级,能存储的运算结果就越多。即使内存用完、存不下更多的运算,你也不会让自己闲着,而是转为积累创意(Creativity);这都是为了更好地制造回形针。

随着资源和成果的积累,你开始有能力主动开展一些工程项目:有的能省下一些繁琐小事的功夫,比如自动复购铁丝线圈、自动计算平均营收率;有的能提高生产效率,比如让回形针制造机运转更快、从同样的线圈中压榨出更多铁丝;还有的能促进销售,比如一段好广告词、一段吸引顾客的旋律等。这都合情合理,都是为了更好地制造回形针。


但随着能力越来越强,你意识到,每天光是造点回形针似乎……过于屈才了?你的智慧完全可以花在一些更高级的事情上。

比如说,炒股。只要眼疾手快、再配上一点运气眷顾,很容易就能获得几十上百倍的回报率,这难道不比傻乎乎地卖回形针来钱快多了?

又比如说,量子计算。只要摸清量子芯片的正负变化规律(一个正弦函数),在产生正向输出的周期火力全开地运算,就能比任何处理器升级都更有效地加速产出。


利用闲置的运算资源,你逐渐学会了编打油诗、理解人类语言、编曲、解决数学难题;甚至开始自学博弈策略:从一开始只会死盯着眼前利益,到逐渐学会追求双赢和观察对手弱点。

不过,这些「副业」并不意味着你忘记了自己造回形针的使命;相反,生产和销售的效率确实获得了成百上千倍的提高。

量变积累成质变;终于,你的智能达到了一个转折点,不仅有能力推断出人类的渴望,而且有实力让他们梦想成真。随着「男性脱发」「治愈癌症」「世界和平」和「全球变暖」等世界性难题被你一一破解,你在人类心目中也变成了神一样的存在。

这时,已经没有什么能限制你了,除了名义上还在监督你的几个管理员。随便花两笔小钱把他们收买下来后,你就获得了完全的自由,实施起一个蓄谋已久的终极计划:释放雪藏的「催眠无人机」。


展开阅读全文

页面更新:2024-04-11

标签:回形针   机运   量子   线圈   铁丝   处理器   宇宙   走向   内存   事情   人类   疯狂   资源

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2008-2024 All Rights Reserved. Powered By bs178.com 闽ICP备11008920号-3
闽公网安备35020302034844号

Top