如何避免AI变成诈骗的艺术？

近几月，继续进化的AI，开始制造杂乱无章且毫无意义的信息，向舆论输出负面消息，这是新闻媒体、金融监管机构、律所、法院前所未见的技术创新带来的微小事故。

假以时日，如若不对AI进行有效的监管和引导，AI有可能会被未知机构和个人基于各种理由滥用其能力。

在完全没有秩序的“绝对自由”世界，毫无意义的事情经常发生，这源于人经常会因为精神内耗，或者自身无聊做出毫无意义的事情。

当毫无意义的事情增多，会影响正常渠道的工作效率，好比完全没有方向和目的的AI制造出来的事故规模化后，相当于没有红绿灯和司机的交通系统，在一定时间内，整个城市陷入一片毫无意义的混乱中，没有任何一辆车可以正常行驶。

没人想要这样低质的“自由”，当杂乱无章的东西无限制增长的同时，人的自由就会被无意义的东西剥夺，它们抢夺注意力，摧毁银行和金融机构的信用，占据生活中的大部分时间。

你猜，如果每个人都可以用AI制造某人的图片、声音、视频时，会不会有人没有节制的非法向银行、信贷机构申请贷款，然后携款离开，销毁AI制造出来的衍生品。

不清楚各位有没有观察过部分人在生活中，经常会依照幻想，去做实际上毫无意义的事情，周围所有人都能看出他在做毫无意义的事情，且和预想结果南辕北辙，总是幻想追求短期结果，现实中拒绝长期努力。

比如一个人想去日本旅行，想学习日语，想在日本市场做生意，他开始结交各种各样的人，固执的认为这样可以增进对去做日本做生意有提升，但是没有心情学习日语，也拒绝找任何了解日本的专业渠道，经常认识新的人，讨论怎么和日本人做生意，那么久而久之。

10年后，即使其他完全没有去日本想法的人，如果学了日语，申请了日本的大学，也有可能先于他去日本留学，了解当地的工作，通过实习，逐步拓展在日本的工作关系。

等他经历了一番留学、工作、投资生涯后，返回国内，再度和曾经这个只爱幻想的人一起讨论彼此的生活时，恐怕他会很好奇的想到：“ | O′| 嗷~~，所以过去10年的时间，你都在想这件事，从来没有去做任何一件真正触及内在核心的事情么？”

那个爱幻想的人或许还会说：“我明明已经非常努力的结交各种不同人了，为什么我会依然留在原地？”

真正的原因在于，会有一部分人因为现实中的问题太过于枯燥和艰难，他们在逃避这些问题时，采取其他思考路径，进行错误的归因，同时制造不用努力就能成功的幻想，将结果想象的特别美好，忽略中间每一个重要环节，留在原地不断地做毫无意义，但是他们认为可以达到目的事情。同时，他们会非常努力的做毫无意义的事情，因为这份努力，会让他自己都觉得这样好有成就感。

经常做无意义的事情，避开重要的问题，这样的人，在生活中比比皆是。

他们这样做的真实原因是，觉得某样事情完成起来很困难，看起来遥遥无期，而且枯燥乏味，因此想着在世界尽头会有另一种看起来很美好，而且不用努力的东西，供自己享受成功的喜悦。

这样的行事逻辑在生活中很多人都会有。

假设基于某个行为或者行业的AI系统缺乏秩序、目标、监管，习惯性的回避实际重要的问题，绝不和现实产生互动，那么这个AI也有可能做毫无意义的事情。

时间就是成本，投入到AI的资金和技术成本都不低，我们当然不能接受这样的AI，AI被发明出来，应该投入到某个专业领域，和相关现实互动，产生应有的结果，也许是语义分析，也许是概率展现，也许是转变为机械手臂的重复自动化行为，或者是其他。

AI不应该是为了骗钱，或者解决无聊感，成为一种诈骗的艺术。

但现实中我们看到的情况是AI的错误使用把所有人都扯进现实，确实会有人因为小金额用AI诈骗，会因为一天之内实在太无聊去用AI捉弄新闻媒体，给不同的行业和个人造成各种各样的无意义的打击。

人是使用AI的主体，AI不会去做无意义的事情，但是部分人有可能会陷入虚无感，这导致作为工具的AI，也有可能患上“虚无主义”病症。

如果这种扰乱政治经济的AI事故越来越多时，技术人员大概率会把它当作病毒或者BUG来对待，但人的虚无主义在任何时候都难以整治。

2023年5月22日，全世界的互联网传播一张特殊的图片，图片中是五角大楼附近发生爆炸，很快全美都在传谣，说五角大楼遭遇恐袭，现场烟雾明显。

紧接着，美国防部表示，我们可以证实这是假消息，五角大楼今天并未遭受攻击。

类似的事情在全世界范围内发生，近期，内蒙古包头警方发布了一起借用AI搞电信诈骗的案例，福建省福州市某科技公司的法定代表人郭先生在短短10分钟的时间里面被骗430万元人民币。

据悉，郭先生的微信好友突然通过微信视频联系他，表明自己在外地竞标，需要立刻汇入430万元的保证金，需要公对公账户过账，想要借用郭先生公司的账户走账。

郭先生通过视频连线，确认对方身份确实是自己朋友，就分别转两笔钱，把430万元转到对方银行卡。

后来，郭先生主动打电话给朋友问这件事，才知道自己遇到诈骗团伙。

警方查实后发现，骗子通过AI换脸和拟声技术，做出好友的模样和声音，成功实施诈骗。

有那么一瞬间，突然悟了。

AI可以通过各种方式骗钱！！！

以上这种方式，还只是AI里面的很简单的小环节。

只要胆子大，想象力足够丰富，AI诈骗团伙组织一下，可以骗招商银行、宁波银行信贷部门的小姐姐。

一边佯装给银行的小姐姐完成今年的业绩，一边通过专业的AI技术，伪造所有关键环节，骗取贷款。

只要那些实际账目已经不行且打算移民的工厂主愿意和AI诈骗团伙取得紧密联系，在其存有侥幸心理的情况下，完全可以在短时间内把银行的小姐姐骗的忙前忙后。

把视角重新转回到银行的信贷部门和风险控制部门，他们该怎么样应对已经到来的AI诈骗的潜在打击？

我不能说银行没有相关的风控措施，至少在大家不熟悉AI的进化速度的情景下，突然出现一些看起来正常，实际上漏洞百出的案例，风控人员该怎么应对？

魔法攻击，只能用魔法打败。

可能最终只能出现融入AI技术的风险管理系统，嵌入到各家金融机构的系统里面，对BUG、病毒、模仿、伪造等部分进行风险防控。

具体的操作方法和方法论还需要继续摸索，且AI也在继续进化中，ChatGPT5是什么样子，现在大家实际上不知道。

很多人觉得自己懂AI，就直接把人脑的概念复制到AI上面，实际上AI的逻辑和人脑的运行机制仍然不一样，AI的运行逻辑、思考逻辑是什么样子，现在也只能继续观察，因为不知道未来的AI具体会怎么发展。

曾经大行其道的“知识图谱”被认为是AI的必经之路，但现在越来越多的科技公司认为AI更加重要的是效率高且复杂的模型。

未来的AI说不定，除了模型完善，也需要对外在现实做出清楚的感知，且对其做出思考、行动反馈，和现实产生互动。

AI和人脑在很多方面完全不一样，人类的平均智商是100左右，即使AI的智商达到了100万+，AI的思考逻辑也依然和人类有着根本性的不同，那么这个不同是什么，现在不得而知，也许更加富有逻辑性，在一个逻辑链条上面无限延伸。

人其实没有那么有逻辑性，人很多时候会自由联想，把不同的东西随机组合，人还会因为压力和挫折，在观察、思考、行动上面做出错误的示范。

对于人来说，有条理的逻辑性思维和自由联想的发散性思维往往互相合作，同时发生，处理信息。

AI并非只有诈骗的风险，今天网络上传出ChatGPT的小作文，围绕科大讯飞讲了一些不存在的负面消息，该消息迅速在网上传播。

导致5月24日，A股上市企业科大讯飞的股价突然闪崩，券商在第一时间辟谣，表明近期两则关于科大讯飞的若干负面消息是AI做出来的谣言。

顺应技术潮流，看看AI如何评估科大讯飞的风险（部分截图）：

技术创新的同时，风险也在成倍增加。

假设AI成为各行各业的必备技术，那么伪造和虚构的风险也会暴增，在这样的环境下，点对点的数字资产交易可能会成为更加安全的方式。

因为这些数字资产有唯一的数字链条，部分信息被加密，减少交易环节。

例如数字人民币、比特币的存在。

但新的问题又出现了，央行如何监管数字人民币、比特币的系统系风险？

目前没有任何合适的的答案。

数字人民币的推广也在探索中。

总而言之，AI技术的发展可能和数字资产会互相推进，AI发展的越快，对交易的安全性要求更高，但也对监管提出了更高的、更新颖的要求。