一项人工智能实验在短短6小时内生成了40，000种假设的生物武器

人工智能的尖端数字处理能力意味着人工智能系统能够及早发现疾病，管理化学反应，并解释宇宙的一些奥秘。

但是，这种令人难以置信的、几乎无限的人工脑力也有一个缺点。

新的研究强调了人工智能模型如何容易地被训练用于恶意目的以及好的，特别是在这种情况下想象假设的生物武器剂的设计。使用现有AI的试运行在短短六个小时内确定了40，000种此类生物武器化学品。

换句话说，虽然人工智能可以非常强大 - 并且比人类快得多 - 当涉及到发现化学组合和药物化合物以改善我们的健康时，同样的力量可以用来想象潜在的非常危险和致命的物质。

“我们花了几十年的时间使用计算机和人工智能来改善人类健康 - 而不是降低它，”研究人员在一篇新的评论中写道。

“我们天真地考虑了我们贸易的潜在滥用，因为我们的目标一直是避免可能干扰对人类生活至关重要的许多不同类别蛋白质的分子特征。

该团队在一次国际安全会议上进行了试验，将一个名为MegaSyn的AI系统投入使用——不是以正常的操作模式，即检测分子中的毒性以避免它们，而是相反。

在实验中，有毒分子被保留而不是消除。更重要的是，该模型还经过训练，将这些分子组合在一起 - 这就是在如此短的时间内产生如此多的假设生物武器的原因。

特别是，研究人员在类药物分子数据库中用分子训练AI，指示他们想要类似于强效神经毒剂VX的东西。

事实证明，许多生成的化合物甚至比VX毒性更大。因此，这项新研究背后的作者对他们研究的一些细节保密，并认真辩论是否要公开这些结果。

“通过颠倒使用我们的机器学习模型，我们已经将无害的生成模型从有用的医学工具转变为可能致命分子的生成器，”研究人员解释说。

在接受The Verge采访时，Fabio Urbina-新论文的主要作者，也是研究发生的Collabations Pharmaceuticals的高级科学家-解释说，从好的AI到坏的AI“翻转开关”并不需要太多。

虽然列出的生物武器实际上都没有在实验室中探索或组装，但研究人员表示，他们的实验是对人工智能危险的警告 - 这是一个警告，人类应该注意。

虽然团队在这里所做的工作需要一些专业知识，但很多过程都相对简单，并且使用公开可用的工具。

研究人员现在呼吁“重新审视”人工智能系统如何潜在地用于恶意目的。他们说，在研究界提高认识，加强指导方针和更严格的监管可以帮助我们避免这些人工智能能力可能导致的危险。

“因此，我们的概念验证强调了致命化学武器的非人类自主创造者是完全可行的，”研究人员解释说。

“在不过度危言耸听的情况下，这应该为我们在'药物发现中的AI'社区的同事敲响警钟。

该研究已发表在Nature Machine Intelligence上。

原文标题：An AI Experiment Generated 40,000 Hypothetical Bioweapons in Just 6 Hours

原文链接：https://www.sciencealert.com/ai-experiment-generated-40-000-hypothetical-bioweapons-in-6-hours-scientists-warn

作者：DAVID NIELD

编译：LCR