特朗普放话：AI要什么监管护栏，有我这个聪明总统就够了

近期，有句常被误认为出自列宁的话被频繁提及：“有些数十年里什么都没发生，有些数周却发生了数十年的事。” 对于人工智能来说，这周似乎正是如此。关于人工智能生存性风险的担忧，尽管几十年来一直存在，但此前并未引起广泛关注。

尽管埃隆·马斯克、萨姆·奥尔特曼和杰弗里·辛顿等人曾偶尔警告人工智能可能带来的严重风险，这些警告也曾登上新闻头条，但始终未能像气候变化或核战争风险那样深入公众意识。即使政治人物谈论人工智能监管，通常也将注意力集中在数据中心建设、公用事业账单、就业、教育、心理健康、算法歧视和公民自由等问题上，而非失控的人工智能可能对人类构成的生存威胁。然而，这种情况似乎正在发生变化。

过去一周，来自Anthropic、开放人工智能公司和谷歌深度思维的前员工，以及部分仍在这些公司工作的员工，纷纷发出警告，称这些企业在开发技术时过于鲁莽，可能使人类面临灭绝风险。这些警告迅速成为全球新闻的焦点。人工智能公司的首席执行官和政治人物纷纷对此作出回应。长期以来，无论是美国国内的人工智能监管，还是国际人工智能治理机制的建立，都停滞不前。然而，如今这些议题似乎正在获得新的动力。

《财富》杂志记者尼克·利希滕贝格曾报道，前Anthropic和开放人工智能公司安全研究员雅各布·考克森的离职声明为何能引发比以往更多关注。简而言之，关于“失控人工智能”事件的报道，加上人们使用人工智能代理的体验，似乎扩大了公众对“失去控制”风险的关注。Anthropic临近首次公开募股，开放人工智能公司也接近上市，这一时机无疑也起到了作用。

《财富》杂志总编辑艾莉森·尚特尔上周五在节目中采访奥尔特曼，向他提出了这些问题。奥尔特曼表示，开放人工智能公司支持与竞争对手协调放缓人工智能研发步伐，其中包括Anthropic、太空探索技术公司、谷歌深度思维、元公司以及可能的其他企业。奥尔特曼与Anthropic首席执行官达里奥·阿莫代伊及太空探索技术公司首席执行官埃隆·马斯克关系不睦，早已广为人知。他暗示，相关讨论已经启动，可能很快宣布协调放缓研发的安排。

奥尔特曼还表示，如有必要，他不会介意向投资者说明，开放人工智能公司为了优先保障安全而采取了一些会带来财务代价的措施，而公司在融资时已向投资者提示过这一可能性。他明确表示，开放人工智能公司今年不会上市，部分原因是目前对最新人工智能模型安全性的担忧，另一部分原因则是公司的业务状况尚未准备就绪。尚特尔采访结束后，阿莫代伊发表博客文章，呼吁民主国家的前沿人工智能实验室协调放缓甚至暂停研发。

他指出，在某些情况下，与其他人工智能实验室协调行动可能需要政府给予反垄断豁免。阿莫代伊还表示，Anthropic将任命独立评估人员常驻公司办公室，审查其安全工作。他提到，非营利人工智能评估机构模型评估与威胁研究机构，是他倾向合作的伙伴。他同时表示，美国和其他民主国家应尽可能尝试与相关国家达成某种国际人工智能治理协议。奥尔特曼随后迅速表态，支持阿莫代伊的大部分主张，尤其表示开放人工智能公司也将让外部评估人员与其研究团队共同工作。

不过，他谨慎强调，“控制节奏并不意味着停止”。在考克森发出警告、阿莫代伊呼吁行动后，多名美国议员提交法案，或重新推动已有法案。佛蒙特州独立参议员伯尼·桑德斯提出的一项法案要求全面禁止开发“人工超级智能”，并规定美国人工智能企业暂停正在进行的研究，直至安全技术取得进展。另一些法案则采取不同路径。例如，共和党参议员特德·克鲁兹、参议院多数党领袖约翰·图恩和民主党参议员艾米·克洛布彻共同提出的跨党派法案，将要求人工智能企业承担防止灾难性伤害的责任。

此外，也有人呼吁国会就人工智能的灾难性风险举行监督听证会。美国前总统贝拉克·奥巴马敦促民主党将人工智能治理置于其立法和竞选议程的核心位置。与此同时，70名英国议员签署公开信，呼吁英国政府禁止制造人工超级智能，并推动制定国际人工智能条约。然而，一些最具影响力的政治人物对上述主张持强烈反对态度。特朗普总统在其“真实社交”平台上发文称，人工智能唯一需要的护栏，就是“一位强大而聪明的总统，高智商！而美国拥有这样的总统，绰绰有余”。

他点名批评阿莫代伊，指责后者“假装成一个‘完美的小天使’”，并称其政府已经阻止Anthropic“做坏事，或者可能的坏事”。特朗普表示，美国已有适用于人工智能企业的监管权力和刑事法律。他还称，存在一场“针对人工智能和数据中心的病态阴谋”，而唯一对此感到高兴的是某些外部势力。特朗普在与英伟达首席执行官黄仁勋通话时也作出类似表述。黄仁勋经特朗普许可后，在一场“全员播客”峰会的现场观众面前播放了这次通话。

随后，共和党籍众议院议长迈克·约翰逊表示，对人工智能的恐惧是媒体煽动起来的，“我们不会对此采取愚蠢、条件反射式的应对措施”。官方媒体也批评阿莫代伊的提议，称其“服务于自身利益”，并将其形容为意在阻碍技术和经济崛起的“冷战手段”。在这种背景下，要求提高人工智能安全标准的行政命令似乎很难出台。真正的立法也同样前景不佳，至少在11月中期选举之后。

作者：杰里米·卡恩