特朗普更怕AI比不过中国 美专家吁美中设AI应急热线

美中预期将于近期首次举行人工智能高级别对话。特朗普表示，他更担心美国在人工智能竞争中比不过中国。而美国智库呼吁，双方应就人工智能前沿模型高速发展带来的“失控”风险展开直率对话，并设立“红机电话”，以应对可能发生的人工智能安全危机。

中评社报道，10日被媒体问到是否担心人工智能导致人类灭绝时，特朗普表示不担心，他更担心美国“不能赢得AI，从而使得美国处于不好的位置”。随即他声称美国AI现在还领先中国一年，显示他把人工智能竞争胜过中国当作更高优先。不少美国专家越来越担心，人工智能竞争之下的无节制开发前沿模型，可能导致人工智能失控。

美国智库“美国进步中心”（CAP）的三位专家，技术政策副总裁康纳（Adam　Conner）、国家安全和国际政策高级副总裁墨菲（Damian　Murphy）、拜登政府的东亚事务首席副助理国务卿费德玮（Jonathan　Fritz）10日联合提出政策建议，希望世界两大人工智能强国需要认真探讨如何应对人类可能失去对最先进前沿人工智能模型控制权的风险。

他们指出，人工智能模型能力的持续提升可能很快就会超越人类的理解和控制能力。这种控制权的丧失，无论是由于模型错位还是无法控制，都可能对国家安全、经济安全以及美国、中国乃至全世界人民的安全和福祉构成重大威胁。这些威胁包括：前所未有的网络攻击能力可能瘫痪关键基础设施；个人拥有更强的能力制造化学、生物、放射性和核武器；以及政府自身数字系统失去控制。

即将举行的中美对话正值中美人工智能双雄争霸之际。尽管缺乏互信且正在激烈竞争之中的两国就人工智能展开对话看似徒劳无功，但专家指出，对美中两国更大的风险在于，它们甚至没有至少探索一下控制人工智能发展速度的可能性，直到为时已晚。人工智能的加速发展以及近期发生的人工智能失控事件，使得此次对话的时机至关重要，且存在对话取得进展的契机。

美国财政部长贝森特据报将领衔人工智能对话的美方代表团，旨在为高层互动做准备。贝森特日前在一次公开活动中对“暂停”人工智能发展的想法泼了一盆冷水，他说：“我们不能暂停。你们也不能，因为中国人不会暂停。”

CAP的专家指出，在人工智能领域日益不确定的形势下，特朗普政府有义务尝试与中方就人工智能发展步伐问题展开严肃对话，并探讨潜在的合作领域和共同利益。现在双方就人工智能风险展开对话，最需要的并非相互信任，而是相互认识到自身利益所在。

他们表示，这是特朗普政府必须抓住的机会。虽然不应指望这个对话会达成人工智能条约，但中美两国应利用此次会晤，分享双方对人工智能模型“失控”的共同担忧，并明确开始讨论双方应采取哪些措施来减缓人工智能的发展速度，或者说“控制前沿发展”。面对这项潜在危险技术令人瞠目结舌的发展速度，如果双方不尝试开启对话，那才是更加愚蠢的做法。

他们认为，中国提出的“区分真正的安全威胁和纯粹的技术竞争”原则，应该成为这个对话的讨论基础。美国应该就OpenAI／“拥抱脸”事件进行技术简报，直接询问中国是否愿意建立控制人工智能发展节奏的机制。双方都必须避免将所有时间都花在美方对中国人工智能“蒸馏”的指控，以及中方对美国出口管制的抱怨上。双方不必同意暂停前沿人工智能的发展，但可以达成共识：如果人类的控制开始失效，两国应拥有切实可行的应对方案。

他们建议，美国应提议努力实现以下五项成果：一，设立“人工智能红机”，用于处理紧急安全问题；二，界定前沿人工智能带来的“真正安全威胁”，以推动未来前沿技术的发展；三，宣布成立工作组并确定会议日期，分享双方如何控制前沿技术的发展；四，共同声明，公开分享人工智能对齐和模型控制方面的最新研究进展；五，两国元首就此议题发表联合声明。

#创作打卡赢现金##热点观点畅聊会##上头条聊热点#