2025年9月的上海，外滩大会把AI议题推向风口浪尖。国际知名历史学家、《人类简史》作者赫拉利在主论坛发言引发广泛讨论。他直言，AI不是普通技术，而是已经触碰到社会中枢神经系统。技术带来的变革，正在重新定义人类社会的边界。

AI“超级对齐”与“加速主义”博弈

谁能想到，AI安全与加速发展成为全球最尖锐的分歧点？赫拉利在大会上提出警告，AI的最大威胁并非来自单一“坏人按下按钮”，而是隐形于日常、不可察觉的系统变化。算法悄然接管人类决策权，数字官僚体系逐步替代可质询的人类，社会分裂风险随之上升。

与之形成鲜明对比的是2024年图灵奖得主、“强化学习之父”萨顿。他认为，部分组织和个人夸大了AI恐惧，人工智能的风险被过度渲染。萨顿呼吁，面对AI浪潮，人类应以勇气和冒险精神拥抱变革。

阿里云创始人、院士王坚更关注AI与太空资源的结合。他认为，AI的应用不应局限于地面，未来，计算力和智能技术必将成为人类探索星辰大海的必备武器。宇树科技王兴兴则认为，AI大规模落地尚在前夜，未来的增长空间极其可观。

“AI十问”抛出人机共生新难题

本届外滩大会发布“AI十问世界”，40多场论坛、18场创新者舞台、3场AI科创赛事围绕这些问题展开。从“人类让AI变得越来越强大是在养虎为患吗？”、“AI犯错后该由谁担责？”到“哪些岗位必须永远留给人类？”等问题，直击行业痛点，也反映出AI与人类共处的深层焦虑。

或许有人会说，这些问题只是技术层面的争论，实际影响并不大。但从另一个角度看，AI的“主体性”已被全球科技圈普遍关注。赫拉利认为，AI是第一种能够自主决策、创造新想法的技术体。人类尚未有过控制“比自己更聪明物种”的经验，这种不确定性让未来难以预判。

“硅幕”隐现

赫拉利提出“硅幕”概念，预警未来世界可能被以芯片和代码为基础的数字围墙分割，各数字帝国间的文化、规则和政治结构将出现更大裂痕。如果人类无法重建信任，AI或许会成为新的“殖民者”，利用分裂掌控权力。

这种观点引发了不少质疑。有人认为，技术带来的割裂并非新鲜事，全球化浪潮下的科技壁垒早已有之。但从另一个视角来看，AI对语言和叙事能力的掌握，已让其成为“人类文明操作系统”的新主角。技术割裂带来的不仅是经济隔阂，更可能是认知模式的根本分歧。

安全、可信与责任创新

面对AI可能失控的风险，全球学界和业界给出了解法。香港大学计算与数据科学学院院长马毅提出，要推动AI系统从“黑箱”向“白箱”转型，增加算法透明和可解释性。复旦大学漆远则强调，AI“安全可信”是发展底线，必须依靠可解释AI、检索增强等技术路径，解决数据偏见和模型幻觉。

从行业组织到企业，AI治理已成为共识。CSA“AI安全工作组”成立，IIFAA分布式可信认证体系落地，“蚂蚁蚁天鉴”大模型安全方案亮相，均显示出安全与创新并重的趋势。

2025年大会聚焦的五大主线之一，就是“负责任创新与普惠未来”。凯文·凯利的话在会上被广泛引用：“科技问题不能靠减少科技来解，而要发明更好的科技。”

打破“硅幕”唯有开放共治

2025年9月12日，上海成为全球金融科技交流的中心。外滩大会、新加坡金融科技节、香港金融科技周三大盛会首次齐聚，举办“全球主题日”。多元交流不仅让上海的科技治理能力受到国际认可，也为全球AI共治搭建了桥梁。

MIT教授马克斯·特格马克直言：“AI发展速度超预期，任何一地的失控都可能带来全球性灾难。”赫拉利同样强调，只有全球协作，人类才有机会开发出能与自身共存的AI。萨顿则补充，协作是人类最大的能力，制度化协作才能带来繁荣。

或许有人会质疑全球合作的可行性，毕竟现实中各国利益分歧明显。但从外滩大会的交流实践看，共识和合作正在逐步推进。开源理念也从“代码开放”进化到“资源开放”，为AI治理提供了更广阔的空间。