管理AI前景与风险：谷歌微软等巨头同意白宫制定的相关保障措施

来源：澎湃新闻

在7月18日联合国安理会举行的首次人工智能（AI）会议上，人工智能初创公司Anthropic联合创始人杰克·克拉克（Jack Clark）表示，对于目前这种容易出现“混乱”或造成“不可预测行为”的AI技术，人们并不相信科技公司能够保证其对人类是安全的。就在这一言论发表后不久，7月21日，美国总统拜登宣布进一步的AI管理计划，多家AI公司巨头自愿承诺确保其AI产品安全。

据美联社21日报道，美国总统拜登当天表示，亚马逊、谷歌、Meta、微软和其他引领人工智能技术发展的公司作出的新承诺，即满足由白宫促成的一套人工智能保障措施，是向管理人工智能技术带来的“巨大”前景和风险迈出的重要一步。

拜登宣布，白宫已获得七家美国公司的自愿承诺，旨在确保其人工智能产品在发布之前是安全的。拜登说：“我们必须对新兴技术可能带来的威胁保持清醒的认识和警惕。”他补充说，这些公司有确保其产品安全的“基本义务”，“社交网络向我们展示了如果缺乏了保障措施，强大的技术所能造成的危害。”同时拜登还表示：“这些承诺是很有希望的一步，但我们还有很多工作要共同完成。”

白宫在一份声明中说，这四家科技巨头，以及ChatGPT制造商OpenAI、初创公司Anthropic和 Inflection，均已承诺进行“部分由独立专家进行”的安全测试，以防范生物安全和网络安全等重大风险。这种测试还将检查潜在的社会危害，如偏见和歧视，以及先进人工智能系统可能控制物理系统或通过复制自身进行“自我复制”的更多潜在危险。这些公司还承诺采用各种方法报告系统漏洞，并使用数字水印帮助区分真实和人工智能生成的图像或音频（即深度伪造图像或音频）。

一些人工智能法规的倡导者表示，拜登政府此次的举动是一个开端，但还需要做更多工作，让公司及其产品承担责任。人工智能研究所（AI Now Institute）执行主任安巴·卡克（Amba·Kak）告诉媒体：“与企业高管进行闭门商议，并制定自愿保障措施是不够的。我们需要更广泛的公开讨论来讨论一些公司几乎肯定不会自愿承诺的问题。”

美国参议院多数党领袖查克·舒默（Chuck·Schumer）表示，他将对人工智能进行立法监管，并以21日做出的承诺为基础，与拜登政府和“我们的两党同事”密切合作。此外，一些技术高管也呼吁对人工智能进行监管，其中几位还出席了今年5月举行的白宫峰会。微软总裁布拉德·史密斯（Brad Smith）在21日的一篇博客文章中说，他的公司正在做出一些超出白宫承诺的承诺，其中包括支持建立“高功能模型许可制度 ”的监管。

人工智能监管是全球面临的共同问题，欧盟立法者也正在商讨全面的人工智能规则，以限制被认为具有高风险的一些应用。联合国秘书长安东尼奥·古特雷斯（Antonio Guterres）最近表示，联合国是采用全球标准的“理想场所”，他还任命了一个委员会，该委员会将在今年年底前就全球人工智能治理的备选方案提出报告。古特雷斯还表示，他呼吁设立一个全球监管机构，称这将有助于最大化发挥人工智能的作用并更好地管理风险。他说，联合国应充当监管机构，规范、监督和执行人工智能规则，监管方式与其他机构监管航空、气候和核能的方式大致相同。