全球首个！英美就人工智能安全达成双边协议

当地时间4月1日，美国和英国签署了一项具有里程碑意义的人工智能协议备忘录，宣布达成“人工智能安全科学合作伙伴关系”，对英美两国政府将如何汇集有关人工智能安全的技术知识、信息和人才作出规划。英美也成为首个就如何测试和评估新兴人工智能模型风险开展正式合作的两个国家。该协议是世界上首个关于人工智能安全的双边安排，也是在各国政府纷纷推动加强对新技术带来的生存风险的监管之际达成的。

此前，联合国大会在3月21日通过了首个关于人工智能的全球决议，呼吁推动开发“安全、可靠和值得信赖的”人工智能系统，以促进可持续发展。欧洲议会也在3月通过了《人工智能法案》。

清华大学计算机系长聘教授，清华大学人工智能研究院视觉智能研究中心主任邓志东告诉第一财经记者，要加大AI领域重大方向性的全球安全监管力度，特别是对AGI的安全风险进行分级管控。

赶在下一代模型问世之前合作

去年11月，英国新成立了人工智能安全研究所（AISI），美国也在同期表示要设立同类机构，以评估前沿人工智能模型的风险，目前美国已经表示要同200家公司和实体合作。

此次英美的人工智能合作协议将使英美在未来可以相互借调研究人员交流专业知识。两家机构还将共同研究如何独立评估由OpenAI和谷歌等公司建立的私人人工智能模型。据悉双方的合作关系是以英国情报机构英国政府通信总部（GCHQ）和美国国家安全局在情报和安全相关事务上的合作为蓝本的。

英国科学、创新与技术内阁大臣唐兰（Michelle Donelan）和美国商务部长雷蒙多（GinaRaimondo）在华盛顿共同签署了上述协议。唐兰表示："美国作为人工智能强国，与英国签署这项协议，充分说明了我们在人工智能安全方面的领先地位。”她补充道，由于许多最先进的人工智能公司目前都在美国，美国政府的专业知识对于了解人工智能的风险和要求公司履行承诺至关重要。

唐兰并说："明年是我们真正需要迅速采取行动的时候，因为下一代（人工智能）模型即将问世，它们可能会彻底改变游戏规则，而我们还不知道它们将提供的全部能力。”

不过，唐兰坚持认为，尽管英国对人工智能的安全性进行了研究，并确保设置了防护栏，但由于该技术的发展速度太快，英国并不打算在短期内对其进行更广泛的监管。

唐兰和雷蒙多均表示，需要紧急采取联合行动来应对人工智能风险。　

雷蒙多则表示：”人工智能是我们这一代的决定性技术，拜登政府计划很快宣布其人工智能团队新成员，美方目前正在动用政府全部资源（促成此事）。我们的合作关系表明，我们不是在逃避这些问题，而是在应对它们。由于我们的合作，我们的研究所将对人工智能系统有更好了解，并对人工智能进行更有力评估，发布更严格指导。”

据悉，英国政府支持的AISI由科技投资人和企业家霍加斯（IanHogarth）担任主席，已经聘请了谷歌DeepMind和牛津大学的精英研究人员，开始测试现有的和未发布的人工智能模型。

OpenAI、谷歌DeepMind、微软和Meta等科技企业则签署了自愿承诺书，将开放其最新的生成式人工智能模型供英国人工智能研究所（AISI）审查。

多纳兰还表示，她和雷蒙多计划讨论共同面临的挑战，如人工智能对今年即将举行的选举的影响、人工智能计算基础设施的需求等，"分享我们的技能组合，以及我们如何在总体上深化合作，为公众谋福利"。

罗兰贝格全球管理委员会联席总裁戴璞（DenisDepoux）接受第一财经记者采访时表示：“美国虽然没有相应的联邦法律，但一些州已经实施了自己的规定。这凸显了监管机构重视保护消费者隐私、防止技术滥用的趋势。”戴璞说，这种监管转变是积极的，不仅为消费者提供保护，也通过保护数据为公司自身提供了安全，AI领域也将如此。

联大通过全球人工智能监管协议

如前所述，除了英美两国的人工智能合作协议之外，美国也在联合国积极推进该领域规则设立。

联合国大会在3月21日通过的首个关于人工智能的全球决议，是该组织首次就监管人工智能这一新兴领域通过决议。决议草案由美国提交，同时还有120多个会员国成为“共同提案国”或表示支持。

大会强调，就该决议而言，“安全、可靠和值得信赖的人工智能系统”是指非军事领域的人工智能系统，必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。

决议同样提出“人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内”。

决议表示，各国还认识到，“目前存在人工智能和其他数字方面的鸿沟，国家之间和国家内部的技术发展水平参差不齐，发展中国家在跟上这一迅速加速的步伐方面面临独特挑战，这对可持续发展造成障碍”。

大会因此“决心弥合国家之间和国家内部的人工智能鸿沟和其他数字鸿沟”，同时“促请会员国并邀请其他利益攸关方采取行动，与发展中国家合作并向其提供援助，以实现包容和公平地获得数字化转型以及安全、可靠和值得信赖的人工智能系统所带来的惠益”。

不过，意大利经济发展部前副部长杰拉奇（Michele Geraci）对第一财经记者表示，他对全球AI治理并不乐观。“实现创新与监管之间的平衡是一项重大挑战，尤其是欧盟经常被认为容易过度监管。目前试图通过立法解决问题的方法可能不是最有效的策略。人工智能未来五年的影响和发展轨迹在很大程度上仍无法预测，因此很难设想其潜在应用。这种不确定性使制定法律来管理一项仍在发展的技术的任务变得更加复杂。对尚未完全实现的事物进行监管，有可能进入不断修订法律的循环，从而无意中阻碍进步。”杰拉奇说。

邓志东对记者表示，既不要妨碍AI的探索与创新活力，以期其蓬勃发展加快增进人类福祉，但也必须考虑人类的整体安全利益，处理好各个发展阶段的安全优先级别，在实践中把握好最佳AI风险管控时机。