人工智能的全球治理；英国失踪少年归来之后

人工智能的全球治理

在行将结束的2023年，人工智能无疑占据了全球公共讨论的中心位置。与2016年AlphaGo和李世石的“世纪对决”给受众带来的奇观式体验不同，发布于2022年11月底的ChatGPT，以人类历史上前所未有的速度“飞入寻常百姓家”，并塑造大众意识和公共话语，改变政治、经济、社会治理、国际关系、医疗保健、教育与人文艺术等人类世界诸领域。

伴随着新技术的狂飙突进，人们愈发对人工智能取代或萎缩人类智力、助长剽窃和有害信息的潜力表示担忧，而这种担忧又与地缘政治博弈、金融资本炒作、大众媒体议程设置以及好莱坞科幻电影带来的大众文化想象等诸多因素掺杂在一起，形成相当杂驳的面相。

山姆·奥特曼（Sam Altman）

2023年11月，被称为“ChatGPT之父”的山姆·奥特曼（Sam Altman）被自家公司“扫地出门”又迅速回归“复辟”，这一戏剧性事件给这一年的人工智能大戏添上了一抹荒诞色彩，也揭示了人工智能内部管理机制的随意性和脆弱性。12月，奥特曼当选为《时代》周刊年度首席执行官。

无论亲身体验与否，人们都已被拽入一个新世界，人工智能已经成为全人类共同面临的机遇和挑战，而如何对其进行治理亦成为全球性议题。

10月26日，联合国秘书长安东尼奥·古特雷斯正式宣布联合国高级别人工智能咨询机构（High Level Advisory Body on AI）成立。古特雷斯在发言中指出：“在充满挑战的时代，人工智能可以为人类带来非凡的进步。从预测和应对危机，到推出公共卫生计划和教育服务，人工智能可以全面扩大和加强政府、民间社会和联合国的工作。对于发展中经济体而言，人工智能提供了跨越过时技术的可能性，并直接为最需要的人提供服务。”

12月21日，该机构的执行委员会发布中期报告，四名执委会成员在《世界报业辛迪加》（Project Syndicate）网站发表题为《全球AI治理必须做什么》的评论文章，介绍了其主张的人工智能治理五项原则：

首先，由于全球环境不同，风险也不同，因此每一种风险都需要有相应的解决方案。但这意味着要认识到，权利和自由是如何被特定的设计、使用（和滥用）和治理选择所危害的。未能建设性地应用人工智能——我们称之为“错过的用途”（missed uses）——可能会不必要地加剧现有的问题和不平等。

其次，由于人工智能是经济、科学和社会发展的工具，而且它已经在帮助人们的日常生活，因此必须以公共利益为出发点进行治理。这意味着要牢记与公平、可持续性、社会和个人福祉相关的目标，以及更广泛的结构性问题，如竞争性市场和健康的创新生态系统。

第三，需要协调不同地区的新兴监管框架，以有效应对人工智能的全球治理挑战。

第四，人工智能治理应该与维护机构、保护隐私和个人数据安全的措施齐头并进。

最后，治理应立足于《联合国宪章》、国际人权法和其他具有广泛全球共识的国际承诺，如可持续发展目标。

相较于该文的原则性表述，该文作者之一、斯坦福大学网络政策中心政策主任和网络和平研究所所长玛丽耶·沙克（Marietje Schaake）同日在《外交事务》（Foreign Affairs）网站发表的文章，更加清晰地阐释了她关于人工智能全球治理的主张。

玛丽耶·沙克写道，政治领导人正争先恐后地对人工智能的进步做出回应。随着从市场营销到医疗保健再到武器系统的应用，人工智能有望在整个社会和世界各地产生深远影响。生成式人工智能的最新发展，即ChatGPT等应用程序中用于生成文本和图像的技术，激发了人们的兴奋，也引发了越来越多的担忧。学者和政治家都对这项技术可能导致人们失业、危害民主和侵犯公民自由的方式敲响了警钟。所有人都认识到，迫切需要政府监管，确保人工智能应用在法律范围内运作，并保障国家安全、人权和经济竞争。

从市政厅到国际组织，对人工智能的监督都至关重要。在2023年的最后几个月，新举措的步伐加快了。例如，七国集团在10月底发布了一份针对人工智能开发人员的非约束性行为准则。11月初，英国主办了人工智能安全峰会，来自28个国家的代表团承诺合作管理人工智能的风险。美国总统拜登在发布了一项促进“安全、可靠和值得信赖”的人工智能的行政命令几周后，在中美元首会晤中同意就人工智能展开政府间对话。12月初，欧盟立法者就《人工智能法案》达成了政治协议，这是一项开创性的法律，旨在降低人工智能技术的风险，并制定全球监管标准。

尽管人们普遍认识到需要引领人工智能驱动的未来，但在国际合作与协调方面，政治领导人往往求助于过去的工具。对人工智能进行全球监督的最突出的建议是试图复制为其他目的而建立的多边机构：例如，联合国秘书长古特雷斯和其他人呼吁建立一个“人工智能领域的国际原子能机构”（IAEA for AI），该机构将以国际原子能机构监督核技术的方式监督人工智能。上个月，英国主导的人工智能安全峰会再次呼吁成立“人工智能领域的政府间气候变化专门委员会”（IPCC for AI）。

尽管借鉴多边主义以往成功经验的冲动是可以理解的，但简单地引入一个新机构并不能解决人工智能治理的难题。与会者在人工智能安全峰会上做出的承诺，类似于七国集团的指导方针，仅仅是承诺。在缺乏约束性措施的情况下，企业只能自行管理。投资者和股东可能更喜欢这种结果，但政治家和公民不应幻想私营人工智能公司会为公众利益行事。OpenAI最近的惨败就是一个很好的例子：董事会与执行领导层就公司产品的社会影响发生冲突，这表明管理人工智能风险的内部机制非常脆弱。

国际监管机构只有在制定了可以让公司和国家政府承担责任的规则时才能取得成功。政治领导人应该首先敲定这些法律的前提条件和内容，然后才能让合适的机构来监督监管。人工智能的快速发展、不透明性和不断变化的性质使其与以前的技术有本质的不同，它将需要新形式的国际监督。立法者不应该因挑战的范围而气馁，而应该把它当作创新的灵感。

玛丽耶·沙克批评道，急于成立全球监管机构是本末倒置的做法。并表示，现有国际机构的成就或许值得效仿，但它们的监督模式并不容易适用于人工智能。以国际原子能机构为例，这个由联合国领导的监督机构成立于1957年，但直到1970年《核不扩散条约》生效后，该机构才能够有效地监督参与国的核武器计划并维护安全标准。目前关于人工智能治理的讨论忽略了《不扩散核武器条约》的关键作用。政治领导人渴望建立具有监控能力的以人工智能为中心的机构，但关于人工智能治理的可执行条约却遥遥无期。几个主要国家在国内立法方面几乎没有取得进展。

英国首相苏纳克，和包括谷歌前首席执行官埃里克·施密特在内的其他人都从政府间气候变化专门委员会那里获得了灵感。该机构综合了气候变化的科学研究，并主办了年度缔约方会议峰会。甚至在英国举行首届人工智能安全峰会之前，新的“IPCC for AI”计划就强调，该机构的职能不是发布政策建议。相反，它会定期总结人工智能研究，强调共同关注的问题，并概述政策选择，而不直接提供咨询。这一有限的议程并不包含一项具有约束力的、可以提供真实的保护并约束公司权力的条约的前景。

建立既能“制定规范和标准”又能“监督遵守情况”的机构，而不同时推动国家和国际规则，往好里说是天真的，往坏里说是故意的自私自利。企业一致支持非约束性倡议，支持后一种解释。OpenAI的首席执行官山姆·奥特曼响应了“IAEA for AI”的呼吁，并警告称，即使他的公司向公众传播同样的技术，人工智能也存在风险。施密特向人工智能创业公司和研究企业投入了大量资金，同时还为美国政府提供人工智能政策建议，强调企业的自我治理。利益冲突的可能性突显出，需要有法律上可执行的护栏，优先考虑公众利益，而不是为科技公司底线服务的松散规范。

将国际原子能机构或政府间气候变化专门委员会作为模型也有可能忽视人工智能的新颖性及其监管的具体挑战。与由政府控制的核武器不同，人工智能的能力集中在少数几家将产品推向市场的公司手中。政府间气候变化专门委员会作为一个独立研究小组的职能，将有助于人工智能的复制，特别是考虑到公司提供的技术信息的不透明性。但促进研究只是制定规则的一步，而有效的人工智能治理需要规则。