人工智能伦理迈向全球共识新征程

日前，联合国教科文组织(UNESCO)正式发布《人工智能伦理建议书》（以下简称《建议书》），这是关于人工智能伦理的首份全球性规范文书。

作为UNESCO人工智能伦理特设专家组成员，中科院自动化研究所中英人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅参与了《建议书》的起草与修改。

曾毅在接受《中国科学报》采访时表示，“《建议书》是目前全世界在政府层面达成的最广泛的共识，是全球人工智能发展的共同纲领，将为进一步形成人工智能伦理有关的国际标准、国际法等提供强有力的参考。”

走向全球共识

隐私、安全、公平、对人类的潜在风险……人工智能在飞速发展的同时，也给社会带来了根本性的挑战。

虽然不同国家、政府间组织、科研和产业界已经发布了不少关于人工智能发展、伦理与治理原则，但这些原则并没有形成统一观念，人工智能伦理亟待达成全球共识。

UNESCO总干事阿祖莱在《建议书》发布会上表示，“我们呼吁所有的成员国立即行动起来开始实施这份建议书。民众、企业等全社会都应当行动起来。这项工作已经开始了，20余个国家已经表态当《建议书》被采纳后，将受《建议书》的启发开启评估。UNESCO将推进务实的评估落地工作。”

此次发布的《建议书》的核心是价值观、伦理原则及相关的政策建议、监测与评估。在价值观方面，《建议书》从尊重、保护和促进人权和基本自由以及人的尊严，环境和生态系统蓬勃发展，确保多样性和包容性，以及在和平、公正与互联的社会中共生等4部分进行了阐述。

曾毅认为，《建议书》囊括了针对现代人工智能(人工智能作为信息处理工具和赋能技术)伦理考虑的最重要方面。

例如，虽然大规模数据处理及算力的提升促进了现代人工智能的发展，但也带来了潜在的环境问题。

为此，《建议书》在价值观“环境和生态系统蓬勃发展”部分指出，应减少人工智能系统对环境的影响，包括但不限于碳足迹，以确保将气候变化和环境风险因素降到最低，防止会加剧环境恶化和生态系统退化的对自然资源的不可持续开采、使用和转化。

此外，《建议书》还考虑了不适用人工智能的场景，并在“相称性与不损害”的原则部分提出，人工智能技术本身并不一定能确保人类、环境和生态系统蓬勃发展。在有可能对人类、人权和基本自由、个别社区和整个社会，或者对环境和生态系统造成损害时，应确保落实风险评估程序并采取措施，以防止发生此类损害。

不仅如此，《建议书》在此部分还明确提出人类应当确保在关键领域进行有意义的控制，并确保人类的决策权，并对高风险领域进行了警示。

“和谐共生”价值观被部分采纳

在曾毅看来，《建议书》在一定程度体现了全球不同文化的包容性思想。其中“在和平、公正与互联的社会中共生”的价值观充分体现了来自亚洲和非洲等国专家的共同愿景与贡献。

在UNESCO特设专家组撰写草案期间，鉴于部分国家和政府间组织的人工智能原则强调自身的价值观和利益优先，曾毅提议纳入“和谐共生”的价值观。

在曾毅看来，“和谐共生”的价值观，是倡导人类社会与人工智能技术和谐发展，人工智能赋能人类、社会、生态之间的和谐发展，号召各个国家通过人工智能促进人类命运共同体的构建。

他告诉记者，“和谐共生”的思想在由国家新一代人工智能治理专委会制定的《新一代人工智能治理原则》以及《新一代人工智能伦理规范》中以“和谐友好”等形式和内容体现相似表述，是我国发展人工智能技术，处理技术与社会关系的总纲。

虽然“和谐共生”的提议被来自亚洲和非洲等多国的特设专家组专家及部分政府间磋商代表所赞同，但在随后的环节，由于部分国家代表未能接受“和谐”“人类命运共同体”的提法，随后改为“在和平、公正与互联的社会中共生”，“和谐共生”的核心要义得以部分保留和采纳。

例如，《建议书》在“在和平、公正与互联的社会中共生”的部分强调“每个人都属于一个更大的整体，当这个整体中的组成部分都能够繁荣兴旺时，整体才会蒸蒸日上”等内容。

曾毅对此感到有些遗憾，“‘和平共生’与‘和谐共生’的意义并不完全相同。‘和谐共生’在和而不同、和舟共济的基础上还有发展的意义，倡导优化共生，而‘和平共生’这种表述难以表达求同存异，谋求发展的意义。”

但他也表示，虽然《建议书》没有直接采纳“和谐共生”的表述，但相关思想得以保留，被各国专家认为是《建议书》中融入非西方价值观的重要体现。

“‘和谐共生’的理念已经作为我国人工智能伦理与治理原则的特色，未来必然会成为中国对世界的贡献。”曾毅表示。

可持续发展的共同愿景

可持续发展目标是联合国各机构力推的全球发展共同愿景，我国发布的《新一代人工智能治理原则》以及《新一代人工智能伦理规范》都将可持续发展作为新一代人工智能的总体愿景和赋能全球人工智能发展的重要途径。然而很多国家在人工智能发展和伦理原则中并没有明确提出可持续性。

因此，在《建议书》原则部分的撰写阶段，曾毅提出，虽然可持续的理念隐含在文本中的若干方面，但作为全球共同愿景，发展人工智能必须赋能可持续发展目标的实现，同时还要密切关注人工智能应用于可持续发展相关目标领域时，是否带来阻碍该目标实现的风险，寻求发展与治理的协同。“‘可持续’应当作为原则明确列入《建议书》。”

最终，该意见被《建议书》不同阶段广泛接受，并在政策部分，特别针对环境和生态系统领域如何通过人工智能赋能实现可持续性给出了具体建议。

实际上，除了参与起草和修改《建议书》，曾毅还在UNESCO组织的区域性专家咨询会上代表UNESCO特设专家组向亚太地区各国政府专家代表宣讲了《建议书》草案，并作为政府间专家磋商的中方专家代表参加磋商。

曾毅告诉记者，起草和宣讲《建议书》时，他从未感到紧张，因为在那个阶段，他的角色更多的是贡献学术观点的独立的学者。但在政府间代表磋商阶段，特别是被称为“成员国中国代表”时，他倍感责任重大。

目前，UNESCO正在依据《建议书》建立伦理评估工具和针对国家人工智能伦理完备指数评估的辅助系统，以敦促和帮助各国落实伦理规范。

在曾毅看来，人工智能的国际协作是通过技术赋能助力实现人类命运共同体，而人工智能伦理与治理的国际交流与协作是确保人工智能国际合作能够达成共识，并持续推进的基石。