专家热议人工智能如何引领韧性治理与未来科技

　　近日，第三届人工智能合作与治理国际论坛的第一场主论坛以“人工智能引领韧性治理与未来科技”为题举办。主论坛由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持。联合国助理秘书长、联合国开发计划署（UNDP）政策与方案支助局局长徐浩良，世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克，北京智源人工智能研究院理事长张宏江，国际人工智能协会前主席约兰达·吉尔应邀出席论坛并作主旨发言。

　　薛澜表示，人工智能为代表的数字技术成为推动新一轮科技与产业革命的强大引擎，人工智能技术如何才能更好地应对气候变化、公共卫生、数字鸿沟等重大问题与全球性挑战、消除全球“治理赤字”，如何推动构建富有韧性、公平合理的全球治理体系，如何在算法研发设计中更多考虑公共利益与社会责任，这些问题亟待我们研究与解决，也希望主论坛的讨论能围绕上述问题展开。

　　徐浩良在发言中表示，尽管世界上有些地区已经采取行动，政府在监管人工智能的风险和危害方面仍面临持续困境。数字技术并非一劳永逸的万能灵药，因此在UNDP的《2022-2025年数字战略》中制定了具有雄心的愿景，即创建一个“数字技术助力人类和地球发展”的世界，UNDP与各国政府的交流与互动凸显了对数据及人工智能的治理及道德规范的迫切需求。

　　龚克指出，韧性是可持续发展的重要要求和愿景，他以AI在管网泄漏排查、城市需水预测、预报特定灾害等场景中的成功应用为例，说明AI可以有效助力韧性发展。“数据的及时、准确、全面对于AI助力韧性发展至关重要，物联网的发展、多源数据的融合、数据的无偏化处理等成为AI助力韧性发展的技术趋势”。龚克说。

　　从人工智能为韧性治理提供了技术赋能的角度来看，龚克表示，只有负责任、符合伦理、依法和适度地应用人工智能，才能让人工智能在韧性治理中既作为治理工具、也作为治理对象的两个方面得到统一。他特别强调，技术赋权必须以法律为边界，贯彻AI伦理原则，防止技术异化为权力。

　　张宏江分享了人工智能赋能科学发现的实践经验。他认为建立于数据、算法、算力基础上的AI驱动深度学习模型已成为科学发现的新范式，在材料、化工产品、健康管理、药物研发等领域促生了大量新的设计和产品，尤其是AI驱动的科学研究将成为促进生物医药和生命健康的一个有效新途径。

　　约兰达·吉尔在发言中指出，AI可以克服人类缺乏系统性、易出错、有偏见、写作能力欠佳等局限性，应当让AI成为科学生态系统的一部分，实现从AI复现论文到AI成为研究助理，再到AI和人类一起合作发表论文。AI还具备提供更精确和定制化的报告、自动更新科学发现、提高论文可复现性、综合调整数据、整合不同学科的信息和模型等系列优势。她建议可以开发AI科学家，给AI以算法、数据，让AI有更大的主动性、自主性和独立性，并让其参与科学问题研究。

　　主旨发言环节结束后，专家们进行了研讨并与观众进行了互动交流。围绕“如何帮助发展中国家缓解其关于人工智能应用和治理之间的担忧”的问题，徐浩良认为，发展中国家与发达国家在新技术发展的能力建设方面存在很大差距，而在帮助缩小差距的过程中，要坚持国家政府主导，在国际框架、国际协议里的承诺范围内帮助其提高能力，缩小他们与现代技术或现代应用技术、概念治理方面的差距。

　　围绕观众提出的“韧性治理理念如何促进人工智能工作”这一问题，龚克认为人工智能是一个相对比较脆弱的系统，要在人工智能系统本身设计中增加鲁棒性，引入人工智能韧性检验的概念，并将其制定到相关标准中。

　　“在设计人工智能系统时，需要考虑在敏感度和韧性之间矛盾的核心点上由人来介入，且重点是系统本身知道自己需要人介入。”张宏江说。