守护科技伦理就是守护创新活力

原文地址：http://news.sciencenet.cn/htmlnews/2023/4/497935.shtm

4月4日，科技部发布关于公开征求对《科技伦理审查办法（试行）》意见的公告，提出建立伦理高风险科技活动清单制度，人工智能、基因编辑等部分前沿探索在清单之列。该公告一经发出，引发科学技术界人士热议。

在法国巴黎，机器人检测人们是否正确佩戴口罩。新华社资料图

科技伦理问题与科学技术发展相伴相生。从多莉羊到“深蓝”战胜国际象棋棋手卡萨帕诺夫，从转基因、纳米等新兴科技异军突起，到人工智能、大数据应用的几乎“无孔不入”，从神经科技、合成生物学等颠覆性的未来科技呼之欲出，到ChatGPT对人类生产方式可能造成的冲击，越来越多的人深刻认识到，科学设想可以天马行空、漫无边际，但科技创新行为绝不能信马由缰、为所欲为，否则，就可能走向危害社会和人类本身的可怕境地。

很多人对科技探索任性妄为严重后果的最初认知，往往来源于科幻电影。比如在知名影片《侏罗纪公园》里，一名商人痴心于恐龙基因编辑，企图使恐龙复活，建造主题公园。不料复活后的恐龙开始袭击游客，造成伤亡……如果我们对基因编辑、克隆技术等不严格规范、善加利用，谁能保证不会出现少数“不计后果研发利用新技术的蠢人”？科幻作品往往是现实的前瞻。例如电影《机械姬》引发的关于“如何防止人工智能利用人类弱点与人类为敌”的思考，今天看来，绝非荒诞无稽、毫无根据。现下，ChatGPT引发的担忧就是例证。

日前，媒体援引比利时媒体的报道，一名比利时妇女声称，她的丈夫在与AI 聊天机器人谈了六周后自杀身亡。3月29日，包括马斯克在内的1000多名人工智能专家联名签署了一份公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。联合国教科文组织也就人工智能伦理问题发表声明。不久前在武汉召开的一个大数据论坛上，中国工程院院士杨善林也直言：“人工智能取代人类工作的范围正在不断扩大。”……如果不扎紧制度的篱笆，“狼”可能真的就要来了。

我国高度重视科技伦理问题，2021年12月17日，习近平总书记主持召开中央全面深化改革委员会第二十三次会议，审议通过《关于加强科技伦理治理的指导意见》，强调：“科技是发展的利器，也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，完善相关法律法规、伦理审查规则及监管框架。”此次有关部门公开征求对《科技伦理审查办法（试行）》意见，是落实指导意见，避免风险、应对挑战、完善制度，引导科技向善的重要一招，影响广泛、意义深远。

一段时期以来，社会上也有一些议论。有人认为守护科技伦理、划定底线，会影响科技创新的效率，扼杀科技创新的活力，实则不然。如果科技创新毫无责任底线，毫无道德界限，毫无敬畏之心，损害国家和人类社会基本利益，那就不是创新创造，而是破坏毁灭。任凭前沿研究“一骑绝尘”，造成危害，再去叫停，对科研机构和企业造成的人力物力财力损失更大。由此而论，列出清单、明确底线，引导科学家在法律和制度允许范围内尽情施展、勇攀高峰、开展负责任的创新，不仅不是对“创新效率”的阻滞，而且是对“创新效率”的呵护。