安全问题日益明显！人工智能“短板”如何补

　　 今年4月以来，支付宝、微信、银联相继推出了自己的刷脸支付产品，刷脸支付俨然已成为备受青睐的下一个战场。有数据显示，预计到2022年，人脸支付使用用户将突破7.6亿人。

　　然而，随着人脸识别、语音识别等人工智能技术的发展，其安全问题也日益凸显。近日，在接受《中国科学报》采访时，中国科学院院士、清华大学人工智能研究院院长张钹表示，随着人脸支付应用场合日益重要、应用规模日益扩大，其被盗用的潜在风险也越来越大。“为什么到现在还没有人盗用？是因为获得的收益太小了，不值得。”

　　算法、数据和计算是驱动人工智能前进的“三驾马车”。但是，在香港科技大学讲席教授、微众银行首席人工智能官杨强看来，就核心算法而言，人工智能距离“现代化”还有很长的路要走。

　　从初阶到现代

　　在近日于苏州举行的第九届吴文俊人工智能科学技术奖颁奖典礼暨2019中国人工智能产业年会上，杨强获得了吴文俊人工智能杰出贡献奖。在发表获奖感言时，浸渍人工智能领域30多年的他坦言，人工智能研究距离理想目标还有很长的路要走。

　　他以物理学为例，“物理学的终极目标之一是用一个理论解释所有的宇宙现象，但当我们打开一本人工智能领域书籍时，会看到里面有各种各样的算法，而且每一种算法只针对一个现象。”他认为，这种做法类似物理学发展初期时呈现的现象，而当物理学已发展到现代物理学时，人工智能未来也应该发展到现代人工智能，向通用型人工智能理论发展，用一个理论来解释N个智能现象。“这是我们应该做的事情。”

　　作为中国人工智能学会理事长，中国工程院院士戴琼海也提出了这样一个问题：当下人工智能繁荣的背后一定潜藏着隐患。例如，多学科交叉促进了人工智能飞速发展，但在新方法、新原理、新技术、新应用不断涌现的同时，“我们应该深入思考，仅只顺应这一潮流是否会导致错失人工智能发生重大变革的机遇，是否应该将交叉融合从工程层面推进到基础科学层面？”

　　结合近两年来学术界申请国家自然科学基金的情况，国家自然科学基金委员会人工智能处处长吴国政认为，目前人工智能还处于弱人工智能的初级阶段。其标志之一是，以目前的基础理论或核心算法现状，人工智能在做数据标识时还主要靠人工、手动，而且机器学习的卷积神经网络是100层还是1000层，实际上并没有科学依据，还是在“跟着感觉走”。他希望，能够与学术界和产业界通力合作，“调研出人工智能的根本科学问题”。

　　新问题与新方向

　　在获颁2019年度吴文俊人工智能最高成就奖这一奖项后，张钹很快接受了《中国科学报》采访。谈及作为人工智能核心的算法和算力所存在的问题时，他表示 “深度学习有两个阶段是出人意料的”，一个阶段是深度学习刚问世的时候，它在降低相关领域知识要求方面表现出极大的优势。例如，以前做人脸识别，在向计算机输入信号时要做很多预处理，要花很多时间研究它。而深度学习出来后，输入原始数据就可以了。这就使得刚从事深度学习的人和在这一领域做了很长时间的人没有区别。“深度学习一夜之间就成了大家都能用的工具。这一点是大大出乎大家意料的。”

　　第二个阶段是应用了一段时间之后，发现这个方法问题很大。张钹告诉《中国科学报》，这主要体现在四个方面。一是不可信，表现在算法的结果无法解释。二是不安全，如非常容易受攻击、被欺骗。三是不可靠，会出现重大错误。例如，人类可能会把骡子看成驴，而机器却可能把石头看成驴，这导致其在关键的时候是不可用的。四是推广能力差，不能举一反三。

　　基于此，张钹及其团队提出发展“第三代人工智能”，即将数据驱动和知识驱动结合起来，突破目前人工智能所存在的局限，解决知识自动获取、表达及推理等三个问题。张钹告诉记者，“仅靠数据是不可能产生智能的。人类智能的基石是知识。如果计算机处理知识的能力达到了人类的水平，那么它的智力就可以达到人类的水平。”

　　而在杨强看来，虽然深度学习确实存在短板，例如无法解决数据孤岛的问题，对于分布式、零散数据无法有效利用。但是，他认为，深度学习继续向前发展的话，“还是有很多财富可以挖掘”。例如，跟工业等各行各业深度结合。而对研究者而言，除了深度学习，也可以另辟蹊径，如关注小数据，分布式、零散数据等。

　　“卡脖子”问题何解

　　中兴事件发生后，“卡脖子”技术成为一个热词。在东南大学仪器科学与工程学院院长宋爱国看来，“人工智能领域‘卡脖子’的关键技术还是挺多的。”例如，人工智能是模仿人的感知、认知等智能行为的，但是现在我们对于人的感知和认知机制并不是很清楚。而之所以不清楚，既是科学问题，也有技术瓶颈的原因。“因为在探测人类大脑的思维过程方面，缺乏相应的仪器，使得我们无法获悉人类思维过程中大脑神经元的动态成像过程。”

　　平安集团首席科学家、吴文俊人工智能杰出贡献奖获奖者肖京将“卡脖子”技术可分为两种，一种是属于从0到1的，全世界都没有解决方案，我们要进行开拓性研究。还有一种是人家有而我们没有的，例如开源软件等。“实际上，在‘卡脖子’领域我们有很多机会，这是我们的机遇。”

　　“现在很多学生都在做人工智能方面的工作，而且做得很快，但基本上都是用的国外的开源软件，收集的数据也都是国外的。这两方面我们要从根本上加以改变。”杨强告诉《中国科学报》。他建议，为了解决“卡脖子”问题，我们要多多鼓励国内人工智能从业者开源他们的软件，并使用他们的软件，同时提倡他们贡献自己用于测试的数据集。“这些工作往往都是没有光环的，失败的可能性很大，希望各方面都给予他们支持。”

　　另外，要有更多的人来做基础研究。“因为现在以深度学习为核心的人工智能仅只是人工智能很窄的一个方面，还有很多新的方向有待我们研究。在国外，很多学者都在从事非常冷门的研究，而这样的现象在国内很少看到。”杨强说。他希望，从事人工智能研究的青年学子们除了计算机知识，还要跨学科学习心理学、认知学、大脑神经学、医学等方面知识，因为“这样的人才既具有‘深’的能力，又具有‘广’的能力，才能更好地进行知识迁移。”

2019中国人工智能产业年会尖峰对话环节，与会专家们热议人工智能核心算法应用所面临的机遇与挑战。