首届人工智能安全大赛启动，5院士担纲主席

原文地址：http://news.sciencenet.cn/htmlnews/2022/7/482626.shtm

为加快构建人工智能安全创新环境，7月13日，以“共筑AI安全 安享智能未来”为主题的2022人工智能安全大赛（以下简称大赛）正式启动。作为中关村论坛国际前沿科技创新大赛的专题赛，本次大赛聚焦人工智能产业面临的安全挑战，旨在以竞赛方式破解安全难题，培育高水平的人工智能安全团队，同时强化人工智能治理体系与安全评估能力建设，助力人工智能产业高质量发展。

作为国内首个以人工智能安全为主题的赛事，本届大赛“逼格”满满。例如，大赛汇聚业界顶级专家，中国科学院院士张钹、中国工程院院士倪光南、中国工程院院士沈昌祥、中国工程院院士于全、中国工程院院士吴建平在内的五位院士受邀担任本届大赛组委会主席，旨在打造人工智能安全领域最高水平的竞技交流平台。

大赛评审委员会则由来自中国科学院、清华大学、复旦大学、浙江大学、中国科学技术大学、北京航空航天大学、西安交通大学、北京邮电大学、北京理工大学等多所国内知名高校学者组成，为保证大赛呈现高水平竞技提供有力保障。

赛题方面，大赛深度聚焦前沿安全问题。大赛针对人脸识别安全、深度伪造内容治理、自动驾驶安全等领域设置赛题，致力于将产业应用中的实际需求与最前沿的安全问题融合，以期为人工智能的能力演进提供重要参考。

具体而言，“深度伪造安全竞赛”的赛题针对目前利用生成合成类算法伪造音频、视频等滥用现象，要求参赛选手模拟互联网上深度伪造视频传播的场景，通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别，并最终根据准确率进行排名。

“自动驾驶安全竞赛”则瞄准自动驾驶车辆在极端场景中极易发生误判、面临算法安全威胁、存在被恶意攻击的可能，要求选手模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境。选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。

人脸识别系统容易受到对抗样本攻击，即通过对人脸图像做微小的改动，能够欺骗识别系统做出错误判断。“人脸识别安全竞赛”赛题需要选手模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，提交对抗补丁，并对模型进行攻击测试，最终根据攻击成功率进行排名。

据了解，大赛分为报名及线上初赛（7月13日～8月31日）、初赛评审（9月1日～9月10日）、线下决赛及颁奖典礼（2022中关村论坛期间）三个阶段。从即日起，大赛面向全国高等院校、科研院所、科技企业招募参赛团队。大赛还设置了丰厚的奖金池，各赛道的冠亚季军将分别获得 5 万元、2 万元、1 万元的奖金。每个赛道取得总决赛前十名的队伍，将获得大赛颁发的荣誉证书。