人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。 我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。 通用人工智能路途尚远 “想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。 所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。 “通用人工智能可以比人类更好、更快地学习和执行......阅读全文
暂停公开信：人工智能全球治理的关键时刻来了
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498026.shtm
需要怎样的人工智能？国际合作全球治理成为共识
世界需要怎样的人工智能？12月4日至5日在北京举行的2021人工智能合作与治理国际论坛上，全球人工智能领域的思想领袖和实践者线上线下“云”集一堂，共商人工智能发展大计。论坛开幕式上，国际组织、政府部门和学术界代表就对人工智能的国际合作、全球治理形成共识。 联合国助理秘书长、秘书长技术事务特使办
构建中国主导的人工智能治理生态刻不容缓
随着人工智能大模型的迅猛发展，数据安全、算法安全、网络安全以及军事化、武器化等多维度风险也随之浮现。中山大学商学院助理教授、广东省创新战略研究会副秘书长吴小龙在接受《中国科学报》采访时表示，中美两国正逐步成为全球人工智能大模型发展的引领者。 在应用层面，各行业对通用大模型的需求日益提升，催生了
2022年跨文化人工智能伦理与治理论坛举行
近日，2022年跨文化人工智能伦理与治理论坛在线召开。该论坛由远期人工智能研究中心、中科院自动化所人工智能伦理与治理中心、剑桥大学智能未来研究中心和面向可持续发展的人工智能国际合作网络共同主办。 会议主席、中科院自动化所研究员曾毅表示，联合国教科文组织人工智能伦理建议书的正式发布使得全球初步达成
全球每年新发病例近千万－“痨病”怎么治？
随着技术飞速进步，人工智能机器是否会威胁人类的安全和隐私？将复杂的社会事务交由人工智能处理，如何保证公平？……近年来，这些围绕相关新技术的科技伦理热议越来越多。科技是发展的利器，也可能成为风险的源头，加强科技伦理制度化建设，提升科技伦理治理能力，已渐渐成为全社会的共同呼声。 近日，中共中央办公
安全可信可靠是人工智能发展蓝图底色
将一张“神奇贴纸”贴在脸上，就能让人脸识别门禁系统出现误判，毫无防备地为陌生人打开大门；把这张“贴纸”放置在眼镜上，一秒钟之内，手机的人脸识别系统就被解锁，黑客获取用户隐私数据如入无人之境……这并非科幻片中的想象，而是首届人工智能安全大赛展示的真实攻防场景。 和其他通用技术一样，近年来，人工智能技
人工智能辅助海洋安全场景取得进展
离岸流是海滩溺水事故的元凶之一，因其突发性强、隐蔽性高，传统“先检测、后预警”的被动监测模式难以留出黄金救援窗口。针对这一问题，中国科学院计算机网络信息中心研究海洋复杂动态环境下的感知与时空预测技术，提出基于未来帧感知的离岸流主动预测框架RipAlert，实现从“被动识别”到“主动预警”的跨越。针对
瑞莱智慧发布人工智能安全靶场
近日，清华大学人工智能研究院孵化的产学研企业——北京瑞莱智慧科技有限公司（以下简称瑞莱智慧）发布人工智能安全靶场RealRange。RealRange可以提供实战化、体系化的一站式人工智能攻防演练服务支撑，通过预设训练场景模型、对抗攻防实战竞演，帮助政企机构开展安全能力体系检验评估、培育新型安全人才
人工智能筑起网络安全“铜墙铁壁”
人工智能筑起网络安全“铜墙铁壁”——LHC用新科技手段防御黑客攻击 每时每刻，全球有成千上万名科学家利用世界最大的粒子物理学实验室——欧洲核子研究中心（CERN）内功能强大与大型强子对撞机（LHC）相连的计算机网络——“全球LHC计算网格（Worldwide LHC Computing Gr
食品安全要走协同治理路
食品安全监管，必须依靠一个技术体系。只有有了科学的数据，才能给予监管和执法一定的支持，目前已经成立的国家食品安全风险评估中心，到底如何起到至关重要的作用，为此，《第一财经日报》专访了国家食品安全风险评估中心主任刘金峰。 作为国家级食品安全技术机构的负责人，您觉得当前食品安全问题带给您最大的
饮用水安全：重视治理，更应重视保护
编者按：饮用水安全事关人民身体健康、生活质量和社会稳定。我国饮用水安全状况如何?面临哪些突出问题?如何抓好饮用水安全工作?2013 年，全国政协人口资源环境委员会组织调研组就我国水源地保护和地下水污染防治情况进行专题调研。近日，记者对调研组组长张基尧进行了专访。 大中城市附近集中水源保
我国将搭建全球食品安全治理平台
由国家食品药品监督管理总局主办、中国营养保健食品协会承办的2016中国特殊食品合作发展国际会议日前在北京召开。据介绍，我国将继续深化与世界各国监管部门的交流合作，协调技术标准和有关规则，搭建有效的全球食品安全治理平台。 国家食药监总局副局长滕佳材表示，我国特殊食品行业供需两旺，一方面拥有全球最
安徽将开展农村食品安全治理行动
“农村5毛小食品横行，特别是学校周边小卖店，看上去琳琅满目的小食品冲击着孩子们的眼球，也侵害着孩子健康。”8月2日，记者从省食药监获悉：近期，安徽省将开展农村食品安全治理，严厉打击食品生产、销售和餐饮服务等多个环节的违法行为。 “三无”“三小”重点收拾 据介绍，长期以来农村成为一些无良商家倾
食品加工的安全治理没有休止符
食品安全，国家战略。这背后，涉及众多政治、经济、社会、文化等战略考量。除了环境污染带给初级农产品的安全隐患，从加工企业到百姓餐桌的环节也有一道不可逾越的食品安全的鸿沟。 2015年两会，食品安全一如既往地受到两会委员和代表们的高度关注。他们也为这个涉及千家万户、每日每时的问题积极建言献策。
百度团队获吴文俊人工智能科技进步奖首个特等奖
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500076.shtm5月6日，以“场景驱动?数智强国”为主题的第十二届吴文俊人工智能科学技术奖颁奖典礼暨2022中国人工智能产业年会在北京和苏州两地同期召开。百度首席技术官、深度学习技术及应用国家工程研究
世界需要怎样的人工智能？国际合作全球治理成为共识
世界需要怎样的人工智能？12月4日至5日在北京举行的2021人工智能合作与治理国际论坛上，全球人工智能领域的思想领袖和实践者线上线下“云”集一堂，共商人工智能发展大计。论坛开幕式上，国际组织、政府部门和学术界代表就对人工智能的国际合作、全球治理形成共识。 联合国助理秘书长、秘书长技术事务特使办
从韩国Deepfake事件思考我国人工智能安全
近年来，人工智能技术的发展带来了新需求、新进展，同时也带来了新变化、新问题。加强网络安全体制建设，建立人工智能安全监管制度，是人工智能时代的持久命题。今年8月，韩国曝出群体性的深度伪造（Deepfake）淫秽内容犯罪事件，受害者涉及500多所学校的女学生，再次敲响了人工智能新技术安全风险的警钟。随着
从韩国Deepfake事件思考我国人工智能安全
近年来，人工智能技术的发展带来了新需求、新进展，同时也带来了新变化、新问题。加强网络安全体制建设，建立人工智能安全监管制度，是人工智能时代的持久命题。今年8月，韩国曝出群体性的深度伪造（Deepfake）淫秽内容犯罪事件，受害者涉及500多所学校的女学生，再次敲响了人工智能新技术安全风险的警钟。随着
安全问题日益明显！人工智能“短板”如何补
今年4月以来，支付宝、微信、银联相继推出了自己的刷脸支付产品，刷脸支付俨然已成为备受青睐的下一个战场。有数据显示，预计到2022年，人脸支付使用用户将突破7.6亿人。 然而，随着人脸识别、语音识别等人工智能技术的发展，其安全问题也日益凸显。近日，在接受《中国科学报》采访时，中国科学院院士、清
有了安全边界，人工智能才能有序发展
如果把对人工智能的态度分为乐观派和忧虑派，近日去世的著名理论物理学家霍金一定属于后者。最近几年，他频频提醒人们注意人工智能的威胁，批评人工智能的无节制发展。 九三学社中央科技委委员张妍也深以为然。“人工智能发展的脚步无法阻挡，‘安全’就显得尤为重要。”她说，“我们不是杞人忧天，要知道，防范的
首届人工智能安全大赛启动，5院士担纲主席
原文地址：http://news.sciencenet.cn/htmlnews/2022/7/482626.shtm 为加快构建人工智能安全创新环境，7月13日，以“共筑AI安全 安享智能未来”为主题的2022人工智能安全大赛（以下简称大赛）正式启动。作为中关村论坛国际前沿科技创新大赛的专题赛，
有了安全边界，人工智能才能有序发展
两会聚焦如果把对人工智能的态度分为乐观派和忧虑派，近日去世的著名理论物理学家霍金一定属于后者。最近几年，他频频提醒人们注意人工智能的威胁，批评人工智能的无节制发展。九三学社中央科技委委员张妍也深以为然。“人工智能发展的脚步无法阻挡，‘安全’就显得尤为重要。”她说，“我们不是杞人忧天，要知道，防范的成
青岛出台食品药品安全治理30条措施
近日，山东省青岛市六大领域专项治理总指挥部办公室印发《青岛市食品药品安全治理工作措施和实施计划》，明确提出30条政策措施，用最严厉的处罚、最严格的监管、最严肃的问责，通过3年左右时间，实现食品药品安全形势根本性好转，创建全国食品药品最安全城市。 一是构建最严厉的处罚机制，保持高压震慑态势。组建
危险化学品安全综合治理进度滞后
湖南日报5月份省安委办组织督查组对全省14个市州危险化学品安全综合治理工作进行了实地专项督查。今天，省安委办通报专项督查情况，我省危险化学品综合治理取得了阶段性成果，但治理工作进度滞后。 我省危险化学品从业单位近万家，其中涉及重点监管工艺、重点监管品种和重大危险源的生产经营企业超过5500家
官方解读|全球数据安全治理的趋势与困境
进入数字时代以来，数据安全风险的危害性和外溢性已对政治、科技、经济和社会等多个领域产生了负面影响，全球数据安全治理议题的重要性和紧迫性不断上升，亟须对此加以深入研究和科学应对。 全球数据安全治理的新变化 在数字时代，实现数据价值的最大化往往依赖于大量多样性数据的汇聚、流动、处理和分析活动，而这种
河南保食品安全：狠抓用水、土壤、农药治理
河南对农产品质量安全监管再出大招，不仅要加强农业生产用水和土壤环境治理，深入推进实施高毒农药定点经营、实名购买和兽药良好经营规范等制度，切断污染物进入农业生产环节，还要把农产品质量安全纳入重要议事日程和政府绩效考核范围。 为确保农产品质量安全，保护人民群众身体健康，河南省政府办公厅近日下发《关
医疗器械质量安全需社会共同治理
“医疗器械安全监管离不开社会各界监督，应在严格上市产品监管的同时，由行业组织、专家学者、媒体和消费者共同参与，建立一个立体式的社会共治监管格局，实现‘早发现、早处置’”，这是3月17日国家食品药品监督管理总局医疗器械监管司负责人在“医疗器械质量万里行活动”启动会上提出的新的监管思路。那么，该如何
治理食品安全谣言须坚持共治思维
在2月27日召开的国新办新闻发布会上，国家食品药品监督管理总局局长毕井泉谈及“网传紫菜是用塑料制成”等谣言时指出，对涉及食品安全的谣言要揭露，对制假售假要严惩。毕井泉还强调，媒体在遏制食品安全谣言时应发挥作用，消费者也应增强判断意识，不要盲目传播这类谣言（2月28日《中国新闻网》）。 近年来，
荷兰加强治理飞鸟造成的飞行安全隐患
荷兰多个中央和地方政府部门和斯希普霍尔机场、交通飞行协会等4月16日签署协议，进一步综合治理威胁飞行安全的飞鸟问题。 据荷兰政府当天发布的新闻公报，协议主要措施包括：从今年起试用机场跑道附近的探测设备，实时报告鸟类构成的飞行安全风险，以避免飞机起降时与飞鸟相撞;斯希普霍
“马肉风波”呼唤食品安全监管全球治理
“马肉风波”始于欧洲，但它带给人们的思考却是全球性的。 在经济全球化背景下，食品安全监管已经突破了国家或地区的界限，必须逐步实现食品安全的全球治理，才能真正保证食品安全。 自今年年初，爱尔兰食品安全机构发现牛肉汉堡中含有马肉这一事件以来。“马肉风波”愈演愈烈，席卷了