发布时间:2019-04-11 15:24 原文链接: 欧盟发布人工智能伦理准则

   欧盟委员会4月8日发布人工智能伦理准则,以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段,邀请工商企业、研究机构和政府机构对该准则进行测试。

  该准则由欧盟人工智能高级别专家组起草,列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制,以确保人工智能足够安全可靠。欧盟将“人工智能”定义为“显示智能行为的系统”,它可以分析环境,并行使一定的自主权来执行任务。

  根据官方解释,“可信赖的人工智能”有两个必要的组成部分:一是应尊重基本人权、规章制度、核心原则及价值观;二是应在技术上安全可靠,避免因技术不足而造成无意的伤害。举例来说,如果人工智能在未来诊断出一个人患有某种病症,欧盟的准则可以确保系统不会做出基于患者种族或性别的偏见诊断,也不会无视人类医生的反对意见,患者可以自行选择获得对诊断结果的解释。

  欧盟数字经济和社会专员玛利亚·加布里尔表示,算法做出的任何决定都必须经过验证和解释。当保险公司的系统拒绝了一次索赔后,客户应当能详细地知晓缘由。加布里尔还强调,还需要确保人工智能系统的公平。如果招聘系统使用的算法是由一家仅雇用男性员工的公司数据生成的,其算法就可能会筛除女性应聘者,“这样带有偏见的数据输入将会带来伦理困境”。

  对于这份准则,欧委会副主席兼欧盟单一数字市场战略副总裁安德鲁斯·安西普表示:“符合伦理标准的人工智能将带来双赢,可以成为欧洲的竞争优势,欧洲可以成为人们信任的、以人为本的人工智能领导者。”

  欧盟此举也受到一些质疑。非营利组织“算法观察”联合创始人马蒂亚斯·斯皮尔坎普认为,尽管制定准则是一个好主意,但准则围绕的核心——“可信赖人工智能”这一概念的定义尚不明确,且目前还不清楚未来的监管如何实施;还有业内人士担心,准则过分细化会使许多公司尤其是中小型企业难以操作;此外,参与了准则起草工作的德国美因茨大学哲学教授托马斯·梅辛格对于欧盟没有禁止使用人工智能开发武器表示批评。


相关文章

两个人工智能系统说起“悄悄话”

原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519675.shtm两个AI系统实现相互对话,预示着AI系统将像人类一样进行互动交流。图片来源:slgu......

“人工智能+情感”引热议,AI伴侣能否带来亲密关系

自2023年以来,人工智能的“触角”已延伸到生活的方方面面。其中,“人工智能+情感”的赛道正悄然崛起。目前,国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“A......

生成式人工智能首次制造出全新抗体

研究人员首次利用生成式人工智能制造出全新的抗体。这项近日公布于bioRxiv的原理验证工作,提高了将人工智能引导的蛋白质设计带入价值数千亿美元的治疗性抗体市场的可能性。抗体(粉色)与流感病毒蛋白(黄色......

人工智能倒逼出版界“立规矩”

2022年11月,OpenAI发布生成式人工智能(AI)工具ChatGPT。鉴于生成式AI可快速创建文本、图像等内容,两个月后,ChatGPT已作为作者,赫然出现在一些学术论文上。英国纽卡斯尔大学数字......

应对人工智能技术滥用,合作才是未来

原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519198.shtm......

人工智能将喉部肌肉运动转为语音,能准确翻译“我爱你”

《自然·通讯》14日发表的一篇论文描述了一种能在机器学习辅助下,将喉部肌肉运动转化为语音的柔性贴片。经过进一步开发,该装置有望帮助部分嗓音障碍患者有效沟通。研究中贴片的工作示意图。图片来自:陈俊/《自......

类器官成功模拟孕晚期发育,有助解决长期以来的伦理顾虑

包括英国伦敦大学学院在内的科学家团队报告了一项干细胞研究重大突破:人类羊水样本中收集的细胞可生成包含多种组织类型的类器官,而无需终止妊娠。这些类器官提供了了解孕晚期发育的重要手段,亦有助对先天畸形的治......

Science子刊:利用人工智能预测癌症对免疫检查点抑制剂的反应性

在一项新的研究中,来自韩国浦项科技大学和ImmunoBiome公司的研究人员介绍了一种利用经过细胞间通信网络训练的人工智能(AI)预测癌症对免疫疗法的药物反应性。相关研究结果发表在2024年2月2日的......

产业结构调整目录2024版下发,支持这些医疗设备

时隔5年,医械产业结构再调整,大批医疗器械迎重磅利好!3月10日,中国政府网公布了《产业结构调整指导目录(2024年本)》。新版目录已于2023年12月1日第6次委务会议审议通过,自2024年2月1日......

通用人工智能时代,中国如何迎接新挑战

近些年来,人工智能(AI)一直是全国两会上的热门话题,今年也不例外。“深化大数据、人工智能等研发应用,开展‘人工智能+’行动”被写入了今年的政府工作报告。大模型是当下最大的焦点,也代表着人工智能的未来......