人工智能的“偏见”能否消除
图为桑达尔·皮查伊5月14日在加州山景城举行的谷歌I/O大会上发表讲话。自从谷歌对其搜索页面进行改造，经常将AI生成的摘要放在搜索结果顶部，社交媒体上就出现了一些令人不安的错误消息。图片来源：物理学家组织网2024年4月，在卢旺达基加利GIZ数字化转型中心举办的“非洲女孩也能编程”项目的编程训练营中，年轻女性参与者在用笔记本电脑工作。图片来源：联合国妇女署据英国《新科学家》网站近日报道，在提供购房和租房建议时，AI对黑人用户倾向于推荐低收入社区，这一行为被指存在种族偏见，映射出美国历史上长期存在的住房歧视问题。随着人工智能（AI）技术不断发展，其潜在问题也日益凸显。ChatGPT等AI大模型频频暴露出的偏见和歧视倾向，正是这一问题的缩影。AI也有性别歧视联合国妇女署官网5月22日报告指出，美国加州伯克利大学哈斯商学院一项研究，分析了不同行业的133个AI系统。结果显示，约44%的系统表现出性别刻板印象，25%同时表现出性别和种族......阅读全文
人工智能的“偏见”能否消除
图为桑达尔·皮查伊5月14日在加州山景城举行的谷歌I/O大会上发表讲话。自从谷歌对其搜索页面进行改造，经常将AI生成的摘要放在搜索结果顶部，社交媒体上就出现了一些令人不安的错误消息。图片来源：物理学家组织网2024年4月，在卢旺达基加利GIZ数字化转型中心举办的“非洲女孩也能编程”项目的编程训练营中
人工智能帮你测谎？！当心强化偏见
虽然人类经常说谎，但通常不会指责别人说谎，因为社会规范禁止虚假指控，并强调文明礼貌。但人工智能（AI）可能很快就会改变这些规则。德国科学家研究发现，当人工智能提出指控时，人们更有可能指责他人撒谎。相关研究6月27日发表于《交叉科学》。“我们的社会对撒谎指控有着牢固而完善的规范。”论文通讯作者、杜伊斯
李侠：短视的偏见
见到又有人在谈论读书无用论的老话题，恍然发觉这30年间，我们在思想观念上几乎毫无进步可言，每隔一段时期，老调就会沉渣泛起。究其原因，无非是当拥有知识所获得的荣誉与收益在遭遇社会整体知识水准快速提升的对照中，原有的差距开始缩小，甚至出现落差，一些人开始感到失落了，然后就有各种版本的读书无
如何选择词汇减少性别偏见
在职场中，即使是语言选择上的细微差异，也会影响性别观念。这些选择主要分为两类：通过使用中性词汇来最小化性别作用；或通过性别标记来强调个人的性别。 行为科学家Stav Atir在近日发表于《认知科学趋势》的研究中认为，深思熟虑地使用这两种方法，可以促进性别平等。 “如果有人建议说‘女政治
偏见与人类大脑结构有关
偏见是如何产生的？据英国《自然·神经科学》16日发表的一项脑科学研究发现，内侧前额叶皮质后部（pMFC）会促进人类产生确认偏误。具体而言，对于那些不会让自己更加相信已有观念的意见，内侧前额叶皮质后部就不那么敏感。 人类倾向于忽视那些会破坏过去的选择与判断的信息。从政治到科学和教育，这种确认偏误
学术上的傲慢与偏见
最能代表学术上傲慢的短语是“这个你不懂”；最能代表学术上偏见的短语是“这根本就不对”。 这两句短语有问题吗？没有。语法、选词、没问题。与任何句子作为修饰成分来组句，或作为其它句子成分来组句，在语义上都没有问题。 在逻辑上，这类短语是简单判断句。在语法上，这是强调性的否定句。在辩论场合，
新训练可减少AI系统社会偏见
来自美国俄勒冈州立大学工程学院和Adobe公司的科学家携手，开发出一种用于训练人工智能（AI）的新技术FairDeDup。该技术不仅能降低训练成本，而且有望减少AI系统的社会偏见。研究团队已经在近期于美国西雅图举行的IEEE/CVF计算机视觉和模式识别会议大会上介绍了FairDeDup算法。该会议是
基因遗传竟可促成性格偏见
中国科学家对数百对双胞胎开展的新研究显示，有些性别成见尽管没有或几乎没有事实基础，却写在我们的遗传构成里。据报道，按照这种逻辑，如果出生时缺少此类成见基因，长大后形成这种性别偏见的机率也较低。 报道称，这个研究小组聚焦于女性在数学或科学领域不知出于什么原因不如男性的常见错误看法，试图确定这
《自然》网站就“偏见”报道叶诗文辩解
《自然》网站截屏 8月1日，《自然》网站发表署名文章称，从“科学”的角度来分析，伦敦奥运会中国运动员叶诗文在女子400米混合泳中的表现反常。（）此文发表后，在《自然》读者中引起强烈反响。大多数《自然》网友表示，此文荒唐并带有偏见，并纷纷在报道后跟帖谴责《自然》报道有失公允。 8月
PNAS：生命科学领域的性别偏见
一项研究报告称，生命科学领域的男性精英教员训练的女性研究生和博士后研究人员的数量显著少于其他教员。尽管女性获得了所有生物相关领域博士学位的一半以上，女性在生命科学的教员层次上在很大程度上未被充分代表。 为了研究学术界生物医学科学家的性别分布，Jason M. Sheltzer和Joan C.
医学的性别偏见正在危害年轻女性
心脏病是美国男性和女性的头号杀手，然而长久以来大众都把它看成是一种“男人的病”。造成这种观念的一部分原因很可能是因为冠心病在男性中更常见，而它正是心脏病发作最常见的原因，往往呈现年轻化趋势。但是，研究发现一旦年轻女性心脏病发作，她们的死亡率大约是男性患者的两倍，而每年有15，000多名
新训练可减少AI系统社会偏见
来自美国俄勒冈州立大学工程学院和Adobe公司的科学家携手，开发出一种用于训练人工智能（AI）的新技术FairDeDup。该技术不仅能降低训练成本，而且有望减少AI系统的社会偏见。研究团队已经在近期于美国西雅图举行的IEEE/CVF计算机视觉和模式识别会议大会上介绍了FairDeDup算法。该会议是
机器翻译有“偏见”，如何检测发现？
随着机器翻译系统的广泛应用，其中的公平性问题日益突显，也就是说，系统在处理不同语言、性别、种族、文化等受保护属性时，可能表现出偏见或不公正。中国科学院软件研究所天基综合信息系统全国重点实验室特别研究助理孙泽宇聚焦可信人工智能的公平性问题，提出了首个旨在检测机器翻译系统公平性的框架FairMT，近日相
心理学研究显示接触或能弱化偏见
2015年初秋，德国马尔堡大学的Ulrich Wagner一直盯着新闻，直到电视上播完了其数十年的社会心理学研究成果。 一段拍摄自德国慕尼黑的节目显示，数千名移民涌入该市火车站。这里距离Wagner的家乡法拉克福300多公里。他们的到达预示着从叙利亚以及其他中东热点地区的逃难之旅有望结束。
研究人类大脑结构－发现偏见产生的原因
偏见是如何产生的？据英国《自然·神经科学》16日发表的一项脑科学研究发现，内侧前额叶皮质后部（pMFC）会促进人类产生确认偏误。具体而言，对于那些不会让自己更加相信已有观念的意见，内侧前额叶皮质后部就不那么敏感。 人类倾向于忽视那些会破坏过去的选择与判断的信息。从政治到科学和教育，这种确认偏误
男孩女孩谁聪明？偏见致某些领域性别失衡
“我的一个同事非常聪明，能比别人更快地解决问题。”当一个5岁女孩听到这段描述，她们与男孩一样，会猜测这个聪明人是与自己一样的性别。但到6至7岁时，她们猜测这个聪明人是女性的可能性下降了20%~30%。相关论文近日刊登于《科学》期刊。 据悉，美国社会存在一种很普遍的刻板效应，即男性比女性更聪明
经费评审人聚焦科学而非性别才会远离偏见
图释一名女性被汗多男性围在中间。 图片来源：《自然》 根据一项性别偏见研究，当评审人被要求评估研究人员而非研究本身时，女性经常会处于下风。该研究认为，训练评审人识别无意识的偏见似乎可以纠正这种不平衡，然而此前的研究却认为这样做反而会增加偏见。 这项日前被上传到生物预印本服务平台bioRxiv1的
男孩女孩谁聪明？偏见致某些领域性别失衡
我的一个同事非常聪明，能比别人更快地解决问题。当一个5岁女孩听到这段描述，她们与男孩一样，会猜测这个聪明人是与自己一样的性别。但到6至7岁时，她们猜测这个聪明人是女性的可能性下降了20%~30%。据悉，美国社会存在一种很普遍的刻板效应，即男性比女性更聪明。由于存在这种偏见，有的女性对自己的智商没自信
“女生学不好数学”－不应再成为社会偏见
11月22日晚，第二届丘成桐女子中学生数学竞赛圆满落幕，来自海内外150余名巾帼学子经过笔试、面试两轮比拼，最终决出金奖、银奖、铜奖以及优胜奖共21人。中国人民大学附属中学的胡殊闻勇摘桂冠。 面对不断涌现的热爱数学并有能力学好数学的女生，大赛主席、清华大学讲席教授丘成桐表示，世界需要女性数学工
浙大肝移植论文被撤：地域偏见？国际惯例？
最近，国际权威学术期刊《国际肝杂志》（Liver International）决定，撤销浙江大学第一附属主任医师郑树森等人在线发表的一篇与肝移植有关的论文，并或将终身禁发该论文作者的论文。 《国际肝杂志》主编Mario Mondelli向《中国科学报》记者回应称：“撤稿原因并非论文数据造假，
论文引用出性别偏见，女性主导论文引用次数较少
一项对生命科学领域200多万篇论文的分析显示，论文在被引用方面存在强烈的性别偏见：女性主导的论文被引用的次数少于男性主导的论文。这种现象同样出现在生命科学的许多子领域，包括那些性别比例相对公平的领域。该研究近日发表于《研究政策》。 现在，女性获得了大多数生命科学博士学位，缩小了科学家人数的性别
一心脏病药物可改变种族偏见心理
英国牛津大学最近一项研究称，一种治疗心脏病的常见药物（心得安）会对人的潜意识产生影响，进而改变他们的种族偏见心理。 心得安又叫普萘洛尔（Propranolol），是一种临床上常用的β受体阻滞药，这种药物会影响与恐惧等情绪反应相关的神经系统，主要用于治疗心律不齐、心绞痛等心脏疾病。
面对业界偏见和质疑，他仍坚持研发核心技术
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498087.shtm“从与企业合作到自己带队创业，这得感谢投资人给我们指了一条明确的路。”近年来，中国科学院宁波材料技术与工程研究所（以下简称宁波材料所）研究员叶继春带领团队攻关高效光伏电池（TOPCon
论文引用出性别偏见，女性主导论文引用次数较少
原文地址：http://news.sciencenet.cn/htmlnews/2023/12/514934.shtm一项对生命科学领域200多万篇论文的分析显示，论文在被引用方面存在强烈的性别偏见：女性主导的论文被引用的次数少于男性主导的论文。这种现象同样出现在生命科学的许多子领域，包括那些性别比
一项新的研究发现，搜索算法中的性别偏见会影响用户
一组心理学研究人员的一项新研究发现，不分性别的网络搜索结果仍然以男性为主。此外，这些搜索结果通过促进性别偏见对用户产生影响，并可能影响招聘决策。这项研究发表在《美国国家科学院院刊》(PNAS)上，是最新发现人工智能(AI)如何改变我们的感知和行为的研究之一。纽约大学心理学系博士后、该论文的第一作者M
对艾滋病抱有偏见？你是否也存在这些误区
对于艾滋病，因为有很多不了解的地方，很多人都会有一些误区，你有这样的认识误区吗？快来看看专家怎么说？ 误区一：母亲是HIV阳性，孩子也一定也是！ 虽然母婴传播是艾滋病的传播方式之一，但是如果经过一个规范的母婴阻断的处理，在妊娠早期开始吃抗病毒药，妊娠后期这个病毒被完全抑制的话，小孩被感染的
研究构建超万张人类图像数据库，评估AI视觉偏见
国际知名学术期刊《自然》最新发表一篇人工智能(AI)研究论文，提出并构建了一个超过1万张人类图像的数据库，旨在评估AI模型在以人为本的计算机视觉领域中的偏见。这一“公平的以人类为中心的图像基准”(FHIBE)由索尼AI团队开发，其采用符合伦理手段获取、基于用户同意的数据集，可用于评估以人为中心的计算
Nature和Lancet子刊发文呼吁摒弃偏见，正确认识肥胖！
3月4日是世界肥胖日，今天Nature子刊和Lancet子刊双双发文，承认公众对肥胖的不科学描述是造成体重歧视的主要原因，并呼吁制定强有力的政策和立法来防止基于体重的歧视。 在发表在《Nature Medicine》上的论文（Joint international consensus stat
AI立法重在抓机遇、防危害
“人工智能立法的重点应在于充分利用AI技术所提供的各种机遇，构建适宜的环境以激励、培育大量AI初创公司和新服务的发展，防范和应对AI技术所带来的各种潜在危害。”牛津大学计算机系主任迈克尔·伍尔德里奇教授日前在接受科技日报记者采访时如是表示。 AI的三项重要突破 伍尔德里奇教授主要从事多
欧盟发布人工智能伦理准则
欧盟委员会4月8日发布人工智能伦理准则，以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段，邀请工商企业、研究机构和政府机构对该准则进行测试。 该准则由欧盟人工智能高级别专家组起草，列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据