人工智能的“偏见”能否消除
图为桑达尔·皮查伊5月14日在加州山景城举行的谷歌I/O大会上发表讲话。自从谷歌对其搜索页面进行改造，经常将AI生成的摘要放在搜索结果顶部，社交媒体上就出现了一些令人不安的错误消息。图片来源：物理学家组织网2024年4月，在卢旺达基加利GIZ数字化转型中心举办的“非洲女孩也能编程”项目的编程训练营中，年轻女性参与者在用笔记本电脑工作。图片来源：联合国妇女署据英国《新科学家》网站近日报道，在提供购房和租房建议时，AI对黑人用户倾向于推荐低收入社区，这一行为被指存在种族偏见，映射出美国历史上长期存在的住房歧视问题。随着人工智能（AI）技术不断发展，其潜在问题也日益凸显。ChatGPT等AI大模型频频暴露出的偏见和歧视倾向，正是这一问题的缩影。AI也有性别歧视联合国妇女署官网5月22日报告指出，美国加州伯克利大学哈斯商学院一项研究，分析了不同行业的133个AI系统。结果显示，约44%的系统表现出性别刻板印象，25%同时表现出性别和种族......阅读全文
看完这篇《Science》我竟无言以对，居然连性细胞都有偏见了
宾夕法尼亚大学的研究小组通过小鼠卵母细胞（卵细胞的前身）实验，发现了一个驱动减数不对称分裂的分子信号。证明女性卵细胞存在“右倾”偏见。 几十年来，科学家们冥冥之中感觉到减数分裂过程中的各种遗传因素似乎参与了一场无声的战斗。因为，有些基因传递的几率高于“偶然概率”，这一现象的专业术语是“减数分裂
人工智能揭示刻板印象随时代而变
图片来源：Debrocke/ClassicStock 当过去的已经逝去，你又如何衡量那时的陈腔滥调如何变化？你可以阅读人们写作的东西，并记录下这些刻板印象，但偏见往往比一个简单的词语更加微妙。 研究人员如今正在开发人工智能用来帮助解决这个问题。一项新的研究分析了这些刻板印象
这一年，人工智能在争议中前行
2018年，人工智能告别喧闹，投融资市场渐趋冷静，底层技术研发持续推进，从衣食住行到教育医疗，人工智能全方位改变着生活的样貌。 近日，由斯坦福大学主导、来自MIT、OpenAI、哈佛、麦肯锡等机构的多位专家教授联合发布的人工智能指数年度报告出炉，报告显示，在人工智能这一领域，美国依然是当仁不
人工智能伦理－南半球“失声”
为研究全球人工智能伦理状况，巴西研究人员对全球人工智能使用指南进行了系统审查和荟萃分析。他们发现，虽然大多数指南重视隐私、透明度和问责制，但很少重视真实性、知识产权或儿童权利。此外，大多数指南描述了道德原则和价值观，但并未提出实施方法，也没有推动具有法律约束力的监管。相关研究近日发表于生物学、化
心理所揭示入侵性文化混搭对文化群体间内隐偏见的影响
随着全球化的推进，我们在生活中有越来越多的机会同时接触到多种文化。当两种及以上的文化元素同时出现称为文化混搭（Cultural Mixing）。文化混搭是近年来非常常见的现象，在生活中比比皆是，例如星巴克的月饼和粽子，古街上的麦当劳和星巴克等等。不同类型的混搭元素会给人带来不一样的心理体验。中国
网上断病，这轮AI行不行？专家：模型尚不完善
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504964.shtm ?图为研究团队的方法和现有技术的比较。Flan-PaLM 540B模型在MedQA，MedMCQA和PubMedQA数据集上均超过了以往最先进的SOTA，每列上方显示的是
科学家评估大型语言模型回答医学问题的能力
图为研究团队的方法和现有技术的比较。Flan-PaLM540B模型在MedQA，MedMCQA和PubMedQA数据集上均超过了以往最先进的SOTA，每列上方显示的是准确率百分比。 你在网上搜过“我哪哪疼是不是得了啥啥病”吗？答案可能不尽如人意。但随着ChatGPT等大型自然语言模型（LLM）
人工智能应加强教师角色，而非取而代之
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518422.shtm ■郭英剑2022年底以来，人工智能（AI）的迅速崛起给经济和文化层面带来了巨大冲击，也在各行业掀起巨大波澜，教育行业，特别是高校更在其列。本文中，我将结合寒假期间在美国哈佛大学从事学
人工智能会谈判
英国伦敦深度思维公司的一项研究表示，人工智能（AI）代理可谈判和形成协议，使其在桌面游戏《外交》中胜过其他无此能力的代理。这些发现展示了一种深度强化学习方法，用其建模的代理可以与其他人工代理沟通和合作，在玩游戏时共同制定计划。相关结果近日发表于《自然—通讯》。 开发能展现出代理间合作和沟通的人工智能
人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。 我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大
“人工智能+”，加什么？
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519704.shtm去年，AI语言大模型ChatGPT的诞生引发了全球人工智能浪潮，随着视频生成模型Sora的发布，以AIGC（Artificial Intelligence Generated Cont
第十八届国际知识组织大会召开
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519596.shtm3月20日，由武汉大学信息管理学院和武汉大学信息资源研究中心共同主办的第十八届国际知识组织大会在武汉召开。会议以“危机时期的韧性知识组织:挑战与机遇”为主题，旨在探讨系统化、灵活的知识
OpenAI－CEO：未来人类不必掌握计算机科学
看好人形机器人、未来不必再掌握计算机学、将推理引擎与数据中分离……继哈佛、斯坦福大学之后，奥特曼的美国高校之行仍在继续。当地时间5月2日，人工智能（AI）巨头OpenAI CEO山姆·奥特曼（Sam Altman）来到麻省理工学院（MIT），探讨人工智能的未来。山姆·奥特曼在麻省理工学院访谈对于“末
七部门联合公布《生成式人工智能服务管理暂行办法》
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护
人工智能再次战胜人类，人工智能强势闯入医疗界
人工智能技术在物流、医疗、金融、产业物联网等很多领域都有现实应用。对于关乎每个人健康的医疗领域而言，不管医生是不是接受，人工智能已强势闯入医疗界。 最近有两条消息再次把人工智能推向了高潮： 1.2017两会中人工智能第一次出现在政府工作报告中，关注人工智能的科技界因此热血沸腾。 2.世界癌
人工智能体会走捷径
图片来源：DeepMind 本报讯 称，一种最新研发的计算机程序具有类似哺乳动物一样的寻路能力。该研究同时也为理解人脑的运作提供了更多见解。 神经网络——以人脑为模型的计算机系统——能够执行大量令人惊叹的任务，如物体识别，但是在寻路方面的表现却不尽如人意。人脑的寻路功能依
人工智能，用好才好用
为期3天的2018中国互联网大会12日在北京闭幕，与会专家学者就互联网前沿技术、产业发展态势话题进行了研讨。大会期间，一系列以移动物联为核心的科技成果亮相，人工智能成为讨论焦点。 “通过视频解码，再结合裸眼3D显示技术，你以后能在清晰度达到8K的电视上看世界杯了。”在中国联通的展区，工
人工智能如何更“社会”？
2018年，人工智能在无人驾驶汽车领域“连续撞车”，多家公司出现了安全事故，人工智能技术在安全、隐私等诸多方面挑战，人们开始质疑，“人工”和“智能”究竟能否和谐相处？ 在这种焦虑情绪的影响下，人们开始思考人工智能未来的走向。日前在北京召开的新兴科技峰会上，这一话题受到了专家的广泛关注。 在
人工智能“钱”路何方
同一天，两家人工智能（AI）企业“冰火两重天”。 10月11日，有光科技宣布，该公司已获得AEF大湾区创业基金（由戈壁大湾区管理）新一轮投资，以进一步拓展其业务区域。 与此同时，港股上市的商汤科技早盘冲高回落，午后震荡走跌，再次创下历史新低。截至收盘，其总市值为445.6亿港元，远低于其Pr
人工智能助力药物研发
人工智能工具能帮助科学家规划多步骤化学反应。图片来源：Roger Mayne Archive/Mary Evans Picture Library 化学家有了新的实验室助手：人工智能（AI）。研究人员开发出一种深度学习计算机程序。其可产生创建诸如药物化合物等小型有机分子所需的反应序列“蓝图”。表面
人工智能“自学”做翻译
得益于神经网络——从人脑获得灵感的计算机算式——的发展，自动化的语言翻译已经存在了相当长一段时间。但训练这些网络需要海量数据：数以千万计的逐句翻译，以展示人类如何做这项工作。现在，两篇新论文表明神经网络可以在无需平行文本的情况下学习翻译——这一令人震惊的进展或让人们获得许多不同语言的文献记录。
人工智能会放气球
现在，人工智能有了新本领：放气球。 根据《自然》12月3日发表的一篇论文，一种人工智能控制器能让平流层的气球一连数周待在原地。该研究结果代表了深度强化学习向现实世界应用迈进了非常难得的一步，提高了全自动环境监测成为现实的可能性。 填充氦气的“超压”气球常被用来在高层大气中开展实验，比如气
可信可控可用，人工智能呼唤创新的“治理技术”
“人工智能改变了安全格局，进一步扩大了威胁，需要从多个层面进行风险管控。”在近日举办的第三届人工智能合作与治理国际论坛上，针对目前人工智能带来的风险和挑战，中国工程院院士、鹏城实验室主任高文认为，应当在人的层面应加强伦理教育；在模型算法层面，期望它可信、可控、可解释并且被正当使用；在数据层面，期望数
人工智能改变未来（关注·透视新一代人工智能①）
不久前，中共中央政治局就人工智能发展现状和趋势举行第九次集体学习。习近平总书记在主持学习时强调，人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体
人工智能将超越人类大脑？要不要向人工智能低头
低头不是容易事，如果对方还是你的创造物，只怕更窘。但科学家现已开始不断提醒我们，要为这件事做点准备了——如果说此前的警告是还有一两个世纪的光景，现在已经锐减为不到50年。 美国科学家库兹韦尔，被主流商业报刊《Inc.》评为“爱迪生的合法继承人”，他作出的推算是：在2045年，人工智能(AI
“刷脸”窥见遗传病：深度学习算法助疾病诊断
去年8月的一天，美国特拉华州威尔明顿市内穆尔/阿尔法雷德爱杜邦儿童医院医学遗传学家Karen Gripp接待了一位年仅4岁的患者。 这个小女孩虽比同龄孩子稍矮，且已经失去了大部分乳牙和几颗已经长出来的成年牙齿，但并没有其他明显的罕见病指征。 Gripp曾阅读过描述Wiedemann-Ste
《自然》最新研究：人工智能追踪他人心理状态能力与人类相当
中新网北京5月25日电 (记者 孙自法)人工智能可否追踪他人心理状态？能力如何？施普林格·自然旗下专业学术期刊《自然-人类行为》最新一期发表一篇人工智能研究论文显示，在测试追踪他人心理状态能力(也称心智理论，Theory of Mind)的任务中，两类人工智能大语言模型(LLM)在特定情况下的表现与
首届人工智能安全峰会在英国召开
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511549.shtm11月1—2日，首届全球人工智能安全峰会在英国布莱奇利园召开。美国、英国、欧盟、中国、印度等多方代表在两天会期内，就人工智能技术快速发展带来的风险与机遇展开讨论。 首届全球人
世卫警告医疗AI对贫穷国家构成危险
世界卫生组织（WHO）警告称，引入基于人工智能（AI）的医疗保健技术可能对低收入国家人群是“危险的”。 据《自然》报道，WHO于1月18日发布了一份大型多模态模型（LMMs）新指南，指出技术的使用和开发不能只由科技公司和富裕国家决定，这一点至关重要。该机构表示，如果没有根据资源不足地区人们的数
失控的人工智能可能威胁人类？
一封由科技界一些知名人士签署的公开信正在引起全球关注和关于人工智能伦理的激烈讨论。 信中说，最近几个月，人工智能实验室在开发和部署更强大的数字思维的竞赛中失控，没有人，甚至他们的创造者，能够理解、预测或可靠地控制。 在题为“暂停巨型人工智能实验：一封公开信”的信中，签名者表示，由于担心“具有