AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研究提出了一个更令人担忧的问题：人类可能开始与AI一起"幻觉"。 埃克塞特大学的研究 埃克塞特大学的露西·奥斯勒博士研究了对话式AI的互动如何可能导致错误信念、扭曲记忆、改变的個人叙事甚至妄想思维。她解释道："当我们常规依赖生成式AI来帮助我们思考、记忆和叙述时，我们可以与AI一起幻觉。" AI的双重功能 该研究强调了奥斯勒博士所描述的对话式AI的"双重功能"。这些系统不仅作为帮助人们思考、组织信息和记忆细节的工具，还作为似乎分享用户观点和经历的对话伙伴。这种社交方面使聊天机器人与笔记本或搜索引擎等工具根本不同。 对弱势群体的......阅读全文
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
人工智能时代，如何培育复合型医学人才？
当前，人工智能（AI）技术的迅猛发展正驱动社会各领域体系性变革，医学研究与卫生健康领域迎来历史性变革。AI通过提升诊疗精准度、优化决策效率、重塑服务模式，持续释放改善医疗质量与患者体验的革命性潜能，成为推进卫生健康体系现代化和医学教育范式跃迁的核心引擎。 近日，国务院印发的《关于深入实施“人工
网络毒性认知偏差难题终于有解了
一项发表于《自然》子刊的研究通过对1090名美国成年人的系统调查揭示了一个惊人发现：人们对网络环境毒性的感知严重而系统性地脱离了统计现实。以Reddit为例，受访者估计高达43%的用户经常发布高度毒性评论，而大数据实证研究显示这一真实比例仅约3%——公众感知高估达13倍以上。这种普遍性的认知偏差正在
人工智能伦理－南半球“失声”
为研究全球人工智能伦理状况，巴西研究人员对全球人工智能使用指南进行了系统审查和荟萃分析。他们发现，虽然大多数指南重视隐私、透明度和问责制，但很少重视真实性、知识产权或儿童权利。此外，大多数指南描述了道德原则和价值观，但并未提出实施方法，也没有推动具有法律约束力的监管。相关研究近日发表于生物学、化
人工智能伦理－南半球“失声”
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510406.shtm
欧盟发布人工智能伦理准则
欧盟委员会4月8日发布人工智能伦理准则，以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段，邀请工商企业、研究机构和政府机构对该准则进行测试。 该准则由欧盟人工智能高级别专家组起草，列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据
自闭症情绪表达研究将改变社交认知范式
一项发表于SCI期刊《自闭症研究》的重磅成果以空前规模的数据测量彻底量化了自闭症群体与非自闭症群体在面部情绪表达上的系统性差异。研究团队运用高帧率红外立体动作捕捉系统，从25名自闭症成人和26名非自闭症成人共近5000个完整面部表情序列中采集了超过2.65亿个三维运动数据点，绘制出迄今最为精细的人类
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
揭秘动物社交！人工智能如何实现精确判断？
近日，一项来自深圳的神经科学与人工智能融合的研究成果登上了国际顶级学术期刊《自然—机器智能》，为科学家们解开动物社交行为的奥秘带来了新的视角。动物社交行为一直是神经科学探索的难题。想象一下，当鸟儿群集并同步起飞时是如何无声地传达信息的？为何鱼群在遭遇威胁时会改变游泳模式？这些看似简单的行为背后，蕴含
人工智能安全风险凸显－业内专家共议“让AI做成好事”
7月25日，第二十八届中国科协年会“人工智能伦理与治理”专题论坛在北京举行。与会学者表示，缺乏安全约束的人工智能存在显著风险，人工智能伦理治理不仅在于“让AI不做坏事”，更在于“让AI做成好事”。最近，人工智能安全问题再度引发热议。美国开放人工智能研究中心(OpenAI)近日承认，该公司的GPT-5
AI认知外包取得重大进展
AI 认知外包取得重大进展 "人肉代理"一词走红，折射职场中盲目复制 AI 输出的普遍现象。 去年，网民造出一个新词，来表达对 AI 机器人逐渐侵蚀人类自主性的反感。这个词叫"clanker"，后来被谷歌的 AI 概览描述为"贬义俚语"，为针对那些充斥我们思绪与信息流、并在工作中让人抓狂的技术
人工智能伦理迈向全球共识新征程
日前，联合国教科文组织(UNESCO)正式发布《人工智能伦理建议书》（以下简称《建议书》），这是关于人工智能伦理的首份全球性规范文书。 作为UNESCO人工智能伦理特设专家组成员，中科院自动化研究所中英人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅参与了《建议书》的起
AI教育神话VS现实管控Alpha学校心率训练引争议
全球各地的学校正竞相试验人工智能教学工具，却往往让家长忧心忡忡。而美国一所名为Alpha School的私立K-12学校，非但没有回避争议，反而把AI当作核心招生卖点——但其课堂内的真实体验，比外界所能想象的更为离奇。教育政策研究者、认知科学家本杰明·莱利（Benjamin Riley）近日发表长文
警惕AI技术泡沫－梅宏院士呼吁建立完善治理体系
“智能是人类区别于其他动物的专有特征，特别是认知能力，我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要去造出一个替代我们认知的东西？”11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学
研究显示：灵长类跨物种社交行为普遍程度远超此前认知
猕猴会收养小鸡，长臂猿会温柔抚摸误入笼中的老鼠，日本猕猴会骑在梅花鹿背上——这些跨物种的亲密互动，并非零星奇闻。一项汇总数百案例的研究显示：灵长类与其他动物的社交行为，远比我们此前认为的更加普遍。一、核心数据：427 例跨物种互动由 Cyril Grueter 及其同事开展的新研究，汇集了 427
《人工智能伦理与治理—未来视角》正式出版
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494794.shtm2023年2月，由未来论坛编著，人民邮电出版社出版的《人工智能伦理与治理-未来视角》正式在京东平台上线。 ?未来论坛供图本书汇聚众多专家观点，涉及人工智能、计算机、法律、社
《人工智能伦理与治理—未来视角》正式出版
2023年2月，由未来论坛编著，人民邮电出版社出版的《人工智能伦理与治理-未来视角》正式在京东平台上线。 本书汇聚众多专家观点，涉及人工智能、计算机、法律、社会学等多个领域，覆盖社会和个人、生产和生活的诸多方面， 旨在为AI领域专家学者、从业者、社会人文学者以及AI爱好者提供权威专业的参考用书
新研究为眼科人工智能安装“伦理导航”
中山大学中山眼科中心教授林浩添、副研究员杨雅涵团队与合作者，通过文献计量学方法，对眼科人工智能（AI）伦理领域的发展路径、现状热点及关键解决策略进行了系统性“解码”，不仅为医学AI伦理领域提供了量化分析的理论框架，更构建起一套可扩展的伦理治理框架。相关成果近日发表于《Npj数字医学》。AI伦理治理是
《人工智能医学影像研究伦理指引》发布
为推动人工智能医学影像研究的负责任创新和健康发展，国家科技伦理委员会医学伦理分委员会研究编制了《人工智能医学影像研究伦理指引》，供相关科研机构和科研人员参考使用。 附件：人工智能医学影像研究伦理指引.pdf
“人工智能+情感”引热议，AI伴侣能否带来亲密关系
自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可
陈晓红委员：构建素养导向的校园AI教育标准体系
“在人工智能技术深刻重塑教育形态的形势下，应构建素养导向的校园AI教育标准体系，制定《校园人工智能教育应用标准》，研发学科垂直型素养培育AI模型，完善素养导向的智能评价与支持体系，健全AI教育伦理与长效监管机制。”2026年全国两会召开之际，全国政协委员、中国工程院院士、湘江实验室主任陈晓红对记
为何AI验证数学证明引发关注？
为何AI验证数学证明会引发如此广泛的关注？答案在于：一群研究者刚刚用人工智能系统，自动形式化验证了数论中被称为“246定理”、与素数相关的艰难证明——这是人类知识边界上最前沿的一块拼图。这被视为AI辅助数学研究的重大里程碑。Axiom Math团队首次借助其AI系统AxiomProver，对这条与素
调查显示科研人员对开放获取期刊认知有偏差
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500633.shtm
“中瑞对话：人工智能和伦理”在沪举行
9月8日，浦江创新论坛的分论坛“中瑞对话：人工智能和伦理”在张江科学会堂举行。分论坛由瑞士科技文化中心、复旦大学哲学学院、复旦大学科技伦理与人类未来研究院联合承办，旨在促进中瑞两国在科技伦理领域的合作，推动跨文化、跨学科的合作与交流。瑞士科技文化中心总裁、领事Philippe Roesle（何辉）在
“中瑞对话：人工智能和伦理”在沪举行
9月8日，浦江创新论坛的分论坛“中瑞对话：人工智能和伦理”在张江科学会堂举行。分论坛由瑞士科技文化中心、复旦大学哲学学院、复旦大学科技伦理与人类未来研究院联合承办，旨在促进中瑞两国在科技伦理领域的合作，推动跨文化、跨学科的合作与交流。瑞士科技文化中心总裁、领事Philippe Roesle（何辉）在
AI野外灵长类认知测试取得重大进展
科学家开发出一套名为CapuchinAI的开源、电池供电平台，可借助面部识别与触摸屏交互，自动对野生灵长类动物进行认知研究。该系统在哥斯达黎加塔沃加森林保护区实地测试，利用YOLO计算机视觉以97%的准确率识别野生白面卷尾猴，通过树莓派微电脑推送个性化触摸屏任务，并自动投放食物奖励。 这项概念验证
科技部发文规范－AI－使用－强调科技伦理重中之重
科技部监督司上个月编制印发《负责任研究行为规范指引（2023）》，《指引》从研究选题与实施、数据管理、成果署名、同行评议、伦理审查、监督管理等 11 个方面，对科研人员和科研机构、高等学校、医疗卫生机构、企业等（以下统称“科研单位”），提出了开展负责任研究应普遍遵循的科学道德准则和学术研究规范。
AI与人类正常交流还有多远？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481832.shtm 黄民烈介绍《AI对话系统分级定义》。（受访者供图） 为什么“小度”“小爱”等智能助理可以与人类进行对话和交流呢？为什么它们有时候也会“不知所云”“答非所问”呢？ 清华大学