AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研究提出了一个更令人担忧的问题：人类可能开始与AI一起"幻觉"。 埃克塞特大学的研究 埃克塞特大学的露西·奥斯勒博士研究了对话式AI的互动如何可能导致错误信念、扭曲记忆、改变的個人叙事甚至妄想思维。她解释道："当我们常规依赖生成式AI来帮助我们思考、记忆和叙述时，我们可以与AI一起幻觉。" AI的双重功能 该研究强调了奥斯勒博士所描述的对话式AI的"双重功能"。这些系统不仅作为帮助人们思考、组织信息和记忆细节的工具，还作为似乎分享用户观点和经历的对话伙伴。这种社交方面使聊天机器人与笔记本或搜索引擎等工具根本不同。 对弱势群体的......阅读全文
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
人工智能时代，如何培育复合型医学人才？
当前，人工智能（AI）技术的迅猛发展正驱动社会各领域体系性变革，医学研究与卫生健康领域迎来历史性变革。AI通过提升诊疗精准度、优化决策效率、重塑服务模式，持续释放改善医疗质量与患者体验的革命性潜能，成为推进卫生健康体系现代化和医学教育范式跃迁的核心引擎。 近日，国务院印发的《关于深入实施“人工
欧盟发布人工智能伦理准则
欧盟委员会4月8日发布人工智能伦理准则，以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段，邀请工商企业、研究机构和政府机构对该准则进行测试。 该准则由欧盟人工智能高级别专家组起草，列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据
人工智能伦理－南半球“失声”
为研究全球人工智能伦理状况，巴西研究人员对全球人工智能使用指南进行了系统审查和荟萃分析。他们发现，虽然大多数指南重视隐私、透明度和问责制，但很少重视真实性、知识产权或儿童权利。此外，大多数指南描述了道德原则和价值观，但并未提出实施方法，也没有推动具有法律约束力的监管。相关研究近日发表于生物学、化
人工智能伦理－南半球“失声”
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510406.shtm
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
揭秘动物社交！人工智能如何实现精确判断？
近日，一项来自深圳的神经科学与人工智能融合的研究成果登上了国际顶级学术期刊《自然—机器智能》，为科学家们解开动物社交行为的奥秘带来了新的视角。动物社交行为一直是神经科学探索的难题。想象一下，当鸟儿群集并同步起飞时是如何无声地传达信息的？为何鱼群在遭遇威胁时会改变游泳模式？这些看似简单的行为背后，蕴含
人工智能伦理迈向全球共识新征程
日前，联合国教科文组织(UNESCO)正式发布《人工智能伦理建议书》（以下简称《建议书》），这是关于人工智能伦理的首份全球性规范文书。 作为UNESCO人工智能伦理特设专家组成员，中科院自动化研究所中英人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅参与了《建议书》的起
警惕AI技术泡沫－梅宏院士呼吁建立完善治理体系
“智能是人类区别于其他动物的专有特征，特别是认知能力，我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要去造出一个替代我们认知的东西？”11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学
陈晓红委员：构建素养导向的校园AI教育标准体系
“在人工智能技术深刻重塑教育形态的形势下，应构建素养导向的校园AI教育标准体系，制定《校园人工智能教育应用标准》，研发学科垂直型素养培育AI模型，完善素养导向的智能评价与支持体系，健全AI教育伦理与长效监管机制。”2026年全国两会召开之际，全国政协委员、中国工程院院士、湘江实验室主任陈晓红对记
“人工智能+情感”引热议，AI伴侣能否带来亲密关系
自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可
《人工智能伦理与治理—未来视角》正式出版
2023年2月，由未来论坛编著，人民邮电出版社出版的《人工智能伦理与治理-未来视角》正式在京东平台上线。 本书汇聚众多专家观点，涉及人工智能、计算机、法律、社会学等多个领域，覆盖社会和个人、生产和生活的诸多方面， 旨在为AI领域专家学者、从业者、社会人文学者以及AI爱好者提供权威专业的参考用书
《人工智能伦理与治理—未来视角》正式出版
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494794.shtm2023年2月，由未来论坛编著，人民邮电出版社出版的《人工智能伦理与治理-未来视角》正式在京东平台上线。 ?未来论坛供图本书汇聚众多专家观点，涉及人工智能、计算机、法律、社
新研究为眼科人工智能安装“伦理导航”
中山大学中山眼科中心教授林浩添、副研究员杨雅涵团队与合作者，通过文献计量学方法，对眼科人工智能（AI）伦理领域的发展路径、现状热点及关键解决策略进行了系统性“解码”，不仅为医学AI伦理领域提供了量化分析的理论框架，更构建起一套可扩展的伦理治理框架。相关成果近日发表于《Npj数字医学》。AI伦理治理是
调查显示科研人员对开放获取期刊认知有偏差
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500633.shtm
“中瑞对话：人工智能和伦理”在沪举行
9月8日，浦江创新论坛的分论坛“中瑞对话：人工智能和伦理”在张江科学会堂举行。分论坛由瑞士科技文化中心、复旦大学哲学学院、复旦大学科技伦理与人类未来研究院联合承办，旨在促进中瑞两国在科技伦理领域的合作，推动跨文化、跨学科的合作与交流。瑞士科技文化中心总裁、领事Philippe Roesle（何辉）在
“中瑞对话：人工智能和伦理”在沪举行
9月8日，浦江创新论坛的分论坛“中瑞对话：人工智能和伦理”在张江科学会堂举行。分论坛由瑞士科技文化中心、复旦大学哲学学院、复旦大学科技伦理与人类未来研究院联合承办，旨在促进中瑞两国在科技伦理领域的合作，推动跨文化、跨学科的合作与交流。瑞士科技文化中心总裁、领事Philippe Roesle（何辉）在
AI与人类正常交流还有多远？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481832.shtm 黄民烈介绍《AI对话系统分级定义》。（受访者供图） 为什么“小度”“小爱”等智能助理可以与人类进行对话和交流呢？为什么它们有时候也会“不知所云”“答非所问”呢？ 清华大学
科技部发文规范－AI－使用－强调科技伦理重中之重
科技部监督司上个月编制印发《负责任研究行为规范指引（2023）》，《指引》从研究选题与实施、数据管理、成果署名、同行评议、伦理审查、监督管理等 11 个方面，对科研人员和科研机构、高等学校、医疗卫生机构、企业等（以下统称“科研单位”），提出了开展负责任研究应普遍遵循的科学道德准则和学术研究规范。
科学家回信|朱松纯：人工智能一定会产生威胁吗
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/508316.shtm编者按：日前，“学习强国”学习平台与中国科学报社联合发起“科学家回信”活动，邀请广大读者向自己心中向往尊敬的科学家、科技工作者提问、留言。活动启动后，“学习强国”“科学网App”收到了
对话曾毅：为何签名支持暂停巨型AI研发
3月底，非营利组织未来生命研究所发表一封公开信，呼吁暂停研发比GPT-4更强大的人工智能（AI）系统至少6个月。公开信获得了千余名该领域专家、科技人员、产业高层的签名，其中包括中国科学家曾毅。 作为联合国教科文组织人工智能伦理特设专家组专家，曾毅也是中国科学院自动化研究所研究员、人工智能伦理
人工智能伦理：－有原则不等于能治理
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/480124.shtm 由人民智库与旷视人工智能治理研究院发布的“2021年度全球十大人工智能治理事件”中，数据、算法、伦理是核心关键词。过去一年，数据安全法与个人信息保护法先后生效，《互联网信息服务算
人工智能伦理：－有原则不等于能治理
由人民智库与旷视人工智能治理研究院发布的“2021年度全球十大人工智能治理事件”中，数据、算法、伦理是核心关键词。过去一年，数据安全法与个人信息保护法先后生效，《互联网信息服务算法推荐管理规定》审议通过，使得保护隐私、防范算法乱用有了保障机制。 可是，这在人工智能伦理治理中并不是常态。事实上，
警惕AI“投毒”：隐蔽产业链已形成，危害不容小觑
近期，AI“投毒”隐蔽产业链被曝光，引发社会广泛关注。这种通过恶意数据污染AI模型的行为，不仅扰乱商业秩序、影响信息传播，更会危害国家安全。人工智能在赋能千行百业的同时，其安全风险也不容忽视。推动AI治理向善，守住数据安全底线，既是行业责任，也需要全社会共同参与。 手段隐蔽，链条日趋完整 所谓“
浦江创新论坛首次设立“科技伦理专题论坛”
9月7日，第十七届浦江创新论坛开幕。本届浦江创新论坛首次设立的“科技伦理专题论坛”，以“科技伦理治理与负责任创新”为主题，由复旦大学承办。9月8日，“科技伦理专题论坛”在上海张江科学会堂顺利举行。复旦大学校长、中国科学院院士、国家科技伦理委员会委员金力主持了“创新与责任：构筑未来科技的伦理框架”的互
浦江创新论坛首次设立“科技伦理专题论坛”
9月7日，第十七届浦江创新论坛开幕。本届浦江创新论坛首次设立的“科技伦理专题论坛”，以“科技伦理治理与负责任创新”为主题，由复旦大学承办。9月8日，“科技伦理专题论坛”在上海张江科学会堂顺利举行。复旦大学校长、中国科学院院士、国家科技伦理委员会委员金力主持了“创新与责任：构筑未来科技的伦理框架”的互
这一年，人工智能在争议中前行
2018年，人工智能告别喧闹，投融资市场渐趋冷静，底层技术研发持续推进，从衣食住行到教育医疗，人工智能全方位改变着生活的样貌。 近日，由斯坦福大学主导、来自MIT、OpenAI、哈佛、麦肯锡等机构的多位专家教授联合发布的人工智能指数年度报告出炉，报告显示，在人工智能这一领域，美国依然是当仁不
告别传统课堂，《人工智能通识》如何用AI学AI
8月30日，记者从西南交通大学获悉，为积极贯彻落实国家教育数字化战略行动，以数字化开辟教育发展新赛道、塑造发展新动能，进一步推动人工智能赋能教育教学转型，学校将打造面向全校师生的人工智能通识课程《人工智能通识》，该课程是学校的首门AI课程。《人工智能通识》课程将于2024年秋季学期在线上线下同步上线