AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研究提出了一个更令人担忧的问题：人类可能开始与AI一起"幻觉"。 埃克塞特大学的研究 埃克塞特大学的露西·奥斯勒博士研究了对话式AI的互动如何可能导致错误信念、扭曲记忆、改变的個人叙事甚至妄想思维。她解释道："当我们常规依赖生成式AI来帮助我们思考、记忆和叙述时，我们可以与AI一起幻觉。" AI的双重功能 该研究强调了奥斯勒博士所描述的对话式AI的"双重功能"。这些系统不仅作为帮助人们思考、组织信息和记忆细节的工具，还作为似乎分享用户观点和经历的对话伙伴。这种社交方面使聊天机器人与笔记本或搜索引擎等工具根本不同。 对弱势群体的......阅读全文
刘学波团队揭示孕期肥胖致后代认知和社交行为缺陷机理
已有研究表明，“生命早期1000天”的营养健康状态，尤其是母亲的孕前和孕期健康对后代健康可造成深远影响。那么，母亲孕期肥胖会给后代带来怎样的影响？如何进行营养调节？西北农林科技大学教授刘学波领衔的食品分子营养与健康创新团队，通过对这个问题的持续研究获得重大发现：母亲孕期肥胖可导致后代认知和社交行
心理治疗机器人能否抚慰人类心灵
无形却怀善念，无声却蕴智慧。它如一位永驻的智者，指引迷途者穿越心灵的迷雾；又如一位永恒的倾听者，从不打断，却总能给予恰如其分的回应。它永远在线，毫无偏见，只需轻点下载即可拥有，几乎无需成本，甚至完全免费。 由人工智能（AI）驱动的心理治疗机器人，自2010年代问世以来，已在心理健康服务领域崭露
特朗普宣布5000亿美元AI计划，重塑美国领导地位
近日，美国总统特朗普宣布了一项震撼全球的重大计划——星际之门计划(Stargate)。该计划旨在通过在未来四年内投入高达5000亿美元的资金，重塑美国在人工智能(AI)领域的领导地位。这不仅是美国历史上最大规模的AI基础设施建设项目，也是全球范围内迄今为止最为雄心勃勃的AI投资计划之一。星际之门计划
霍金今日去世，但人类对宇宙和AI的探索永无止境
霍金去世的消息令全世界都陷入深切哀悼。霍金曾积极关注人工智能，指出我们要对AI发展保持警惕。3月14日也是爱因斯坦诞辰139年的日子，上帝在同一天送来了一位天才，而带走了另一位。人类对宇宙和AI的探索永无止境，让我们以这样的方式祭奠这两位伟人。 据英国天空新闻等多家媒体3月14日消息，著名物理
人工智能发展将重新定义高等教育
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517999.shtm张端鸿 同济大学教育政策研究中心主任丁文佳 同济大学高等教育研究所科研助理连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora
人工智能发展将重新定义高等教育
连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora成为各界热议的焦点话题。有业内专家指出，Sora的诞生意味着通用人工智能（AI）的实现可能从十年缩短至一两年。 人工智能的快速发展也会对高等教育系统进行重塑，以专业知识和专业技能为核心基础
人工智能发展将重新定义高等教育
连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora成为各界热议的焦点话题。有业内专家指出，Sora的诞生意味着通用人工智能（AI）的实现可能从十年缩短至一两年。 人工智能的快速发展也会对高等教育系统进行重塑，以专业知识和专业技能为核心基础
《人工智能的认知神经基础白皮书》发布
1月25日，北京智源人工智能研究院发布了 2021 年度《人工智能的认知神经基础白皮书》。该白皮书由智源研究院“人工智能的认知神经基础方向”首席科学家刘嘉牵头，联合方向智源学者和博士后科研人员共同编著，旨在盘点神经科学、认知科学、智能技术等相关领域的重要进展。大脑作为通用智能的唯一样本，为人工智能的
姚期智：要把人工智能当作一门基础学科来建设
9月2日，“中国要在人工智能领域达到世界领先地位，就必须给学生提供最优质的人工智能教育。”图灵奖获得者、中国科学院院士姚期智表示，“我们要把人工智能当作一门基础学科来建设，而中学的人工智能教育，是人才培养的核心环节。” 近日，2022年世界人工智能大会(WAIC)主论坛——“科学前沿全体会议”(
守护科技伦理就是守护创新活力
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/497935.shtm4月4日，科技部发布关于公开征求对《科技伦理审查办法（试行）》意见的公告，提出建立伦理高风险科技活动清单制度，人工智能、基因编辑等部分前沿探索在清单之列。该公告一经发出，引发科学技术界
借助标准和规范，我们能使AI系统变得易懂和安全
“借助标准和规范，我们能使AI系统变得易懂和安全。”，这句话是由BMWi数字化代表托马斯•贾尔松别克（ThomasJarzombek）所说。技术标准如何确保无人操控机器（例如由AI控制的无人驾驶汽车）的行为合乎宝贵的伦理道德？由联邦经济事务和能源部（BMWi）资助的项目“无人操控机器和自动驾驶汽车中
AI“复活”逝者，最令人担忧的是什么
最近，人工智能（AI）“复活”逝者的话题颇受关注。从技术上看，“复活”逝者其实是AI技术的一个具体应用场景——以逝者的特征为人设，通过某种算法生成虚拟数字人。然而，当AI“复活”逝者成为一门生意，当“复活”对象超出一定关系范围，就可能触及伦理底线和法律红线。人们常说，技术就如一柄双刃剑，本身或许并无
量子论验证有新招－中微子实验打碎传统认知
主注入器中微子振荡实验探测器。 来自一项中微子大型实验的数据显示，这种“神出鬼没”的亚原子必定同时是两种相互排斥的类型，这打破了人们对现实的感知。这一结论也是量子力学的基本原理。而这些理论通常是由高度受控的量子光学实验揭示的，而非无法探测的中微子。 “如果你10年前告诉我，我们将能使用中微子研
与智能时代共舞，我们能做什么？
▲《智能时代》由中央广播电视总台影视剧纪录片中心制作，中国科协科学技术传播中心担任学术指导机构，历时三年潜心打磨完成。 图 为《智能时代》海报。（采访对象供图）“人工智能浪潮正猛，可我好像一知半解”“AI看起来比我聪明多了，我还能做什么”，纪录片推文的评论区，网友这两条疑虑也许恰恰折射出创作的部分起
曾毅：构建新一代人工智能准则
著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”：机器人不得伤害人类，或看到人类受到伤害而袖手旁观；机器人必须服从人类的命令，除非这条命令与第一条相矛盾；机器人必须保护自己，除非这种保护与以上两条相矛盾。今天，人工智能逐渐从科幻走向现实，人们对人工智能可能产生的危害也愈加警惕，希望能
未来智能社会什么样从AI到AI+
8月26日国发〔2025〕11号颁布了《国务院关于深入实施“人工智能 +”行动的意见》这一重要文件，其中特别强调“人机协同、跨界融合、共创分享的智能经济和智能社会新形态”，其核心就是要积极构建“人、机（ AI）与环境对齐的生态智能体系”，推动人工智能与经济社会各行业各领域广泛深度融合，重塑人类生产生
4日直播|Sora来了中国AI如何迎接挑战
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518339.shtm 直播时间：3月4日（周一）19:00——20:00 直播平台： (中国科学报微博直播间链接) 中国科学报微博 【主持人简介】 赵广立
监管AI，欧洲议会通过《人工智能法案》
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519054.shtm
从感知到认知，“知识方程”能否通向强人工智能
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/506998.shtm
新刊NEJM－AI上线，“AI在医疗领域的应用才刚起步”
经过1年多精心准备，NEJM AI第一期今晨正式上线（ai.nejm.org）。我们在此发表该刊主编Isaac Kohane教授撰写的社论。 Kohane教授和该刊常务主编Charlotte Haug博士曾多次参加NEJM集团与J-Med共同主办的AIMS年会。 在Kohane教授看来，“无
英报告称伦理道德应成为人工智能发展核心
英国议会一个特别委员会１６日发布报告说，在发展和应用人工智能过程中，有必要把伦理道德放在核心位置，以确保这项技术更好地造福人类。 这份报告由英国议会上院人工智能特别委员会编撰和发布，聚焦英国人工智能发展前景，以及这项技术可能带来的改变和风险。 报告提出，应确立一个适用于不同领域的“人工
联合国教科文组织呼吁尽快实施人工智能伦理标准
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/497527.shtm 人工智能最近引发全球范围内的关注及争议。联合国教科文组织当地时间3月30日发表声明，呼吁各国政府尽快实施该组织通过的首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。
2022年跨文化人工智能伦理与治理论坛举行
近日，2022年跨文化人工智能伦理与治理论坛在线召开。该论坛由远期人工智能研究中心、中科院自动化所人工智能伦理与治理中心、剑桥大学智能未来研究中心和面向可持续发展的人工智能国际合作网络共同主办。 会议主席、中科院自动化所研究员曾毅表示，联合国教科文组织人工智能伦理建议书的正式发布使得全球初步达成
港岭大校长毕业致辞：未来领袖需AI素养和伦理兼备
香港岭南大学(下称岭大)28日举行第55届毕业典礼，校长秦泗钊致辞时表示，作为未来领袖，人工智能(AI)素养和伦理兼备至关重要。图为毕业典礼现场。香港岭南大学供图秦泗钊表示，科技虽然是一种强大的工具，但真正重要的是拥有驾驭科技的素养。因为创意、价值观和想法，将决定人类与这些创新科技工具的应用方向和未
AI时代到来，青少年网络素养如何提升
近日，北京师范大学发布的《新时代数字青年网络素养调查报告(2023)》(以下简称《报告》)引起了不小的关注，《报告》指出，大学生网络素养整体平均得分为3.67分(满分5分)，青少年及初中生得分为3.56，均略高于及格线，有待进一步提高。 据了解，该报告基于认知行为理论和过往调查研究，将青少年网
如何规避安全风险？大模型安全评估框架发布
当前，ChatGPT 正在引领人类进入无缝人机交互的新时代。相关业内人士指出，大规模语言模型（以下简称大模型）在新一轮快速发展同时，场景应用也暴露出一些问题，如事实性错误、知识盲区和常识偏差等。此外，大模型还面临训练数据来源合规性、数据使用的偏见性、生成内容的安全性等风险。 “要规避安全风险，
如何规避安全风险？大模型安全评估框架发布
当前，ChatGPT 正在引领人类进入无缝人机交互的新时代。相关业内人士指出，大规模语言模型（以下简称大模型）在新一轮快速发展同时，场景应用也暴露出一些问题，如事实性错误、知识盲区和常识偏差等。此外，大模型还面临训练数据来源合规性、数据使用的偏见性、生成内容的安全性等风险。“要规避安全风险，降低人工
美国社交媒体脸书在巴黎设立人工智能研究实验室
在全球拥有14亿用户的美国社交媒体脸书（Facebook）在法国首都巴黎开设的人工智能研究实验室2日正式成立。该实验室将致力于自动语音处理、机器学习、图像识别等人工智能技术的长期研发。 巴黎人工智能实验室是脸书公司继在美国门洛帕克和纽约之后开设的第三个专攻人工智能技术的研发中心，也是该公司在海
hCaptcha验证码要求用户识别由AI生成现实中不存在的物体
试图使用 Discord 的人被要求识别一个不存在的物体。这个物体是"Yoko"，似乎是一种蜗牛和悠悠球的混合体。许多人报告说，在试图使用Discord时，当被要求解决一个简单的验证码提示时，看到了识别Yoko的提示。Yoko的图片，以及验证码中的其他图片似乎是由人工智能生成的。另一位用户在Twit
AI应用正推动精神健康服务向智能化方向发展
由《科学》(Science)杂志、上海市精神卫生中心(国家精神疾病医学中心)等联合主办的"人工智能与精神健康"研讨会11月8日在上海举行。近400位科学家、临床医生、产业界精英参会，共同探讨人工智能在精神健康领域的应用与未来发展。主办方表示，期待吸引各方人才，特别是AI人才加入，用人工智能技术，更好