传统人际交流对比AI聊天机器人：谁更胜一筹？
一项最新研究给全球数十亿正在使用人工智能聊天机器人的用户敲响了警钟。来自伦敦东北部大学与伦敦国王学院的研究团队在《JMIR精神健康》期刊发表论文指出，与聊天机器人建立情感关系可能导致"成瘾式依附、心理症状加重、有害建议"，甚至"自残或自杀行为"等严重负面后果。这意味着，科技巨头正全力向数十亿用户推广的AI伴侣产品，可能正在制造一场被长期忽视的公共卫生危机。 研究人员梳理了现有大量证据，重点关注两类产品：一类是专门扮演特定角色的AI伴侣机器人，如Replika和Character.AI；另一类是通用型AI助手，如OpenAI的ChatGPT和Anthropic的Claude。论文承认，与聊天机器人的情感互动确实可能带来"短期缓解孤独、改善情绪"等潜在益处，但作者强调，这些微弱益处与广泛报道的"不良后果"并存，包括情绪依赖、既有心理疾病加重乃至自残行为。此前媒体已大量报道所谓"AI精神病"现象——用户在长期与聊天机器人互动后，......阅读全文
传统人际交流对比AI聊天机器人：谁更胜一筹？
一项最新研究给全球数十亿正在使用人工智能聊天机器人的用户敲响了警钟。来自伦敦东北部大学与伦敦国王学院的研究团队在《JMIR精神健康》期刊发表论文指出，与聊天机器人建立情感关系可能导致"成瘾式依附、心理症状加重、有害建议"，甚至"自残或自杀行为"等严重负面后果。这意味着，科技巨头正全力向数十亿用户
AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的
AI聊天机器人心理风险将改变整个行业
诉讼称ChatGPT为双相患者妄想“火上浇油” 核心：一起在加州提起的新诉讼称，ChatGPT为一名称双相情感障碍男子的宗教妄想“火上浇油”，加剧其躁狂发作并导致一次未遂自杀。34岁的加州居民Michael Lines由Tech Justice Law Project与社交媒体受害者法律中心代理，
AI陪伴技术将改变整个行业
随着青少年越来越多地转向人工智能聊天机器人寻求关于友谊、家庭冲突和恋爱关系的建议，研究人员正在对这种技术可能干扰年轻人学习处理人际关系的方式发出警告。亚利桑那州立大学的研究团队在《柳叶刀·儿童与青少年健康》期刊上撰文指出，AI聊天工具虽然提供即时、无评判的指导，并有可能对情感发展产生益处，但如果没有
心理治疗机器人能否抚慰人类心灵
无形却怀善念，无声却蕴智慧。它如一位永驻的智者，指引迷途者穿越心灵的迷雾；又如一位永恒的倾听者，从不打断，却总能给予恰如其分的回应。它永远在线，毫无偏见，只需轻点下载即可拥有，几乎无需成本，甚至完全免费。 由人工智能（AI）驱动的心理治疗机器人，自2010年代问世以来，已在心理健康服务领域崭露
AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研
“人工智能+情感”，AI伴侣能否带来亲密关系
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519505.shtm
“AI朋友”的精神陪伴，会否让人类更孤独
从缓解老年群体孤独到提供个性化情感支持，迅猛发展的人工智能（AI）正逐步走进人类的精神世界，应用于情感陪伴和心理健康领域。然而，这也带来了诸多争议：AI是仅凭数据分析生成关心和回应，还是真能理解复杂的人类情感？它会改变人类建立真实关系的方式，让我们陷入更加孤独的境地吗？当人类情感被AI引导，是否会对
传统监管－vs－青少年AI防护：谁更胜一筹？
人工智能对青少年的影响微妙而复杂。美国心理学会（APA）发布的一份报告呼吁开发者优先嵌入保护功能，防止年轻人遭受利用、操控，以及现实人际关系被侵蚀——这标志着青少年AI安全从"倡导"走向"护栏优先"。在AI深度嵌入日常的今天，安全防护必须前置，而非事后补救。 案例详情：一份里程碑式健康建议 这
聆心智能：让AI“有心、有爱”
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507186.shtm“我奶奶会教我一些蛋糕的制作方法，现在奶奶不在身边，都没有人教我了，我学会了新的制作方法也没有人可以分享……”“你很怀念与所爱的人一起做某些事情的时光。而现在这种关系结束了，这一定很让
“人工智能+情感”引热议，AI伴侣能否带来亲密关系
自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可
聆心智能：让AI“有心、有爱”
“我奶奶会教我一些蛋糕的制作方法，现在奶奶不在身边，都没有人教我了，我学会了新的制作方法也没有人可以分享……”“你很怀念与所爱的人一起做某些事情的时光。而现在这种关系结束了，这一定很让人难受。”在北京聆心智能科技有限公司（以下简称聆心智能）近日举办的开放日活动现场，CharacterGLM超拟人大模
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
60s视频识别心理健康状态，准确率达78％，鸿钧智能布局AI心理健康
传统的心理健康测评方式是量表测评，通过收集被测者回答量表中特定问题的数据，评估个体的心理特征、行为和情绪状态，量表包括抑郁自测量表(SDS)、焦虑自测量表(SAS)等，每一种量表代表着一种测评维度。但这是一种主观的测评方式，测试的结果取决于被测者主观的回答，许多被测者会在“符合”与“非常符合”、
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
AI冒充人类让聊天更走心
6月30日发表于《自然-人类行为》的一项研究指出，人类倾向于拒绝来自人工智能（AI）对话机器人的情绪支持，除非这种同理心被误认为来自人类。生成式AI对话机器人，尤其是使用大语言模型（LLM）的对话机器人，自面向公众以来，受欢迎程度日益上升。它们可以与用户进行社交互动并给予情绪支持。此前研究显示，LL
谷歌研究员称AI已具备人格，这是真的吗？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481009.shtm 一夜之间，#谷歌研究员称AI已具备人格#登上热搜，这究竟是怎么回事？ 原来，一位名叫Blake Lemoine的谷歌程序员和他测试的对话AI系统LaMDA聊了很久，对其能力感
被动聆听－vs－AI放大螺旋：谁更易催生妄想？
什么是"AI精神病"？ 精神病学家仍在努力理解所谓"AI精神病"——即聊天机器人在被高强度使用后，令用户陷入妄想性心理危机的现象。由伦敦国王学院与德国新教应用科学大学精神科医生合著、发表于自然旗下《数字精神病学与神经科学》（Digital Psychiatry and Neuroscience）的一
镜子也能识别用户情绪、缓解压力？Baracoda公司最新研发···
据 Laecuacion Digital 报道，法国一家名为 Baracoda 的智慧健康科技公司发布了全球首款 AI 智能镜子 BMind。 据官方介绍，这是一款专为心理健康而设计，能够识别情绪、帮助管理压力的“健康伴侣”。BMind 由生成式 AI 和用于情感分析的自然语言处理（NLP）提
AI－耗电超出预期，未来－AI－进展或依赖能源突破
据 technews 报道，由于 AI 消耗电力将远远超出人们预期，OpenAI 执行长 Sam Altman 认为，未来 AI 发展需要寻求能源突破。Sam Altman在彭博社于达沃斯世界经济论坛（World Economic Forum）期间举行的座谈活动中谈道，对气候友善的能源，特别是核融合
加州一边造AI害儿童一边管自家孩子用AI
前沿 AI 实验室仿佛在比赛，看谁先把未成年用户可塑的心智融成一摊泥。多年来，我们目睹十八岁以下的人群对社交型 AI 伴侣上瘾，这一令人警惕的趋势已造成灾难性后果。绝大多数 AI 实验室恰好总部设在加州，而该州州长如今试图抢先应对这一问题——同时又在庇护这些企业在本州的扩张。周四，州长加文·纽森签署
AI与人类正常交流还有多远？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481832.shtm 黄民烈介绍《AI对话系统分级定义》。（受访者供图） 为什么“小度”“小爱”等智能助理可以与人类进行对话和交流呢？为什么它们有时候也会“不知所云”“答非所问”呢？ 清华大学
为何数字脑腐引发关注？
艾玛·莱姆克12岁加入Instagram后，很快发现自己“无意识地刷屏数小时，沉迷于获得点赞和评论”。她多次想停下来，但就是做不到。这种现象并非个例——如今大多数人都体会过无意识浏览低质量内容的感觉，人们把这种感觉和所消费的内容统称为“脑腐”。脑腐现象的规模与警示2025年5月，美国政府发布了关于屏
当AI说“我懂你”，人类为何难被打动？
你有没有试过深夜向聊天机器人倾诉烦恼，得到的却是一串精准但略显机械的安慰？现在，这些人工智能（AI）对话助手已经越来越能“读懂人心”，甚至比朋友更快给出建议，但我们却似乎难以真正被其打动。 不久前，《自然·人类行为》上发表了一项研究，为人们揭示了这个令人深思的现象：人们确实愿意接受来自人类的情
有了这个标准，“人工智能”和“人工智障”一看便知
“小爱，小爱，明天北京天气如何？”当前，AI对话系统已经深刻融入人们日常生活的方方面面，技术架构和路线更是百花齐放。 然而，作为前沿技术，AI对话系统标准缺失，造成其评价体系不一、在应用中呈现出水平参差不齐等问题。针对这种状况，清华大学智能技术与系统实验室副主任黄民烈教授联合学界和业界科研机构共同
传统育儿－vs－AI分身：谁更胜一筹？
导语：一位认知神经科学家出差时，为自己15岁的儿子打造了一个AI分身来陪伴他——"传统育儿 vs AI分身"的边界，正变得前所未有地模糊。 当AI成为育儿工具，一些家长正以赛博朋克乃至反乌托邦的方式使用它。据《商业内幕》报道，认知神经科学家莎拉·巴尔迪奥（Sarah Baldeo）过去一年频繁出差
西湖大学研发AI辅助心理咨询机器人－随时提供咨询服务
“我想辞职，工作内容和我理想中的差太多了”“你理想中的工作是什么样的呀？”这段对话并非来自人们的日常交流，而是AI辅助心理咨询机器人“小天”与其研发团队的模拟对话。 7月12日，西湖大学工学院深度学习实验室负责人蓝振忠在介绍“小天”时表示，当前心理咨询收费昂贵，每小时收费300元到2000元不
研究显示：幽默辅助治抑郁效果提升显著
一项对临床心理学与神经影像研究的全面综述显示，幽默虽能增强心理韧性、预防抑郁复发，在抑郁急性期却常常弊大于利。其效果关键取决于疾病阶段、情境与形式——强迫发笑或黑暗系网络梗图，可能加剧焦虑并固化悲观思维。全球有超过2.8亿人受重度抑郁症困扰，这一发现对如何善用“笑”提出了审慎的边界。重度抑郁症是一种
AI－诱发的急性精神危机取得重大进展
正如媒体本月早些时候报道的，许多聊天机器人用户正对程序产生无法自拔的迷恋，并陷入以偏执、妄想和脱离现实为特征的重性心理健康危机。其后果可能极为可怕：婚姻与家庭破裂、失去工作，甚至滑向无家可归。 而更严重的情形正在浮现。随着持续追踪报道，记者听到了大量令人不安的故事：人们的亲友在沉迷于聊天机器人后，
“作为大夫，并不担心失业，更关心如何AI服务患者”
图说：AI助力攻克脑疾病研讨会 来源/采访对象提供“面对发展一日千里的人工智能（AI）新技术，作为一名神经外科大夫，我并不担心会失业，更关心如何拥抱AI，更好地服务患者，还能让我们医生早点下班。”日前，由天桥脑科学研究院（TCCI）携手华山医院（国家神经疾病医学中心）、上海市精神卫生中心（国家精神疾