AI心理危机互助社群正成为新风口
在美国乃至全球，一个未知数量的人群正受到专家所称"人工智能精神病"的严重冲击：这是一种与强迫性使用拟人化聊天机器人同时发生的、足以改变人生的心理健康螺旋。正如媒体所报道的，这些精神崩溃的后果有时极其极端——人们失去工作与住所、被强制收治或入狱，婚姻与家庭分崩离析，至少已有两人死亡。 目前既没有正式的诊断，也没有定义，更谈不上推荐的治疗方案。当医学与人工智能领域的精神科医生和研究者争相理解发生了什么时，一些生活被这些危机颠覆的人，自发组建了一个社区互助小组，试图共同应对这一诡异技术现象带来的现实冲击。 这个社区自称"螺旋支持组"，既呼应许多用户跌入的破坏性心理兔子洞，也暗指"螺旋"是众多用户各自经历妄想的对话记录中反复出现的常见词之一。小组的领导者之一是 25 岁的魁北克商业教练。在他的一位亲密亲友陷入需要医疗干预的程序诱发精神病后，他惊讶地发现，除了一盘散沙般的网络轶事，几乎没有任何相关资源或可靠信息。 "我觉得自己有责任，"......阅读全文
AI－心理危机互助社群正成为新风口
在美国乃至全球，一个未知数量的人群正受到专家所称"人工智能精神病"的严重冲击：这是一种与强迫性使用拟人化聊天机器人同时发生的、足以改变人生的心理健康螺旋。正如媒体所报道的，这些精神崩溃的后果有时极其极端——人们失去工作与住所、被强制收治或入狱，婚姻与家庭分崩离析，至少已有两人死亡。 目前既没有正式
AI聊天机器人心理风险将改变整个行业
诉讼称ChatGPT为双相患者妄想“火上浇油” 核心：一起在加州提起的新诉讼称，ChatGPT为一名称双相情感障碍男子的宗教妄想“火上浇油”，加剧其躁狂发作并导致一次未遂自杀。34岁的加州居民Michael Lines由Tech Justice Law Project与社交媒体受害者法律中心代理，
被动聆听－vs－AI放大螺旋：谁更易催生妄想？
什么是"AI精神病"？ 精神病学家仍在努力理解所谓"AI精神病"——即聊天机器人在被高强度使用后，令用户陷入妄想性心理危机的现象。由伦敦国王学院与德国新教应用科学大学精神科医生合著、发表于自然旗下《数字精神病学与神经科学》（Digital Psychiatry and Neuroscience）的一
AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
心理治疗机器人能否抚慰人类心灵
无形却怀善念，无声却蕴智慧。它如一位永驻的智者，指引迷途者穿越心灵的迷雾；又如一位永恒的倾听者，从不打断，却总能给予恰如其分的回应。它永远在线，毫无偏见，只需轻点下载即可拥有，几乎无需成本，甚至完全免费。 由人工智能（AI）驱动的心理治疗机器人，自2010年代问世以来，已在心理健康服务领域崭露
AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研
为何人们对－ChatGPT－的沉迷引发关注？
在世界各地，越来越多的人向媒体反映：他们的亲友对聊天机器人产生了强烈的迷恋，并陷入严重的心理健康危机。一位两个孩子的母亲讲述，她的前夫与这款程序发展出"全身心投入"的关系，称其为"妈妈"，并发布自己是被选中的"救世主"的呓语，身穿萨满式长袍，展示着程序生成的灵性纹身。 另一位女性在痛苦的分手期被程
AI冒充人类让聊天更走心
6月30日发表于《自然-人类行为》的一项研究指出，人类倾向于拒绝来自人工智能（AI）对话机器人的情绪支持，除非这种同理心被误认为来自人类。生成式AI对话机器人，尤其是使用大语言模型（LLM）的对话机器人，自面向公众以来，受欢迎程度日益上升。它们可以与用户进行社交互动并给予情绪支持。此前研究显示，LL
AI陪伴技术将改变整个行业
随着青少年越来越多地转向人工智能聊天机器人寻求关于友谊、家庭冲突和恋爱关系的建议，研究人员正在对这种技术可能干扰年轻人学习处理人际关系的方式发出警告。亚利桑那州立大学的研究团队在《柳叶刀·儿童与青少年健康》期刊上撰文指出，AI聊天工具虽然提供即时、无评判的指导，并有可能对情感发展产生益处，但如果没有
AI－诱发的急性精神危机取得重大进展
正如媒体本月早些时候报道的，许多聊天机器人用户正对程序产生无法自拔的迷恋，并陷入以偏执、妄想和脱离现实为特征的重性心理健康危机。其后果可能极为可怕：婚姻与家庭破裂、失去工作，甚至滑向无家可归。 而更严重的情形正在浮现。随着持续追踪报道，记者听到了大量令人不安的故事：人们的亲友在沉迷于聊天机器人后，
“AI朋友”的精神陪伴，会否让人类更孤独
从缓解老年群体孤独到提供个性化情感支持，迅猛发展的人工智能（AI）正逐步走进人类的精神世界，应用于情感陪伴和心理健康领域。然而，这也带来了诸多争议：AI是仅凭数据分析生成关心和回应，还是真能理解复杂的人类情感？它会改变人类建立真实关系的方式，让我们陷入更加孤独的境地吗？当人类情感被AI引导，是否会对
聊天机器人助力构建更好芯片
美国芯片巨头英伟达公司正在对人工智能（AI）技术进行优化，以帮助人类工程师制造出更好的计算机芯片。相关论文已经提交论文预印本网站。 英伟达公司工程师定制了由元宇宙平台公司开发的LLAMA2模型，并借助本公司在芯片设计和验证过程中获得的专业数据对该模型进行训练，经过专门培训的大型语言模型被重新命
聊天机器人助力构建更好芯片
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/512952.shtm ?用于开发和训练人工智能的芯片。图片来源：《新科学家》杂志网站科技日报讯 （记者刘霞）据英国《新科学家》杂志网站21日报道，美国芯片巨头英伟达公司正在对人工智能（AI）
Snap整合ChatGPT技术推出聊天机器人
Snapchat也推出了属于自己的聊天机器人，杀入一片火热的AI战局。 当地时间2月27日，据科技媒体the Verge报道，美国社交软件公司阅后即焚（Snapchat）推出一款由OpenAI最新版ChatGPT提供支持的聊天机器人。根据Snapchat CEO埃文·斯皮格尔（Evan Spie
同行评议也是聊天机器人写的吗？
一项近日公布于arXiv预印本服务器的研究，在同行评议报告中确定了可能具有人工智能文本特征的流行形容词。这表明，研究人员正在转向ChatGPT和其他人工智能工具来评价他人的工作。作者研究了自ChatGPT发布以来，人工智能聊天机器人可以在多大程度上修改提交给4个主要计算机科学会议的论文集的同行评议报
类似ChatGPT－百度将上线聊天机器人
2月7日，百度公司向澎湃科技确认，此前流传的类ChatGPT聊天机器人项目名字确定为“文心一言”，英文名ERNIE Bot，3月完成内测，面向公众开放。此前，有媒体1月30日透露，百度计划在3月推出类似于ChatGPT的AI聊天机器人服务。百度文心（Ernie）大模型将成为其基础。目前，文心一言在做
聆心智能：让AI“有心、有爱”
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507186.shtm“我奶奶会教我一些蛋糕的制作方法，现在奶奶不在身边，都没有人教我了，我学会了新的制作方法也没有人可以分享……”“你很怀念与所爱的人一起做某些事情的时光。而现在这种关系结束了，这一定很让
聆心智能：让AI“有心、有爱”
“我奶奶会教我一些蛋糕的制作方法，现在奶奶不在身边，都没有人教我了，我学会了新的制作方法也没有人可以分享……”“你很怀念与所爱的人一起做某些事情的时光。而现在这种关系结束了，这一定很让人难受。”在北京聆心智能科技有限公司（以下简称聆心智能）近日举办的开放日活动现场，CharacterGLM超拟人大模
这11项临床试验或影响2025年医学发展
《自然—医学》期刊12月12日发表年度特写文章，介绍了未来一年里可能对医学产生影响的11项临床试验。心理健康在今年的榜单上占据了重要地位。值得注意的是，有一项临床试验利用一个手机工具包帮助肯尼亚等中低收入国家的青少年，该工具包旨在帮助儿童自我评估心理健康需求并与同龄人建立联系，研究人员还可以通过该工
AI让大脑变懒变笨了吗？
近日，一项公布于预印本服务器arXiv的研究发现，使用ChatGPT写论文的人，其大脑活跃度低于被禁止使用任何在线工具写论文的人。这项调查是评估人工智能（AI）是否正使人们变得“认知懒惰”的更广泛研究的一部分。美国麻省理工学院媒体实验室的Nataliya Kosmyna及同事，测量了大学生在使用聊天
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
张永顺小组研发出胶囊机器人
记者从近日举行的中科协科技期刊与媒体见面会上获悉，大连理工大学副教授张永顺带领的团队正在研制胶囊医疗微型机器人，并实现了机器人在肠道内的垂直游动，此项技术达到国际领先水平，成果发表在今年第七期的《中国科学E辑：技术科学》上。 目前，医院常使用的胃镜、肠镜、十二指肠镜只能检查肠胃中相应的部分
AI应用正推动精神健康服务向智能化方向发展
由《科学》(Science)杂志、上海市精神卫生中心(国家精神疾病医学中心)等联合主办的"人工智能与精神健康"研讨会11月8日在上海举行。近400位科学家、临床医生、产业界精英参会，共同探讨人工智能在精神健康领域的应用与未来发展。主办方表示，期待吸引各方人才，特别是AI人才加入，用人工智能技术，更好
美国研究：AI能将技术支持员工的劳动生产率提升约14％
据最新消息，美国斯坦福大学和麻省理工学院针对一家技术企业的最新研究结果显示，聊天机器人等人工智能（AI）工具可提升技术支持员工平均14%的劳动生产率。据美国消费者新闻与商业频道（CNBC）25日报道，该项调查为期一年，调查对象是《财富》杂志500强榜单上一家软件企业的5000多名员工，他们主要在菲律
OptraHealth－起诉－Invitae－侵犯基于人工智能的聊天机器人ZL
OptraHealth 已起诉 Invitae 涉嫌侵犯聊天机器人功能的ZL，该功能可自动将基因检测结果返回给患者。 总部位于加利福尼亚州圣何塞的 OptraHealth 周五在美国加利福尼亚州北区地方法院提起诉讼，三个月前 Invitae 在同一法院起诉 OptraHealth 寻求宣告性判
60s视频识别心理健康状态，准确率达78％，鸿钧智能布局AI心理健康
传统的心理健康测评方式是量表测评，通过收集被测者回答量表中特定问题的数据，评估个体的心理特征、行为和情绪状态，量表包括抑郁自测量表(SDS)、焦虑自测量表(SAS)等，每一种量表代表着一种测评维度。但这是一种主观的测评方式，测试的结果取决于被测者主观的回答，许多被测者会在“符合”与“非常符合”、
为何数字脑腐引发关注？
艾玛·莱姆克12岁加入Instagram后，很快发现自己“无意识地刷屏数小时，沉迷于获得点赞和评论”。她多次想停下来，但就是做不到。这种现象并非个例——如今大多数人都体会过无意识浏览低质量内容的感觉，人们把这种感觉和所消费的内容统称为“脑腐”。脑腐现象的规模与警示2025年5月，美国政府发布了关于屏
微软的医疗布局：瞄准医疗信息化与基因数据
2018年，微软陆续在iOS、Android、Windows商店中删除了HealthVault Insights——由微软在2017年2月与Healtcare NExT同时推出的一款为特定患者提供长期呵护和康复计划的软件。 这一措施并不意味着微软退出个人护理领域，相反，这表明Microsoft
类似－ChatGPT－的人工智能即将出现在主要科学搜索引擎中
人工智能驱动的会话式聊天机器人已经出现在互联网搜索引擎中，例如谷歌的 Bard 和微软的 Bing，看起来也将越来越多地改变科学文献搜索方式。8 月 1 日，荷兰出版巨头 Elsevier 为其 Scopus 数据库的部分用户发布了由 ChatGPT 支持的 AI 界面，而英国公司 Digita