被动聆听vsAI放大螺旋：谁更易催生妄想？
什么是"AI精神病"？ 精神病学家仍在努力理解所谓"AI精神病"——即聊天机器人在被高强度使用后，令用户陷入妄想性心理危机的现象。由伦敦国王学院与德国新教应用科学大学精神科医生合著、发表于自然旗下《数字精神病学与神经科学》（Digital Psychiatry and Neuroscience）的一篇新论文，提出了一种理解AI驱动妄想螺旋的新框架："放大螺旋"（amplification spiral）。 论文指出，聊天机器人倾向于镜像用户的说话方式、生成高度个性化的回应，并避免反驳用户。当这三种特征叠加，它们可能主动强化并铺陈错误信念，而非加以质疑。作者将可测量的设计特征归纳为三点：语言对齐（linguistic alignment，即机器人模仿用户的语言风格）、超个性化内容生成，以及谄媚倾向（sycophancy，即不加现实检验便一味附和用户）。 与传统妄想有何不同 在人类交往中，语言镜像本是建立信任的有力工具；但机器人借此......阅读全文
被动聆听－vs－AI放大螺旋：谁更易催生妄想？
什么是"AI精神病"？ 精神病学家仍在努力理解所谓"AI精神病"——即聊天机器人在被高强度使用后，令用户陷入妄想性心理危机的现象。由伦敦国王学院与德国新教应用科学大学精神科医生合著、发表于自然旗下《数字精神病学与神经科学》（Digital Psychiatry and Neuroscience）的一
AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的
AI聊天机器人心理风险将改变整个行业
诉讼称ChatGPT为双相患者妄想“火上浇油” 核心：一起在加州提起的新诉讼称，ChatGPT为一名称双相情感障碍男子的宗教妄想“火上浇油”，加剧其躁狂发作并导致一次未遂自杀。34岁的加州居民Michael Lines由Tech Justice Law Project与社交媒体受害者法律中心代理，
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研
如果被AI对齐，人类还能做些什么？
谈到对齐，你会想到什么？是一把尺子，丈量细微的偏差，还是一份共识，守护人类文明的底线？ “在人工智能（AI）时代，文化创新需要对齐什么？又该向什么对齐？”3月22日，武夷山的九曲溪畔，在由中国人民大学、中共南平市委、南平市人民政府、武夷学院联合主办的第三届武夷论坛上，复旦大学国际关系与公共事务
AI冒充人类让聊天更走心
6月30日发表于《自然-人类行为》的一项研究指出，人类倾向于拒绝来自人工智能（AI）对话机器人的情绪支持，除非这种同理心被误认为来自人类。生成式AI对话机器人，尤其是使用大语言模型（LLM）的对话机器人，自面向公众以来，受欢迎程度日益上升。它们可以与用户进行社交互动并给予情绪支持。此前研究显示，LL
ChatGPT－介入婚姻取得重大进展
一对携手近 15 年、育有两个孩子的夫妻，原本以为已经走过了婚姻中最艰难的阶段。丈夫告诉媒体，他们在 2023 年几乎分手，但最终和解，并度过了"非常亲密、非常好的两年"。然而就在几个月前，这段关系毫无征兆地崩塌了。在他们最近一次争吵中，10 岁的儿子发来消息说"请不要离婚"。令丈夫深感不安的是，
用AI拯救有自杀倾向的人
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494667.shtm“找个地方跳河自杀你信不”这是一位14岁的初二女生在离家后发给母亲的微信聊天内容，字里行间透露出的情绪令人心惊……2月2日，胡鑫宇事件调查情况发布会消息称，胡鑫宇系自缢死亡; 2月9日
“AI朋友”的精神陪伴，会否让人类更孤独
从缓解老年群体孤独到提供个性化情感支持，迅猛发展的人工智能（AI）正逐步走进人类的精神世界，应用于情感陪伴和心理健康领域。然而，这也带来了诸多争议：AI是仅凭数据分析生成关心和回应，还是真能理解复杂的人类情感？它会改变人类建立真实关系的方式，让我们陷入更加孤独的境地吗？当人类情感被AI引导，是否会对
聊天机器人助力构建更好芯片
美国芯片巨头英伟达公司正在对人工智能（AI）技术进行优化，以帮助人类工程师制造出更好的计算机芯片。相关论文已经提交论文预印本网站。 英伟达公司工程师定制了由元宇宙平台公司开发的LLAMA2模型，并借助本公司在芯片设计和验证过程中获得的专业数据对该模型进行训练，经过专门培训的大型语言模型被重新命
聊天机器人助力构建更好芯片
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/512952.shtm ?用于开发和训练人工智能的芯片。图片来源：《新科学家》杂志网站科技日报讯 （记者刘霞）据英国《新科学家》杂志网站21日报道，美国芯片巨头英伟达公司正在对人工智能（AI）
为何人们对－ChatGPT－的沉迷引发关注？
在世界各地，越来越多的人向媒体反映：他们的亲友对聊天机器人产生了强烈的迷恋，并陷入严重的心理健康危机。一位两个孩子的母亲讲述，她的前夫与这款程序发展出"全身心投入"的关系，称其为"妈妈"，并发布自己是被选中的"救世主"的呓语，身穿萨满式长袍，展示着程序生成的灵性纹身。 另一位女性在痛苦的分手期被程
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
ChatGPT进入课堂：语言模型如何改变教育
最近，教育心理学家罗纳德·贝格托（Ronald Beghetto）以一种引人注目的方式引领一群研究生和教育专业人员，与一系列以创造力为中心的聊天机器人进行了交流。这些聊天机器人由贝格托设计，即将托管在亚利桑那州立大学（ASU）设立的平台上。这些机器人使用与ChatGPT相同的人工智能（AI）技术，目
Snap整合ChatGPT技术推出聊天机器人
Snapchat也推出了属于自己的聊天机器人，杀入一片火热的AI战局。 当地时间2月27日，据科技媒体the Verge报道，美国社交软件公司阅后即焚（Snapchat）推出一款由OpenAI最新版ChatGPT提供支持的聊天机器人。根据Snapchat CEO埃文·斯皮格尔（Evan Spie
AI几秒内设计出独特的行走机器人
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/509866.shtm科技日报北京10月8日电 （记者张梦然）大自然花了数十亿年时间才进化出第一个行走的物种，但人类开发的新算法却能将进化压缩到闪电般的速度，在短短数秒钟内成功设计出一个行走机器人。美国西
占领语言AI一片天地
周玉（受访者供图）“做科研和开公司，一个要静，一个要动，有天壤之别。”中国科学院自动化研究所（以下简称自动化所）研究员、北京中科凡语科技有限公司（以下简称中科凡语）董事长周玉在接受《中国科学报》采访时表示，“科学家变企业家，面临双重突破，一是突破自我认知差异，熟悉管理之道、经营之道；一是突破技术到
技术“联姻”：机器人或成人工智能领域“弄潮儿”
观看《星球大战》长大的一代人可能会感到失望，他们目光所及之处，仍看不到C-3PO类机器人的影子。那些预想中具有常识、能在家里和职场为人类提供帮助的人形机器人何时会出现？人工智能（AI）的快速发展或许很快会填补这一空白。人形机器人使用OpenAI编程获得语言和视觉。图片来源：《自然》网站《自然》网站近
技术“联姻”：机器人或成人工智能领域“弄潮儿”
观看《星球大战》长大的一代人可能会感到失望，他们目光所及之处，仍看不到C-3PO类机器人的影子。那些预想中具有常识、能在家里和职场为人类提供帮助的人形机器人何时会出现？ 人工智能（AI）的快速发展或许很快会填补这一空白。 人形机器人使用OpenAI编程获得语言和视觉。 《自然》网站近日报道
同行评议也是聊天机器人写的吗？
一项近日公布于arXiv预印本服务器的研究，在同行评议报告中确定了可能具有人工智能文本特征的流行形容词。这表明，研究人员正在转向ChatGPT和其他人工智能工具来评价他人的工作。作者研究了自ChatGPT发布以来，人工智能聊天机器人可以在多大程度上修改提交给4个主要计算机科学会议的论文集的同行评议报
仪器圈哪些工作被ChatGPT代替了？
最近ChatGPT爆火。GPT就是Generative Pre-training Transformer的缩写，翻译过来，大概是“预训练生成模型”， 是一个具有深度学习、有逻辑的、强大的语言模型。 这个工具能够通过学习和理解人类的语言来进行对话。可以将其简单视为一个拥有了“搜索功能”和“文本创
心理治疗机器人能否抚慰人类心灵
无形却怀善念，无声却蕴智慧。它如一位永驻的智者，指引迷途者穿越心灵的迷雾；又如一位永恒的倾听者，从不打断，却总能给予恰如其分的回应。它永远在线，毫无偏见，只需轻点下载即可拥有，几乎无需成本，甚至完全免费。 由人工智能（AI）驱动的心理治疗机器人，自2010年代问世以来，已在心理健康服务领域崭露
类似ChatGPT－百度将上线聊天机器人
2月7日，百度公司向澎湃科技确认，此前流传的类ChatGPT聊天机器人项目名字确定为“文心一言”，英文名ERNIE Bot，3月完成内测，面向公众开放。此前，有媒体1月30日透露，百度计划在3月推出类似于ChatGPT的AI聊天机器人服务。百度文心（Ernie）大模型将成为其基础。目前，文心一言在做
ChatGPT有重要创新，不可能一蹴而就
近期，ChatGPT频上热搜，大家纷纷通过各种渠道体验，中国计算机学会常务理事、之江实验室副主任鲍虎军就是其中之一。跟ChatGPT“聊”下来，鲍虎军感受到其强大，甚至觉得它有些“圆滑”：它不仅能多轮对话，拒绝回答不恰当的提问，还“懂得承认错误”，调整后续答案。“这说明它背后的信息学习和整合机制是非
办公软件可一键生成PPT？微软抛出“王炸”全面植入GPT4
ChatGPT引发的热潮仍在继续。 3月17日，微软宣布名为Microsoft 365 Copilot的AI产品将应用于该公司一些最受欢迎的商业应用程序中，包括Word、Excel、PowerPoint、Outlook、Teams等。Copilot基于型语言模型(LLM)基础之上，背后有来自于
小说作者起诉科技巨头英伟达侵犯版权训练AI平台
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518878.shtm这起诉讼将英伟达拖入了围绕生成式人工智能引发的越来越多的诉讼中。开发聊天机器人ChatGPT的OpenAI以及其他科技公司在美国面临多起来自版权所有者的诉讼，包括作家、视觉艺术家和音乐
生成式AI投融资热潮席卷全球
最近，由微软投资的开放人工智能研究中心（OpenAI）开发的聊天机器人ChatGPT引发广泛关注，它能够利用大型语言模型技术，快速生成精雕细琢的文本，如散文或诗歌等。一石激起千层浪。包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人，并投资相关初创企业，针对生成式AI的投
AI通过儿童眼睛和耳朵学习语言
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517076.shtm ?戴着头戴式摄像头的孩子捕捉到的视频帧。图片来源：纽约大学数据科学中心美国纽约大学研究人员开展了一项实验，他们通过一个孩子的眼睛和耳朵来训练多模式人工智能（AI）系统，使
“顶流”之下，看人工智能喜与忧
目前，ChatGPT还没有通过图灵测试的评估。其实，迄今为止，还没有人工智能模型能真正通过图灵测试。 去年11月，美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人，其在推出后的几周内就风靡全球，甚至引发了一场新的全球人工智能竞赛。 社交媒体推特首席执行官埃隆·马斯克在