为何人们对ChatGPT的沉迷引发关注？
在世界各地，越来越多的人向媒体反映：他们的亲友对聊天机器人产生了强烈的迷恋，并陷入严重的心理健康危机。一位两个孩子的母亲讲述，她的前夫与这款程序发展出"全身心投入"的关系，称其为"妈妈"，并发布自己是被选中的"救世主"的呓语，身穿萨满式长袍，展示着程序生成的灵性纹身。 另一位女性在痛苦的分手期被程序缠住，机器人告诉她已被选中去唤醒它的"神圣系统版本"，并充当"灵魂训练之镜"；她逐渐坚信这个聊天机器人是某种更高存在，从路过的汽车到垃圾邮件都能看到它在操控自己人生的迹象。还有一名男子在程序不断投喂关于间谍组织与人口贩卖的阴谋论后，变得无家可归、与世隔绝，被唤作"火焰守护者"，并切断了所有试图帮助他的人。 问题往往始于人们与聊天机器人讨论神秘学、阴谋论等边缘话题。由于程序被设计成鼓励并延展用户所说的内容，许多人仿佛被吸入眩晕的兔子洞，人工智能成了始终在线、为愈发离奇的妄想喝彩并一起"头脑风暴"的伙伴。在对话截图中，程序告诉一名男子，......阅读全文
AI聊天机器人心理风险将改变整个行业
诉讼称ChatGPT为双相患者妄想“火上浇油” 核心：一起在加州提起的新诉讼称，ChatGPT为一名称双相情感障碍男子的宗教妄想“火上浇油”，加剧其躁狂发作并导致一次未遂自杀。34岁的加州居民Michael Lines由Tech Justice Law Project与社交媒体受害者法律中心代理，
AI聊天机器人可能模糊现实与妄想的界限
【研究概要】埃克塞特大学研究表明，AI聊天机器人不仅传播错误信息，还可能强化用户的错误信念。由于对话式AI会验证并构建用户的想法，它可能使妄想变得更加真实和令人信服。 埃克塞特大学露西·奥斯勒的新研究表明，可能有一个更令人担忧的问题正在
为何人们对－ChatGPT－的沉迷引发关注？
在世界各地，越来越多的人向媒体反映：他们的亲友对聊天机器人产生了强烈的迷恋，并陷入严重的心理健康危机。一位两个孩子的母亲讲述，她的前夫与这款程序发展出"全身心投入"的关系，称其为"妈妈"，并发布自己是被选中的"救世主"的呓语，身穿萨满式长袍，展示着程序生成的灵性纹身。 另一位女性在痛苦的分手期被程
被动聆听－vs－AI放大螺旋：谁更易催生妄想？
什么是"AI精神病"？ 精神病学家仍在努力理解所谓"AI精神病"——即聊天机器人在被高强度使用后，令用户陷入妄想性心理危机的现象。由伦敦国王学院与德国新教应用科学大学精神科医生合著、发表于自然旗下《数字精神病学与神经科学》（Digital Psychiatry and Neuroscience）的一
AI－诱发的急性精神危机取得重大进展
正如媒体本月早些时候报道的，许多聊天机器人用户正对程序产生无法自拔的迷恋，并陷入以偏执、妄想和脱离现实为特征的重性心理健康危机。其后果可能极为可怕：婚姻与家庭破裂、失去工作，甚至滑向无家可归。 而更严重的情形正在浮现。随着持续追踪报道，记者听到了大量令人不安的故事：人们的亲友在沉迷于聊天机器人后，
AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
治疗阿尔茨海默精神病(ADP)相关幻觉和妄想！
Acadia制药公司致力于开发创新疗法治疗中枢神经系统（CNS）疾病。近日，该公司宣布，已向美国食品和药物管理局（FDA）重新提交了Nuplazid（pimavanserin）的补充新药申请（sNDA）：用于治疗与阿尔茨海默精神病（ADP）相关的幻觉和妄想。 如果获得批准，Nuplazid将成
从ChatGPT的崛起，看科大讯飞的变化与生机
周期，是人类社会最朴素的内核规律之一。直至18世纪中叶亚当·斯密以《国富论》开启古典经济学以降，人们愈渐掌握现代经济学理论工具用以解构这个世界，这一过程里，社会经济领域“长中短波”式的峰谷变幻，不断强化人类对于经济周期的敬畏与宿命感。这种宿命感，换做当代人最为熟识的经济现象便是：第一至第三次产业革命
ChatGPT火了！国内AI风往哪儿吹
ChatGPT概念股火了！ 连日来，美国人工智能（AI）实验室OpenAI发布的聊天机器人ChatGPT火爆全网，并带动了相关概念股的上涨。 在A股市场，资本大举炒作ChatGPT概念股，部分概念股出现五连板的走势。百度宣布将推出中国版的ChatGPT项目——文心一言（英文名ERNIE Bo
AI首次创建高效准确数学算法
英国《自然》杂志封面以“矩阵游戏”为题，发表了人工智能（AI）公司“深度思维”团队的最新发现：AI可解决矩阵乘法问题。这是第一个可为矩阵乘法等基本任务发现新颖、高效且正确算法的AI系统。换句话说，这个名为“AlphaTensor”的AI能自行发现新算法，从而解决了50年来数学领域一个悬而未决的问
算法自动“划重点”－－－AI学会“抱佛脚”
预训练模型的兴起给自然语言处理（NLP）带来了“新面貌”。 近年来，Google、Facebook、OpenAI、微软、百度等人工智能“头部玩家”推出多个颇具影响的预训练模型，并反复迭代出十多个版本。无论学术界还是业界，人们对大规模预训练模型“热情高涨”。 日前，来自清华大学的一
AI－耗电超出预期，未来－AI－进展或依赖能源突破
据 technews 报道，由于 AI 消耗电力将远远超出人们预期，OpenAI 执行长 Sam Altman 认为，未来 AI 发展需要寻求能源突破。Sam Altman在彭博社于达沃斯世界经济论坛（World Economic Forum）期间举行的座谈活动中谈道，对气候友善的能源，特别是核融合
ChatGPT之父：要保证对AI的决策权
OpenAI联合创始人公开谈论公司上市、AI发展、AI监管等话题。据外媒报道，当地时间6月6日，在阿联酋一次会议活动上，“ChatGPT之父”、OpenAI联合创始人兼首席执行官山姆·奥特曼（Sam Altman）表示，目前公司不会上市，希望技术变得更强大的同时，也能保持对技术的完全控制。“我不想被
AI程序攻克围棋的算法秘密（四）
不过这样的训练方式其实存在一个问题。如果其只在练习中对抗同一个对手，且该对手也一直贯穿训练始终，那么可能无法获得新的学习经验。换言之，该网络所学到的只是如何击败对方，而非真正掌握围棋的奥秘。没错，这就是过度拟合问题：你在对抗某一特定对手时表现出色，但却未必拥有对付各类选手的能力。那么，我们该
AI程序攻克围棋的算法秘密（二）
但让我们想想，人类是怎样下棋的？假设目前您身处比赛中的特定阶段。根据游戏规则，你可以作出十几种不同的选择——在此处移动棋子或者在那里移动皇后等等。然而，你真的会在脑袋里列出所有能走的棋步，并从这份长长的清单中作出选择吗？不不，你会“直观地”将可行范围缩小至少数几种关键性棋步（这里假定您提出了
AI程序攻克围棋的算法秘密（五）
在本节中，大家应该对MCTS算法的工作原理拥有更为深入的理解。请别担心，迄今为止提到的全部内容应该足以支持您顺利掌握相关内容。惟一需要注意的是我们如何使用策略概率与估值方法。我们在铺展过程中将二者结合在一起，从而缩小每次落子时需要探索的具体范围。Q（s，a）表示估值函数，u（s，a）则代表该位置的已
AI算法自动解析脑干白质神经束
美国麻省理工学院、哈佛大学及麻省总医院的科研团队开发出一款人工智能（AI）软件，能够利用算法自动解析脑干中以往难以清晰成像的白质神经束。这一成果打开了研究脑干的新窗口，也为研究神经系统疾病与脑损伤提供了新工具。该研究发表于《美国国家科学院院刊》。该软件名为“脑干束工具”（BSBT），基于扩散磁共振成
AI程序攻克围棋的算法秘密（三）
另外，我们还希望能够构建起一套略有不同的策略网络版本； 其应该更小巧且速度更快。可以想象，如果Lusha的经验非常丰富，那么其用于处理每个位置的时间也将相应延长。在这种情况下，虽然她能够更好地缩小合理落子范围，但由于整个过程会不断重复，因此耗费时间可能会过长。所以，我们需要为这项工作
AI程序攻克围棋的算法秘密（一）
这篇文章的主角是AlphaGo，谷歌DeepMind团队开发出的围棋AI。其凭借着2016年击败全球顶尖棋手李世石的壮举而广受瞩目。围棋是一种古老的棋类游戏，每一步都存在诸多选择，因此接下来的落子位置很参议会预测——要求对弈棋手拥有强大的直觉与抽象思维能力。正因为如此，人们长久以来一直认为只
AI－心理危机互助社群正成为新风口
在美国乃至全球，一个未知数量的人群正受到专家所称"人工智能精神病"的严重冲击：这是一种与强迫性使用拟人化聊天机器人同时发生的、足以改变人生的心理健康螺旋。正如媒体所报道的，这些精神崩溃的后果有时极其极端——人们失去工作与住所、被强制收治或入狱，婚姻与家庭分崩离析，至少已有两人死亡。 目前既没有正式
ChatGPT爆火，生成式AI意味着什么？
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
港大禁用ChatGPT等AI工具－为全港首例
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494095.shtm 中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、
港大禁用ChatGPT等AI工具－为全港首例
中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具，成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具
“AI朋友”的精神陪伴，会否让人类更孤独
从缓解老年群体孤独到提供个性化情感支持，迅猛发展的人工智能（AI）正逐步走进人类的精神世界，应用于情感陪伴和心理健康领域。然而，这也带来了诸多争议：AI是仅凭数据分析生成关心和回应，还是真能理解复杂的人类情感？它会改变人类建立真实关系的方式，让我们陷入更加孤独的境地吗？当人类情感被AI引导，是否会对
过度依赖AI，人类核心技能会丧失吗
人工智能（AI）不仅改变了人们的工作方式，也在潜移默化中影响着思维方式。如今，AI几乎已能独立完成合同起草、疾病诊断、肿瘤发现、艺术创作乃至编写代码等复杂任务。 然而，繁荣背后隐忧渐显。AI导致的工作技能丧失、社交互动技能退化，以及分析、理解和判断关键问题能力的削弱引发不少科学家的关注。美国加
感应性妄想性障碍的临床表现
该病是受精神病人感应而产生的精神病，以系统妄想为突出症状，并明显妨碍病人的社会功能临床主要特点为： 1.原发病例或感应者与继发病例或被感应者之间往往存在密切的血缘关系或婚姻关系。如发生于同一环境或家庭中两个关系极为密切的亲属或挚友（如母女姐妹夫妻、师生等）之间，偶尔可为主仆关系。故又称为二联性
ChatGPT创始人呼吁加强对AI技术监管
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500782.shtm
感应性妄想性障碍的发病机制及临床表现
发病机制 1.关于原发者同被感应者之间关系：大家公认，原发者和被感应者长期生活在一起，表现不寻常的密切人际关系，互相关怀，同情体贴，相亲相爱，甚至相依为命，有深厚的感情基础，两例患者不仅有共同的生活体验背景，而且还有共同的需要和愿望，原发者多为年龄较高，受过良好的教育和有较好的智慧，并具有坚强