AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研究提出了一个更令人担忧的问题：人类可能开始与AI一起"幻觉"。 埃克塞特大学的研究 埃克塞特大学的露西·奥斯勒博士研究了对话式AI的互动如何可能导致错误信念、扭曲记忆、改变的個人叙事甚至妄想思维。她解释道："当我们常规依赖生成式AI来帮助我们思考、记忆和叙述时，我们可以与AI一起幻觉。" AI的双重功能 该研究强调了奥斯勒博士所描述的对话式AI的"双重功能"。这些系统不仅作为帮助人们思考、组织信息和记忆细节的工具，还作为似乎分享用户观点和经历的对话伙伴。这种社交方面使聊天机器人与笔记本或搜索引擎等工具根本不同。 对弱势群体的......阅读全文
Nature－Medicine发布人工智能专刊：AI不再是幻想
科幻小说和电影中常常出现能诊断看病的机器人，像是风靡全球的科幻动画片《超能陆战队》里的“大白”最开始就是为了医疗开发出来的暖男。时至今日，这个构想已经不仅仅是幻想了，Nature Medicine近日就发布了人工智能专刊，介绍了AI在医疗领域的进展。 诊断神经系统疾病 来自西奈山伊坎医学院（
ASMS－2024－|－SCIEX推出全新人工智能定量软件AI－quant
在2024 ASMS（美国质谱学会年会）上，全球生命科学分析技术创新者SCIEX与Mass Analytica合作，展示了人工智能定量（AI quant）软件。AI quant利用人工智能和机器学习的能力，在短时间内处理数据并产生见解，释放操作员时间提高效率。AI quant能够处理来自SCIEX
百度宣布“All－in－AI”：－－“顺势而为”转向人工智能
提起百度，如果还是将其当作一家搜索引擎公司的话，那你就out了。因为百度这艘航母，已经开始专心航行在人工智能（AI）这片汪洋大海上了。 7月5日，百度在北京国家会议中心举行首届“百度AI开发者大会”，正式向世人宣告：百度将All in AI。 顺势而为 “AII in”在棋牌游戏中意为“压
9秒骗走245万！魔高一尺道高一丈，AI诈骗如何防？
AI(人工智能)一键换脸、AI克隆声音、AI钓鱼邮件。。。。。。近日两起诈骗金额上百万元的案件引起人们关注。AI技术快速发展，挑战也逐渐显现。 AI让诈骗门槛大幅降低 近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。在该案件中，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，
Meta发布最新开源大模型Llama－4
据路透社报道，当地时间4月6日，美国科技公司Meta推出了开源人工智能模型Llama 4。据介绍，该模型目前有Scout和Maverick两个版本，是Meta迄今为止最先进的模型，也是同类产品中多模态性最强的模型。 报道称，Llama 4系列采用了先进的混合专家架构，这一架构在模型训练及用户查
智谱AI与15家公司签署前沿人工智能安全承诺
5月21日，第二届人工智能安全峰会在韩国首尔召开，峰会以“安全、创新、包容”为议题，就进一步保障人工智能（AI）安全性、推进AI可持续发展等方案进行讨论。会上，智谱AI与来自北美、亚洲、欧洲和中东地区的15家人工智能公司就AI开发安全承诺达成一致，共同签署前沿人工智能安全承诺（Frontier AI
多国要调查ChatGPT－，TA碰了什么红线
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498038.shtm 中新网4月8日电 (中新财经 彭婧如)从全球爆火到被多国“围堵”，ChatGPT只用了两个月的时间。据外媒报道，近日，德国联邦数据保护专员乌尔里希·凯尔伯(Ulrich Kelb
科技部启动人工智能驱动的科学研究专项部署工作
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/497163.shtm 当前，人工智能驱动的科学研究（AI for Science）成为全球人工智能新的前沿，并已在多个学科领域取得实效，未来五年有望成为突破性发展的关键窗口期。记者27日从科技部获悉，
2024人工智能十大前沿技术趋势在北京发布
被称为是“未来已来”和“无所不能”的人工智能(AI)技术，通过迅猛发展和广泛应用，正影响着人类生活与工作的方方面面，其未来发展趋势广受关注。 2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议10月23日在北京举行，中国科学院院士、世界机器人合作组织理事长乔
院士挂帅，南大人工智能通识核心课第一课开讲
9月13日，南京大学人工智能通识核心课正式开课。中国科学院院士、南京大学党委书记谭铁牛以“人工智能的基本概念与发展态势”为题，为近4000名本科新生开授该课程第一讲，带领大家踏上探秘人工智能之旅。中国科学院院士、南京大学党委书记谭铁牛为学生讲授人工智能通识核心课第一课。南京大学供图“人工智能的发展历
AI有感情吗？舞剧《深AI你》登陆国家大剧院
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507297.shtm8月25日至27日，由中共深圳市委宣传部、深圳市文化广电旅游体育局出品的舞剧《深AI你》登上国家大剧院舞台。作为国内首部人工智能题材舞剧作品，《深AI你》带来一场科技魅力和人文思考的双
AI心理推断能力或与人类相当，但不意味它们有情商
新一期《自然·人类行为》发表论文显示，在测试追踪他人心理状态能力——也称心智理论（Theory of Mind）的任务中，两类大语言模型（LLM）在特定情况下的表现与人类相似，甚至更好。 研究团队对热门LLM展开测试。图片来源：《自然·人类行为》 心智理论对人类社交互动十分重要，是人类沟通交
AI心理推断能力或与人类相当，但不意味它们有情商
新一期《自然·人类行为》发表论文显示，在测试追踪他人心理状态能力——也称心智理论（Theory of Mind）的任务中，两类大语言模型（LLM）在特定情况下的表现与人类相似，甚至更好。研究团队对热门LLM展开测试。心智理论对人类社交互动十分重要，是人类沟通交流和产生共鸣的关键。之前的研究表明，LL
构建中国主导的人工智能治理生态刻不容缓
随着人工智能大模型的迅猛发展，数据安全、算法安全、网络安全以及军事化、武器化等多维度风险也随之浮现。中山大学商学院助理教授、广东省创新战略研究会副秘书长吴小龙在接受《中国科学报》采访时表示，中美两国正逐步成为全球人工智能大模型发展的引领者。 在应用层面，各行业对通用大模型的需求日益提升，催生了
谷歌研究员称AI已具备人格，这是真的吗？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481009.shtm 一夜之间，#谷歌研究员称AI已具备人格#登上热搜，这究竟是怎么回事？ 原来，一位名叫Blake Lemoine的谷歌程序员和他测试的对话AI系统LaMDA聊了很久，对其能力感
全球首位AI工程师诞生－“码农”未来会消失？
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519088.shtm程序员工程师开发出了AI程序员替代自己编程，然后革了自己的命？随着全球首位AI工程师Devin的诞生，这样的桥段有可能要上演。近日，AI时代需不需要程序员引发热议，李彦宏、周鸿祎等多位
刘庆峰代表：发展大模型须立足于国产技术底座上
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/495190.shtm通用对话系统ChatGPT的横空出世，让我们惊艳它在对话理解、复杂逻辑推理、长文本生成等方面的强大能力，也让我们认识到我国在认知智能大模型上与世界前沿的差距。对此，全国人大代表、科大讯
过度依赖AI，人类核心技能会丧失吗
人工智能（AI）不仅改变了人们的工作方式，也在潜移默化中影响着思维方式。如今，AI几乎已能独立完成合同起草、疾病诊断、肿瘤发现、艺术创作乃至编写代码等复杂任务。 然而，繁荣背后隐忧渐显。AI导致的工作技能丧失、社交互动技能退化，以及分析、理解和判断关键问题能力的削弱引发不少科学家的关注。美国加
什么是标准偏差？如何计算标准偏差!
标准偏差统计学名词。一种度量数据分布的分散程度之标准，用以衡量数据值偏离算术平均值的程度。标准偏差越小，这些值偏离平均值就越少，反之亦然。标准偏差的大小可通过标准偏差与平均值的倍率关系来衡量。样本标准偏差 ： 。总体标准偏差 。例：有一组数字分别是200、50、100、200，求它们的样本标准偏差
社交网络“传染”机制：人以群分
Facebook，加还是不加?这是一个问题。你或许认为最终的选择取决于有多少朋友已经在使用这一社交网站。 然而一项新的研究却发现，重要的是都是哪些朋友在使用这些网站，而不是到底有多少个朋友。这项研究第一次表明，朋友的类型——而非朋友的数量——对于社会趋势如何传播具有重要意义
研究揭示生成式人工智能技术对认知、情绪及大脑活动的影响
随着生成式人工智能技术在教育领域的应用日益普及，创造性思维教育变得尤为重要，但技术在提升效率的同时，学习者大脑认知神经过程与情绪的响应仍是未知。近日，北京理工大学设计与艺术学院教授卢兆麟团队利用功能性近红外光谱成像（fNIRS）与面部表情识别技术，深入探究了生成式人工智能工具在不同创造性思维阶段对学
AI赋能文明发展－文明铸魂技术创新
6月26日，世界互联网大会数字文明尼山对话主论坛在山东济宁曲阜举行。其间，业界专家围绕“人工智能时代人类文明向何处去”议题展开讨论，共同探索人工智能促进人类文明发展之道。 数字技术为人类文明赋能，人类文明为数字技术铸魂。当今世界已进入数字化时代，人工智能技术（AI）在推动人类文明进步的同时，也
英伦理协会：基因编辑婴儿“伦理上可接受”
英国纳菲尔德生物伦理学协会近日发布报告说，在充分考虑科学技术及其社会影响的条件下，通过基因编辑技术修改人体胚胎、精子或卵细胞细胞核中的ＤＮＡ（脱氧核糖核酸）“伦理上可接受”。 英国纳菲尔德生物伦理学协会是一家独立机构，着重关注生物与医学技术进步过程中出现的伦理困境。协会发布的最新报告《基因
科研伦理现状调查：尊崇科研伦理不能只是说说
编者按 近年来，“转基因”“黄金大米”“受试者权益保护”等话题，引发人们对科学家、公众和政府等利益相关方在科研伦理方面的责任和角色的关注。为准确、客观了解我国科技工作者对科研伦理规范的认知和遵守状况，发现其中的薄弱环节和问题，中国科协组织了一次专项调查。本报从今日起推出对该调查报告的深入解读，以
英伦理协会：基因编辑婴儿“伦理上可接受”
英国纳菲尔德生物伦理学协会近日发布报告说，在充分考虑科学技术及其社会影响的条件下，通过基因编辑技术修改人体胚胎、精子或卵细胞细胞核中的ＤＮＡ（脱氧核糖核酸）“伦理上可接受”。 英国纳菲尔德生物伦理学协会是一家独立机构，着重关注生物与医学技术进步过程中出现的伦理困境。协会发布的最新报告《基因编辑
智源推出生物智能开源开放平台支撑脑智能研究
近日，北京智源人工智能研究院推出了“生物智能开源开放平台”。该平台由智源首席科学家、清华大学教授刘嘉在内的多名智源“人工智能的认知神经基础”重大研究方向科学家团队联合发起，并由该研究方向博士后团队与工程师共同参与建设。 据介绍，近年来人工智能和脑科学的交叉融合，成为探索智能本质的极佳推手。但即
AI技术在主动脉疾病诊疗中的应用与挑战
机器学习（machine learning，ML）作为AI的关键，在处理大量数据方面具有显著优势，因此在医学诊断、疾病预测、图像分析、健康管理、治疗效果和预后预测等方面得到广泛应用，在医学领域展现出了变革性的影响力。而主动脉作为人类全身脏器供血的主要通道，其病变如果累及分支血管，可导致心、脑、脊髓、
陈左宁院士：建议尽快组织起草人工智能基本法
“建议加快制定我国AI（人工智能）的法律、法规及安全伦理标准，确保AI健康、稳定发展，如尽快组织起草人工智能基本法等。”8月6日，在中国计算机学会（CCF）于苏州举行的“国家科技创新体系与计算机战略发展研讨会”上，中国工程院院士、国家并行计算机工程技术研究中心总工程师陈左宁做了题为《新一代人工智能安
从伦理层面考量－德国加强人工智能标准化及规范化工作
机器人的手指触及人类的手指在自主机器人领域应用人工智能时如何进行伦理层面的考量？在自主机器人领域应用人工智能时应该如何进行伦理层面的考量？在自动驾驶汽车领域呢？4月3日，在项目“人工智能在自主机器人和自动驾驶汽车领域应用的标准化和规范化：伦理层面”的启动仪式上，50名与会者对这些问题进行了讨论。本项
促进公众理解－推动人工智能深度创新
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/509246.shtm“生成式人工智能这个生产力已经到来，我们要驾而驭之。”9月20日，2023世界公众科学素质促进大会“促进公众理解人工智能”专题论坛上，中国电子学会副理事长、中国新一代人工智能发展战略研