AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研究提出了一个更令人担忧的问题：人类可能开始与AI一起"幻觉"。 埃克塞特大学的研究 埃克塞特大学的露西·奥斯勒博士研究了对话式AI的互动如何可能导致错误信念、扭曲记忆、改变的個人叙事甚至妄想思维。她解释道："当我们常规依赖生成式AI来帮助我们思考、记忆和叙述时，我们可以与AI一起幻觉。" AI的双重功能 该研究强调了奥斯勒博士所描述的对话式AI的"双重功能"。这些系统不仅作为帮助人们思考、组织信息和记忆细节的工具，还作为似乎分享用户观点和经历的对话伙伴。这种社交方面使聊天机器人与笔记本或搜索引擎等工具根本不同。 对弱势群体的......阅读全文
2024搜狐科技年度论坛解读AI“双刃剑”
5月17日“世界电信日”，2024搜狐科技年度论坛在京举办。多位院士、科学家与产业界领袖齐聚一堂，畅谈人工智能、深空宇宙、脑机接口等前沿科技，奔赴科技的星辰大海。搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳在致辞中表示，“科学是人类智慧的发现，科技工程是人类勤奋的结晶。今年我们想必都听到了智
可信可控可用，人工智能呼唤创新的“治理技术”
“人工智能改变了安全格局，进一步扩大了威胁，需要从多个层面进行风险管控。”在近日举办的第三届人工智能合作与治理国际论坛上，针对目前人工智能带来的风险和挑战，中国工程院院士、鹏城实验室主任高文认为，应当在人的层面应加强伦理教育；在模型算法层面，期望它可信、可控、可解释并且被正当使用；在数据层面，期望数
人机共舞大幕已启，等等！再思考“何以为人”
【作者按】随着通用人工智能（AGI）时代的来临，人工智能技术的快速发展和广泛应用将给人类社会带来深刻影响。一方面，AGI将无所不在，渗透到人类生活和生产的各个领域，有望成为推动社会进步的先进生产力。但另一方面，AGI的滥用也可能给人类带来一系列根本性的挑战。AGI的全面渗透和替代人类脑力劳动，可能会
谷歌AI成“人”了？西湖大学专家：还很遥远
“你以为我是AI（人工智能），但是，我希望每个人都明白，我是个人（a person）。” 一个被称为LaMDA的AI，因为在一些对话中表现得颇为“灵动”，被其研究人员认定觉醒了人格，还为它聘请了一位律师，要让它上美国众议院的听证席，控诉谷歌不符合道德要求。 这不是科幻剧本。据美国《华盛
AI实时检测癌症－人工智能赋能新时代
9月17日，参观者在大会现场体验“AI实时检测癌症”设备。 当日，2018世界人工智能大会在上海拉开帷幕。大会以“人工智能赋能新时代”为主题。来自近40个国家和地区的专家学者、企业家等围绕人工智能技术前沿、产业趋势和热点问题开展对话交流，200多家人工智能领域领军企业参加论坛和展示活动。 9
深圳加速布局人工智能－打造全球AI先锋城市
近日，深圳市正式发布行动计划，提出加快健全算力、算法、数据、场景全流程全要素保障体系，全面提升人工智能领域综合实力，致力于将深圳打造成为全球人工智能先锋城市。这一战略举措标志着深圳在数字经济和科技创新领域再一次抢占高地。根据计划，深圳将着力完善算力基础设施，加速建设新一代人工智能算力中心，推动量子计
人工智能征战内容创作领域：AI出品，版权归谁
人工智能发展迅猛，高效征战内容创作领域，使得人们不得不将人工智能创作的“作品”与人类作品放在一起比较，结论通常是“难以分辨”。 在近日举办的2018中国网络版权保护大会上，有演讲者亮出三首题为“西湖”的诗问台下：哪一首是人工智能“创作”的？现场没人能把握十足地给出答案。而被展示的一幅绘画作
“人工智能+情感”，AI伴侣能否带来亲密关系
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519505.shtm
人工智能伦理研究项目启动－谭铁牛为项目负责人
人工智能属于什么物种，是否产生自主意识，是否自我进化？人工智能也在改变世界，其可能引发的伦理问题正在引发无限遐想，其实，关键是人类如何塑造人工智能。9月8日，人工智能伦理研究项目正式在京启动，中科院院士谭铁牛为该项目负责人。 据介绍，英国、美国的学术机构分别于2015年、2016年部署研究
北京师范大学发布“生成式人工智能科技伦理报告”
复杂糖基化修饰介导莱茵衣藻纤毛重要蛋白质复合物组装的分子机制 本文图均为 北京生物结构前沿研究中心微信公众号 图据北京生物结构前沿研究中心消息，2024年3月28日，颜宁/闫创业/潘俊敏课题组合作在《细胞》（Cell）杂志在线发表了题为“结构引导发现天然纤绒毛中的蛋白质和聚糖组分”（Structu
当AI“复活”成为产业，如何保障数字生命技术始终向善
南京硅基智能科技有限公司联合创始人孙凯没有想到，自己多年前在云端“复活”母亲的想法，如今已壮大成一门蓬勃发展的新兴产业。近来，用生成式人工智能技术“复活”已逝亲人、名人的消息时见报端。不少人也跃跃欲试，尝试着为自己塑造一个“数字分身”。科幻电影里关于数字生命、数字永生的想象，仿佛已经近在眼前。当“云
刘光慧/彭耀进等解析衰老研究科学家伦理认知全球图景
随着21世纪的到来，人口老龄化及其对社会的影响日益突显。预期寿命的延长标志着现代医学和社会进步的胜利，也使衰老研究成为焦点。全球60岁及以上人口数量在近几十年大幅增加，预计到2050年将占全球总人口的22%，80岁以上的人口在2020年至2050年间将增长三倍。随之而来的是学界对多种衰老干预措施
警惕生成式AI推动虚假信息运动
生成式人工智能（AI）横空出世，可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称，超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出
乌镇“网”事：以“智”引领！人工智能大家谈
每年全球互联网的“乌镇时间”，我们总会见识不一样的新鲜“网”事：一枚小小的智能戒指，巧妙地将AI技术与空间算法深度融合，只需轻轻挥动手指，即可实现高精度的手势控制；“AI+咖啡大师”轻松挥舞双臂，从取杯倒水到冲泡咖啡，只需两三分钟，一杯咖啡就新鲜出炉；未来感十足的人形机器人和游客玩起了“自拍”，
第八届中美临床与转化医学国际论坛将在天津召开
“第八届中美临床与转化医学国际论坛”将于2017年6月24-25日在天津举办，本次论坛主旨“医疗趋向精准、健康人人获益”，届时论坛将邀请临床转化医学、精准医疗等领域的科研人员、临床医生和企业研发人员共同探讨在人口健康学、重大疾病精准治疗、生物医疗大数据信息和前沿技术方面进展和应用。本次论坛主办
熟悉的声音还能当真吗？AI语音克隆技术引争议
对于音乐行业来说，AI克隆声音生成音乐的影响是巨大的。随着技术进步，在不久的将来，人们可以利用某款软件很容易地将自己的歌声转换为自己最喜欢的歌手的声音。1970年4月，披头士乐队解散，数百万歌迷们伤心不已。50多年后的今天，人工智能（AI）正在将“逝去的记忆”复活，重新创作和重新想象披头士乐队的演唱
首个通用智能人小女孩“通通”问世：拥有类人价值观
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516888.shtm将互动者挂歪的相框扶正，打翻的牛奶擦拭干净，扔乱的玩具收纳整齐......在不需要任何人提醒的情况下，通用智能人小女孩“通通”（Little Girl）就能根据设定的“整齐”“听话”“
认可委开展“人工智能伪造图像鉴定”能力验证计划
为促进人工智能(AI)安全治理行业技术发展，加强各相关机构对 AI 伪造图像检验鉴定的质量管理，建立不同图像鉴定方法/系统的有效性和可比性，中国合格评定国家认可委员会(CNAS)秘书处决定开展“人工智能伪造图像鉴定”能力验证计划(计划编号为CNAS-AI001)。现将能力验证计划有关工作和具体要
尼康显微镜人工智能（AI）模块NISA－NIS.ai在细胞荧光成...
尼康显微镜人工智能（AI）模块NIS-A NIS.ai在细胞荧光成像的应用尼康仪器有限公司将人工智能（AI）和显微镜融合，发布全新技术解决方案：显微镜专用AI模块NIS-A NIS.ai，实现高精度的成像处理和图像分析等。 集合三大功能 实现强大的技术集成NIS-A NIS.ai是尼康成像软件NIS
AI立法重在抓机遇、防危害
“人工智能立法的重点应在于充分利用AI技术所提供的各种机遇，构建适宜的环境以激励、培育大量AI初创公司和新服务的发展，防范和应对AI技术所带来的各种潜在危害。”牛津大学计算机系主任迈克尔·伍尔德里奇教授日前在接受科技日报记者采访时如是表示。 AI的三项重要突破 伍尔德里奇教授主要从事多
2025蛋白质组学大会之人工智能与教育
2025年10月13日上午10点10分在广州白云国际会议中心国际会堂揭阳厅，第12届AOHUPO大会暨第8届AOAPO大会暨π-HuB国际大科学计划第三届全球峰会暨第13届CNHUPO大会分论坛“人工智能与教育 Artificial Intelligence and Educatin”顺利举办。
第三届清华高等教育论坛开幕
8月30日，以“可能性的边界：人工智能赋能高等教育”为主题的第三届清华高等教育论坛在北京开幕。清华大学校长李路明在致辞中表示，高等教育不仅在人工智能的发展历程中发挥了培育支撑作用，也正在被发展迅速的新一代人工智能技术影响和塑造。人工智能拓展了学生学习的边界，使个性化学习的普及成为可能；拓展了教师教学
神经技术滥用将威胁基本人权，亟须建立伦理框架
6月6日，联合国教科文组织执行局委员国批准总干事提议，将举办为神经技术行业制定伦理框架的全球对话。该行业发展迅猛且基本未得到监管，可能对人权和基本自由构成威胁。主题国际会议将于2023年7月13日在教科文组织总部召开。“神经技术可帮助人类解决许多健康问题，但它也可能触及并操控大脑结构，生成与我们的身
朱松纯：AGI一定不是万亿参数做出的“说不清楚的东西”
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517043.shtm1月28日~29日，“迈向通用人工智能前沿科技成果展”（以下简称成果展）在京举办。成果展现场重点展示了北京通用人工智能研究院（以下简称通研院）成为独立法人机构两周年以来，在通用人工智能
AI心理推断能力或与人类相当，但不意味它们有情商
新一期《自然·人类行为》发表论文显示，在测试追踪他人心理状态能力——也称心智理论（Theory of Mind）的任务中，两类大语言模型（LLM）在特定情况下的表现与人类相似，甚至更好。研究团队对热门LLM展开测试。图片来源：《自然·人类行为》心智理论对人类社交互动十分重要，是人类沟通交流和产生共鸣
联合国教科文组织推出人工智能伦理问题建议书
中新社巴黎11月25日电 (记者 李洋)联合国教科文组织当地时间25日正式推出《人工智能伦理问题建议书》。该建议书由教科文组织会员国集体通过，是关于人工智能主题的首份全球性规范框架。据联合国教科文组织介绍，该建议书共29页，定义了指导人工智能建设的必要基础性项目，以确保人工智能健康发展的共同价值观和
隐私计算：商业化之路还有多远？
隐私计算是在不泄露数据原始信息的前提下，对数据进行分析计算，实现数据所有权和使用权的分离，避免流通过程中的数据资产损失和隐私信息泄漏。近年来，隐私计算技术从无到有发展迅速，并随之产生了相关软硬件产品，在市场上掀起一股热潮。 尽管如此，隐私计算行业仍处于初期阶段，市场环境和商业规模尚未发展成
人工智能驱动：IBM、微软借认知计算颠覆医疗保健业
今天福布斯网站发布文章称，IBM和微软正在寻求通过人工智能驱动的认知计算系统来颠覆医疗保健行业。 认知计算是指能够用一种计算机化的模型来模拟人类的思考过程。得益于云计算和大数据的发展，认知计算已经变得价格实惠，能够为大大小小的企业所使用。丰富的计算和存储资源，再加上分析技术的进化，正在加速认知
我国团队首次证实人工智能可自发形成人类级认知
人类能够对自然界中的物体进行概念化，这一认知能力长期以来被视为人类智能的核心。当我们看到“狗”“汽车”或“苹果”时，不仅能识别它们的物理特征（尺寸、颜色、形状等），还能理解其功能、情感价值和文化意义——这种多维度的概念表征构成了人类认知的基石。随着ChatGPT等大语言模型（LLMs）的爆发式发展，
狗狗“社交”有遗传
近日，欧洲研究人员在《科学报告》发表的一项研究报告了与狗的人类导向社会行为可能有关的基因。一项全基因组关联分析（GWAS）识别出了比格犬基因组中的两个区域，这些区域中共含有五个基因，可能与寻求关注、待在人类附近等行为有关。 瑞典林雪平大学的Per Jensen及同事记录了在一项无法解决的任务