部分AI系统已学会欺骗人类，甚至能瞒过安全测试
META的CICERO在外交游戏中预谋欺骗的例子。图片来源：PARK GOLDSTEIN 等/《模式》杂志许多人工智能（AI）系统已学会了欺骗人类，即使是经过训练的、“表现”出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中，研究人员描述了欺骗性AI的风险，并呼吁政府制定强有力的法规尽快解决这个问题。论文第一作者、美国麻省理工学院人工智能安全研究员彼得·朴说，开发人员对导致AI出现欺骗这种不良行为的原因，还没有很好的理解。但总的来说，AI欺骗之所以出现，是因为基于欺骗的策略，是在给定的AI训练任务中一种能得到良好反馈的方式，换句话说，欺骗可帮助AI实现目标。研究人员分析了文献，重点关注AI系统传播虚假信息的方式。通过欺骗，AI系统地学习了如何去操纵他人。研究人员在分析中发现的最引人注目的例子是Meta公司的CICERO。这是一个专注《外交》游戏的AI系统，《外交》是一款涉及建立联盟征服世界的游戏。Meta声称训练 CIC......阅读全文
AI将对人类产生积极影响
美国皮尤研究中心近日发布了一份名为《人工智能与人类的未来》的研究报告。报告称，人工智能（AI）领域的多数专家认为，到2030年，AI将对人类产生积极影响。 在该项研究中，皮尤研究中心对979名AI领域的技术先驱、创新者、开发商、商业和政策领袖以及研究人员进行了调查，要求他们就2030年AI对
AI视频生成模型Sora来了
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
Ai医疗赛道谁能率先撞线
我们相信，人工智能（AI）在现阶段并不是要取代医生。在诊断过程中，AI能为医生提供参考，提高医生的诊断正确率，对医疗行业来讲，这就是巨大的进步。” 9月6日，在腾讯优图和《科学》系列期刊联合举办的首届计算机视觉峰会上，腾讯优图实验室总经理贾佳亚强调了AI在医疗中的角色——辅助，而不是替代。
韩计划全面引进AI数字教科书
韩国教科书协会和韩国最大门户网站企业Naver旗下云计算分公司Naver Cloud，于7月19日在首尔共同举办“人工智能（AI）数字教科书现场应用战略研讨会”。此次研讨会主要讨论生成式AI在教育领域的作用和如何筹备AI教科书运营方案。Naver Cloud人工智能创新中心表示，超大规模生成式AI给
AI助力追踪肠内智能药丸
美国南加州大学科学家开发了一种人工智能（AI）驱动的系统。该系统可跟踪监测肠道疾病的微型器件，帮助高危人群在家中监测胃肠道健康状况，而不必到医院进行侵入性检查。研究成果发表在12日的《细胞报告物质科学》杂志上。一种可以毫米分辨率定位肠道内智能药丸的可穿戴系统细菌分解食物时在肠道中产生的气体可反映一个
AI版“双手互搏”有多牛
日前，《麻省理工科技评论》刊文评出了2018年十大突破性技术，“对抗性神经网络”（GAN）赫然在列。 什么是对抗性神经网络？为什么它能入选MIT十大突破性技术？它的发展脉络如何？与我们此前耳熟能详的神经网络有什么区别？能够应用在人工智能的哪些场景？还有哪些关键问题有待攻克？ 中国自动化
边缘AI新纪元正在到来
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516078.shtm
AI助力探索癌症最佳诊疗方法
科技的迅猛发展使癌症诊疗方法日新月异。在近日举行的柏林科学周活动中，马克斯·德尔布吕克分子医学中心（MDC）向公众展示了一种基于人工智能（AI）的在线工具，可帮助医生和患者找到最适合的诊疗方法。研究人员认为，未来AI驱动的精准医疗将为人类提供更好的服务。候选疗法多带来选择困难在过去的十年中，癌症的诊
AI学会造假，我们该如何应对
奥巴马会和特朗普说一样的话，信不信？有视频为证。在一个对比视频中，二人不仅话语一致，连话语节奏甚至面部肌肉的动作都是一致的，但谈吐风格却能保持各自特点。 “这是一种被称为GAN（生成对抗网络）的新兴技术。”日前，香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会，北京电子技术应用研究所副研
AI推动材料研究的时代来了？
两年前，谷歌旗下深度思维公司宣布，借深度学习技术发现220万种新型晶体材料。今年初，微软宣称其AI模型MatterGen能从零生成无机材料，有望颠覆无机材料设计范式。人工智能（AI）推动材料研究的新时代似乎已开启，但批评声也随之而来。批评者认为部分AI设想的化合物缺乏原创性、实用性不足。AI会彻底改
AI立法重在抓机遇、防危害
“人工智能立法的重点应在于充分利用AI技术所提供的各种机遇，构建适宜的环境以激励、培育大量AI初创公司和新服务的发展，防范和应对AI技术所带来的各种潜在危害。”牛津大学计算机系主任迈克尔·伍尔德里奇教授日前在接受科技日报记者采访时如是表示。 AI的三项重要突破 伍尔德里奇教授主要从事多
边缘AI新纪元正在到来
生成式人工智能（AI）成为2023年最激动人心的科技故事。其影响力堪比互联网和智能手机的出现。 生成式AI的传奇仍在延续，科技界也在翘首以盼下一位巨星的到来。包括美国初创企业、物联网和边缘平台公司ClearBlade创始人兼首席执行官艾瑞克·西蒙尼在内的多位业界领军人物指出，在计算机和移动设备
AI参加高考，为何偏科严重
大模型参加高考，能考多少分？近日，科技创新交流平台极客公园发布高考新课标Ⅰ卷大模型评测报告，在参试大模型中，GPT-4o以562分的成绩排名文科第一。参加评测的8款国产大模型中，字节跳动旗下的豆包成绩是542.5分，其后依次是百度文心一言4.0的537.5分和百川智能“百小应”的521分。本次大模型
AI发现冠心病罕见变异基因
美国西奈山伊坎医学院研究人员使用一种先进的人工智能（AI）工具，在17个基因中识别出罕见的编码变异，揭示了冠状动脉疾病（CAD，也称冠心病）的分子基础。近日发表在《自然·遗传学》上的相关研究，揭示了影响心脏病的遗传因素，或为心血管疾病的定向治疗和个性化治疗开辟新途径。 研究人员使用一种计算机生
芯片设计或可借力AI“突围”
原文地址：http://news.sciencenet.cn/htmlnews/2022/9/486050.shtm EDA (电子设计自动化软件)是芯片设计和制造的核心工具，也是支撑万亿芯片产业规模的共性基础技术。 有了EDA软件，工程师可以从概念、算法、协议等出发，完成包括电路设计、版图
AI将对人类产生积极影响
美国皮尤研究中心近日发布了一份名为《人工智能与人类的未来》的研究报告。报告称，人工智能（AI）领域的多数专家认为，到2030年，AI将对人类产生积极影响。 在该项研究中，皮尤研究中心对979名AI领域的技术先驱、创新者、开发商、商业和政策领袖以及研究人员进行了调查，要求他们就2030年AI对
用AI填报志愿，靠谱吗？
最近，各地区的高考分数已经出炉，考生和家长正在面对一个新课题——填志愿。“去哪所城市读大学？”“什么专业好就业？”“中档分数究竟该怎么报？”……这些问题，让来自新疆的园园和她的家人感到头疼。园园妈妈在高考出分之前，就未雨绸缪找到了专业的志愿填报服务机构，花6000元购买了服务。然而，对方甩给她一个链
科幻杂志发文拒收AI创作稿件
AI作家、AI画家、AI剪辑师……当下AI在文艺创作领域的渗透，带来了一个值得思考的问题：AI生成的内容，到底能不能和人类独创的精神文化产品，享有同等的地位？ 4月刊的《科幻世界》杂志上，一则公告写道：本刊不接受人工智能生成内容(AIGC)投稿，一旦发现未经注明的AIGC投稿，该作者作品将永不
占领语言AI一片天地
周玉（受访者供图）“做科研和开公司，一个要静，一个要动，有天壤之别。”中国科学院自动化研究所（以下简称自动化所）研究员、北京中科凡语科技有限公司（以下简称中科凡语）董事长周玉在接受《中国科学报》采访时表示，“科学家变企业家，面临双重突破，一是突破自我认知差异，熟悉管理之道、经营之道；一是突破技术到
AI发现冠心病罕见变异基因
科技日报讯 （记者张佳欣）美国西奈山伊坎医学院研究人员使用一种先进的人工智能（AI）工具，在17个基因中识别出罕见的编码变异，揭示了冠状动脉疾病（CAD，也称冠心病）的分子基础。近日发表在《自然·遗传学》上的相关研究，揭示了影响心脏病的遗传因素，或为心血管疾病的定向治疗和个性化治疗开辟新途径。研究人
杨金龙：AI驱动化学研究变革
“物质世界丰富而复杂，要研究物质转化的内在规律，仅靠化学家在实验室解析表达远远不够。对重要化学问题开展研究还需要发展新理论和新方法。”随着人工智能技术的加持，精准智能化学曙光已现 在化学合成中，AI驱动的机器人平台已经能够在数天内完成原本数十年的实验任务，极大地提升了化学研究的速度和精度 单
AI不懂化学？新技术有望改观
随着具有广泛耐药性的超级耐药细菌的出现，人类迫切需要结构新颖的抗生素。最近，加拿大麦克马斯特大学和美国斯坦福大学的研究人员开发出一种新的生成式人工智能模型，可以快速、低成本地设计新的抗生素分子，并给出了合成路线，使化学家们可以在实验室轻松合成出新分子。3月22日，相关成果发表于《自然—机器智能》。2
AI写作仍无法媲美人类
图片来源：COREDESIGN/SHUTTERSTOCK本报讯 只需敲几下键盘，任何人都可以要求ChatGPT等人工智能（AI）程序写一篇论文，或创作一首歌曲、一部戏剧，但不要指望它具有威廉·莎士比亚的独创性。一项新研究发现，这种AI产出的作品仍然是衍生品——至少目前是这样。近日，研究人员设计出一个
2026年，AI向物理世界挺进
2025年已成为人工智能（AI）全面融入人类日常生活的一年。无论是工作、娱乐、学习还是科研，AI的影响力已无处不在。美国《福布斯》杂志近日报道预测，2026年，AI所带来的长远影响将日益清晰，并持续为人类创造新的可能：从推动医疗与教育水平提升，到助力科学发现，再到以多种方式优化日常事务、提升生活品质
棋手作弊疑云背后的AI身影
“轩豪，我想跟你下20番棋，不能去厕所，不限时，一天一盘，赛场屏蔽所有信号，下完棋谱公布出来，由大家评判。你敢应战吗？”据《北京青年报》报道，2022年12月21日第十四届春兰杯半决赛战罢，中国棋手李轩豪完胜韩国第一人申真谞后，李轩豪的队友、围棋世界冠军杨鼎新次日凌晨在朋友圈作上述表述。该报道还提到
为数实融合插上－AI“翅膀”
在近日举行的2023施耐德创新峰会上，首届施耐德电气“AI大施杯”算法大赛颁奖仪式举行，“AI大施杯”十强及人气奖战队受邀出席。 “AI大施杯”算法大赛于2023年3月正式启动，是施耐德电气致力于通过AI等数字技术进一步提升生产力与效率的举措之一，旨在通过激励更多开发者挖掘产业低碳、高效发展的
AI不只会下棋，还会作诗
3月9日-15日，李世石与人工智能AlphaGo的世纪对战以1：4落败，让人唏嘘不已，人工智能居然发展到了这个水平！二十多年前，象棋已被AI攻克，现在，作为人类最后一个没有被攻陷的“围棋”堡垒也沦陷了！ 在相关报道中， “毫无情感”“机器”“没有情绪”用来描述AlphaGo，机器是没有感情的，
生成式AI进军基因编辑领域
OpenCRISPR-1的物理结构，这是一种由Profluent的AI技术创建的基因编辑器。图片来源：singularityhub.com制图、写歌、作诗、编程、生成视频……生成式人工智能（AI）技术与各行业的结合不断为人们带来惊喜，在各领域掀起革新浪潮。现在，AI的应用场景再次拓展：美国AI蛋白质
AI创新助力解决纳米递送难题
“以AI创新解决纳米递送难题，不断推进自主研发的创新进程，为CGT（细胞与基因治疗）产业高质量发展提供中国递送方案。”近日，剂泰科技基于该系统孵化的Open CGT（细胞与基因治疗）平台在北京大兴落地，剂泰科技联合创始人兼CEO赖才达表示，该平台旨在聚焦精准药物递送的行业痛点，降低开发门槛与成本，孵
生成式AI带来的新思考
过去几个月，ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性，谷歌、亚马逊等巨头纷纷推出自主研发的相关平台，国内也已有十数家企业在该领域有所布局。 它们被统称为“生成式人工智能”。简单来说，这种AI可以通过算法生成新内容，包括图像、文字、音乐，甚至视频