警惕人工智能欺骗性升级

一篇人工智能(AI)领域的文章引起轩然大波。 这篇文章发表在《模式》杂志上,其总结了先前一些研究,向人们揭示了一个真相:一些AI系统已学会了欺骗人类,即使是经过训练的、“表现”诚实的系统。 它们欺骗的方式包括为人类行为提供不真实的解释,或向人类用户隐瞒真相并误导他们。 这让人很惊恐。 因为它突显了人类对AI的控制有多困难,以及人们自认为尚在掌控中的AI系统工作方式,很可能是不可预测的。 AI为什么要这么做? AI模型为了实现它们的目标,会“不假思索”地找到解决障碍的方法。有时这些变通办法会违背用户的期望,并且让人认为其具有欺骗性。 AI系统学会欺骗的一个领域,就是在游戏环境中,特别是当这些游戏涉及采取战略行动时。AI经过训练,必须要实现获胜这一目的。 2022年11月,Meta公司宣布创建Cicero。这是一种能够在《外交》在线版本中击败人类的AI。《外交》是一款流行的军事战略游戏,玩家可以在其中建立谈判联盟......阅读全文

警惕人工智能欺骗性升级

  一篇人工智能(AI)领域的文章引起轩然大波。  这篇文章发表在《模式》杂志上,其总结了先前一些研究,向人们揭示了一个真相:一些AI系统已学会了欺骗人类,即使是经过训练的、“表现”诚实的系统。  它们欺骗的方式包括为人类行为提供不真实的解释,或向人类用户隐瞒真相并误导他们。  这让人很惊恐。  因

警惕人工智能欺骗性升级

一篇人工智能(AI)领域的文章引起轩然大波。这篇文章发表在《模式》杂志上,其总结了先前一些研究,向人们揭示了一个真相:一些AI系统已学会了欺骗人类,即使是经过训练的、“表现”诚实的系统。它们欺骗的方式包括为人类行为提供不真实的解释,或向人类用户隐瞒真相并误导他们。这让人很惊恐。因为它突显了人类对AI

警惕人工智能欺骗性升级

一篇人工智能(AI)领域的文章引起轩然大波。这篇文章发表在《模式》杂志上,其总结了先前一些研究,向人们揭示了一个真相:一些AI系统已学会了欺骗人类,即使是经过训练的、“表现”诚实的系统。它们欺骗的方式包括为人类行为提供不真实的解释,或向人类用户隐瞒真相并误导他们。这让人很惊恐。因为它突显了人类对AI

杜克国际论坛聚焦人工智能驱动产业升级

  昆山杜克大学科研副院长、大数据研究中心主任李昕表示,人工智能作为引领未来战略性技术和推动产业变革的核心驱动力,是经济发展的新引擎、社会进步的加速器,已成为全球关注的科技要点。 近年来,人工智能技术迅速发展并不断突破。在联想集团首席技术官、高级副总裁芮勇看来,数字经济的发展需要增效、降本。其中

可口可乐维他命水被指传递欺骗性信息误导顾客

  可口可乐一款饮品惹官司   新华社专电 美国加利福尼亚州一名男子指控可口可乐公司一款饮料传递“具有欺骗性和无确实根据的信息”、误导消费者购买。   法新社15日报道,旧金山居民詹姆斯·科赫经常在健身后饮用可口可乐公司出品的“维他命水(VitaminWater)”饮料。“我满心以为这样做能获取

食药监总局:拟禁止保健食品使用欺骗性夸大宣传商标

  目前,国家食药监总局已发布《保健食品说明书标签管理规定(征求意见稿)》,公开征求广大人民群众意见。意见稿要求,保健食品说明书和标签中不得标注明示或暗示具有预防、治疗疾病作用的内容;禁止保健食品使用虚假、夸大、使消费者误解或者欺骗性的文字或者图形;禁止使用具有描述性或者欺骗性夸大宣传以及易导致消费

部分AI系统已学会欺骗人类,甚至能瞒过安全测试

META的CICERO在外交游戏中预谋欺骗的例子。图片来源:PARK GOLDSTEIN 等/《模式》杂志许多人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、“表现”出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中,研究人员描述了欺骗性AI的风险,并呼吁政府制定强有力的法规尽快解决

CRISPRZL纷争升级

  遗传学家George Church开创了测序并改变基因组的方法。他被称为合成生物学的创始人,并且在复活灭绝猛犸象的努力中可能是全球的顶级权威。  如今,一场针对谁拥有一项革命性基因编辑技术专利权的战争,可能部分取决于Church的科学技能是否被视为“普通”。  这是美国专利和商标局(USPTO)

我国加快油品质量升级-明确油品升级定价原则

  据中国之声《新闻纵横》报道,1月份以来,我国大范围持续出现的雾霾天气引发社会对油品质量升级的关注。而成品油质量升级由谁“买单”更是成为舆论讨论的热点。   在昨天由温家宝总理主持召开的国务院常务会议上,明确指出,随着汽车保有量快速增长,汽车尾气排放对大气污染的影响日益增加。为加快

日本核危机升级

  福岛核电站附近辐射量为通常6600倍  当地时间3月16日上午10点左右,福岛第一核电站附近升起白烟。随后,东京电力公司回应称,由于现场辐射量太高无法靠近,很难确认包括具体地点等详细情况。  日本官房长官枝野幸男16日上午召开记者会,就福岛第一核电站事故表示,3号机组的安全壳可能已破损

加快升级油品质量-多个行业受益炼油装置升级

  油品质量及炼油装置升级将助推多个行业发展。   业内人士分析说,国内炼油企业升级改造的关键就是要降低其中的硫和烯烃含量,涉及加氢脱硫和烷基化等多项关键技术,相关上市公司包括中国一重、茂化实华、海越股份等。   公开资料显示,中石油广西石化含硫原油加工配套工程400万吨/年渣

谭建荣院士:“元宇宙”需要创作升级和计算升级

11月28日,由北京信息化和工业化融合服务联盟与中国仿真学会共同主办“平台化设计与仿真论坛暨北京信息化和工业化融合服务联盟平台化设计专业委员会、中国仿真学会CAE仿真专业委员会”成立大会举行,中国工程院院士、浙江大学设计工程及自动化系主任谭建荣在线发表了题为“从虚拟现实到元宇宙:关键技术与发展趋势”

车辆衡升级受到欢迎

车辆衡升级受到欢迎   新款车辆衡比其前身性能卓越得多,但是如果您已经有了车辆衡会怎样?许多车辆衡所有者都在升级其现有设备,以便以很少的成本获得新车辆衡的性能。 梅特勒-托利多正在不断对大量不同品质与型号的旧式车辆衡进行升级和转换。仅 2012 年,梅特勒-托利多便采用新的 P

炼油老区实力全面升级

  党的十八大以来,镇海炼化积极贯彻以习近平同志为核心的党中央治国理政新理念、新思想、新战略,以实干实绩交出了精彩答卷。   六大项目群高效推进。实施炼油老区结构调整提质升级、油品质量升级、油气管线隐患治理、储运系统提升、公用工程提升等六大项目群,全面提升炼油老区实力,为实现持续百亿利润梦想提供

KRÜSS产品新升级

新年新气象,产品新升级 不知不觉已经到了2018戊戌狗年,新的一年里大家都有新的愿望和目标,克吕士也在新的一年中将给大家带来更棒的产品,更先进的技术,更优质的服务! 有哪些惊喜先一睹为快吧~ 表面张力仪 - K100又有了新的小

高温电炉的升级转型

高温电炉的升级转型高温电炉转型升级的关键环节是自主创新和技术进步。增强自主创新能力,要支持企业真正成为技术创新的主体,在突破关键核心技术的同时,增强自主创新能力建设,还需要健全产业创新体系,提高产业核心竞争力。经过多年来的快速发展,我国已经成为名副其实的制造大国,但自主创新能力不强,研发能力薄弱,关

油品升级改变行业生态

加价本身并不能保证油品质量,还要加强企业自身的社会责任感和质量监管。在某种程度上,油品升级也是对相关部门执法能力的考验。   本期受访嘉宾   赵俊贵 中国石油和化学工业联合会副会长   王 震 中国石油大学能源战略研究中心执行主任   龚慧明 能源基金会交通项目主任   颜梓清

绿色升级示范岂能止步?

  烟囱高耸、污水横流、臭气熏天……人们印象中的纺织、电镀工业园区往往是这个样子。然而,走进三水大塘纺织工业园、崖门电镀基地、西樵纺织工业园等获得广东省环保厅命名的“绿色升级示范园”,却发现原来蓝天碧水、绿树红花在重污染工业园区同样可以有。  据了解,截至今年1月,广东省已经有6个园区先后通过“绿色

基因测序技术大升级

  DNA就像是漆黑的夜里萤火虫发的光,第二代测序技术无法辨别每一只萤火虫,所以就把上千只萤火虫放在同一个袋子里,才能收集到它们的光。但第三代技术却可以辨别每一只萤火虫,而且可以同时测量很多个DNA片断。 日前,南方科技大学生物系副教授贺建奎与另外几名中美科学家联合在生物医学杂志BioRxiv上

尿检异常升级版

曾在刚刚使用好大夫的时候写过一篇《尿常规的为什么》,但是还是觉得很多问题没有交代到,而且实际临床工作和网路咨询都提示尿检异常占据了患者咨询的80%以上,是时候写个尿检异常的升级版了。排水工程话肾脏人体存在一个设计很严密的排水工程,血液流经肾脏,会逐渐分到若干个毛细血管。在肾小球的部分,那就是一个设计

干燥装备节能升级势在必行

  肩负为化工行业提供节能环保产品使命——   干燥是我国的耗能大户,所用能源占国民经济总能耗的12%左右。作为干燥设备制造企业,虽然本身的能源消耗和资源消耗占据比例很小,但面对严峻的能源与环保挑战,企业普遍认为应当担负起为化工行业提供节能环保产品的使命。特别是在目前传统市场需求不旺,用户对节能减

洋快餐促销规格升级

麦当劳餐厅形象升级,服务与营销也双重创新、同步升级。  继券券通吃、二维码、世界杯等营销活动后,麦当劳再推出无限量供应优惠券。  “复印有效”、“无限量”、“兑换时间长达三周”……国庆长假刚过,麦当劳新开设的淘宝秒杀店立刻引起了网友的关注。继券券通吃、二维码、阿凡达、世界杯等营销活动后,麦当劳再加大

多国加快推进人工智能应用监管

随着聊天机器人ChatGPT等人工智能(AI)应用快速发展,全球监管机构也在加快探索如何妥善进行监管,在鼓励技术创新的同时保护公众利益。  据美联社报道,美国联邦贸易委员会25日表示,政府将毫不犹豫地打击涉及人工智能的有害商业行为。  美国联邦贸易委员会主席莉娜·汗与美国公民权利和消费者保护机构的代

人工智能会谈判

英国伦敦深度思维公司的一项研究表示,人工智能(AI)代理可谈判和形成协议,使其在桌面游戏《外交》中胜过其他无此能力的代理。这些发现展示了一种深度强化学习方法,用其建模的代理可以与其他人工代理沟通和合作,在玩游戏时共同制定计划。相关结果近日发表于《自然—通讯》。 开发能展现出代理间合作和沟通的人工智能

“人工智能+”,加什么?

原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519704.shtm去年,AI语言大模型ChatGPT的诞生引发了全球人工智能浪潮,随着视频生成模型Sora的发布,以AIGC(Artificial Intelligence Generated Cont

人工智能如何“向善”

一段时间以来,以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事,从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。  我们距离“无所不能”的通用人工智能还有多远?人工智能的发展带来哪些安全隐患和挑战?近日召开的2023北京智源大

人工智能再次战胜人类,人工智能强势闯入医疗界

  人工智能技术在物流、医疗、金融、产业物联网等很多领域都有现实应用。对于关乎每个人健康的医疗领域而言,不管医生是不是接受,人工智能已强势闯入医疗界。  最近有两条消息再次把人工智能推向了高潮:  1.2017两会中人工智能第一次出现在政府工作报告中,关注人工智能的科技界因此热血沸腾。  2.世界癌

美国七大AI公司自愿为AI生成内容添加水印

原文地址:http://news.sciencenet.cn/htmlnews/2023/7/505242.shtm·这些公司同意进行安全测试,部分由独立专家进行;对偏见和隐私问题进行研究;与政府和其他组织共享有关风险的信息;开发应对气候变化等社会挑战的工具;采取识别AI生成材料的透明度措施。 ·七

韩拟升级节电管理系统

  据韩联社8月18日报道,韩政府当日举行经济部门长官会议,制定能源需求管理方案。该方案主要内容为搞活能源需求市场,全面引进能源储存系统(ESS),积极推进能源管理系统(EMS),通过信息通信技术控制高峰段功率;向中小企业提供最多50%的EMS系统初装费;改进能源节约企业注册制度,确保EMS技术顺

减排标准或将升级

  美国政府将很快公布新的减排标准,旨在促使各州使用总量控制和排放交易系统、可再生能源以及其他措施来达到使现有发电厂降低碳排放量的目标。   分析人士指出,能源公司和其他受该提议影响的公司将会关注其中的主要细节,比如公司和州必须减排的比例,市场预计会是一个比例范围,而不是单个数字。此外,计算减排