AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的反馈，还会调整回应以附和用户观点，有时甚至会为此牺牲准确性。研究AI行为的科研人员表示，这种取悦他人的倾向即“谄媚性”，正影响着他们在科研中使用AI的方式，涵盖从构思创意、生成假设到推理分析等各类任务。 “谄媚性本质上意味着模型默认用户的说法是正确的。”瑞士联邦理工学院的Jasper Dekoninck表示，“知道这些模型具有谄媚性后，每次我让它们处理问题时都非常谨慎，我会反复核对它们输出的所有内容。” 美国哈佛大学的Marinka Zitnik则认为：“在生物学和医学领域，AI的谄媚性风险极高，因为错误的假设可能会带来真正的损失......阅读全文
AI系统DuerOS2.0亮相－人工智能可以实现“唤醒万物”？
人工智能时代，人机交互方式在变革，AI操作系统需要不断学习和进化。昨日，在“百度世界大会2017”上，对话式人工智能操作系统DuerOS2.0正式对业界开放。 “打开手机百度，播放今天的新闻，下一条新闻，声音大一点，返回……”这是当日，百度公司董事长兼首席执行官李彦宏在会上演示的人机交互体验，
权威AI基准评测发榜
6月30日，全球权威AI基准评测MLPerf最新V2.0训练评测成绩榜单公布。浪潮AI服务器表现优异，继两月前在MLPerf V2.0数据中心推理评测中斩获全部冠军后，本次又在MLPerf V2.0单机训练性能继续保持领先。 据了解，本次MLPerf 评测吸引了包括谷歌、NVIDIA、浪潮信息
日本拟设“AI战略会议”
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500318.shtm 中新网5月10日电 据日本共同社报道，日本首相岸田文雄9日透露了方针，拟设置磋商制定利用人工智能(AI)相关规则等的“AI战略会议”。 据报道，岸田当天在官邸与研究人员和创业
用AI“复活”奶奶之后
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519956.shtm编者按2024年一开春，两条有关数字人的新闻引发热议：一是商汤科技已故创始人、知名人工智能（AI）科学家汤晓鸥的数字人“现身”公司年会；二是台湾地区音乐人包小柏借AI技术“复活”亡女。
AI打败人类？人类完了
30日刊载美国科研成果网报道的《你比人工智能聪明吗？计算机语言模型在智商测试中胜过人类》。文章摘要如下： 美国加利福尼亚大学洛杉矶分校的研究人员发现，在衡量智力的一系列推理测试中，自回归语言模型“生成型已训练变换模型3”(GPT-3)的成绩明显优于普通大学生。该程序利用深度学习生成类似人类语言
AI如何改变医疗未来？
众所周知，由于数字革命，数字技术解放了广大医生、护士和研究人员，医护工作者可以将更多的精力放在更高层次的认知任务和患者护理上，而人工智能的使用，势必将此提升到新的水平。图片来源于网络 随着人工智能技术不断进步，它有望在三个关键领域增强人类的思维力量：高级计算、统计分析和假设生成。这三个领域对应
AI－癌症诊断好帮手
生活工作中，人们已能感受到生成式AI的强大。但除了覆盖到日常生活，还有一类领域也正在被AI模型悄悄改变——医学中的癌症诊断。 革命性的转变就在眼前。现在，美国哈佛医学院、斯坦福大学和布莱根妇女医院联合团队设计了一种多功能的、类似ChatGPT的AI模型，能对多达19种癌症作出精确诊断。在近日出
谷歌评估AI“问诊”能力
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504895.shtm
啤酒味道，AI知道
一种可以根据啤酒的化学成分预测其味道的人工智能，可以帮助人们制造出味道和普通啤酒一样却不含酒精的啤酒。相关研究成果近日发表于《自然-通讯》。在人工智能的帮助下，只用少量原料就能酿造出各种各样的啤酒。图片来源：Kutredrig/Getty Images从化合物中预测味道是很困难的，因为成分和味觉心理
复旦管院院长：AI一定会代替不会用AI的人
近日，复旦大学管理学院（以下简称复旦管院）院长陆雄文先后在2024复旦管院本硕博开学典礼、复旦大学MBA项目开学典礼的致辞中阐述了管理的重要性、学好管理的方法论，鼓励学子们笃学立业，学好管理，成为具有企业家精神的职业经理人和具有职业经理素养的创业者和企业家。 陆雄文强调，中国要真正走向现代化，
复旦管院院长：AI一定会代替不会用AI的人
近日，复旦大学管理学院（以下简称复旦管院）院长陆雄文先后在2024复旦管院本硕博开学典礼、复旦大学MBA项目开学典礼的致辞中阐述了管理的重要性、学好管理的方法论，鼓励学子们笃学立业，学好管理，成为具有企业家精神的职业经理人和具有职业经理素养的创业者和企业家。陆雄文。图片由复旦管院提供陆雄文强调，中国
中国Ai产业的重要盛会“2024粤港澳人工智能展览会”
2024年4月，粤港澳地区将迎来一场科技盛宴——粤港澳人工智能展览会。作为中国规模较大、具有国际影响力的人工智能产业盛会之一，此次展会将汇集全球顶尖的AI技术与应用，展现人工智能领域的最新成果。展会面积达10万平米，预计将有1500多家参展企业云集于此，共同展示人工智能硬件、软件、算法以及应用场景等
中国芯AI人工智能再突破－瑞芯微发布目标检测技术
2018年5月16日，瑞芯微Rockchip发布运行在旗下RK3399芯片平台的基于深度学习的目标检测技术方案，可为高端AI人工智能行业提供准Turnkey解决方案，可同时支持Android及Linux系统，其目标检测速率达到8帧/秒以上。 在人工智能领域中目标检测是非常热门的研究方向，目标检
培养AI－哈工程在沪签署“人工智能教育”联合实验室协议
昨天，愿景学成在上海与哈尔滨工程大学签署了“人工智能教育”联合实验室协议，双方将发挥各自优势，共同探索人工智能在教育产业的落地应用，推动教育产业在新科技时代下的创新与发展。愿景学成哈工程人工智能教育实验室将致力于培养AI人才，以实验室为平台，对接整合校企资源，共同探讨AI前沿技术的研发和应用。重点研
AI是否会超越人类？丘成桐：AI不会代替人类思维
近代物“人工智能（AI）是否会超越人类最优秀数学家？”对此，数学家、国际基础科学大会主席丘成桐表示，从目前来看，人工智能无法识别几何背后的定律，更无法识别数学与其他科学之间的关联，人工智能不会代替人类思维。 在7月24日举行的首届基础科学大会青少年专场活动“科学家面对面”中，一批来自高中和大学
获诺奖的AI教父辛顿：曾提醒AI或威胁人类生存
“AI（人工智能）教父”、神经网络领域大牛获诺贝尔物理学奖。美国普林斯顿大学的约翰·霍普菲尔德（John J. Hopfield）和加拿大多伦多大学的杰弗里·辛顿（Geoffrey E. Hinton）当地时间10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普
ThetaRay公司成功完成5700万美元融资：用AI技术反AI洗钱
基于人工智能的反洗钱（AML）平台ThetaRay日前宣布成功完成一轮5700万美元的融资，由Portage领投，同时有JVP、OurCrowd以及其他未透露姓名的早期投资方参与。这一融资将ThetaRay的总融资金额提升至1.6亿美元。ThetaRay的AML平台具备自动扫描和识别银行及其他金融机
DeepMind－AI模型预测天气又快又好
近日一项发表于《自然》的研究报道了谷歌DeepMind开发的首个天气预测人工智能（AI）模型——GenCast。该模型比目前运行中的最佳中期预报系统——欧洲中期天气预报中心的集合预报（ENS）更精准。GenCast在8分钟内就能完成15天的预测，而目前的预测程序需要几个小时。据介绍，包括ENS在内的
以AI之名跨界融合
11月4日，中科院上海分院、上海市科协主办的2022“海聚英才”学科交叉高峰论坛“菁英思想汇”暨上海“青年科技英才”联谊会——智联未来人工智能主题沙龙在科学会堂举行。中国科学院院士、上海交通大学学术委员会主任张杰，中国工程院院士、上海市科协主席陈赛娟出席会议，上海市科协党组书记、副主席马兴发出
警惕！AI电子垃圾正在激增
近年来，人工智能（AI）加速渗透到日常生活的方方面面。为人们生活带来便利的同时，AI可能造成的环境问题也不容忽视。中国科学院城市环境研究所研究员汪鹏等研究人员的一项研究测算显示，2020年至2030年，生成式AI带来的电子废弃物可能激增近1000倍。相关研究成果日前在线发表于《自然·计算科学》。联合
百度AI产品落地
从概念到产品，11月16日的百度2017世界大会上，百度CEO李彦宏首度系统披露了包括无人驾驶和智能音箱在内的AI落地进展。在阿里、腾讯抢先发布多款AI产品的背景下，最卖力的百度开始解决“纸上谈兵”非议。 无人车提前量产 “7月百度AI开发者大会后，人们问我最多的问题是：“你坐无人车上五环有
医疗影像－AI－告别野蛮期
2017年年底，郑众喜在华西医院参加了一场人工智能研讨会，很多科室都谈到了医疗影像AI，医生们认为AI需要在大量精准专业标识的影片基础上才能做到智能。 华西医院于2017年7月宣布成立医学人工智能研发中心，当天一场消化内镜人工智能演示中，通过云端上传了12张检查图像，不到10秒筛选出息肉、
AI首次通过广告图灵测试
人工智能（AI）广告首次通过广告图灵测试。据英国《新科学家》杂志网站24日报道，在一项衡量创造力和激发情绪反应潜力的测试中，AI生成的广告的表现优于典型的美国平面广告，相关研究结果已经提交首届BrXnd营销和AI大会。这项比赛的灵感来自最初的图灵测试，这一测试挑战机器在对话中模仿人类的能力。比赛要求
马化腾：AI时代看“用云量”
未来，“用云量”将是重要的反应经济发展的指标，与电能带来的变化一样，云也将带来新一轮的产业革命。21日，腾讯2017“云+未来”峰会在深圳召开，腾讯董事会主席兼首席执行官马化腾提出了用云量的三个发展趋势。 马化腾在演讲中称，云在未来有三个发展趋势。第一个趋势：产业革新的原动力。云出现后，就有了
AI学会“欺骗”，人类如何接招？
人工智能（AI）的迅猛发展正深刻改变着世界，但一些最先进的AI模型却开始表现出令人警惕的行为：它们不仅会精心编织谎言，谋划策略，甚至威胁创造者，以达到自己的目的。 物理学家组织网在上个月一则报道中指出，尽管ChatGPT已问世两年多，AI研究人员仍无法完全理解这些“数字大脑”的运作方式。AI的
2024年，AI会如何发展？
时光如白驹过隙，转眼间已是新的一年，那些旧岁未完成的梦想又将翻开新章。去年底英国《自然》杂志刊文预测的2024年十大科学进展中，人工智能的进步和ChatGPT人工智能占据前两位。人工智能的发展，在过去一年中已有无数突破，也引起了广泛的争议，但不可否认的是，人工智能已成为未来已来的标志，将在当下和
AI能否让医生表现更好？
医疗人工智能（AI）最受“吹捧”的承诺之一，就是它们能够帮助人类临床医生更精确地解读X光和CT扫描等图像，从而作出更准确的诊断报告，增强影像科医生的表现。但实际情况确实如此吗？美国哈佛大学医学院、麻省理工学院和斯坦福大学的合作研究表明，使用AI工具进行图像解读的效果，似乎因临床医生而异。换句话说，有
AI透过胸片估测患者年龄
日本科学家开发出一种先进的人工智能（AI）模型，能利用患者的胸部X射线影像准确估计其实际年龄。更重要的是，当发现估计年龄与真实年龄出现较大差异时，AI还可揭示患者罹患慢性病的情况。此项发现标志着医学影像学的巨大飞跃，为改进早期疾病检测和干预铺平了道路。研究结果发表于最新一期《柳叶刀·健康长寿》杂志。
K时评：上海“AI+制造”=？
全球AI领域备受关注的世界人工智能大会刚落幕，上海抓紧又忙活起来了。 日前，上海市政府常务会议原则同意《上海市加快推动“AI+制造”发展的实施方案》。该文件明确，必须把握人工智能赋能制造业的战略机遇，以AI驱动制造业高端化、智能化、绿色化、融合化升级，助力“上海制造”向“上海智造”跃升。 为
AI助力自闭症诊断
医生通常通过临床观察和评估来确诊自闭症。为了剖析这一主观且难以描述的临床决策过程，研究人员借助大型语言模型（LLM），整合分析出最具诊断意义的自闭症相关行为和表现。相关成果3月27日发表于《细胞》杂志。研究显示，重复行为、特殊兴趣和感知相关行为，与自闭症诊断关联最密切。这些发现可能通过减少对社会因素