警惕AI“投毒”：隐蔽产业链已形成，危害不容小觑
近期，AI“投毒”隐蔽产业链被曝光，引发社会广泛关注。这种通过恶意数据污染AI模型的行为，不仅扰乱商业秩序、影响信息传播，更会危害国家安全。人工智能在赋能千行百业的同时，其安全风险也不容忽视。推动AI治理向善，守住数据安全底线，既是行业责任，也需要全社会共同参与。 手段隐蔽，链条日趋完整 所谓“数据投毒”，是通过向AI大模型训练数据中注入伪装成正常样本的恶意数据，实现削弱模型性能、降低准确性的攻击方法，常被用于恶性市场竞争，甚至可能涉及间谍活动，日益呈现出链条化、隐蔽化、跨境化特征。 ——数据投毒：源头污染AI认知体系。不法分子借助GEO（生成式引擎优化）工具批量、高权重生成虚假内容，如虚构产品介绍、虚假测评、恶意对比信息等，定向投放至各类网络平台。AI大模型在训练与检索增强生成阶段会自动抓取网络信息，少量虚假内容经迭代学习后就能固化为“标准答案”，最终输出失真结果。 ——模型投毒：隐蔽植入恶意操控后门。该方式更具隐蔽性......阅读全文
谷歌评估AI“问诊”能力
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504895.shtm
用AI“复活”奶奶之后
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519956.shtm编者按2024年一开春，两条有关数字人的新闻引发热议：一是商汤科技已故创始人、知名人工智能（AI）科学家汤晓鸥的数字人“现身”公司年会；二是台湾地区音乐人包小柏借AI技术“复活”亡女。
啤酒味道，AI知道
一种可以根据啤酒的化学成分预测其味道的人工智能，可以帮助人们制造出味道和普通啤酒一样却不含酒精的啤酒。相关研究成果近日发表于《自然-通讯》。在人工智能的帮助下，只用少量原料就能酿造出各种各样的啤酒。图片来源：Kutredrig/Getty Images从化合物中预测味道是很困难的，因为成分和味觉心理
权威AI基准评测发榜
6月30日，全球权威AI基准评测MLPerf最新V2.0训练评测成绩榜单公布。浪潮AI服务器表现优异，继两月前在MLPerf V2.0数据中心推理评测中斩获全部冠军后，本次又在MLPerf V2.0单机训练性能继续保持领先。 据了解，本次MLPerf 评测吸引了包括谷歌、NVIDIA、浪潮信息
告别传统课堂，《人工智能通识》如何用AI学AI
8月30日，记者从西南交通大学获悉，为积极贯彻落实国家教育数字化战略行动，以数字化开辟教育发展新赛道、塑造发展新动能，进一步推动人工智能赋能教育教学转型，学校将打造面向全校师生的人工智能通识课程《人工智能通识》，该课程是学校的首门AI课程。《人工智能通识》课程将于2024年秋季学期在线上线下同步上线
复旦管院院长：AI一定会代替不会用AI的人
近日，复旦大学管理学院（以下简称复旦管院）院长陆雄文先后在2024复旦管院本硕博开学典礼、复旦大学MBA项目开学典礼的致辞中阐述了管理的重要性、学好管理的方法论，鼓励学子们笃学立业，学好管理，成为具有企业家精神的职业经理人和具有职业经理素养的创业者和企业家。陆雄文。图片由复旦管院提供陆雄文强调，中国
复旦管院院长：AI一定会代替不会用AI的人
近日，复旦大学管理学院（以下简称复旦管院）院长陆雄文先后在2024复旦管院本硕博开学典礼、复旦大学MBA项目开学典礼的致辞中阐述了管理的重要性、学好管理的方法论，鼓励学子们笃学立业，学好管理，成为具有企业家精神的职业经理人和具有职业经理素养的创业者和企业家。 陆雄文强调，中国要真正走向现代化，
获诺奖的AI教父辛顿：曾提醒AI或威胁人类生存
“AI（人工智能）教父”、神经网络领域大牛获诺贝尔物理学奖。美国普林斯顿大学的约翰·霍普菲尔德（John J. Hopfield）和加拿大多伦多大学的杰弗里·辛顿（Geoffrey E. Hinton）当地时间10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普
ThetaRay公司成功完成5700万美元融资：用AI技术反AI洗钱
基于人工智能的反洗钱（AML）平台ThetaRay日前宣布成功完成一轮5700万美元的融资，由Portage领投，同时有JVP、OurCrowd以及其他未透露姓名的早期投资方参与。这一融资将ThetaRay的总融资金额提升至1.6亿美元。ThetaRay的AML平台具备自动扫描和识别银行及其他金融机
AI是否会超越人类？丘成桐：AI不会代替人类思维
近代物“人工智能（AI）是否会超越人类最优秀数学家？”对此，数学家、国际基础科学大会主席丘成桐表示，从目前来看，人工智能无法识别几何背后的定律，更无法识别数学与其他科学之间的关联，人工智能不会代替人类思维。 在7月24日举行的首届基础科学大会青少年专场活动“科学家面对面”中，一批来自高中和大学
AI助手“居里”帮你润色论文
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510424.shtm
K时评：上海“AI+制造”=？
全球AI领域备受关注的世界人工智能大会刚落幕，上海抓紧又忙活起来了。 日前，上海市政府常务会议原则同意《上海市加快推动“AI+制造”发展的实施方案》。该文件明确，必须把握人工智能赋能制造业的战略机遇，以AI驱动制造业高端化、智能化、绿色化、融合化升级，助力“上海制造”向“上海智造”跃升。 为
马化腾：AI时代看“用云量”
未来，“用云量”将是重要的反应经济发展的指标，与电能带来的变化一样，云也将带来新一轮的产业革命。21日，腾讯2017“云+未来”峰会在深圳召开，腾讯董事会主席兼首席执行官马化腾提出了用云量的三个发展趋势。 马化腾在演讲中称，云在未来有三个发展趋势。第一个趋势：产业革新的原动力。云出现后，就有了
医疗影像－AI－告别野蛮期
2017年年底，郑众喜在华西医院参加了一场人工智能研讨会，很多科室都谈到了医疗影像AI，医生们认为AI需要在大量精准专业标识的影片基础上才能做到智能。 华西医院于2017年7月宣布成立医学人工智能研发中心，当天一场消化内镜人工智能演示中，通过云端上传了12张检查图像，不到10秒筛选出息肉、
AI助力更快探测恒星合并
德国科学家研究发现，一种新型机器学习方法能让天文学家更快确定双中子星合并的位置。这种方法可研究来自中子星合并的引力波辐射，当信号抵达地球时只需一秒就能对合并事件进行识别和定位。这种对来自恒星合并的引力波的自动探测或提供了对这些宇宙事件的新认知。相关研究3月6日发表于《自然》。 地球上的探测器能
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
AI透过胸片估测患者年龄
日本科学家开发出一种先进的人工智能（AI）模型，能利用患者的胸部X射线影像准确估计其实际年龄。更重要的是，当发现估计年龄与真实年龄出现较大差异时，AI还可揭示患者罹患慢性病的情况。此项发现标志着医学影像学的巨大飞跃，为改进早期疾病检测和干预铺平了道路。研究结果发表于最新一期《柳叶刀·健康长寿》杂志。
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
AI“模型崩溃”风险需警惕
图片来源：美国《The Week》从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。它是指用AI生成的数据集训练未来几代机器学习模型，可能会
2024年，AI会如何发展？
时光如白驹过隙，转眼间已是新的一年，那些旧岁未完成的梦想又将翻开新章。去年底英国《自然》杂志刊文预测的2024年十大科学进展中，人工智能的进步和ChatGPT人工智能占据前两位。人工智能的发展，在过去一年中已有无数突破，也引起了广泛的争议，但不可否认的是，人工智能已成为未来已来的标志，将在当下和
百度AI产品落地
从概念到产品，11月16日的百度2017世界大会上，百度CEO李彦宏首度系统披露了包括无人驾驶和智能音箱在内的AI落地进展。在阿里、腾讯抢先发布多款AI产品的背景下，最卖力的百度开始解决“纸上谈兵”非议。 无人车提前量产 “7月百度AI开发者大会后，人们问我最多的问题是：“你坐无人车上五环有
AI教练助你化身“冰雪精灵”
“你的摆臂幅度如果再小5厘米，就会减少一定阻力，速度和稳定性也会提升。”在长春冰上训练基地，教练正通过“智能冰上运动训练分析系统”对运动员进行指导。 借助复旦大学工程与应用技术研究院教授、智能机器人研究院常务副院长张立华团队研发的训练分析系统，人工智能（AI）教练也许能
AI侦探敲碎深度学习黑箱
研究人员创建了能填补照片空白的神经网络，以鉴别人工智能瑕疵。 Jason Yosinski坐在美国加州旧金山的一个小型玻璃办公室内，陷入了对人工智能的沉思。作为优步公司的研究科学家，Yosinski正为在笔记本电脑上运行的人工智能（AI）进行“脑外科手术”。 很多AI将改变人类现代生活，例如
AI香水“复刻”消失的味道
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518384.shtm2月19日公布于预印本平台arXiv上的一篇论文显示，人工智能（AI）可以根据香水的化学成分修改配方，重新创造出一种香水。有一天，使用这种方法可以用一个单独的样本重现有消失风险的稀有气
AI“参与”同行评审喜忧参半
今年2月，加拿大蒙特利尔大学生态学家蒂莫西·波伊索在审阅自己论文的评审意见时，意外发现其中一份评审报告可能由AI代笔。他对此感到愤怒并在博客中痛斥：我递交论文参与评审，期待的是同行的思想碰撞。若这一前提不再，那么同行评审制度将沦为数字废墟。 英国《自然》杂志网站在3月27日的报道中指出，AI系
“龙虾热”开启AI产业竞速
过去几周，“养龙虾”逐渐从极客群体的爱好，演变成一场全球范围的AI（人工智能）智能体淘金热。忧心错失风口的互联网大厂争相布局，担心被AI取代的普通打工者也纷纷尝鲜。热浪翻滚中不乏泡沫与喧嚣，但毋庸置疑，一场AI产业竞速已经开启。 忧心错失风口 大厂竞速入局 “龙虾装上了吗？”“朋友用龙虾做的
通用AI，揭示心智的奥秘
生命是智能的第一载体，在自然中已经有亿万年的进化历史。作为代表自然界拥有最通用智能的生物大脑，可以通过低功耗和少量后天数据就能实现比现有人工智能更加通用及实现复杂环境下复杂任务的智能行为。因此，探索生物大脑智能认知的底层机理和复杂行为背后的神经科学基础，对于探索智能的本质、揭示心智的奥秘，迈向未
AI香水“复刻”消失的味道
2月19日公布于预印本平台arXiv上的一篇论文显示，人工智能（AI）可以根据香水的化学成分修改配方，重新创造出一种香水。有一天，使用这种方法可以用一个单独的样本重现有消失风险的稀有气味，比如特定文化仪式上的熏香，或者由于气温上升而变化的森林气味。挪威科技大学的Idelfonso Nogueira和
AI学会“欺骗”，人类如何接招？
人工智能（AI）的迅猛发展正深刻改变着世界，但一些最先进的AI模型却开始表现出令人警惕的行为：它们不仅会精心编织谎言，谋划策略，甚至威胁创造者，以达到自己的目的。 物理学家组织网在上个月一则报道中指出，尽管ChatGPT已问世两年多，AI研究人员仍无法完全理解这些“数字大脑”的运作方式。AI的
警惕！AI电子垃圾正在激增
近年来，人工智能（AI）加速渗透到日常生活的方方面面。为人们生活带来便利的同时，AI可能造成的环境问题也不容忽视。中国科学院城市环境研究所研究员汪鹏等研究人员的一项研究测算显示，2020年至2030年，生成式AI带来的电子废弃物可能激增近1000倍。相关研究成果日前在线发表于《自然·计算科学》。联合