传统方法vsAI模型蒸馏：谁更胜一筹？
问题提出 短短几个月里，Anthropic与OpenAI先后公开指控竞争对手正在"蒸馏"它们的旗舰模型——也就是从自家模型的回答中榨取足够信息，训练出体积与成本仅为原版零头、却极力模仿原版的新模型。九月的报告中，两家公司各自详述了如何发现并掐断这类活动，并称其为"非法"与"未经授权"。这场围绕模型蒸馏的争端，正成为美国AI公司最敏感的痛点之一。 蒸馏一词借自酿酒：加热发酵物令富含酒精的蒸汽上升，再冷凝成更烈的液体。AI开发者用它形容把庞大的大模型"熬"成小模型。但当一个中国初创能用不到三十万美元训出推理模型，而美国实验室却投入了数十倍资源时，蒸馏便从工程技巧变成了关乎估值与竞争力的安全议题。 深入分析 蒸馏的原理并不神秘。它从一个被称为"教师"的大模型出发，反复向其提问，把得到的回答喂给被称为"学生"的新模型去训练。由于每一条回答都隐含着教师在训练中学到的信息，知识便绕......阅读全文
《自然》发文盛赞中国开源AI模型DeepSeek
最近，由来自杭州的“深度求索”初创团队开发的DeepSeek系列AI模型，引发了全球范围的关注。1月24日，知名学术期刊《自然》也发文关注该模型及相应产品，称“中国开发的大语言模型DeepSeek-R1以亲民价格和开放性挑战了OpenAI的推理模型GPT-o1的地位，令科学家们感到兴奋”。《中国科学
传统方法－vs－AI模型蒸馏：谁更胜一筹？
问题提出 短短几个月里，Anthropic与OpenAI先后公开指控竞争对手正在"蒸馏"它们的旗舰模型——也就是从自家模型的回答中榨取足够信息，训练出体积与成本仅为原版零头、却极力模仿原版的新模型。九月的报告中，两家公司各自详述了如何发现并掐断这类活动，并称其为"非法"与"未
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
Meta发布最新开源大模型Llama－4
据路透社报道，当地时间4月6日，美国科技公司Meta推出了开源人工智能模型Llama 4。据介绍，该模型目前有Scout和Maverick两个版本，是Meta迄今为止最先进的模型，也是同类产品中多模态性最强的模型。 报道称，Llama 4系列采用了先进的混合专家架构，这一架构在模型训练及用户查
腾讯大模型上线文生视频并宣布开源
据腾讯官微消息，腾讯今日宣布，混元大模型上线并开源文生视频能力。据介绍，该模型参数量为130亿，已经在Hugging Face平台及Github上发布，包含模型权重、推理代码、模型算法等完整模型，可供企业与个人开发者免费使用和开发生态插件。这也是当前最大的视频开源模型。
释放AI大模型促消费潜力
今年的《政府工作报告》提出持续推进“人工智能+”行动，旨在抓住人工智能技术突破机遇，使我国数字技术与制造优势、市场规模优势充分结合，推动人工智能大模型广泛应用，真正赋能千行百业、走进千家万户。在构建新发展格局战略背景下，AI大模型在激活内需市场、促进消费升级等方面充满“模”力。 随着人工智能技
中国首个海洋领域开源大模型OceanGPT正式发布
近日，中国首个海洋领域开源大模型OceanGPT(沧渊)在杭州正式发布。该大模型由海洋精准感知技术全国重点实验室(浙江大学)牵头研发，具备基础的海洋专业知识问答，以及声呐图像、海洋观测图等海洋特色多模态数据的自然语言解读能力。其采用的领域知识增强“慢思考”推理机制，相较现有通用大模型能有效降低幻觉式
华为发布大模型时代AI存储新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
AI大模型“源”炼造客服大脑
2018年至今，NLP领域经历了非常大的变化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微调）的突破，NLP在预训练大模型的暴力拆解路上越走越远，这也让各行业开始相信：很多之前无法做到的场景、效果，现在可以有新的解法和落地。 智能客服，是
AI大模型走出“泡沫期”未来何如
今年3月ChatGPT-4上线以来，国内科技龙头企业密集推出人工智能大模型，百度“文心一言”、阿里云“通义千问”、华为“盘古”、360“智脑”、昆仑万维“天工”、京东“灵犀”、科大讯飞“星火”、腾讯“混元”、商汤“日日新”等大模型先后登场，呈现百花齐放、迅猛发展的态势。截至2023年10月初，国
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
全球首个知识增强千亿大模型亮相
12月8日，鹏城实验室与百度联合发布全球首个知识增强千亿大模型——鹏城—百度·文心。 为什么大模型在产学界持续走热，越来越多的技术公司入场？ 如中国工程院院士、鹏城实验室主任高文所言，预训练模型赋能人工智能衍生更多的应用，而不局限于某个领域，是人工智能自身发展并作用于社会及科学创新的重要工具
厦大尝试AI大模型破译甲骨文
近日，厦门大学信息学院自然语言处理实验室教授史晓东团队申报的“基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型”入选“探元计划2024”“创新探索型项目”TOP10榜单。基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型。厦门大学供图甲骨文也被称作“殷墟文字”，距今已有三千多年历史，是世界四大古文
设计基因编辑工具的AI大模型问世
记者27日从中国农业科学院获悉，该院农业基因组研究所农业基因编辑技术研发与应用创新团队构建了全球规模最大的实验验证数据集，并基于此开发出人工智能（AI）大模型AlphaCD。该模型不仅能高效预测超过2万余种胞嘧啶脱氨酶的酶活特征，还能设计出新型高性能碱基编辑工具。相关成果日前发表于国际期刊《细胞
全力发展！锻造国产大模型核心竞争力
截至今年7月底，我国累计有130个人工智能大模型问世，其中，仅今年前7个月就有64个大模型发布。不久前，首批通过《生成式人工智能服务管理暂行办法》备案的11个大模型产品获批向全社会开放服务，引发关注。大模型进入高速发展期。当前，一个重要问题是如何统筹创新发展与安全应用，推动生成式人工智能高质量发
大模型安全治理：国际合作共筑AI发展新框架
“当前，人工智能技术以惊人的速度发展，如近期DeepSeek引领了低成本开发使用大模型的革新，这既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。”2月11日，在“人工智能技术及其应用进展”专题边会上，清华大学交叉信息研究院、人工智能学院院长姚期智提到
大模型应该如何卷应用？开源闭源谁更有未来？
AI企业曾经受困于投入和回报难成比例的问题，在今年的人工智能大会上，大模型的“变现”之路也成为外界关注焦点。“（商业化）就像小时候玩打砖块的游戏，把砖块精准地打到一个缝隙里去，首先要知道缝隙在哪儿，路径在哪儿。”7月5日，2024世界人工智能大会暨人工智能全球治理高级别会议（简称“WAIC2024”
面对大模型应用门槛高－如何大模型发挥更大价值？
原文地址：http://news.sciencenet.cn/htmlnews/2022/9/485510.shtm 人工智能预训练大模型的研发，面临着数据规模大、数据质量参差不齐、模型体积大、训练难度高、算力需求大等一系列挑战。在这样的背景下，如何加速大模型的产业落地，让大模型发挥更大价值？
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
DeepMind－AI模型预测天气又快又好
近日一项发表于《自然》的研究报道了谷歌DeepMind开发的首个天气预测人工智能（AI）模型——GenCast。该模型比目前运行中的最佳中期预报系统——欧洲中期天气预报中心的集合预报（ENS）更精准。GenCast在8分钟内就能完成15天的预测，而目前的预测程序需要几个小时。据介绍，包括ENS在内的
AI“模型崩溃”风险需警惕
图片来源：美国《The Week》从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。它是指用AI生成的数据集训练未来几代机器学习模型，可能会
AI“模型崩溃”风险需警惕
从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。它是指用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出。多家外媒报
刘聪：中国AI大模型也要走“直道冲锋”之路
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498384.shtm
新型AI芯片将大语言模型能耗减半
美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参
“达尔文”大模型发布－为生物领域打造AI大脑
7月4日，赛灵力联合清华珠三角研究院、赛业生物、大湾区科创中心共同举办达尔文大模型发布会。达尔文大模型基于多元、多模态复杂数据和先进的人工智能技术，对生物领域的复杂系统建模和分析进行深入研究，为生物学产业、研究和应用发展提供有力支撑。达尔文提出进化论，阐述物种进化的基本原理，即适者生存。对应的，达尔
阿里云推出首个域名AI大模型应用
8月8日，在阿里云万网焕新发布会上，阿里云宣布域名产品服务完成AI化系列改造，推出首个基于通义大模型的域名AI应用，并上线“.ai”等40余个全新的热门域名后缀、2000万个全球域名资源。域名是网站的地址，它就像现实生活中的门牌号，是互联网稳定运行和持续发展的关键基础资源。数据显示，中国域名保有量3
顶流AI大模型集结中关村科学城
6月14日上午，2024北京智源大会在中关村国家自主创新示范区展示中心开幕，大会现场具身智能机器人Galbot和国内主流大模型展览区备受关注。 在展览区，记者看到银河通用首代具身智能机器人Galbot正忙着为嘉宾“送吃送喝”。收到指令后，Galbot自主导航到货架，通过“视觉”锁定货架上的目标
顶流AI大模型集结中关村科学城
6月14日上午，2024北京智源大会在中关村国家自主创新示范区展示中心开幕，大会现场具身智能机器人Galbot和国内主流大模型展览区备受关注。 在展览区，记者看到银河通用首代具身智能机器人Galbot正忙着为嘉宾“送吃送喝”。收到指令后，Galbot自主导航到货架，通过“视觉”锁定货架上的目标
全面叫板OpenAI！谷歌发布多模态大模型全家桶：从AI助手到文生视频模型
被OpenAI抢先一天后，科技巨头谷歌不甘示弱，推出了自己的最新多模态AI（人工智能）产品。当地时间5月14日，在谷歌I/O开发者大会上的主题演讲中，谷歌展示了由升级后Gemini模型驱动的AI助手项目Project Astra、对标Sora的文生视频模型Veo，以及在硬件方面发布的第六代Tenso