新型AI芯片将大语言模型能耗减半

美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。 研究团队指出,问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。 他们开发的新芯片能够借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。 研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升,这项技术或将成为绿色计算的重要推手......阅读全文

清华大学团队研发AI光芯片赋能大模型算力

 记者11日从清华大学获悉,针对大规模光电智能计算难题,清华大学电子工程系副教授方璐课题组、自动化系戴琼海院士课题组,摒弃传统电子深度计算范式,另辟蹊径,首创分布式广度光计算架构,研制大规模干涉-衍射异构集成芯片太极(Taichi),实现160 TOPS/W的通用智能计算。在如今大模型通用人工智能蓬

文斐:研究解决大型语言模型的存储瓶颈问题

原文地址:http://news.sciencenet.cn/htmlnews/2023/4/497858.shtm“由于半导体器件的物理限制,摩尔定律已经难以为继;今后计算机芯片的效率提升将主要来源于体系架构的创新。”华南理工大学计算机科学与工程学院原院长、广东省计算机学会理事长韩国强对《中国科学

微流控芯片技术构建多重诱导神经芯片模型

神经系统发育是一个高度动态和极其复杂的过程。建立体外仿生的组织细胞外微环境,探索和理解这些错综复杂的神经发育过程对神经科学、发育生物学及临床医学都具有极大的科学研究与应用价值。然而,目前国内外学者研究主要集中于单因素诱导的神经发育,对于多诱导因素参与的神经系统发育微环境体外构建及其技术与方法,还有待

微流控芯片技术构建多重诱导神经芯片模型

神经系统发育是一个高度动态和极其复杂的过程。建立体外仿生的组织细胞外微环境,探索和理解这些错综复杂的神经发育过程对神经科学、发育生物学及临床医学都具有极大的科学研究与应用价值。然而,目前国内外学者研究主要集中于单因素诱导的神经发育,对于多诱导因素参与的神经系统发育微环境体外构建及其技术与方法,还有待

面对大模型应用门槛高-如何大模型发挥更大价值?

原文地址:http://news.sciencenet.cn/htmlnews/2022/9/485510.shtm 人工智能预训练大模型的研发,面临着数据规模大、数据质量参差不齐、模型体积大、训练难度高、算力需求大等一系列挑战。在这样的背景下,如何加速大模型的产业落地,让大模型发挥更大价值?

MOFormer:无需3D结构、基于Transformer的预测语言模型

金属有机框架(MOF)是具有高比表面积、高孔隙率和结构可设计的结晶性多孔材料,可用于气体吸附、气体储存、气体分离、催化剂等领域。  然而,MOF 的化学空间非常巨大。发现适合特定应用的最佳 MOF 需要对无数潜在候选材料进行高效、准确的搜索。快速且低成本地为特定任务选择性能最佳的 MOF 一直具有挑

基于微流控芯片技术的多重诱导神经芯片模型

神经系统发育是一个高度动态和极其复杂的过程。动物生命有机体需要产生足够数量的神经元,并引导这些微环境敏感的神经元完成轴突延伸、树突分支和突触形成,实现高度精确和特异性的神经连接,进而实现有机体各生理功能的相互协调。神经轴突导向在这一过程中则起到了至关重要的作用。轴突前端的生长锥,通过探测和识别胞外环

科学家评估大型语言模型回答医学问题的能力

  图为研究团队的方法和现有技术的比较。Flan-PaLM540B模型在MedQA,MedMCQA和PubMedQA数据集上均超过了以往最先进的SOTA,每列上方显示的是准确率百分比。  你在网上搜过“我哪哪疼是不是得了啥啥病”吗?答案可能不尽如人意。但随着ChatGPT等大型自然语言模型(LLM)

模拟芯片大幅削减AI模型运行能耗

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/507457.shtm

模拟芯片大幅削减AI模型运行能耗

  模拟计算机芯片运行人工智能(AI)语音识别模型的效率是传统芯片的14倍,有可能为AI研究中巨大且不断增长的能源消耗以及全球范围内通用数字芯片短缺问题提供解决方案。  这一新产品由IBM Research开发,概述这项工作的论文发表于《自然》。研究人员声称,模拟芯片可以减少人工智能发展的障碍。  

小芯片上的大文章——生物芯片

想象一下,在一块指甲大小的玻片、硅片、尼龙膜等材料上放上生物探针,它首先与待检测样品进行反应,然后对与反应结果相关的信号进行收集,最后再用计算机或其他方法分析数据结果,会产生什么效果呢?答案就是对细胞、蛋白质、DNA以及其他生物组分的准确、快速、大信息量的检测。这也就是我们所说的生物芯片。生物芯片的

芯片模型有望发现渐冻症成因线索

美国西达赛奈医学中心研究人员利用来自渐冻症(肌萎缩侧索硬化症,ALS)患者的干细胞,创建出一种“芯片上的ALS”疾病模型,有望揭示这种神秘且致命疾病的成因,并推动开发出有效的治疗方法。之前,研究人员已能将ALS患者的成体细胞“重编程”为干细胞,并进一步诱导其生成运动神经元。这些运动神经元会在ALS进

AI大模型“拿捏”电池寿命

作为现代生活中不可或缺的能源载体,电池的重要性不言而喻。从清晨唤醒我们的闹钟,到随身携带的手机、平板电脑等智能设备,无一不依赖于电池提供的稳定电力。此外,随着科技的发展,电动汽车、无人机等新兴领域也广泛应用了各类高性能电池,推动了绿色出行和智能科技的进步。因此,电池不仅极大地便利了我们的日常生活,还

抢抓大模型行业机会

  机器人在7月6日举行的2023世界人工智能大会展会现场进行投篮表演。大会展示包括大模型、芯片、机器人、智能驾驶等领域的科技成果。 新华社记者 方 喆摄  今年以来,自ChatGPT发布后,多家企业先后发布了自己的大模型产品,业内称之为“百模大战”。与此同时,产业界对大模型的关注点也在发生变化,从

崖州湾国家实验室联合发布首个种业大语言模型

人工智能技术能给“农业芯片”带来怎样的助力?国内首个种业大语言模型的推出,或许可以给出全新的探索路径。据崖州湾国家实验室最新发布消息,崖州湾国家实验室精准设计与智造团队联合中国农业大学、上海人工智能实验室共同发布首个种业大语言模型“丰登” ,英文名称Large Language Model for

厦大尝试AI大模型破译甲骨文

近日,厦门大学信息学院自然语言处理实验室教授史晓东团队申报的“基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型”入选“探元计划2024”“创新探索型项目”TOP10榜单。基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型。厦门大学供图甲骨文也被称作“殷墟文字”,距今已有三千多年历史,是世界四大古文

剑桥学者称语言仍是全球科研交流一大障碍

  尽管在当前的信息时代,学术交流已达空前便捷水平,但对于每年发布的大量科研论文和书籍等资料,语言仍会在各国学者交流时造成不小障碍。  剑桥大学日前发表报告说,全球主要科研期刊大多以英语作为出版语言,但仍有不少研究成果是以英语以外的语言发表。不管哪种语言,当科研成果只以单一一种语言发表时,对知识的传

微流控芯片模拟体内受精的模型构建

微流控芯片:又被称作芯片实验室,是将传统的化学技术和生物技术结合,并将所有基本操作单元微缩集成在一块芯片上以自动完成全过程的一项新技术,它在生物、化学、医学等领域都有巨大潜力,目前广泛运用于各行各业。输卵管:女性生殖系统的重要组成部分,体内受精及早期胚胎培养的场所,胚胎在输卵管壶腹部和峡部交界处完成

释放AI大模型促消费潜力

  今年的《政府工作报告》提出持续推进“人工智能+”行动,旨在抓住人工智能技术突破机遇,使我国数字技术与制造优势、市场规模优势充分结合,推动人工智能大模型广泛应用,真正赋能千行百业、走进千家万户。在构建新发展格局战略背景下,AI大模型在激活内需市场、促进消费升级等方面充满“模”力。  随着人工智能技

北京加快大模型应用落地见效

7月1日,2024全球数字经济大会人工智能专题论坛在中关村国家自主创新示范区会议中心举办。记者从论坛获悉,北京已发布的大模型产品有71个,约占全国一半,人工智能产业高地建设成效显著。未来,北京将加快实现大模型应用落地见效。人工智能在数字经济产业发展中具有很强的“头雁”效应,以大模型为代表的生成式人工

大模型热要多点冷思考

  行业大模型聚焦特定领域、针对特定场景、解决特定问题,能结合企业自身独特优势去精耕细作并赋能行业,从而形成差异化优势。走向细分领域才有更多机会,综合考虑行业专业性、持续迭代和综合成本等因素,行业大模型更容易实现商业价值落地。  用“百模大战”来形容当下人工智能大模型的火热程度一点也不夸张。数据显示

伏羲系列气象大模型2.0面世

中新社上海6月3日电 (记者 陈静)3日,“走进智能气象”主题活动暨智能气象创新生态联盟成立仪式在上海举办。全新升级、面向产业应用的伏羲系列气象大模型2.0(下文简称:“伏羲”2.0)面世,以“伏羲”2.0为核心的智能气象创新生态联盟同期成立。“伏羲”是人工智能驱动的次季节尺度气象大模型,可提供42

首个量子领域大模型上线了!

  百度量子计算研究所所长段润尧介绍,该量子领域大模型是在百度文心一言的基础上,使用量子领域高质量数据进行更有针对性的训练和优化而成的。它能更好地理解量子知识,执行量子领域相关任务。  据介绍,百度量子领域大模型将充分发挥技术协同效应,并提升现有大模型在训练速度、模型性能、交互效率等各个方面的能力。

“大模型不是万能的”

“大模型不是万能的,不能过度神话它。”这句话,《中国科学报》记者今年在不同场合听到多次。最近一次,是在“CCF太原大模型赋能文物古建保护与传承论坛”上。自2022年底OpenAI推出大语言模型产品ChatGPT以来,世界仿佛一下子“觉醒”到大模型时代——不仅各“大厂”都在奋力发展大模型,喊出了“所有

中科闻歌发布雅意大模型

原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502201.shtm

科研团队成功利用人工智能蛋白语言模型揭示生命演化奥秘

  为什么不同生物在适应相似环境时,会独立演化出相似的功能?一项最新研究从蛋白质的“高阶特征”层面揭示了这一生命演化奥秘的重要机制。  这项研究由中国科学院动物研究所邹征廷研究员团队完成,成功利用人工智能领域的蛋白语言模型,揭示了蛋白高阶特征在功能适应性趋同演化中的关键作用,为理解生命演化之谜提供了

提高大语言模型可信度,新方法助生成式AI破除“幻觉”

人工智能(AI)在给出准确答案的同时,也会有一些“胡乱输出”令人难辨真假,这被称为“幻觉”(hallucination)。而新一期《自然》杂志发表的一项研究报道了一种新方法,能检测大语言模型(LLM)产生的“幻觉”,即该方法能测量生成回答的含义的不确定性,或能提升LLM输出答案的可靠性。类似Chat

崖州湾国家实验室联合发布首个种业大语言模型“丰登”

4月28日,崖州湾国家实验室精准设计与智造团队与中国农业大学、上海人工智能实验室共同发布首个种业大语言模型“丰登”。该模型集成了先进的人工智能技术与大数据分析,对海量来自不同渠道的育种科研文献、技术书籍及网络资源进行深度解析和索引,在品种选育过程、农艺性状描述、栽培技术推荐和历史推广区域查询等四大应

海大芯片助力物联通讯

近日,海南省2021年度科学技术进步奖揭晓。来自海南大学高等研究院电子科学与技术专业教授沈重团队的“物联网管控关键技术及其行业应用”项目,获得海南省2021年度科学技术进步奖一等奖。 该项目成功推动国家战略“天通一号”卫星物联通信事业在相关海域的部署与应用,确保周边遭受严重自然灾害时提供应急通信

酶标仪语言界面

  通常进口的中高档酶标仪人机对话多采用英文。这对于某些基层实验室可能会存在语言方面的困难,从而难以最大限度地发挥酶标仪的作用。为解决这方面的问题,已有一些酶标仪采用了中文界面。这样就大大方便了广大基层实验室技术人员的使用。  综上所述,尽管酶标仪的发展极为快速,种类繁多,功能也不断加强,但其最根本