让零变得真正有用的稀疏计算正成为AI节能新风口

在人工智能模型越做越大的今天,能耗与时间成本正成为难以承受之重。斯坦福大学的研究团队提出了一条截然不同的路径:与其不断堆大模型的参数,不如让硬件学会“善待”模型内部那些大量的零。他们研发的稀疏计算芯片Onyx,平均只消耗CPU七十分之一的能量,运算速度却快达八倍——这背后,是一场把“零”变成AI英雄的硬件革命。一、核心结论:稀疏计算让大模型更省电对AI模型而言,规模确实重要。尽管有专家警告,不断扩大大语言模型(LLM)的边际收益正在递减,企业仍在不断推出更大的模型——Meta最新的Llama版本参数量高达两万亿。模型越大能力越强,但运行所需的能量、时间与碳足迹也随之飙升。缓解之道通常有两个:改用更小、能力更弱的模型,或尽量用低精度数字表示参数。但还有第三条路:保留大模型的高性能,同时大幅削减运行开销——关键在于与模型内部的“零”做朋友。对许多模型来说,大部分参数(权重与激活值)本就是零,或足够接近零,完全可以当作零处理而不损失精......阅读全文

让零变得真正有用的稀疏计算正成为AI节能新风口

在人工智能模型越做越大的今天,能耗与时间成本正成为难以承受之重。斯坦福大学的研究团队提出了一条截然不同的路径:与其不断堆大模型的参数,不如让硬件学会“善待”模型内部那些大量的零。他们研发的稀疏计算芯片Onyx,平均只消耗CPU七十分之一的能量,运算速度却快达八倍——这背后,是一场把“零”变成AI英雄

稀疏培养的定义

中文名称稀疏培养英文名称spare culture定  义不足50%汇合的细胞生长的培养技术。应用学科细胞生物学(一级学科),细胞培养与细胞工程(二级学科)

频域稀疏毫米波人体安检成像处理和快速成像稀疏阵...2

由于人体目标在空间域为连续分布,其图像在频域应具有稀疏性。但在毫米波人体复图像中,由于分辨单元间复散射系数不同、空间采样间隔通常远大于波长,其图像分辨单元初始相位是随机变化的[11],该随机初始相位主要是由于斜距方向分辨单元间复散射系数不同和斜距方向采样间隔较大而产生,由此使复图像频谱 α 较宽难以

频域稀疏毫米波人体安检成像处理和快速成像稀疏阵...3

4.3 误差分析上述成像结果表明,基于干涉处理和频域CS的频域稀疏3维成像算法能够在稀疏采样条件下恢复目标场景,且图像具有与满采样相当的分辨率水平。为了定量分析所提方法在稀疏采样下的图像重建性能,本文将满采样对应的图像近似作为目标真值,采用均方根误差(Root Mean Square Error

频域稀疏毫米波人体安检成像处理和快速成像稀疏阵...1

频域稀疏毫米波人体安检成像处理和快速成像稀疏阵列设计田鹤①②, 李道京①, 祁春超③    摘要:该文研究工作包括频域稀疏毫米波人体安检成像数据处理和用于快速安检成像的稀疏阵列设计两部分。首先基于柱面扫描成像模型,采用巴克码随机稀疏采样方式减少成像所需数据量;提出一种基于干涉处理和频域压缩感知的3维

时空稀疏小样本学习大规模神经形态数据集发布

近日,中科院自动化研究所研究员曾毅团队提出了一个用于时空稀疏小样本学习的大规模神经形态数据集——N-Omniglot,为脉冲神经网络的学习与训练提供了一个更具挑战性的基准。相关研究成果发表于自然出版社旗下期刊《科学数据》。 深度学习的成功在很大程度上归功于像ImageNet和COCO这样的数据集的引

新型芯片开启光速AI计算之门

美国宾夕法尼亚大学工程师开发了一种新型芯片,它使用光而不是电来执行训练人工智能(AI)所必需的复杂数学运算。该芯片有可能从根本上加快计算机的处理速度,同时还可降低能源消耗。相关研究发表在最新一期《自然·光子学》上。该芯片首次将本杰明·富兰克林奖章获得者纳德·恩赫塔在纳米尺度上操纵材料的开创性研究与硅

新型芯片开启光速AI计算之门

原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517598.shtm

新方法为点源稀疏的观测视场带来好消息

近日,中国科学院紫金山天文台(以下简称紫金山天文台)的研究人员提出了一种利用多次曝光的星系图像来限制点扩散函数(PSF)的新方法,相关研究成果在线发表于《皇家天文学会月报》。记者从紫金山天文台获悉,弱引力透镜效应是遥远天体(背景星系)发出的光线在传播路径中受到引力质量偏折后,使观测到的背景星系图像发

版纳园提出基于稀疏图结构的基因组组装改进方法

  全基因组组装工作是生物信息领域最基础也是最难的课题之一。长久以来,这项工作的实现需要耗用极大量计算机内存。   曾在中科院西双版纳热带植物园动植物关系研究组工作的叶承羲(现为美国马里兰大学计算机系计算生物方向博士研究生)在该园工作期间内,提出一新颖简洁的算法解决了这一难题。2012年4月,叶承

为何老人的头发越来越稀疏-源于一胶原蛋白被分解

  新华社东京2月14日电 (记者蓝建中)随着年龄增加,人们的头发会逐渐稀疏。日本东京医科齿科大学的研究人员发现,这是由于维持毛囊干细胞功能的一种重要蛋白质被分解,导致毛囊逐渐萎缩并消失。这一发现将有助于开发治疗脱发的新方法。  人类头发生长3至5年后自然脱落,此后同一个位置会长出新的头发,这是由于

反认知思想!聪明人的大脑神经元连接稀疏

  传统上,我们认为人越聪明,大脑皮层神经元之间连接越多。但是,波鸿鲁尔大学的神经科学家Erhan Genç和Christoph Fraenz等人却发现事实恰恰相反。他们的这项最新研究发表于《Nature Communications》,采用的方法是一种特殊的神经成像技术,该技术为科学家们在大脑微观

罗敏敏/龚辉合作组开发神经元稀疏标记方法

  脑连接图谱研究是神经生物学主要的研究课题之一。以往研究主要注重于描绘大脑中的不同脑区之间以及不同位置神经元类群之间的连接。虽然这些脑连接图谱揭示了神经系统的基本结构,但由于缺乏单细胞精度,脑区水平或神经元类群水平的连接图谱并不能准确反映神经系统的精细结构。目前,有两个因素限制了单神经元连接谱的研

NISB发表:神经元稀疏标记方法实现全脑范围单细胞重构

  脑连接图谱研究是神经生物学主要的研究课题之一。以往研究主要注重于描绘大脑中的不同脑区之间以及不同位置神经元类群之间的连接。虽然这些脑连接图谱揭示了神经系统的基本结构,但由于缺乏单细胞精度,脑区水平或神经元类群水平的连接图谱并不能准确反映神经系统的精细结构。目前,有两个因素限制了单神经元连接谱的研

AI芯片可用电场而非电流执行计算

原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517190.shtm

AI芯片可用电场而非电流执行计算

运行生成式人工智能(AI)系统不仅硬件成本高昂,而且会带来惊人的能源消耗。据科技网站TechCrunch最新报道,总部位于德国的初创公司塞姆龙最新开发出一种创新的AI芯片设计方法,率先使用新的神经网络控制设备——忆容器为其3D芯片供电。这有可能彻底改变节能计算技术,使消费电子设备更容易获得先进的AI

类脑计算机会成为AI时代的“宠儿”吗

BrainChip公司推出的Akida神经形态芯片。图片来源:BrainChip公司官网现代计算机对电力的需求正在以惊人速度增长,许多科技公司正努力开发更节能的硬件。但是,人们能否构建一种全新架构的计算机,从而在节能方面实现质的飞跃?一些公司给出了肯定的答案。他们正在利用神经神态计算技术,制造像大脑

新思路!稀疏傅里叶单像素成像方法-实现超分辨率成像

  近期,中国科学院合肥物质科学研究院安徽光学精密机械研究所时东锋等科研人员提出了稀疏傅里叶单像素成像方法,该方法在降低采样数量的同时,能够维持图像质量不发生大的退化。该研究成果发表在最新一期Optics Express上。  傅里叶单像素成像利用傅里叶变换性质,采用具有傅里叶分布的照明光来获取物体

全新忆阻器超越现有机器学习系统

  在当今“大数据”时代,现有计算机硬件架构已面临速度和高能耗的瓶颈。科技日报记者日前采访美国密西根大学电子工程与计算机系卢伟教授获悉,他带领同事研发出一种全新忆阻器(Memristor)阵列芯片,其处理图片和视频等复杂数据的速度和能效,超越了现有最先进机器学习系统。相关论文发表在最近一期《自然·纳

自动化所程健团队获NeurIPS-2019双料冠军

  12月8日至14日,神经信息处理系统大会(NeurIPS 2019)在加拿大温哥华举行,中国科学院自动化研究所研究员程健团队在大会的神经网络压缩与加速竞赛(MicroNet Challenge)中获得双料冠军。  MicroNet Challenge包括ImageNet图像分类、CIFAR-10

用AI自动设计芯片?计算所取得重要进展

芯片设计是一项非常挑战且耗费人力和资源的工作——通常需要由工程师团队编写代码,然后在电子设计自动化(EDA)工具的辅助下生成电路逻辑;针对人工编写的代码,工程师团队需反复对其进行迭代的功能验证和性能、功耗进一步优化。整个过程通常需要数以百计的研究团队、迭代数月或数年才能完成。人工智能能否帮助人们自动

用AI自动设计芯片?计算所取得重要进展

芯片设计是一项非常挑战且耗费人力和资源的工作——通常需要由工程师团队编写代码,然后在电子设计自动化(EDA)工具的辅助下生成电路逻辑;针对人工编写的代码,工程师团队需反复对其进行迭代的功能验证和性能、功耗进一步优化。整个过程通常需要数以百计的研究团队、迭代数月或数年才能完成。人工智能能否帮助人们自动

AI硬件处理走向3D

原文地址:http://news.sciencenet.cn/htmlnews/2023/10/510600.shtm

新一代人工智能:“轻”装上阵-普惠民生

  深度学习近些年来迅猛发展,在人工智能领域显现出了强大的威力。然而这一切是有代价的。为了完成日益复杂的AI任务,神经网络模型体量暴增,对服务器的储存和算力要求也水涨船高,由此产生的经济成本、耗费的电量、对环境的污染正在困扰着这个行业。  人工智能的这场游戏正变得越来越“笨拙”,也越来越奢侈。于是,

清华类脑计算模型登Nature子刊,受大脑启发的人工树突网络,实现高能效AI

  5 月 30 日,清华大学类脑计算研究中心施路平团队,研发出全球首款类脑互补视觉芯片「天眸芯」,研究成果登上 Nature 封面。  近日,该团队推出一种新的神经形态计算架构,即类脑神经计算模型 「Dendristor」。  「Dendristor」旨在复制突触的组织(即神经元之间的连接)和树突

Meta推出新版自研AI芯片:性能较上代提高3倍

AI(人工智能)芯片紧缺之际,越来越多科技巨头选择自行研发。当地时间4月10日,社交巨头Meta公布了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片系列。和去年五月官宣的Meta第一代AI推理加速器MTIA v1相比,最新版本芯片在性能上有显著提升,专为Me

光学AI处理器可高效准确分类无线信号

  据最新一期《科学进展》杂志报道,美国麻省理工学院团队开发出一种专为无线信号处理而设计的全新人工智能(AI)硬件加速器。这种光学处理器能以光速进行机器学习运算,可在数十纳秒内完成无线信号分类,且准确率可达95%。其可广泛应用于高性能计算场景,远胜现有的数字AI加速器。  新型光学处理器的艺术概念图

硬件加速器系统Mentor-Veloce-Strato-TiL共享应用

仪器名称:硬件加速器系统-Mentor Veloce Strato TiL仪器编号:18503447产地:美国生产厂家:Mentor Graphics型号:Mentor Veloce Strato TiL出厂日期:购置日期:2018-12-10所属单位:集成电路学院>微纳加工平台>高精尖放置地点:荷

风机节能的方法和节能的计算

风机节能的方法风机变频节能有减少运行时间、采用率机器及设备、减少空气动力等等多种的节电方法。风机变频节能有电磁调速电动机调速、转子回路串电阻调速、变极调速、液力耦合离合器调速、调压调速以及调压变频调速等等多种调速方式。对风机进行调速控制是属于减少空气动力的节能方法,主要是利用轴功率和转速的三次方成正

尖端芯片给AI装上“超级引擎”

  美国开放人工智能研究中心(OpenAI)首席执行官山姆·奥特曼等人认为,人工智能(AI)将从根本上改变世界经济,拥有强大的计算芯片供应能力至关重要。芯片是推动AI行业发展的重要因素,其性能和运算能力直接影响着AI技术的进步和应用前景。  英国《自然》杂志网站在近日的报道中指出,工程师正竞相开发包