AI推理芯片激发新一轮应用创新

随着ChatGPT横空出世,人工智能(AI)领域的竞争进入白热化。英伟达公司的高端图形处理单元(GPU)芯片“一飞冲天”,受到各大科技公司追捧。与此同时,也有一些初创公司另辟蹊径,专注于研制另一种芯片——AI推理芯片,为AI产品的蓬勃发展和应用注入全新动力。 据物理学家组织网近日报道,这些AI推理芯片旨在降低生成式AI所需的高昂计算成本,更贴合AI工具的日常运行要求。此类芯片成本的不断下探和性能的持续提升,有望掀起新一轮AI应用创新浪潮,让更多复杂且强大的AI应用走进千家万户。 推理计算需求水涨船高 训练与推理,是AI大语言模型两大核心能力的坚固基石。 在应用过程中,经过训练的ChatGPT等生成式AI工具会吸纳新信息,从中进行推理并生成回应,如撰写文档、生成图像等。这类AI工具可应用于医疗诊断、自动驾驶、自然语言理解等领域。 随着AI模型的广泛应用,需要进行推理计算的硬件日益增多,对推理芯片的需求也将“水涨船高”......阅读全文

AI推理芯片激发新一轮应用创新

  随着ChatGPT横空出世,人工智能(AI)领域的竞争进入白热化。英伟达公司的高端图形处理单元(GPU)芯片“一飞冲天”,受到各大科技公司追捧。与此同时,也有一些初创公司另辟蹊径,专注于研制另一种芯片——AI推理芯片,为AI产品的蓬勃发展和应用注入全新动力。  据物理学家组织网近日报道,这些AI

OpenAI推出具备推理能力新AI模型

据ChatGPT制造者美国开放人工智能公司(OpenAI)官网12日报道,该公司已经成功研发出一系列具备推理能力的人工智能(AI)模型,并命名为“OpenAI o1”。这些模型的独特之处在于,其会花更长时间思考问题,再做出响应,就像人类一样。因此,这些模型能对复杂任务进行推理,解决以前模型很难解决的

OpenAI推出具备推理能力新AI模型

据ChatGPT制造者美国开放人工智能公司(OpenAI)官网12日报道,该公司已经成功研发出一系列具备推理能力的人工智能(AI)模型,并命名为“OpenAI o1”。这些模型的独特之处在于,其会花更长时间思考问题,再做出响应,就像人类一样。因此,这些模型能对复杂任务进行推理,解决以前模型很难解决的

多模态文本智能技术助力AI实现智能推理

随着人工智能(AI)深入各行各业,多模态大模型正在成为AI发展的重要方向之一。近日,第八届中国模式识别与计算机视觉学术会议(PRCV 2025)在上海召开,“多模态文本智能大模型前沿技术与应用”论坛同期举办。来自华南理工大学、哈尔滨工业大学、南开大学、华中科技大学、小红书及合合信息技术团队的专家与学

AI芯片展会|2024上海国际AI芯片展览会「上海半导体展」

2024年第二十一届中国国际半导体博览会(IC CHINA)时 间:2024 年 9 月 5 一 7 日地 点:中国·北京 · 北人亦创国际会展中心参展咨询:021-5416 3212大会负责人:李经理 136 5198 3978(同微)作为中国半导体行业协会主办的唯一展览会,自 2003 年起已连

学者发布无机材料AI模型,推理能力到达新高度

松山湖材料实验室研究员孟胜/刘淼团队在国家自然科学基金等项目的支持下,研发了一种基于深度学习图结构的通用预训练力场(graph-based pre-trained transformer force field,简称GPTFF)。相关成果近日发表于《科学通报(英文版)》(Science Bullet

新型芯片开启光速AI计算之门

原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517598.shtm

尖端芯片给AI装上“超级引擎”

为适应AI应用,计算机芯片需进行更多并行计算。图片来源:谷歌公司美国开放人工智能研究中心(OpenAI)首席执行官山姆·奥特曼等人认为,人工智能(AI)将从根本上改变世界经济,拥有强大的计算芯片供应能力至关重要。芯片是推动AI行业发展的重要因素,其性能和运算能力直接影响着AI技术的进步和应用前景。英

尖端芯片给AI装上“超级引擎”

  美国开放人工智能研究中心(OpenAI)首席执行官山姆·奥特曼等人认为,人工智能(AI)将从根本上改变世界经济,拥有强大的计算芯片供应能力至关重要。芯片是推动AI行业发展的重要因素,其性能和运算能力直接影响着AI技术的进步和应用前景。  英国《自然》杂志网站在近日的报道中指出,工程师正竞相开发包

新型芯片开启光速AI计算之门

美国宾夕法尼亚大学工程师开发了一种新型芯片,它使用光而不是电来执行训练人工智能(AI)所必需的复杂数学运算。该芯片有可能从根本上加快计算机的处理速度,同时还可降低能源消耗。相关研究发表在最新一期《自然·光子学》上。该芯片首次将本杰明·富兰克林奖章获得者纳德·恩赫塔在纳米尺度上操纵材料的开创性研究与硅

芯片设计或可借力AI“突围”

原文地址:http://news.sciencenet.cn/htmlnews/2022/9/486050.shtm EDA (电子设计自动化软件)是芯片设计和制造的核心工具,也是支撑万亿芯片产业规模的共性基础技术。 有了EDA软件,工程师可以从概念、算法、协议等出发,完成包括电路设计、版图

AI芯片热:中国能否弯道超车

   在一次次技术创新与产品迭代中,AI芯片正逐步走向现实。  中兴芯片危机爆发近一个月,芯片一直是国内的热点话题。而伴随着寒武纪科技在上海发布了首款云端智能芯片、谷歌正式发布第三代人工智能(AI)芯片TPU3.0等一系列动作,人们的注意力也越来越被吸引到AI芯片市场。市场研究公司Compass I

AI模拟芯片能效达传统芯片14倍

《自然》23日发表的研究报道了一种能效为传统数字计算机芯片14倍的人工智能(AI)模拟芯片。这一由IBM研究实验室开发的芯片在语音识别上的效率超过了通用处理器。该技术或能突破当前AI开发中因算力性能不足和效率不高而遇到的瓶颈。随着AI技术的崛起,对能源和资源的需求也随之上升。在语音识别领域,软件升级

阿里云:CPU为中心的计算体系也可加速AI推理

原文地址:http://news.sciencenet.cn/htmlnews/2024/1/515906.shtm

模拟芯片大幅削减AI模型运行能耗

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/507457.shtm

模拟芯片大幅削减AI模型运行能耗

  模拟计算机芯片运行人工智能(AI)语音识别模型的效率是传统芯片的14倍,有可能为AI研究中巨大且不断增长的能源消耗以及全球范围内通用数字芯片短缺问题提供解决方案。  这一新产品由IBM Research开发,概述这项工作的论文发表于《自然》。研究人员声称,模拟芯片可以减少人工智能发展的障碍。  

用于边缘AI的神经形态芯片问世

科技日报北京8月21日电 (实习记者张佳欣)一个国际研究团队设计并制造了一种直接在内存中运行计算的芯片,可运行各种人工智能(AI)应用,而且它能在保持高精度的同时,仅消耗通用AI计算平台所耗能量的一小部分,兼具高效率和通用性。相关研究发表在最近的《自然》杂志上。这款名为NeuRRAM的神经形态芯片使

AI芯片可用电场而非电流执行计算

运行生成式人工智能(AI)系统不仅硬件成本高昂,而且会带来惊人的能源消耗。据科技网站TechCrunch最新报道,总部位于德国的初创公司塞姆龙最新开发出一种创新的AI芯片设计方法,率先使用新的神经网络控制设备——忆容器为其3D芯片供电。这有可能彻底改变节能计算技术,使消费电子设备更容易获得先进的AI

韩国:神经元芯片成AI研发“明星”

纳沛斯半导体是一家大型半导体封测企业,在韩国和全球半导体业界以技术和实力著称。不久前,记者参加了纳沛斯半导体公司的一场产品说明会,会后采访了该公司未来智能事业部部门长安廷镐先生。说明会由安先生主持,会上的明星是一款产品编号为NM500的AI芯片,被称为全球第一片正式量产的神经元芯片(NPU)。   

AI芯片可用电场而非电流执行计算

原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517190.shtm

AI教育风潮席卷中国高校-学生用AI学AI

  “What does this machine do(这台机器是干什么的)?”4日下午,西南交通大学孟加拉国留学生Zahidul Alam拍下身前吊弦疲劳试验仪器的照片。收到他的语音提问后,手机中的24小时在线“AI学伴”瞬间给出如论文般详细的英文回答。  这是西南交大首门人工智能通识课的第一课

用AI识别AI:西湖大学研究可检测AI生成文本

虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利,但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT,无需训练即可识别各种AI大语言模型生

新型AI芯片将大语言模型能耗减半

  美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。  当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参

Meta开始测试首款自研AI训练芯片

据路透社当地时间11日报道,消息人士称,Meta公司正在测试其首款用于训练人工智能(AI)系统的芯片。路透社认为,这是Meta朝着设计更多自己的定制芯片、减少对外部供应商(如英伟达)依赖的关键一步。报道称,Meta已开始进行小规模的芯片部署,并计划在测试顺利后大规模生产。据路透社介绍,Meta拥有F

英特布局车载AI芯片-首批将在2024年推出

1月10日,英特尔在CES 2024展会上宣布进军汽车市场。该公司将发布一系列AI软件定义汽车系统芯片(SDV SoC),进入车用芯片市场,与高通和英伟达展开竞争。同时,英特尔还宣布收购法国初创公司Silicon Mobility。这家初创公司开发了用于控制电动汽车电机和车载充电系统的片上系统技术和

“AI+”时代-|-AI“解码”免疫系统

  人体免疫系统包含了很多有关身体健康的信息,其中的关键部分就包含在血液中。医学界提出了一个大胆设想:通过创建一个万能的血液测试,采集免疫系统与病原体之间的反应信息,绘制“免疫图谱”,从而解码免疫系统中的信息,及时在疾病恶化前筛查确诊。那么,什么样的平台能提供足够的计算力,不断通过机器学习和精准模型

ChatGPT的拷问:何为AI伦理、AI治理

原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm   前不久,AI聊天机器人程序ChatGPT席卷全球,完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用,ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各

ChatGPT的拷问:何为AI伦理、AI治理

前不久,AI聊天机器人程序ChatGPT席卷全球,完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用,ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来,不少关于人工智能(AI),并和人类生产、生活关系紧密的议题被广泛讨论,诸如“如何应对AI可能对社会产生

迄今最快AI芯片拥有4万亿个晶体管

原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519270.shtm

模拟AI芯片将语音识别能效提升14倍

  美国IBM研究实验室的科学家报告了一种能效为传统数字计算机芯片14倍的人工智能(AI)模拟芯片。这一芯片在语音识别上的效率超过了通用处理器,该技术或能打破当前AI开发中因对算力性能和效率的需求而遇到的瓶颈。相关研究近日发表于《自然》。  随着AI技术的崛起,对能源和资源的需求也随之上升。在语音识