发布时间:2023-08-31 14:01 原文链接: 微电子所在28nmRRAM存内计算电路研究中获进展

  物联网与人工智能技术的发展对边缘节点计算平台的实时数据处理能力与能效提出了更高要求。基于新型存储器的非易失存内计算技术可实现数据的原位存储与计算,将数据搬运带来的功耗与延迟开销最小化,从而提升边缘设备的数据处理能力与效能比。然而,由于基础单元特性的非理想因素和阵列中的寄生效应以及模数转换电路的硬件开销,非易失存内计算面临着计算性能与能效方面的限制。中国科学院院士、微电子研究所研究员刘明团队采用跨层次协同设计的方法,提出了高并行与高效能比的新型RRAM存内计算结构。

  在器件层面,该研究提出了带权重二晶体管一忆阻器(WH-2T1R)的存算阵列结构。相较于1T1R结构,WH-2T1R结构使用core晶体管构成解耦的存算数据通路以减小寄生效应对计算电流的影响,只额外造成30.3%的面积开销。计算单元利用第二晶体管亚阈值区放大特性提高了计算13.5倍开关比的同时降低了88%的低阻态计算电流,从而实现了63.4%的乘加操作功耗降低。得益于计算开关比的提升,该RRAM存内计算结构可支持更高的输入并行度和多比特乘加操作。

  在电路层面,该研究提出了参考电流减式电流型灵敏放大器的读出电路。由参考电流减支路根据上一次读出结果先对输入电流进行电流减再送到电流镜读出数据。参考电流减支路对半减小了电流镜输入电流范围,使RRAM存算结构支持的计算电流范围倍增,可实现更高输入并行和多比特乘加,并降低了79.5%的读出电路功耗。该研究通过进一步优化电流型灵敏放大器电流减配置,实现了积分非线性误差5倍提升以及微分非线性误差3.75倍提升。

  在算法映射层面,该研究提出了高位数据冗余(MSB_RSM)的映射策略。RRAM存内计算结构配备不同的第二晶体管multiplier参数的多组阵列和额外的一组冗余阵列。不同的第二晶体管用于映射多比特权值的不同比特位。由于RRAM和晶体管非理想因素对计算电流的影响,冗余阵列用于额外映射权值对非理想因素补偿。科研人员经过对不同比特位补偿效果的分析发现,MSB-RSM对高位权值进行操作时可减小1σ误差40%。得益于更稳定的计算电流,在ResNet-18模型下的CIFAR-10和CIFAR-100任务的准确度提升了0.96%和2.83%。

  上述方案在研究团队开发的嵌入式28nm工艺上得到验证。新型RRAM存内计算结构支持高并行的模拟域乘加操作,在1比特输入、3比特权值、4比特输出下ResNet-18任务中的平均能效达到了30.34TOPS/W,并可通过进一步优化将读出时序提升到154.04TOPS/W。该研究通过单元、电路以及系统面的系统设计,为高能效、高精度的模拟存内计算提供了新思路。

  相关研究成果以A 28nm RRAM Computing-in-Memory Macro Using Weighted Hybrid 2T1R Cell Array and Reference Subtracting Sense Amplifier for AI Edge Inference为题,发表在《IEEE固态电路杂志》上。

image.png

(a)基于RRAM的存内计算芯片结构框图;(b)芯片晶圆照片及版图;(c)芯片测试数字波形;(d)芯片参数

相关文章

香港生产力促进局聚焦智能制造和生成式人工智能

4月16日,香港生产力促进局举行“透过工业人工智能赋能企业走向先进制造”会议。该会议聚焦智能制造、生成式人工智能等方向,旨在充分释放工业人工智能与机器人在企业的应用与发展潜力,促进企业实现高增值生产。......

“人工智能+”的前瞻实践:打造医疗影像AI国家级平台

近日,“医疗影像国家新一代人工智能开放创新平台建设”专项结题,医疗影像AI实现从研发到落地全流程打通。据悉,该项目完成了共性技术平台建设、开源医疗数据库和算法资源库建设、行业标准体系建设,以及上下游企......

工业和信息化部:我国人工智能企业数量超过4500家

人工智能是引领新一轮科技革命和产业变革的战略性技术,是新型工业化的重要推动力。工业和信息化部昨天表示,我国人工智能企业数量已经超过4500家。工业和信息化部新闻发言人陶青表示,下一步,围绕算法、算力等......

爆发的AI技术正给教育者带来多重焦虑

日前,一场闭门研讨会吸引了全国数十所高校的管理者和学者。会议现场,一个个问题的提出,加剧着与会者的焦虑情绪。眼下,人工智能(AI)的发展已开启加速度,如果人类未来能够通过AI获得自己想学的任何知识,获......

工信部:加速推进大数据、人工智能等研发应用

国新办于4月18日(星期四)上午10时举行新闻发布会,工业和信息化部新闻发言人、总工程师赵志国表示,下一步,工信部将围绕高质量发展这个首要任务,进一步巩固提升信息通信业竞争优势和领先地位。一是夯基础。......

AI为寻找外星生命拓展新视野

一颗荒凉而贫瘠的外星,背景是紫色的天空,以及恒星、行星、卫星、小行星等(艺术想象图)。图片来源:美国《福布斯》双周刊网站遍布地球和太空的庞大观测网络(艺术想象图)。图片来源:美国《福布斯》双周刊网站在......

人工智能在多项任务中击败人类

一名女子与中国香港SenseTime公司开发的AI机器人下围棋。本报讯4月15日,美国斯坦福大学人工智能研究所发布《2024年人工智能指数报告》,描绘了过去10年机器学习系统的飞速发展。报告显示,聊天......

美AI巨头被控秘密“侵吞”数据

人工智能(AI)迅速发展离不开对模型的训练。然而,高质量数据短缺以及部分领域封闭式的数据生态似乎成为AI发展的掣肘。据多家外媒报道,OpenAI、谷歌和Meta等公司正寻求在线信息来训练最新的AI系统......

人工智能如何赋能科学研究?他们这样说

4月12日上午,中国科学院深圳先进技术研究院(简称“深圳先进院”)举办“探Sora真相,论AI未来”人工智能沙龙讲座。本次活动邀请到人工智能领域的专家学者围绕人工智能领域前沿技术进行了深入探讨和分析,......

政校企院共建,四川省人工智能学院揭牌成立

4月11日,由政校企院四方共建的“四川省人工智能学院”正式获批成立,揭牌仪式在电子科技大学举行。据介绍,四川省人工智能学院采取“1+N”政校企院共建模式,以电子科技大学为牵头单位,四川省教育厅、经济和......