首页 > 新闻 > 投研信息

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

内存成AI算力提升硬件瓶颈,LPDDR4X/5X性价比明显

第一财经 2023-07-03 18:18:30

作者:冯丽君    责编:黄宇

AI大模型层出不穷,算力需求井喷,而内存成为了当下算力提升的硬件瓶颈。

“模型每两年会增加百倍,内存带宽两年最多增加两倍。”AI芯片企业燧原科技高级总监史金涛近日在奎芯科技品牌开放日上表示,芯片执行效率取决于本地内存容量和带宽,图像生成类模型对芯片内存容量要求很高,至少需要20GB或更高,容量越大越好。超高内存带宽是相关加速芯片特别是AI训练芯片的必然选择;而AI推理芯片对于内存类型的选择,则更注重性价比的平衡。

DRAM是当前市场主流的内存芯片。TrendForce预计,2023年全球DRAM市场规模将达1552亿美元。

根据应用场景不同,JEDEC将DRAM定义为GDDR、DDR和LPDDR三个系列。

GDDR是专为需要极高吞吐量的数据密集型应用程序,如图形相关应用程序、数据中心加速和AI设计的高性能存储器。GDDR有专属的工作频率、时钟频率、电压,较常见的DDR时钟频率更高,发热量更小,常搭配高端显卡使用,目前最新的主流标准是GDDR6。

DDR多用于服务器、云计算、网络、笔记本电脑、台式机以及嵌入式等应用,支持更高的通道宽度、更高的密度和更低的延时,目前最新的主流标准是DDR5,最大单晶密度支持64GB,最大传输速度6.4Gbs。

目前DDR5内存接口芯片的竞争格局与DDR4世代类似,全球由澜起科技(688008.SH)、瑞萨电子和Rambus三家供应商提供DDR5第一子代的量产产品。其中,澜起科技2022年牵头制定DDR5第二子代、第三子代内存接口芯片及第一子代高带宽内存接口芯片MDB等产品的国际标准,并积极参与DDR5第一子代CKD和DDR5内存模组配套芯片标准制定。

LPDDR多用于移动设备以及汽车等对功耗较敏感的设备,LPDDR的架构和接口针对低功耗应用进行了专门优化,提供更窄的通道宽度、尺寸更小、工作电压更低和支持多种低功耗运行状态,目前最新的主流标准是LPDDR5X。

燧原科技高级总监史金涛认为,AI大模型背景下的内存成为硬件瓶颈,在AIGC应用场景下,追求极致推理应用性价比,LPDDR4X/5X意义明显。

IP是芯片设计的上游,奎芯科技聚焦数据中心、人工智能等领域,推出多款高速接口、基础库和模拟IP。奎芯科技副总裁王晓阳表示,奎芯科技的LPDDR4X PHY IP目前已成功回片,其在单通道16位带宽下,最高传输速度可达4267Mbps,走在产业演进的趋势前沿。

中山大学微电子学院副院长虞志益表示,LPDDR为了强化低功耗推理能力,会进一步通过降低工作电压、优化电源管理、引入新的低功耗技术来追求更低的功耗水平。

LPDDR5X PHY是奎芯科技最新研发成功的一款高性能内存物理层IP。王晓阳介绍称,LPDDR5X PHY采用全新的架构设计和优化算法,相较于前代产品具有更高的带宽、更低的功耗和更快的传输速度。

“自此,奎芯科技在串行总线接口和并行总线接口两大类产品上均有最先进工艺节点的产品支撑。”王晓阳称。

举报

文章作者

一财最热
点击关闭