新闻中心

EEPW首页 > 网络与存储 > 业界动态 > Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

作者:时间:2023-12-07来源:收藏

作为业界领先的芯片和IP核供应商,致力于使数据传输更快更安全, Inc.(纳斯达克股票代码:RMBS)今日宣布 HBM3IP现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。相比HBM3 Gen1 6.4 Gbps 的数据速率, HBM3的数据速率提高了50%,总内存吞吐量超过1.2 TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。

本文引用地址:http://www.amcfsurvey.com/article/202312/453669.htm

无标题.jpg

Rambus HBM3控制器模块图

Rambus IP核部门总经理 Neeraj Paliwal 表示:“大语言模型要求高性能内存技术的不断进步,使得HBM3成为AI/ML训练的首选内存。依靠Rambus的创新和卓越的工程技术,我们的HBM3IP可提供业界领先的9.6 Gbps性能。”

IDC内存半导体副总裁 Soo-Kyoum Kim 表示:“HBM 是更快速且更高效的处理大型 AI 训练和推理集的关键内存技术,比如用于生成式 AI 的训练和推理。对于像Rambus这样的 HBM IP供应商来说,持续提高性能来支持满足市场苛刻要求的领先 AI 加速器的意义重大。”

HBM采用创新的2.5D/3D架构,为AI加速器提供具有高内存带宽和低功耗的解决方案。凭借极低的延迟和紧凑的封装,HBM已成为AI训练硬件的首选。

Rambus HBM3 内存控制器 IP 专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。对于选择第三方HBM3 PHY的客户,Rambus还提供HBM3控制器的集成与验证服务。

Rambus HBM3内存控制器从即日起提供许可证。



关键词: Rambus 内存控制器

评论


技术专区

关闭