闪迪秀高带宽闪存 HBF:助力单 AI GPU 满足前沿模型推理存储需求

闪迪秀高带宽闪存 HBF:助力单 AI GPU 满足前沿模型推理存储需求

2 月 13 日消息,闪迪即将在今年一季度完成从西部数据的拆分,并计划独立上市。而在当地时间本月 11 日的投资者活动上,闪迪介绍了其有望改变 AI 推理 GPU 存储生态的前沿技术高带宽闪存 HBF。

闪迪的 HBF 是一款带宽优化的 NAND 产品,采用了与 HBM 基本一致的设计思路(大量 I/O 引脚、多层堆叠)并与 HBM 共享相同电气接口,带宽也能与 HBM 匹配。不过 HBF 对协议进行了调整以适应存储介质从 DRAM 到 NAND 的切换,因此 HBF 和 HBM 不完全兼容

在 HBF 中多层核心裸晶(Core Die)采用微凸块(Micro Bump)的方式采用硅通孔(TSV)的手段堆叠在一起,整个 HBF 堆栈底部则是负责同计算芯片通信的逻辑裸晶(Logic Die)。

闪迪宣称其 HBF 技术可实现超低的裸晶翘曲,目前已可实现 16 层堆叠,单堆栈容量可达 512GB

这意味着 2.5D 集成 8 个 HBF 堆栈的单个 AI GPU 就能拥有高达 4096GB(4TB)的存储空间,是纯 HBM 方案的 20 倍以上,可满足参数约 1.8T 的前沿 LLM 模型的推理运行需求

此外由于 HBF 和 HBM 技术路线、性能参数上的相似性,AI GPU 也可混合配置两种存储,形成 3072GB HBF + 48GB HBM 等可高度自定义的组合。

除在 AI 推理 GPU 上的应用外,闪迪的 HBF 也有望成为边缘 AI 的重要助力:单颗 HBF 就可容纳完整的 64B 模型。

闪迪的 HMF 高带宽闪存开发得到了主要 AI 企业的助力,其计划推动构建 HMF 开放标准生态系统以实现无缝系统集成。

对于未来 HMF 产品,闪迪也早有规划:目标到第三代实现 2 倍容量、2 倍读取带宽和 36% 功耗降低。

特别声明:[闪迪秀高带宽闪存 HBF:助力单 AI GPU 满足前沿模型推理存储需求] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

无人机如何才能合法运营?这两个证件需要准备!缺少任何一个都不行(无人机如何才能 正射投影)

2024年《无人驾驶航空器飞行管理暂行条例》明确规定:企业使用无人机从事商业运营活动必须持有运营证,无证运营最高将面临50万元的罚款;个人操控无人机,尤其是重量在4kg以上的无人机或者用于商业用途时,必须持…

无人机如何才能合法运营?这两个证件需要准备!缺少任何一个都不行(无人机如何才能 正射投影)

原子灰灌装机-染料灌装机-乳液灌装机(原子灰灌装机械设备全自动)

本公司提供多种规格的聚醚灌装机、液体肥料灌装机、润滑油灌装机、自动输送灌装机、有泡沫灌装机等成套包装设备,广泛应用于液体、粉末、膏体等不同物料的包装。 ■定量灌装的自动和手动方式可选择----方便操作及维…

原子灰灌装机-染料灌装机-乳液灌装机(原子灰灌装机械设备全自动)

有啥魅力?江珊能嫁,二婚的货车司机田小洁!(有啥魅力?江珊演员)

2001年,在一次活动中,他结识了比自己年轻七岁的编导系学生曾萍,并对她一见钟情。一开始江珊婉拒了他的追求,但田小洁并未放弃,依然默默关心她,直到2017年江珊的父亲突发高血压住院,田小洁第一时间赶到医院照顾…

有啥魅力?江珊能嫁,二婚的货车司机田小洁!(有啥魅力?江珊演员)

主流害怕的地方,这才是大团圆,德云鼓曲社新加坡聚餐满满两桌人(令人害怕的地方)

相较于刘哲,张鹤擎在照片中显得有些模糊,仅能依稀辨认出他手做剪刀的特殊姿势,这无疑为他在聚餐中的存在感增添了一丝特色。 与张鹤擎同桌的演员们远离镜头,因而无法清晰捕捉到他们的面貌,而刘哲坐的这一桌却是人尽皆知…

主流害怕的地方,这才是大团圆,德云鼓曲社新加坡聚餐满满两桌人(令人害怕的地方)

千亿铸新城!超两倍纽约的雄安,现在长啥样?(千亿新城开发商是谁)

在这里,接近90%的新建楼盘运用了工厂预制、现场安装的绿色方式——“搭积木”式造房,建筑噪音和扬尘锐减;地热成为能源主角,取代千千万万个小锅炉吐出的黑烟;城市并非一味的坚硬与冰冷,绿意环绕着建筑,道路之间也巧…

千亿铸新城!超两倍纽约的雄安,现在长啥样?(千亿新城开发商是谁)