传英伟达向SK海力士和美光大量预购HBM3内存

据消息人士透露，英伟达除了大量预定台积电产能外，还投入了巨资以确保其 HBM3 内存的供应。该公司从美光和 SK 海力士那里预购了价值介于 700 亿至 1 万亿韩元的 HBM3 内存。虽然目前没有公开关于这些款项具体用途的信息，但业内人士普遍认为这是为了确保 2024 年 HBM 供应的稳定。

此外，还有业内人士透露，三星电子、SK 海力士、美光三大存储公司明年的 HBM 产能已完全售罄。业内人士预计，在AI领域半导体公司的激烈竞争推动下，HBM市场有望在未来两年内迎来爆发式增长。

据悉，英伟达正在筹备两款搭载HBM3E内存的新品：分别是配备高达141GB HBM3E内存的H200 GPU和GH200超级芯片。这两款产品的推出无疑将进一步提升英伟达对HBM内存的需求。

H200 是目前世界上最强的 AI 芯片，也是世界上首款采用 HBM3e 的 GPU，基于 NVIDIAHopper 架构打造，与 H100 相互兼容，可提供 4.8 TB/s 速度。

在人工智能方面，英伟达表示，HGX H200 在 Llama 2（700 亿参数 LLM）上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供，与 H100 系统中的软件和硬件兼容。它将适用于每一种类型的数据中心（本地、云、混合云和边缘），并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，将于 2024 年第二季度推出。

英伟达一直是人工智能（AI）和高性能计算（HPC）领域的领先者。英伟达的决策表明其对高带宽内存（HBM3）供应的重视，这将有助于确保其未来产品的高性能和竞争力。