谷歌全新 TPU 拉动存储需求(特别是 HBM),持续看好海外存储原厂!
4 月 22 日,谷歌推出全新自研人工智能芯片 —— 第八代定制张量处理器,分别是面向训练的第八代训练芯片和面向推理的第八代推理芯片。
第八代训练芯片:单个第八代训练芯片超级芯片组现已可扩展至9600 张芯片和2PB 共享高带宽内存,芯片间带宽是上一代的2 倍。
第八代推理芯片:为了防止处理器闲置,第八代推理芯片将288GB 高带宽内存与384MB 片上静态随机存取存储器相结合,容量多达上一代的3 倍。
高带宽内存需求大幅提升。第八代推理芯片每颗芯片配备288GB 高带宽内存,带宽达到8.601TB 每秒,单个集群高带宽内存总容量331.8TB,是上一代产品的6.8 倍。
谷歌认为未来人工智能工作负载仍然强烈依赖高带宽内存,尤其是长上下文、混合专家模型、智能体推理这类场景。我们认为随着未来第八代推理芯片放量,高带宽内存需求提升明显。 微博股票