Nvidia 搞的这个 NVIDIA TensorRT-LLM 开源库，官方数据是把 H100 和 A100 等 GPU 的 LLM 推理性能提高了一倍，
与此同时，科大讯飞在业绩说明会上被问到老美进一步收紧高性能 AI 芯片的出口管制的事情，它们的回复是在 2023 年就和华为昇腾启动专项攻关，当前华为昇腾910B能力已经基本做到可对标 A100.
希望咱们国内的生态也快起来！
Nvidia 搞的这个 NVIDIA TensorRT-LLM 开源库，官方数据是把 H100 和 A100 等 GPU 的 LLM 推理性能提高了一倍，
与此同时，科大讯飞在业绩说明会上被问到老美进一步收紧高性能 AI 芯片的出口管制的事情，它们的回复是在 2023 年就和华为昇腾启动专项攻关，当前华为昇腾910B能力已经基本做到可对标 A100.
希望咱们国内的生态也快起来！
评论列表