泡泡资讯网

全栈服务与应用生态 ‌提供高性能训推引擎‌:移动云展示了从底层芯片适配到上层应用

全栈服务与应用生态
‌提供高性能训推引擎‌:移动云展示了从底层芯片适配到上层应用开发的全栈服务能力。其高性能训推引擎支持大EP、动态PD及KVCache池化等技术,显著提升训练与推理效率。数据显示,其‌国产化推理单路吞吐≥33 TPS,万卡线性加速比>96%‌,且支持万卡训练稳定运行23天。

‌保障安全并赋能开发者‌:在数据安全方面,移动云提供‌芯片级TEE与可信计算能力‌,确保全链路安全。面向开发者生态,移动云提供智能体开发支持与模型迁移适配服务,通过“算力+模型+应用”的协同,致力于降低AI使用门槛,繁荣AI原生应用生态。‌‌‌