跳到正文
NVIDIA Blog· Amr Elmeleegy·· 10 天前AI 评分57

NVIDIA 发布 Dynamo 优化部署配方,支持韩国四款开放模型

NVIDIA Dynamo Recipes Bring Korea’s Leading Open Models to Production

AI 导读

NVIDIA 发布针对 A.X K2、K-EXAONE 2.0、Solar Open 2 和 Motif-3 的 Dynamo 优化部署配方。这些配方基于开源分布式推理服务框架 NVIDIA Dynamo,针对 NVIDIA B200 GPU 优化多节点部署,开箱最高可实现 2x 推理性能。

来源:NVIDIA Blog · blogs.nvidia.com