NVIDIA Blog· Amr Elmeleegy·· 10 天前AI 评分57
NVIDIA 发布 Dynamo 优化部署配方,支持韩国四款开放模型
NVIDIA Dynamo Recipes Bring Korea’s Leading Open Models to Production
AI 导读
NVIDIA 发布针对 A.X K2、K-EXAONE 2.0、Solar Open 2 和 Motif-3 的 Dynamo 优化部署配方。这些配方基于开源分布式推理服务框架 NVIDIA Dynamo,针对 NVIDIA B200 GPU 优化多节点部署,开箱最高可实现 2x 推理性能。
来源:NVIDIA Blog · blogs.nvidia.com