跳到正文
热点事件历史事件

NVIDIA发布Dynamo优化部署配方

1 篇报道1 个报道来源10 天前更新

先了解这件事

AI 综述

NVIDIA发布面向韩国四款开放模型的Dynamo优化部署配方,分别支持SK Telecom的A.X K2、LG AI Research的K-EXAONE 2.0、Upstage的Solar Open 2和Motif Technologies的Motif-3。 这些配方基于开源分布式推理服务框架NVIDIA Dynamo,针对NVIDIA B200 GPU优化多节点部署。NVIDIA称,相关配方开箱最高可实现2倍推理性能。

AI 根据报道生成 · 10 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. NVIDIA Blog
    NVIDIA 发布 Dynamo 优化部署配方,支持韩国四款开放模型

    NVIDIA 发布针对 A.X K2、K-EXAONE 2.0、Solar Open 2 和 Motif-3 的 Dynamo 优化部署配方。这些配方基于开源分布式推理服务框架 NVIDIA Dynamo,针对 NVIDIA B200 GPU 优化多节点部署,开箱最高可实现 2x 推理性能。