跳到正文
AIHOT ↗· vLLM 官方博客(RSS)·· 21 天前精选AI 评分80

vLLM 发布 Mistral Large 4 Day 0 支持

AI 导读

vLLM 宣布为 Mistral Large 4 提供 Day 0 支持,涵盖 NVIDIA GPU、AMD Instinct MI350 Series 和 TPU v7x 部署。

推荐理由

原文详细说明 vLLM 支持 Mistral Large 4 的架构适配、部署配置与实测性能,为评估生产环境推理方案提供直接依据。

来源:AIHOT · vllm.ai