Transformers实现MoE专家流式卸载
热点事件观察中
Transformers实现MoE专家流式卸载
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
作者 tarekziade 在 Transformers 中实现并开源了 MoE 路由专家的磁盘流式加载方案,使 32GB 内存的 Mac M5 可运行 Qwen3.8-Flash-Next。该方案把 121GB 的 FP8 专家数据压缩至 49GB,并使用 12GiB 设备缓存,作者测得推理速度约为 Strata 的 94%。 该方案目前适用于采用标准专家布局的 MoE 模型,安装指定 PR 版本即可试用;相关 API 仍在与 Transformers 维护者讨论中,尚未确定正式接口。
AI 根据报道生成 · 17 小时前更新
最新进展11月18日 08:00
Transformers 实践 MoE 专家流式加载,在 32GB Mac 上运行 180B 模型报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- Hugging Face Blog精选Transformers 实践 MoE 专家流式加载,在 32GB Mac 上运行 180B 模型
作者通过修改 Transformers 实现 MoE 路由专家的磁盘流式加载,让 Qwen3.8-Flash-Next 在 32GB Mac M5 上运行。该方案将 121GB FP8 专家量化为 49GB,并采用 12 GiB 设备缓存,推理速度达到 Strata 的约 94%。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 611月19日 02:00
- 近 24 小时变化
- –
0246
03:0006:0009:0012:0015:0018:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。