跳到正文
热点事件观察中

Transformers实现MoE专家流式卸载

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

作者 tarekziade 在 Transformers 中实现并开源了 MoE 路由专家的磁盘流式加载方案,使 32GB 内存的 Mac M5 可运行 Qwen3.8-Flash-Next。该方案把 121GB 的 FP8 专家数据压缩至 49GB,并使用 12GiB 设备缓存,作者测得推理速度约为 Strata 的 94%。 该方案目前适用于采用标准专家布局的 MoE 模型,安装指定 PR 版本即可试用;相关 API 仍在与 Transformers 维护者讨论中,尚未确定正式接口。

AI 根据报道生成 · 17 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. Hugging Face Blog精选
    Transformers 实践 MoE 专家流式加载,在 32GB Mac 上运行 180B 模型

    作者通过修改 Transformers 实现 MoE 路由专家的磁盘流式加载,让 Qwen3.8-Flash-Next 在 32GB Mac M5 上运行。该方案将 121GB FP8 专家量化为 49GB,并采用 12 GiB 设备缓存,推理速度达到 Strata 的约 94%。

本事件热度走势

可比范围当前
4
可比范围峰值
611月19日 02:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。