Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版可在 150GB 内存本地运行
AI 导读
Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF,2-bit 版体积缩小 45%,保留 91.5% top 1 精度,可在 150GB 内存上本地运行。1-bit 版精度约为 89.9%,4-bit UD-Q4_K_XL 达到 98.0%,作者还提供了 Hugging Face 权重链接与本地运行指南。
来源:AIHOT · x.com