Hugging Face Blog·· 15 小时前精选AI 评分60
PyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持，并让 MoE 模型解码比 2.14 快 5–6.5 倍，Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tokens/s。
推荐理由
Hugging Face 的 PyTorch 团队给出 MPS 后端在 2.15 中的具体提速数字与内存变化，可据此判断 Mac 本地跑模型的可行性。
来源：Hugging Face Blog · huggingface.co