为什么值得关注
解决 Apple Silicon 设备本地运行大模型推理速度慢的问题，通过原生 MTP（Multi-Token Prediction）投机解码无需外部 drafter 即可提升 3 倍速度，兼容 MLX 并支持 Qwen 3.8 27B。
MTPLX
youssofal/MTPLX在 Apple Silicon 上实现原生 MTP 投机解码加速推理
先看懂，再决定是否打开。
先用一句话看懂用途，再判断它为什么值得你继续了解。
如何开始使用
从官方 README 的安装与使用章节开始。先确认运行环境、API 密钥和许可证；代码开放不代表模型调用、云服务或硬件运行没有成本。
打开官方使用说明 ↗做决定前，
再看这些事实。
只保留能帮助判断成熟度、使用门槛和来源可信度的信息。
- 项目类型
- GitHub 项目
- 所属分类
- AI 开发与基础设施
- GitHub 仓库
- youssofal/MTPLX
- 英文原始描述
- 3x faster speeds on MLX | Qwen 3.8 27B | Native MTP Speculative Decoding On Apple Silicon With No External Drafter.
- GitHub Stars
- 2.0K
- 价格
- 代码开放 · 运行费用另计
- 许可证
- Apache-2.0
- Vauxland 资料更新
- 2026 年 9 月 2 日
继续发现。
浏览全部项目 ›GitHub 项目AI 开发与基础设施
omlx
在 Apple Silicon 上本地部署 LLM 推理服务
解决 macOS 端侧运行大模型的显存与效率问题，通过连续批处理和 SSD 缓存优化推理性能，支持从菜单栏直接管理。适合需要在 Mac 上私有化部署 LLM 的开发者。
GitHub 项目AI 开发与基础设施
ComfyUI
通过节点化界面构建和运行扩散模型工作流
解决 Stable Diffusion 等模型需要编写代码或依赖固定流程的问题；提供图形化节点接口，支持模块化组合与 API 调用，适合需要自定义图像生成 pipeline 的 AI 研究者与创作者。
GitHub 项目AI 开发与基础设施
unsloth
Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX
收录于 Vauxland 2026-08-15 每日精选，来源：GitHub Trending · Daily。