搜索结果搜索“apple-silicon”
搜索累计收录的项目，找到适合你当前任务的工具。
全部项目379 个项目 · 累计项目库
MT
GitHub 项目AI 开发与基础设施
在 Apple Silicon 上实现原生 MTP 投机解码加速推理
解决 Apple Silicon 设备本地运行大模型推理速度慢的问题，通过原生 MTP（Multi-Token Prediction）投机解码无需外部 drafter 即可提升 3 倍速度，兼容 MLX 并支持 Qwen 3.8 27B。
AI模型基础设施anthropic-compatible
OM
GitHub 项目AI 开发与基础设施
在 Apple Silicon 上本地部署 LLM 推理服务
解决 macOS 端侧运行大模型的显存与效率问题，通过连续批处理和 SSD 缓存优化推理性能，支持从菜单栏直接管理。适合需要在 Mac 上私有化部署 LLM 的开发者。
LLM模型基础设施apple-silicon