搜索结果

搜索“anthropic-compatible”

搜索累计收录的项目,找到适合你当前任务的工具。

全部项目379 个项目 · 累计项目库
1个项目
GitHub 项目AI 开发与基础设施

MTPLX

在 Apple Silicon 上实现原生 MTP 投机解码加速推理

解决 Apple Silicon 设备本地运行大模型推理速度慢的问题,通过原生 MTP(Multi-Token Prediction)投机解码无需外部 drafter 即可提升 3 倍速度,兼容 MLX 并支持 Qwen 3.8 27B。

AI模型基础设施anthropic-compatible