为什么值得关注
整合量化、蒸馏、剪枝、神经架构搜索、投机解码等 SOTA 优化技术，将模型压缩后导出至 TensorRT-LLM、TensorRT、vLLM 等推理框架。
Model-Optimizer
NVIDIA/Model-Optimizer统一压缩深度学习模型以加速推理部署
先看懂，再决定是否打开。
先用一句话看懂用途，再判断它为什么值得你继续了解。
如何开始使用
从官方 README 的安装与使用章节开始。先确认运行环境、API 密钥和许可证；代码开放不代表模型调用、云服务或硬件运行没有成本。
打开官方使用说明 ↗做决定前，
再看这些事实。
只保留能帮助判断成熟度、使用门槛和来源可信度的信息。
- 项目类型
- GitHub 项目
- 所属分类
- AI 开发与基础设施
- GitHub 仓库
- NVIDIA/Model-Optimizer
- 英文原始描述
- A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
- GitHub Stars
- 4.1K
- 价格
- 代码开放 · 运行费用另计
- 许可证
- Apache-2.0
- Vauxland 资料更新
- 2026 年 9 月 24 日
继续发现。
浏览全部项目 ›GitHub 项目AI 开发与基础设施
transformers
定义和运行文本、视觉、音频及多模态机器学习模型
为 NLP、计算机视觉、语音和多模态任务提供统一的模型定义框架，支持预训练模型的推理与训练，覆盖从 BERT 到 GPT 等主流架构。
GitHub 项目AI 开发与基础设施
unsloth
Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX
收录于 Vauxland 2026-08-15 每日精选，来源：GitHub Trending · Daily。
GitHub 项目AI 开发与基础设施
heretic
自动移除语言模型的审查限制
解决语言模型内置内容审查导致的输出受限问题，支持对 transformer 架构的 LLM 进行 abliteration 处理。