搜索结果搜索“gguf”
搜索累计收录的项目，找到适合你当前任务的工具。
全部项目379 个项目 · 累计项目库
SO
GitHub 项目开发者工具
用单条 YAML 配置在消费级 GPU 上微调大语言模型
解决大模型微调对显存要求过高的问题，通过 layer streaming 技术让 8B 参数模型可在 4 GB 显存的笔记本 GPU 上完成训练，支持 LoRA、DPO 等常见微调方式。
AILLMMachine Learning
LL
GitHub 项目AI 模型与研究
一键测试数百个模型在本地硬件上的运行兼容性
解决用户难以判断哪些 LLM 能在自己设备运行的问题，支持 gguf、mlx、unsloth 等多种格式与 provider，通过单条命令自动筛选可运行的模型。
LLMgguflocalai