搜索结果

搜索“consumer-gpu”

搜索累计收录的项目,找到适合你当前任务的工具。

全部项目379 个项目 · 累计项目库
1个项目
GitHub 项目开发者工具

Soup

用单条 YAML 配置在消费级 GPU 上微调大语言模型

解决大模型微调对显存要求过高的问题,通过 layer streaming 技术让 8B 参数模型可在 4 GB 显存的笔记本 GPU 上完成训练,支持 LoRA、DPO 等常见微调方式。

AILLMMachine Learning