搜索“edge-ai”

needle

在微型设备上运行自动化基础模型

解决边缘设备部署大模型的资源受限问题，支持 2-bit 量化、8-29 MB 体积，具备 tool calls、结构化提取和 embeddings 能力，可运行于手机、可穿戴设备、智能家居、机器人、汽车和微控制器。