qwen3.8-27b-in-c

Qwen3.8-27B on one laptop CPU: up to 2.52 token/s, 8 GB tested, no runtime accuracy loss. Native OpenAI-compatible API with function tools; no GPU or Python. | 单颗笔记本 CPU 运行 Qwen3.8-27B：最快 2.52 token/s，最低 8 GB 内存可运行，推理加速不牺牲准确性。原生 OpenAI 兼容接口支持函数工具；无需 GPU 或 Python。

GitHub

Official source

Start locally with the CLI guide