Laya-Engine

Локальный движок типизированных решений (choice/score/noul) на Go + ONNX Runtime: ~322M параметров, один forward pass на батч вопросов, GPU/CPU, без Python в рантайме. Плагин и навык ZCode: измеренная экономия −48% входных токенов и −58% пика контекста на большом логе.

GitHub

Official source

Start locally with the CLI guide