llama-modchip
Run 284B DeepSeek-V4-Flash (<59GiB RAM: 41.1 cold pp, 9.1 N=1 tg, up to 25.3 spec tok/s) & 30B MoEs (22.4 N=1 / 111.6 spec tok/s) on 64GB CPU (0 GPUs).
llama-modchip — программа с открытым исходным кодом (Apache-2.0) от synchopate. В репозитории на GitHub у проекта 1 067 звёзд, последнее обновление кода — 12 ноября 2026 г..
Что важно знать
- Лицензия Apache-2.0: исходный код открыт, пользоваться программой можно бесплатно.
- Последний выпуск — v2.5.1 от 12 ноября 2026 г..
- В последнем выпуске есть сборки для: Linux.
- Основной язык разработки: Python.
Где скачать
Берите программу только с официальных страниц проекта: репозиторий на GitHub и сайт разработчика. Сборки из сторонних источников могут содержать лишнее.
Темы проекта: ai-agents, apple-silicon, avx512, claude-code, cpu-inference, deepseek, deepseek-v4, gguf.