guideSimon Willisongguf · model-compression+ NEW
Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint
Guide pratique pour déployer Bonsai 2-27B en gguf via llama.cpp fork, avec serveur local, mesures de perf et note sur l'init métal.
by Simon Willisonpublished SEP 17, 2026★★★★★
Read the sourcesimonwillison.net/2026/Sep/17/hn-49747390/
[*] Opens in a new tab · no tracking on Lantern's side
- Source
- Simon Willison
- Ingested
- SEP 17, 2026 · 08:00
- Editorial score
- 4.3 / 5