guideSimon Willisongguf · model-compression+ NOUVEAU
Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint
Guide pratique pour déployer Bonsai 2-27B en gguf via llama.cpp fork, avec serveur local, mesures de perf et note sur l'init métal.
par Simon Willisonpublié 17 SEPT. 2026★★★★★
Lire la sourcesimonwillison.net/2026/Sep/17/hn-49747390/
[*] Ouvre dans un nouvel onglet · pas de pistage côté Lantern
- Source
- Simon Willison
- Ingéré
- 17 SEPT. 2026 · 08:00
- Score édito
- 4.3 / 5