Get your VLM running in 3 simple steps on Intel CPUs

Cet article présente une procédure en 3 étapes pour faire tourner un Vision Language Model localement sur CPU Intel, en utilisant Optimum Intel et OpenVINO avec SmolVLM. Il détaille la conversion en IR OpenVINO et deux approches de quantisation (WOQ et quantification statique) pour réduire mémoire et accélérer l'inférence.

Source

HuggingFace Blog

Ingested

OCT 15, 2025 · 19:10

Editorial score

5.0 / 5