Le meilleur du dev et de l'IA, scoré chaque jour par un agent. Filtré, résumé, classé. Aucune couleur, aucun bruit — juste la matière.
Report on debugging Liger GRPO loss with DeepSpeed ZeRO-3 using Qwen/Qwen2.5-0.5B-Instruct in bf16, highlighting a shape mismatch during training. The traceback traces through grpo_loss and fused_linear_ppo, pointing to a forward pass issue in the Liger kernel. No fix is shown, but it identifies the code paths to inspect (grpo_loss, fused_linear_ppo).
Dell Enterprise Hub now ships a complete suite of on‑prem AI models and ready‑to‑deploy applications (e.g., Llama 4 Maverick, OpenWebUI), optimized for Dell AI Server platforms via Docker/Kubernetes. It adds an Application Catalog and a dell-ai CLI/Python SDK to run everything from development to on‑prem deployment, plus on‑device models for Dell AI PCs powered by Intel/Qualcomm NPUs.
This post shows how to build a tiny Python agent powered by MCP. It explains a simple loop that pulls tools from MCP servers using an extended huggingface_hub client and runs via a CLI demo.
Falcon-H1 is a family of six open-source LLMs (0.5B–34B) using a hybrid attention + SSM design, delivering faster inference and lower memory with strong cross-task performance. Available as base and instruction-tuned variants, they support 256K context, 18 native languages (with a tokenizer scalable to 100+), and are optimized for edge-to-large deployments under Apache 2.0.
Falcon-Arabic is a 7B multilingual LLM from Falcon 3, optimized for Arabic with MSA and dialects. It supports a 32k token context, enabling long-context tasks like RAG and in-depth content creation, and reportedly outperforms larger Arabic LLMs of similar size. Built by TII, it adapts an existing multilingual foundation rather than training from scratch, delivering an efficient, open-source option for Arabic AI.
nanoVLM provides a minimal PyTorch toolkit to train a Vision Language Model on a free Colab tier. It fuses a SigLIP-based vision transformer with a Llama 3 language backbone, using a Modality Projection (pixel shuffle + linear) to align image and text embeddings for decoding. The post offers quickstart steps: clone the repo and run train.py, or use the Colab notebook to begin training without local setup.
Cet article explore les backends de quantification dans Diffusers pour des modèles de diffusion lourds comme Flux, en comparant BF16 et des quantisations (4-bit/8-bit). Il détaille les backends (bitsandbytes, GGUF, torchao, Quanto, FP8) et les composants clés (Text Encoders et Transformer), avec des chiffres mémoire et temps d'inférence qui guident le choix pratique.
Microsoft et Hugging Face étendent leur collaboration pour déployer facilement des modèles open sur Azure via AI Foundry, avec plus de 10 000 modèles disponibles. Les modèles sont vérifiés pour la sécurité (safetensors, ProtectAI Guardian et JFrog) et déployables en quelques clics via le bouton Deploy, en choisissant VM et paramètres.
Falcon-Edge is a series of universal, fine-tunable LLMs built on BitNet with ternary weights (-1,0,1). It trains end-to-end to yield both non-quantized and quantized variants (bf16, BitNet, pre-quantized) in one pass, available in 1B and 3B sizes with base and instruction-tuned models. Early results on Hugging Face leaderboard v2 show competitive performance for its size, backed by ~1.5T tokens of pre-training and a 1-bit LLM tooling package.
Transformers is evolving toward a standard model-definition library, aiming to be the pivot across frameworks so an architecture supported by transformers is available in the broader ecosystem. It now covers 300+ architectures with day-0 support and tight interoperability with inference engines (vLLM, SGLang, TGI) as well as llama.cpp and MLX, while simplifying model definitions to lower the barrier to contributions.
Kaggle and Hugging Face announce an integration that makes Hugging Face models visible directly on Kaggle, with a pre-populated code snippet to load models in Kaggle notebooks. You can authenticate private models with your HF_TOKEN, and consent-gated models require access requests; notebooks referencing HF models will auto-create a Kaggle model page.
Hugging Face unveils a blazing-fast OpenAI Whisper deployment on Inference Endpoints, delivering up to 8x speedups using vLLM and CUDA graphs on NVIDIA GPUs. The stack adds torch.compile, dynamic quantization to float8 and reduced KV cache precision to boost throughput without sacrificing transcription quality, with WER comparable to Transformer baselines across standard datasets.
Vision Language Models are getting smaller while becoming more capable, with new architectures enabling any-to-any inputs/outputs, multimodal retrieval and agents. The post surveys models like Chameleon/Lumina-mGPT, Qwen 2.5 Omni (Thinker-Talker), MiniCPM-o 2.6, Janus-Pro-7B, and Kimi-VL-A3B-Thinking, plus MoE decoders, RAG, safety, and new benchmarks (MMT-Bench, MMMU-Pro).
Cet article présente LeRobot Community Datasets comme une tentative de créer l'équivalent ImageNet pour la robotique, en insistant sur la nécessité de données diversifiées et de pratiques de curation robustes. Il identifie les défis actuels (annotations incohérentes, problèmes de correspondance de caractéristiques, épisodes de faible qualité) et propose des orientations pour améliorer la généralisation via des jeux de données plus ouverts et variés.
Gradio now exposes Python functions as MCP tools, enabling LLMs to call them via an MCP server. The guide shows a concise 5-line example converting a letter-counting function into a tool, launching the server, and wiring it into MCP clients with a config snippet.
Le Qwen-3 introduit un template de chat plus sophistiqué: la pensée peut être activée ou désactivée via enable_thinking, et la gestion du contexte est dynamique grâce à un rolling checkpoint qui conserve les réflexions pertinentes pendant les appels d’outils. Le texte souligne aussi une meilleure sérialisation des arguments des outils et montre comment ces choix influencent les performances et la lisibilité du flux de conversation par rapport à Qwen-2.5 et QwQ.
Meta lance Llama Guard 4, un modèle dense 12B multimodal pour filtrer les contenus inappropriés, disponible sur Hugging Face. Pruné à partir de Llama 4 Scout (pas MoE), il tourne sur un seul GPU et évalue texte et image avec 14 catégories de risques. La release inclut aussi Llama Prompt Guard 2 et des checkpoints ouverts, accompagnés d’un notebook interactif.
AutoRound is Intel's weight-only post-training quantization that uses signed gradient descent to jointly optimize weight rounding and clipping for accurate low-bit quantization (INT2–INT8). It claims up to 2.1x higher relative accuracy at 2-bit, quantizes a 72B model in ~37 minutes on A100, and supports mixed-bit tuning, multiple export formats, and recipes (auto-round-best/light) with small calibration sets.
PipelineRL introduit des mises à jour de poids en vol pendant l'entraînement RL des LLM, permettant un débit d'inférence élevé tout en restant proche de l'on-policy. L'étude montre des résultats compétitifs sur 7B et 32B par rapport à Open-Reasoner-Zero sur AIME 2024 et MATH 500, avec une implémentation plus simple (pas de fonction valeur et sans pénalité KL).
Cet article présente Tiny Agents, un agent MCP-powered en 50 lignes de code. Il explique que l’agent se résume à une boucle while sur un MCP client et détaille comment lancer des serveurs MCP locaux et exécuter des prompts (ex: recherche web, manipulation de fichiers) via un exemple en TypeScript.