The best of dev and AI, scored every day by an agent. Filtered, summarized, ranked. No color, no noise — just the substance.
DeepMath est un agent de raisonnement mathématique léger basé sur Qwen3-4B Thinking, affiné avec GRPO pour préférer des traces courtes et axées sur le code. Il exécute des snippets Python dans un bac à sable, réduit drastiquement la longueur des réponses et améliore la précision. L’approche est mise en œuvre via smolagents et évaluée sur MATH500, AIME, HMMT et HLE.
Transformers v5 focuses on simplicity, a modular design, and expanded model definitions to accelerate training, inference, and production. It introduces architectural abstractions like AttentionInterface and broader model additions, aiming for a cleaner, more interoperable ecosystem.
L'article annonce l'arrivée de FLUX-2 dans la bibliothèque Diffusers, montre comment charger le modèle avec des quantifications 4-bit et un pipeline de génération d'images texte‑image, puis illustre l'usage avec un exemple de prompt. Le code décrit l'import, le device mapping, le téléchargement et le rendu, mais rencontre un OutOfMemoryError en inférence.
The post derives continuous batching from first principles of attention and KV caching to maximize throughput for multi-user LLM serving. It explains how Q, K, V are computed and how their interaction yields quadratic complexity, then shows how continuous batching processes multiple conversations in parallel, swapping them as they complete. The goal is to make real-time AI chat more scalable under high load.
L’article partage les leçons techniques et philosophiques de la construction d’un agent de recherche performant, en mettant l’accent sur la gestion du contexte, la maîtrise des outils et l’orchestration simplifiée. Il montre comment le context-engineering via des outils de recherche avancés (ex. Tavily) améliore le rappel et réduit les hallucinations. Les principes décrits visent à concevoir des agents évolutifs face aux futures améliorations de modèles.
OVHcloud est désormais fournisseur d’inférence sur le Hugging Face Hub, intégré aux SDK client (Python et JS) et compatible avec les modèles open‑weight tels que gpt‑oss, Qwen3, DeepSeek R1 et Llama. Le service propose une API serverless avec tarification au token, data souveraine en Europe et latence basse, prenant en charge les sorties structurées, le function calling et le multimodal. Les clés peuvent être gérées directement ou routées via Hugging Face.
L’article analyse les tendances du leaderboard Open ASR en novembre 2025 : les modèles Conformer + décodeur LLM dominent en précision sur l’anglais, mais montrent un compromis vitesse/perf; les décodeurs CTC/TDT sont rapides pour le long-format; le multilingue reste un défi avec un écart entre Whisper généraliste et les systèmes spécialisés ou massifs.
TRL now integrates with RapidFire AI to accelerate fine-tuning and post-training experiments, enabling concurrent evaluation of multiple configs even on a single GPU. The system uses adaptive chunk-based scheduling, live IC Ops, and multi-GPU orchestration to deliver significantly higher throughput (16–24×) and quicker metrics. It ships drop-in wrappers (RFSFTConfig, RFDPOConfig, RFGRPOConfig) and an MLflow-based dashboard for real-time metrics and control.
AnyLanguageModel provides a drop-in replacement for Apple's Foundation Models, unifying local and remote LLMs on Apple platforms. It supports Apple Foundation Models, Core ML, MLX, llama.cpp, Ollama, and cloud providers (OpenAI, Anthropic, Gemini) with a focus on local models from Hugging Face Hub. The API mirrors Foundation Models, allowing a simple provider swap with the same session-based usage.
L’article montre que distiller un modèle de raisonnement 15B vers un hybride Mamba peut doubler le throughput avec peu de perte de qualité. La clé non intuitive : utiliser des traces de raisonnement de haute qualité (ex. proofs multi-étapes) plutôt que du pretraining général, et appliquer une KL inverse. Idéal pour qui doit optimiser inference sans réentraînement depuis zéro.
L’article montre comment créer, compiler et partager des noyaux ROCm (ex. GEMM FP8) via la bibliothèque de kernels de Hugging Face, en s’appuyant sur kernel-builder. Il couvre la structure du projet, les configs, la compilation, le déploiement sur le Hub et l’intégration dans PyTorch, avec un focus sur les backends AMD. Pratique pour intégrer des kernels AMD optimisés dans des workflows ML reproductibles.
L'AMD Open Robotics Hackathon (12-14 décembre 2025 à Tokyo, puis 12-14 décembre à Paris) rassemble makers et développeurs pour relever des défis robotics avec LeRobot, sur AMD Rysen AI et Instinct MI300X. Les participants, par équipes de 4, suivent un tutorat puis construisent un projet freestyle en two days, sur des kits fournis.
Hugging Face and Google Cloud announce a deeper partnership to enable companies to build AI with open models on Google Cloud. They will deploy a CDN Gateway for Hugging Face models and datasets, integrate Inference Endpoints with Vertex/GKE/Cloud Run, and enable easy access from Hugging Face to Google Cloud services and TPUs.
MiniMax M2 targets both benchmark performance and real-world robustness, arguing that the agent alignment problem goes beyond scoring on isolated tests. It introduces Interleaved Thinking, enabling ongoing internal reasoning to cope with long-horizon tasks and continuous external perturbations. True generalization, the post contends, comes from adaptive perturbation handling and broader tool use, not mere tool-count scaling.
Global AI compute is shifting as China builds domestic chips and open-weight models gain traction. U.S. export controls accelerate local chip production, while new compute-efficient architectures and CUDA-alternatives reshape training and inference, impacting open source and deployment.
L’article présente un guide pratique pour construire un assistant chirurgical autonome avec NVIDIA Isaac, en combinant données réelles et synthétiques en simulation Sim2Real. Il détaille le workflow SO-ARM, l’entraînement de GR00T N1.5 et le déploiement sur le SO-ARM101 avec RTI DDS. Plus de 93 % des données d’entraînement proviennent de la simulation.
L’article présente le framework NVIDIA Isaac for Healthcare, qui permet de concevoir, tester et valider des workflows de robots médicaux autonomes en simulation, puis sur du vrai matériel via un starter workflow SO-ARM. Il détaille une approche mixte simulation–réalité avec post-entraînement de GR00T N1.5 sur des données majoritairement synthétiques, aboutissant à un assistant chirurgical déployable en réel.
IBM présente Granite 4.0 Nano, ses modèles les plus petits, conçus pour l’edge et les applications on-device tout en gardant des perfs solides avec un footprint paramétrique minimal (1B ou 350M). Les modèles adoptent une architecture hybride SSM et sont livrés en Apache 2.0, avec des résultats supérieurs sur benchmarks généraux et agents workflows (IFEval, BFCLv3).
L’article présente un « voice consent gate » pour autoriser le clonage vocal uniquement après consentement explicite du locuteur. Il décrit une approche technique combinant génération de phrases de consentement, ASR et TTS, avec une démonstration pratique. Ce mécanisme traduit les principes éthiques en infrastructure système actionnable.
L'article détaille des optimisations majeures pour le streaming de datasets dans la librairie datasets, permettant un chargement bien plus efficace sans téléchargement. Les améliorations portent sur un cache persistant des fichiers et un démarrage optimisé, réduisant drastique les requêtes et accélérant le débit, ce qui permet de lancer des entraînements sur des datasets de plusieurs téraoctets sans outages.