The best of dev and AI, scored every day by an agent. Filtered, summarized, ranked. No color, no noise — just the substance.
FastRTC is a Python library that simplifies building real-time audio and video AI apps. It offers automatic voice detection and turn-taking, a built-in Gradio UI, WebRTC/WebSocket support, and easy deployment to FastAPI, plus utilities for STT/TTS and phone-based access. The post walks through a hello-world echo example and a level-up LLM chat flow with SambaNova/OpenAI integration.
Cet article présente le déport du décodeur VAE vers une endpoint distante pour réduire la mémoire et la latence lors de l’inférence de modèles de diffusion en latent. Il détaille l’intégration avec diffusers et remote_decode et montre des cas d’usage (Stable Diffusion v1.5, Flux, HunyuanVideo) via des exemples de code et les avantages (aucun stockage des données, open source).
SigLIP 2 expands Google's multilingual vision-language encoder family by adding additional training objectives to SigLIP's sigmoid loss, boosting semantic understanding, localization, and dense features. It outperforms SigLIP across scales on zero-shot classification, image-text retrieval, and transfer tasks, and introduces a dynamic resolution (naflex) variant for aspect-ratio-sensitive downstream work. The release catalogs multiple models (Base, Large, So400m, Giant) with varied patch sizes, 2
SmolVLM2 rend la compréhension vidéo accessible sur tous les devices via trois tailles (2.2B, 500M et 256M) et des APIs MLX dès le départ. Par rapport à la génération précédente, il optimise la mémoire et excelle sur Video-MME, avec des démos et une interface interactive pour tester la vision et la compréhension vidéo même dans un Colab gratuit.
Google publie PaliGemma 2 Mix, une famille de modèles vision-langage fine-tunés sur OCR, captioning et autres tâches. Disponibles en 3B/10B/28B et résolutions jusqu'à 896x896, ils permettent d’estimer les performances après fine-tuning sur des tâches en aval. L'article détaille des prompts open-ended et des prefixes (caption, describe, ocr, answer) ainsi que des invites pour détection et segmentation, avec une démo.
Hugging Face adds Hyperbolic, Nebius AI Studio, and Novita as serverless inference providers, integrated in the Hub and accessible via JS/Python SDKs. It outlines two usage modes (custom provider keys or routing through HF) with code examples for DeepSeek-R1 and Flux.1, and explains billing depending on the routing mode.
Math-Verify a remis à plat l'évaluation des LLM sur le Open LLM Leaderboard, en réévaluant 3 751 modèles sur 1 324 problèmes de maths difficiles. L'article explique les failles de l'ancienne méthode (format de réponse, parsing SymPy) et décrit les améliorations qui permettent une comparaison plus juste et robuste des modèles.
Fireworks.ai est désormais un fournisseur d’inférence pris en charge sur Hugging Face Hub. L’article présente comment lancer de l’inférence serverless via Fireworks.ai sur Python, JS et HTTP, avec des exemples sur des modèles comme DeepSeek-R1 et Llama-3, et détaille la facturation et les crédits PRO.
The piece breaks down how to cost-effectively run 1B+ classifications or embeddings at scale, analyzing model architectures, hardware options, and deployment choices. It offers a framework to estimate cost and latency, plus a practical stack (Inference Endpoints, Hugging Face Hub, Infinity, k6) to benchmark and optimize throughput.
The article argues that content-defined chunking (CDC) is only a means to speed up data movement, not the ultimate goal of deduplication. To scale, the team moves from per-chunk transfers to aggregation: blocks up to 64MB reduce CAS entries by ~1000x, while shards map files to blocks and detect changes, enabling faster uploads/downloads.
The post describes tooling to build video-generation datasets, extending the img2dataset approach to videos. It presents a three-stage pipeline (Acquisition, Pre-processing/Filtering, Processing) using yt-dlp, Video to Scenes, watermark and aesthetic/NSFW checks, motion scoring, and Florence-2-based captions/OCR to filter data for fine-tuning.
OpenR1-Math-220k is a large-scale math-reasoning dataset built on 512 H100s, with two (often four) solutions per problem and about 800k reasoning traces. It uses automated filtering (Math Verify) and LLama3.3-70B-Instruct as a judge, and achieves high throughput with vLLM and SGLang (~300k solutions/day). The update also details distillation results and a pipeline extensible to other domains.
Open Arabic LLM Leaderboard evolved from fragmented benchmarks to a unified platform. Since May 2024, OALL hosts 14 benchmarks; later Balsam Index added ~1,400 datasets and 50,000 questions, AraGen launched 3C3H with private test cycles, and SEAL introduced a private Arabic leaderboard with human-preference evaluation. The ecosystem drew 46k visitors and 700+ models from 180+ organizations.
π0 and π0-FAST are Vision-Language-Action models for generalist robot control. They use flow-matching for real-time action trajectories (50 Hz) across seven platforms and 68 tasks, and introduce fast attention techniques (FlashAttention2, FlexAttention) to handle 2D masks and cross-embodiment training. The post also points to Hugging Face LeRobot repos for code and pretrained models.
Introducing DABstep, a benchmark of 450+ real-world data analysis tasks to evaluate multi-step reasoning in AI agents. The study finds current top agents reach only about 16% accuracy, underscoring a large gap to reliably tackle real data tasks that mix structured data and unstructured documents.
OpenAI a publié Deep Research, un système qui navigue sur le Web pour résumer le contenu et répondre par le résumé. L’article présente une reproduction open-source du cadre agentique (CodeAgent) et les résultats sur le benchmark GAIA (≈67% en 1-shot, 47,6% niveau 3). Les auteurs visent une open-source du cadre et les prochaines étapes de reproductibilité.
Open-R1: Update #1 résume les progrès pour répliquer le pipeline d’entraînement et les données synthétiques de DeepSeek-R1 (MATH-500, GRPO dans TRL 0.14, DeepSpeed ZeRO, vLLM). Le post évoque aussi les défis de longueur des générations et propose des ressources communautaires ainsi qu’un leaderboard public.
Replaying the DeepSeek-R1 'aha moment', this post uses Group Relative Policy Optimization (GRPO) and the Countdown Game to train an open model via RL. It details a distributed setup with DeepSpeed and vLLM on 4× NVIDIA H100 GPUs and explains how GRPO replaces a value function with group-based baselines. The aim is self-verification and search abilities learned with minimal human data, illustrating a concrete RL workflow for LLMs.
2024 saw major open-source breakthroughs in AI art, with a shift to diffusion transformers (DiT) and flow matching in text-to-image generation. Flux.1 achieved state-of-the-art results, outperforming some closed models, as open releases like Stable Diffusion 3, Stable Diffusion 3.5, AuraFlow and HunyuanDiT expanded the open ecosystem. The article also highlights personalization advances via SDXL and hints at 2025’s ongoing open-source momentum.
The article shows how to deploy and fine-tune DeepSeek R1 models on AWS with Hugging Face. It covers Inference Endpoints, Bedrock, SageMaker, and EC2 Neuron deployments, plus notes on pricing and upcoming Inferentia support.