Ling-3.1-flash : 560B paramètres, 25B actifs, et ce que cela implique pour votre matériel
Chronologie mise à jour en continu · dernière mise à jour · 1 entrée dans le journal des mises à jour
Seuls 25B paramètres travaillent sur chaque token, ce qui paraît peu. Les poids doivent pourtant tous résider quelque part, et l’installation recommandée est une baie de serveurs, pas un poste de bureau.
Ling-3.1-flash est un modèle de 560B paramètres au total dont 25B actifs, publié environ dix semaines après Ling-3.0-flash ; il lui faut un serveur multi-GPU, et chaque chiffre de benchmark est celui des auteurs.
Lu sur la fiche du modèle inclusionAI/Ling-3.1-flash sur Hugging Face le 2026-10-17 ; les dates des dépôts proviennent des métadonnées de Hugging Face. Tous les chiffres de benchmark sont déclarés par l’éditeur et nous ne les avons pas reproduits.
Chronologie
-
Le dépôt Ling-3.0-flash apparaît sur Hugging Face. La fiche de la 3.1 se décrit plus tard comme construite sur ce modèle, avec des améliorations d’architecture et de performance sur des tâches réelles.
-
Le dépôt Ling-3.1-flash apparaît. La fiche le présente comme un modèle de raisonnement hybride natif amélioré pour des tâches réelles complexes, avec 560B paramètres au total, 25B actifs par token et une fenêtre de contexte de 1M de tokens, et fournit des recettes de service day-0 pour SGLang et vLLM.
Une sortie qui commence par les agents, pas par le chat
Le premier paragraphe de la fiche de Ling-3.1-flash dit à quoi les auteurs veulent qu’on l’emploie. Ils parlent d’un modèle de raisonnement hybride natif amélioré, conçu pour des tâches réelles complexes, et les exemples qu’ils prennent ne relèvent pas de la conversation. Ce sont les agents généralistes, la recherche, la bureautique et le génie logiciel. Les benchmarks que la fiche cite dans son introduction suivent le même schéma : GDPVal-AA V2.1 pour les tâches de bureau, HealthBench Professional pour la santé, FrontierSWE pour le génie logiciel et Terminal-Bench 4.0 pour l’usage d’outils en terminal. Elle affirme aussi que le modèle progresse dans des domaines spécialisés comme la finance et la science des matériaux, sans donner de chiffres.
La filiation est courte. Le dépôt Ling-3.0-flash est apparu le 2 août. Ling-3.1-flash a suivi le 13 octobre, environ dix semaines plus tard, et la fiche dit que le nouveau modèle s’appuie sur l’ancien avec des améliorations d’architecture et de performance sur des tâches réelles. Pour qui suit le rythme des publications à poids ouverts, cet écart est le titre : un modèle de 560B paramètres révisé en un peu plus de deux mois.
Lecture de la fiche technique
Le tableau d’ensemble de la fiche est l’endroit où un modèle cesse d’être un slogan. Ling-3.1-flash est un modèle mixture-of-experts hybride-linéaire : 560B paramètres au total, 25B activés par token, 63 couches KDA et 9 couches MLA à porte dans un rapport de 7:1, 4 couches denses, 512 experts routés plus 1 expert partagé, 8 experts activés par token, 64 têtes d’attention, une taille cachée de 4096 et un vocabulaire de 157 184 entrées. La fiche ne développe pas les abréviations KDA et MLA, et nous ne les devinerons pas. Ce que montrent les chiffres relève de l’arithmétique : 25B actifs sur 560B au total, c’est environ 4,5 % des paramètres sollicités pour un token donné, et 8 des 512 experts routés, plus le partagé, font le travail.
Un écart mérite d’être signalé plutôt que caché. Les métadonnées de Hugging Face sur la page affichent 572B paramètres, un peu plus que les 560B de la fiche. La différence n’est expliquée nulle part où nous puissions la voir ; nous retenons donc le chiffre de la fiche en notant que le décompte de la plateforme est plus élevé.
« 25B actifs » parle de vitesse, pas de mémoire
C’est la phrase qui se perd dans les titres sur les modèles mixture-of-experts. Le calcul par token suit le nombre de paramètres actifs, d’où le fait qu’un modèle à 25B actifs peut coûter bien moins cher par token qu’un modèle dense de 560B. Mais la mémoire ne fonctionne pas ainsi. Le routeur peut envoyer le token suivant vers n’importe quel expert : tous doivent donc résider en mémoire rapide, prêts à répondre. Les poids évoluent donc avec le total, pas avec le nombre d’actifs. À 16 bits par paramètre, 560 milliards de paramètres représentent environ 1,1 téraoctet avant même le cache KV. C’est notre arithmétique, pas un chiffre de la fiche, et elle explique la section suivante.
Une longue fenêtre de contexte aggrave le tableau de la mémoire au lieu de l’améliorer. Un contexte de 1M de tokens est une grosse revendication, et chaque token conservé en contexte ajoute de la mémoire de cache KV par-dessus les poids. La fiche ne donne aucun chiffre de mémoire pour l’usage en contexte long ; considérez-le comme à mesurer, pas à supposer. Une habitude simple aide pour tout modèle de cette taille : le téléchargement est un plancher, pas un budget.
Ce que l’installation recommandée nous apprend
La voie de service recommandée par la fiche est SGLang, et son image day-0 inclut la prise en charge de Ling-3.1-flash, le décodage spéculatif via MTP avec l’algorithme NEXTN et des optimisations de décodage pour Hopper. La commande de serveur vise 8 × H200 avec parallélisme tensoriel et parallélisme d’experts tous deux réglés sur 8, ou, sur 4 × GB300, un parallélisme de 4. Elle ajoute que deux variables d’environnement facultatives donnent un décodage environ 10 % plus rapide en batch 1 sur Hopper. Un cookbook lié depuis la fiche liste des recettes vérifiées pour H200, GB300, H800, H100 et B200, ainsi que HiCache avec Mooncake comme troisième niveau de cache, le raisonnement activé ou non, l’appel d’outils et des chiffres de précision et de vitesse mesurés. C’est le profil d’un modèle destiné aux centres de données.
La voie vLLM envoie un signal tout aussi net. La fiche demande de compiler vLLM depuis une branche précise, puis de servir avec une taille de parallélisme tensoriel de 8, une utilisation de la mémoire GPU à 0,85, le cache de préfixes, le parallélisme d’experts, un mode de cache mamba, un drapeau de choix d’outil automatique avec un parseur d’appels d’outils ling3 et un parseur de raisonnement ling3, et le décodage spéculatif avec trois tokens MTP. Les deux voies partagent la même recommandation d’échantillonnage : température 1,0, top-p 0,95, top-k 20, avec la réflexion activée pour de meilleures performances.
Notre lecture est simple. Ce n’est pas un modèle pour un GPU de joueur. Si vous voulez estimer la mémoire de modèles que vous comptez exécuter vous-même, deux habitudes aident : supposer que la mémoire d’exécution dépasse le fichier, et ajouter le cache KV pour la longueur de contexte que vous utilisez vraiment. Pour ce modèle en particulier, la question plus pratique est de savoir si un point d’accès hébergé le sert à un prix raisonnable. La fiche renvoie vers OpenRouter et liste Novita comme fournisseur d’inférence ; un accès hébergé existe donc, même si le tarif ne figure pas dans la fiche.
Ce que les auteurs affirment qu’il sait faire
La fiche dit que Ling-3.1-flash obtient de solides résultats sur des benchmarks représentatifs de code et d’agents : Terminal-Bench 4.0, SWE-bench Pro, FrontierSWE, GDPVal-AA V2.1, Automationbench, MCP-Atlas et SkillsBench, entre autres. Le bloc d’évaluation de la page liste des scores pour plusieurs : SWE-bench Pro 68,74, Deep SWE 59,7, Terminal-Bench 2.1 81,18, Humanity’s Last Exam 37,44, SWE-bench Multilingual (résolu) 88,5, Terminal-Bench 46,03 et SkillsBench v1.1 68,7. Plusieurs portent un astérisque sur la page, que celle-ci n’explique pas dans un texte que nous ayons pu lire. Ce sont des chiffres déclarés par l’éditeur. Nous ne les avons pas reproduits et il ne faut pas les lire comme un classement face à un autre modèle.
La fiche dit aussi que le modèle offre une bonne expérience dans Claude Code, Kilo Code, Qwen Code, Hermes Agent, OpenClaw et d’autres frameworks, ce qui est une affirmation de compatibilité plus que de qualité. Elle présente aussi LingCode, un harnais construit sur l’agent de code open source Pi et renforcé pour les tâches de code au long cours qui durent des heures, impliquent des centaines de tours d’appels d’outils et exigent des compactions répétées du contexte. Les auteurs disent envisager de le publier en open source, ce qui signifie qu’il n’est pas publié. Ce détail passe facilement inaperçu et mérite d’être retenu : les meilleurs résultats décrits par les auteurs pour les longues tâches de code utilisent un harnais qu’on ne peut pas encore télécharger.
La paperasse
La fiche se termine par quelque chose d’inhabituel pour une page de modèle : un résumé public du contenu d’entraînement, disponible en PDF, et un index de documentation. Il décrit les versions de modèle couvertes, le périmètre du contenu d’entraînement, la version du résumé et la date de mise à jour, et précise clairement qu’il concerne la divulgation du contenu d’entraînement et ne remplace ni la documentation technique, ni les conditions d’utilisation, ni la licence. Nous n’avons pas lu le PDF. La page affiche aussi 1 904 téléchargements sur le dernier mois, un petit nombre au regard de la taille du modèle, ce qui correspond à une publication plutôt servie que téléchargée.
Notre avis
Lisez la liste des benchmarks comme la déclaration des auteurs sur les points où ils jugent le modèle fort, à savoir le code agentique et le travail en terminal, et attendez des essais indépendants avant de tenir un score isolé pour acquis. Lisez la fiche technique comme un rappel : la parcimonie économise du calcul, pas de la mémoire. Le chiffre le plus utile de la fiche pour la plupart des lecteurs n’est pas un benchmark. C’est la commande du serveur, car 8 × H200 dit à qui cette publication s’adresse. Pour tous les autres, la question n’est pas de savoir si vous pouvez l’exécuter, mais si quelqu’un qui le sert vous donnera accès à un prix raisonnable.
Pour continuer la lecture
Tous les articles, du plus récent au plus ancien, sont sur l’index du blog Front.
- Chronologie de Reflection Beam 501B: La publication des poids de Reflection Beam 501B, dans l’ordre du temps.
- Chronologie de Meta Muse Spark Open: La publication de Meta Muse Spark Open, dans l’ordre du temps.
- Chronologie de DeepSeek V4.1 Flash 1017: La sortie de V4.1 Flash par DeepSeek, sa mise à jour du 17 octobre, ses prix et ses paramètres.
- Humanizer 12B : quel GGUF pour votre mémoire: Les besoins en mémoire de chaque fichier GGUF du même modèle.
- Qwen Image 2.1 Turbo en huit étapes: Comment Qwen Image 2.1 Turbo ramène le nombre d’étapes à 8.
Questions fréquentes
Combien de paramètres compte Ling-3.1-flash ?
La fiche du modèle indique 560B au total dont 25B actifs par token, et une fenêtre de contexte de 1M de tokens. Les métadonnées de Hugging Face sur la page affichent 572B.
Puis-je exécuter Ling-3.1-flash sur un seul GPU ?
Pas sur un GPU grand public. L’installation recommandée par la fiche est 8 × H200 ou 4 × GB300, car tous les poids des experts doivent résider en mémoire même si seuls 25B paramètres sont actifs par token.
Pour quoi Ling-3.1-flash est-il bon ?
Les auteurs rapportent de solides résultats sur des benchmarks de code agentique et de terminal comme SWE-bench Pro et Terminal-Bench. Ils sont déclarés par l’éditeur et non vérifiés indépendamment ici.
Journal des mises à jour
- — Première publication.