Skip to content
FrontierDot

Ling-3.1-flash: 560B parámetros, 25B activos y lo que eso implica para tu hardware

Cronología en actualización · última actualización · 1 entrada en el registro de cambios

Solo 25B parámetros trabajan en cada token, lo que suena poco. Aun así, todos los pesos tienen que vivir en algún sitio, y la configuración recomendada es un rack, no un equipo de sobremesa.

Ling-3.1-flash es un modelo de 560B parámetros en total y 25B activos, publicado unas diez semanas después de Ling-3.0-flash; necesita un servidor con varias GPU, y todas las cifras de benchmark son de los propios autores.

Leído en la ficha del modelo inclusionAI/Ling-3.1-flash en Hugging Face el 2026-10-17; las fechas de los repositorios proceden de los metadatos de Hugging Face. Todas las cifras de benchmark las declara el proveedor y no las reprodujimos.

Cronología

  1. El repositorio Ling-3.0-flash aparece en Hugging Face. La ficha de la 3.1 se describe después como construida sobre este modelo, con mejoras en la arquitectura y en el rendimiento en tareas del mundo real.

    inclusionAI/Ling-3.0-flash (Hugging Face metadata)

  2. Aparece el repositorio Ling-3.1-flash. La ficha lo presenta como un modelo de razonamiento híbrido nativo mejorado para tareas complejas del mundo real, con 560B parámetros en total, 25B activos por token y una ventana de contexto de 1M de tokens, y ofrece recetas de servicio day-0 para SGLang y vLLM.

    inclusionAI/Ling-3.1-flash model card

Un lanzamiento que empieza por los agentes, no por el chat

El primer párrafo de la ficha de Ling-3.1-flash dice para qué quieren los autores que se use. Lo llaman un modelo de razonamiento híbrido nativo mejorado, diseñado para tareas complejas del mundo real, y los ejemplos que eligen no son de conversación. Son agentes de propósito general, búsqueda, productividad de oficina e ingeniería de software. Los benchmarks que la ficha cita en su introducción siguen el mismo patrón: GDPVal-AA V2.1 para tareas de oficina, HealthBench Professional para sanidad, FrontierSWE para ingeniería de software y Terminal-Bench 4.0 para el uso de herramientas en terminal. También dice que el modelo mejora en dominios especializados como las finanzas y la ciencia de materiales, sin dar cifras.

El linaje es corto. El repositorio Ling-3.0-flash apareció el 2 de agosto. Ling-3.1-flash lo siguió el 13 de octubre, unas diez semanas después, y la ficha dice que el nuevo modelo se apoya en el anterior con mejoras en la arquitectura y en el rendimiento en tareas del mundo real. Para quien sigue el ritmo de los lanzamientos de pesos abiertos, ese intervalo es el titular: un modelo de 560B parámetros revisado en poco más de dos meses.

Lectura de la hoja de especificaciones

La tabla de resumen de la ficha es donde un modelo deja de ser un eslogan. Ling-3.1-flash es un modelo mixture-of-experts híbrido-lineal: 560B parámetros en total, 25B activados por token, 63 capas KDA y 9 capas MLA con compuertas en una proporción de 7:1, 4 capas densas, 512 expertos enrutados más 1 experto compartido, 8 expertos activados por token, 64 cabezas de atención, un tamaño oculto de 4096 y un vocabulario de 157 184. La ficha no desarrolla las siglas KDA y MLA, y no vamos a adivinarlas. Lo que muestran los números es aritmética: 25B activos de 560B en total son aproximadamente un 4,5 % de los parámetros usados para un token cualquiera, y 8 de los 512 expertos enrutados, más el compartido, hacen el trabajo.

Hay una discrepancia que conviene señalar en lugar de ocultar. Los metadatos de Hugging Face en la página muestran 572B parámetros, algo por encima de los 560B de la ficha. La diferencia no se explica en ningún sitio que podamos ver, así que usamos la cifra de la ficha y anotamos que el recuento de la plataforma es mayor.

«25B activos» habla de velocidad, no de memoria

Es la frase que se pierde en los titulares sobre modelos mixture-of-experts. El cómputo por token sigue al número de parámetros activos, por eso un modelo con 25B activos puede ser mucho más barato de ejecutar por token que un modelo denso de 560B. Pero la memoria no funciona así. El enrutador puede enviar el siguiente token a cualquier experto, por lo que todos deben residir en memoria rápida, listos para responder. Los pesos escalan, pues, con el total, no con los activos. A 16 bits por parámetro, 560 mil millones de parámetros suponen aproximadamente 1,1 terabytes antes de contar el caché KV. Es aritmética nuestra, no una cifra de la ficha, y explica la sección siguiente.

Una ventana de contexto larga empeora el panorama de la memoria en lugar de mejorarlo. Un contexto de 1M de tokens es una afirmación grande, y cada token que se mantiene en contexto añade memoria de caché KV por encima de los pesos. La ficha no da una cifra de memoria para el uso con contexto largo, así que considéralo algo que medir, no que suponer. Un hábito sencillo ayuda con cualquier modelo de este tamaño: la descarga es un suelo, no un presupuesto.

Lo que nos dice la configuración recomendada

La vía de servicio recomendada por la ficha es SGLang, y su imagen day-0 incluye soporte para Ling-3.1-flash, decodificación especulativa mediante MTP con el algoritmo NEXTN y optimizaciones de decodificación para Hopper. El comando del servidor es para 8 × H200 con paralelismo tensorial y de expertos ambos fijados en 8 o, en 4 × GB300, un paralelismo de 4. Añade que dos indicadores de entorno opcionales dan una decodificación de lote 1 aproximadamente un 10 % más rápida en Hopper. Un cookbook enlazado desde la ficha lista recetas verificadas para H200, GB300, H800, H100 y B200, además de HiCache con Mooncake como tercer nivel de caché, razonamiento activado y desactivado, llamada a herramientas y cifras medidas de precisión y velocidad. Es el perfil de un modelo pensado para centros de datos.

La vía vLLM es una señal igual de clara. La ficha pide compilar vLLM desde una rama concreta y luego servir con tamaño de paralelismo tensorial 8, uso de memoria de GPU al 0,85, caché de prefijos, paralelismo de expertos, un modo de caché mamba, un indicador de elección automática de herramientas con un analizador de llamadas a herramientas ling3 y un analizador de razonamiento ling3, y decodificación especulativa con tres tokens MTP. Ambas vías comparten la misma recomendación de muestreo: temperatura 1,0, top-p 0,95, top-k 20, con el pensamiento activado para el mejor rendimiento.

Nuestra lectura es simple. No es un modelo para una GPU de juegos. Si quieres estimar la memoria de modelos que sí piensas ejecutar tú mismo, ayudan dos hábitos: suponer que la memoria en ejecución es mayor que el archivo y sumar el caché KV de la longitud de contexto que uses de verdad. Para este modelo en particular, la pregunta más práctica es si un endpoint alojado lo sirve a un precio razonable. La ficha remite a OpenRouter y lista a Novita como proveedor de inferencia, así que existe acceso alojado, aunque el precio no figura en la ficha.

Lo que los autores afirman que sabe hacer

La ficha dice que Ling-3.1-flash rinde con solidez en benchmarks representativos de código y de agentes: Terminal-Bench 4.0, SWE-bench Pro, FrontierSWE, GDPVal-AA V2.1, Automationbench, MCP-Atlas y SkillsBench, entre otros. El bloque de evaluación de la página lista puntuaciones de varios: SWE-bench Pro 68,74, Deep SWE 59,7, Terminal-Bench 2.1 81,18, Humanity’s Last Exam 37,44, SWE-bench Multilingual (resuelto) 88,5, Terminal-Bench 46,03 y SkillsBench v1.1 68,7. Varios llevan un asterisco en la página, que esta no explica en un texto que pudiéramos leer. Son cifras declaradas por el proveedor. No las reprodujimos y no deben leerse como una clasificación frente a ningún otro modelo.

La ficha también dice que el modelo ofrece una buena experiencia dentro de Claude Code, Kilo Code, Qwen Code, Hermes Agent, OpenClaw y otros frameworks, una afirmación de compatibilidad más que de calidad. Y presenta LingCode, un arnés construido sobre el agente de programación de código abierto Pi y reforzado para tareas de programación de largo recorrido que duran horas, implican cientos de rondas de llamadas a herramientas y exigen compactar el contexto repetidamente. Los autores dicen que están considerando publicarlo en código abierto, lo que significa que no está publicado. Es un detalle fácil de pasar por alto y que conviene recordar: los mejores resultados que describen los autores para tareas de programación largas usan un arnés que todavía no se puede descargar.

El papeleo

La ficha termina con algo inusual en la página de un modelo: un resumen público del contenido de entrenamiento, disponible como PDF, y un índice de documentación. Describe las versiones de modelo cubiertas, el alcance del contenido de entrenamiento, la versión del resumen y la fecha de actualización, y dice con claridad que se refiere a la divulgación del contenido de entrenamiento y no sustituye la documentación técnica, los términos de uso ni la licencia. No leímos el PDF. La página también muestra 1 904 descargas en el último mes, una cifra pequeña frente al tamaño del modelo, lo que encaja con un lanzamiento que se sirve más que se descarga.

Nuestra opinión

Lee la lista de benchmarks como la declaración de los autores sobre dónde creen que el modelo es fuerte, que es la programación con agentes y el trabajo en terminal, y espera a ejecuciones independientes antes de dar por cerrada cualquier puntuación aislada. Lee la especificación como un recordatorio de que la dispersión ahorra cómputo, no memoria. La cifra más útil de la ficha para la mayoría de lectores no es un benchmark. Es el comando del servidor, porque 8 × H200 dice a quién va dirigido este lanzamiento. Para todos los demás, la cuestión no es si puedes ejecutarlo, sino si alguien que lo sirva te dará acceso a un precio razonable.

Sigue leyendo

Todos los artículos, del más reciente al más antiguo, están en el índice del blog de Front.

Preguntas frecuentes

¿Cuántos parámetros tiene Ling-3.1-flash?

La ficha del modelo indica 560B en total con 25B activos por token y una ventana de contexto de 1M de tokens. Los metadatos de Hugging Face en la página muestran 572B.

¿Puedo ejecutar Ling-3.1-flash en una sola GPU?

No en una GPU de consumo. La configuración recomendada por la ficha es 8 × H200 o 4 × GB300, porque todos los pesos de los expertos deben residir en memoria aunque solo 25B parámetros estén activos por token.

¿En qué es bueno Ling-3.1-flash?

Los autores informan de buenos resultados en benchmarks de programación con agentes y de terminal como SWE-bench Pro y Terminal-Bench. Los declara el proveedor y aquí no se han verificado de forma independiente.

Registro de cambios

  • — Primera publicación.

Fuentes