Ling-3.1-flash: 560B 파라미터, 활성 25B, 하드웨어에 어떤 의미인가

타임라인

1. 2026년 8월 2일

   Ling-3.0-flash 저장소가 Hugging Face에 나타난다. 이후 3.1 카드는 이 모델을 토대로 아키텍처와 실제 과제 성능을 개선했다고 설명한다.

   inclusionAI/Ling-3.0-flash (Hugging Face metadata)

2. 2026년 10월 13일

   Ling-3.1-flash 저장소가 나타난다. 카드는 복잡한 실제 과제를 위해 업그레이드한 네이티브 하이브리드 추론 모델로 소개하며, 총 파라미터 560B, 토큰당 활성 25B, 컨텍스트 윈도 1M 토큰을 내세우고 SGLang과 vLLM용 서빙 레시피를 첫날(day-0)부터 제공한다.

   inclusionAI/Ling-3.1-flash model card

대화보다 에이전트로 시작하는 릴리스

Ling-3.1-flash 카드의 첫 문단은 작성자가 이 모델을 어디에 쓰게 하려는지 보여 준다. 복잡한 실제 과제를 위해 설계한 업그레이드 네이티브 하이브리드 추론 모델이라고 부르며, 드는 예는 대화가 아니라 범용 에이전트, 검색, 사무 생산성, 소프트웨어 엔지니어링이다. 소개에서 이름을 거론하는 벤치마크도 같은 흐름이다. 사무 작업에는 GDPVal-AA V2.1, 의료에는 HealthBench Professional, 소프트웨어 엔지니어링에는 FrontierSWE, 터미널 기반 도구 사용에는 Terminal-Bench 4.0이다. 금융과 재료과학 같은 전문 분야에서도 좋아졌다고 하지만 수치는 없다.

계보는 짧다. Ling-3.0-flash 저장소는 8월 2일에 나타났다. Ling-3.1-flash는 10월 13일로 약 10주 뒤이며, 카드는 새 모델이 이전 모델을 토대로 아키텍처와 실제 과제 성능을 개선했다고 말한다. 오픈 웨이트 릴리스의 속도를 지켜보는 사람에게는 이 간격이 헤드라인이다. 560B 파라미터 모델이 두 달 남짓 만에 개정됐다.

사양표 읽기

카드의 개요 표에서 모델은 구호를 벗고 실체가 된다. Ling-3.1-flash는 하이브리드 선형 전문가 혼합(MoE) 모델이다. 총 파라미터 560B, 토큰당 활성 25B, KDA 63층과 게이트 MLA 9층이 7:1 비율, 밀집층 4층, 라우팅 전문가 512개와 공유 전문가 1개, 토큰당 활성 전문가 8개, 어텐션 헤드 64개, 은닉 크기 4096, 어휘 157,184개다. 카드는 KDA와 MLA 약어를 풀어 쓰지 않았고, 우리도 짐작하지 않는다. 숫자가 보여 주는 것은 산술이다. 총 560B 중 활성 25B는 어떤 토큰이든 파라미터의 약 4.5%만 건드린다는 뜻이며, 라우팅 전문가 512개 중 8개와 공유 전문가가 일을 한다.

숨기지 않고 짚어 둘 불일치가 하나 있다. 페이지의 Hugging Face 자체 메타데이터는 572B 파라미터로 표시하며 카드의 560B보다 조금 많다. 우리가 볼 수 있는 어디에도 이 차이는 설명돼 있지 않으므로 카드의 수치를 쓰고, 플랫폼의 집계가 더 크다는 점을 덧붙인다.

‘활성 25B’는 속도 이야기이지 메모리 이야기가 아니다

전문가 혼합 모델 관련 헤드라인에서 가장 쉽게 빠지는 문장이다. 토큰당 연산량은 활성 파라미터 수를 따라간다. 그래서 활성 25B 모델은 560B 밀집 모델보다 토큰당 실행 비용이 훨씬 낮을 수 있다. 하지만 메모리는 그렇게 작동하지 않는다. 라우터는 다음 토큰을 어느 전문가에게든 보낼 수 있으므로 모든 전문가가 빠른 메모리에 상주해 응답할 준비가 돼 있어야 한다. 가중치는 활성 수가 아니라 총수에 비례한다. 파라미터당 16비트라면 5600억 파라미터는 KV 캐시를 세기 전에 이미 약 1.1테라바이트다. 이는 카드의 수치가 아니라 우리의 계산이며, 다음 절의 설명이 된다.

긴 컨텍스트 윈도는 메모리 사정을 더 나쁘게 만든다. 1M 토큰 컨텍스트는 큰 주장이고, 컨텍스트에 담긴 토큰은 모두 가중치 위에 KV 캐시 메모리를 더한다. 카드는 긴 컨텍스트 사용 시의 메모리 수치를 제시하지 않으므로, 가정하지 말고 측정해야 할 대상이다. 이 정도 규모의 모델에는 간단한 습관이 도움이 된다. 내려받는 크기는 예산이 아니라 하한이다.

권장 구성이 말해 주는 것

카드가 권장하는 서빙 경로는 SGLang이며, 첫날(day-0) 이미지에는 Ling-3.1-flash 지원, NEXTN 알고리즘을 쓰는 MTP 추측 디코딩, Hopper 디코드 최적화가 들어 있다. 서버 명령은 8 × H200에서 텐서·전문가 병렬을 모두 8로 설정하는 것이고, 4 × GB300이라면 병렬도는 4다. 선택 환경 플래그 두 개를 켜면 Hopper에서 배치 1 디코드가 약 10% 빨라진다고도 적혀 있다. 카드에서 링크한 쿡북에는 H200, GB300, H800, H100, B200에서 검증한 레시피, Mooncake를 세 번째 캐시 계층으로 쓰는 HiCache, 추론 켜기·끄기, 도구 호출, 실측 정확도와 속도 수치가 있다. 데이터센터용 모델의 면모다.

vLLM 경로도 똑같이 분명한 신호를 준다. 카드는 특정 브랜치에서 vLLM을 빌드한 뒤, 텐서 병렬 크기 8, GPU 메모리 사용률 0.85, 프리픽스 캐싱, 전문가 병렬, mamba 캐시 모드, ling3 도구 호출 파서와 ling3 추론 파서를 곁들인 자동 도구 선택 플래그, MTP 토큰 3개의 추측 디코딩으로 서빙하라고 요구한다. 두 경로의 샘플링 권장값은 같다. temperature 1.0, top-p 0.95, top-k 20이고 최고 성능을 위해 사고를 켠다.

우리의 해석은 단순하다. 게이밍 GPU용 모델이 아니다. 직접 돌릴 모델의 메모리를 가늠하려면 두 가지 습관이 도움이 된다. 실행 시 메모리는 파일보다 크다고 가정하고, 실제로 쓸 컨텍스트 길이만큼의 KV 캐시를 더하는 것이다. 이 모델에서는 더 현실적인 질문이 따로 있다. 호스팅 엔드포인트가 합리적인 가격에 서비스하느냐다. 카드는 OpenRouter를 안내하고 추론 제공자로 Novita를 올려 두었으니 호스팅 이용은 가능하지만 가격은 카드에 없다.

작성자가 주장하는 능력

카드에 따르면 Ling-3.1-flash는 대표적인 코딩·에이전트 벤치마크에서 강한 성능을 보인다. Terminal-Bench 4.0, SWE-bench Pro, FrontierSWE, GDPVal-AA V2.1, Automationbench, MCP-Atlas, SkillsBench 등이다. 페이지의 평가 블록에는 몇 가지 점수가 나와 있다. SWE-bench Pro 68.74, Deep SWE 59.7, Terminal-Bench 2.1 81.18, Humanity’s Last Exam 37.44, SWE-bench Multilingual(해결) 88.5, Terminal-Bench 46.03, SkillsBench v1.1 68.7이다. 일부에는 페이지에서 별표가 붙어 있는데, 우리가 읽을 수 있는 본문에는 설명이 없다. 이 수치는 제공자가 보고한 것이다. 재현하지 않았으며 다른 어떤 모델과의 순위로 읽어서는 안 된다.

카드는 Claude Code, Kilo Code, Qwen Code, Hermes Agent, OpenClaw 등의 프레임워크 안에서도 좋은 경험을 준다고 말한다. 품질이 아니라 호환성에 대한 주장이다. 또 LingCode를 소개한다. 오픈소스 코딩 에이전트 Pi 위에 만든 하네스로, 몇 시간 동안 이어지고 수백 번의 도구 호출을 거치며 컨텍스트 압축이 거듭 필요한 장시간 코딩 과제에 맞게 강화했다. 작성자는 오픈소스화를 검토 중이라고 하는데, 아직 공개되지 않았다는 뜻이다. 놓치기 쉽지만 기억할 만한 대목이다. 긴 코딩 과제에 대해 작성자가 설명하는 가장 강한 결과는 아직 내려받을 수 없는 하네스로 얻은 것이다.

서류 부분

카드의 끝에는 모델 페이지로는 드문 것이 있다. PDF로 제공되는 공개 학습 콘텐츠 요약과 문서 색인이다. 대상 모델 버전, 학습 콘텐츠 범위, 요약 버전, 갱신일이 적혀 있고, 이는 학습 콘텐츠 공개에 관한 것이며 기술 문서, 이용 약관, 라이선스를 대체하지 않는다고 분명히 밝힌다. 우리는 이 PDF를 읽지 않았다. 페이지에는 지난 한 달 다운로드 1,904건도 표시돼 있다. 모델 크기에 비해 적은 숫자로, 내려받기보다 서비스로 쓰이는 릴리스라는 점과 맞는다.

우리의 판단

벤치마크 목록은 작성자가 모델이 강하다고 믿는 영역, 곧 에이전트형 코딩과 터미널 작업에 대한 진술로 읽자. 어느 한 점수도 독립적인 재실행을 기다린 뒤에야 확정된 것으로 다뤄야 한다. 사양은 희소성이 아끼는 것이 연산이지 메모리가 아니라는 점을 일깨우는 자료로 읽자. 대부분의 독자에게 카드에서 가장 쓸모 있는 숫자는 벤치마크가 아니라 서버 명령이다. 8 × H200이 이 릴리스가 누구를 위한 것인지 말해 준다. 그 밖의 사람에게는 돌릴 수 있느냐가 아니라, 서비스하는 누군가가 합리적인 가격에 접근을 열어 주느냐가 문제다.

이어서 읽기

모든 글은 최신순으로 Front 블로그 목록에 있습니다.

• Reflection Beam 501B 타임라인: Reflection Beam 501B 가중치 공개를 날짜순으로 정리.
• Meta Muse Spark Open 타임라인: Meta Muse Spark Open 출시를 날짜순으로 정리.
• DeepSeek V4.1 Flash 1017 타임라인: DeepSeek V4.1 Flash 출시와 10월 17일 업데이트, 가격, 파라미터 수.
• Humanizer 12B: 내 메모리에 맞는 GGUF는: 같은 모델의 GGUF 파일별 필요 메모리.
• Qwen Image 2.1 Turbo의 8단계: Qwen Image 2.1 Turbo가 단계 수를 8로 줄인 방법.

자주 묻는 질문

업데이트 기록

• 2026년 10월 17일 — 최초 게시.

출처

• inclusionAI/Ling-3.1-flash model card
• inclusionAI/Ling-3.0-flash