Skip to content
FrontierDot

Meta Muse Spark Open: 816B Gewichte auf Hugging Face und die Zwei-Mac-Studio-Aussage

Aktualisiert

Fortlaufende Zeitleiste · zuletzt aktualisiert · 2 Einträge im Änderungsprotokoll

Meta sagt, es sei das leistungsfähigste offene US-Modell bisher und zwei Mac Studios könnten es betreiben. Die zweite Aussage lässt sich anhand der Seiten teilweise prüfen, die erste gar nicht.

Am 15. Oktober veröffentlichte Meta die Gewichte von Muse Spark Open, einem multimodalen Modell mit 816B Gesamt- und 42B aktiven Parametern sowie 1M-Token-Kontext unter einer eigenen Muse Model License; am 22. Oktober eröffneten Paradigm, Meta und Andromeda eine H200-Kernel-und-Serving-Challenge mit 100.000 Dollar Preisgeld rund um diese Gewichte.

Gelesen am 2026-10-17 für die Gewicht-Veröffentlichung und erneut am 2026-10-24 (UTC+8) für die Kernel-Challenge: Metas Ankündigung, die Hugging-Face-Modellkarte und den Launch-Post, die Transformers-Dokumentation, Paradigms Challenge-Post, openkernelchallenge.dev und Daniel Gross’ X-Post vom 22. Oktober. Benchmark-Diagramme auf Metas Seite sind Bilder, die wir nicht als Text lesen konnten; wir melden keine Scores. Wir haben das Modell nicht ausgeführt.

Zeitleiste

  1. Meta veröffentlicht Muse Glimmer, ein kleines dichtes Modell derselben Muse-Reihe, laut dem Hugging-Face-Launch-Beitrag zum späteren Modell. Der Beitrag sagt, Glimmer eigne sich ideal für den lokalen Betrieb und teile Tokenizer und Vokabular mit Muse Spark Open. Eine offizielle Seite mit einem Tag für diesen Release fanden wir nicht, der Knoten trägt daher nur den Monat.

    Hugging Face: Welcome Muse Spark Open

  2. Die Unterstützung für Muse Spark Open wird laut Transformers-Dokumentationsseite zum Modell einen Tag vor der Ankündigung der Gewichte in Hugging Face Transformers beigesteuert. Die Seite beschreibt ein Sprach-Backbone mit 62 Schichten, das jedes Token an 8 von 256 Experten leitet, mit BF16- und NVFP4-Checkpoints.

    Transformers docs: Muse Spark Open

  3. Meta kündigt den Release an. Muse Spark Open hat 816B Parameter insgesamt, 42B aktiv und ein Kontextfenster von 1M Token, gebaut für Coding und agentische Arbeit. Die Gewichte gibt es auf Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden und Microsoft Foundry Models, gehostete APIs bei Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter und Together AI. Die Lizenz ist die Muse Model License, die Meta als Lizenz mit begrenzten kommerziellen Bedingungen beschreibt.

    Meta AI Research: Introducing Muse Spark Open

  4. Paradigm startet zusammen mit Meta und Andromeda die Muse Spark Open Kernel Challenge: ein Preisgeld von 100.000 Dollar, damit Muse Spark Open auf NVIDIA-H200-GPUs schneller läuft. Der Wettbewerb hat zwei Tracks in Serie und endet am 19. November — zuerst fünf Kernel-Aufgaben gegen eine SGLang-Baseline, dann ein Serving-Track, der SGLang auf einem vollen 8×H200-Knoten verändert. Der erste Platz erhält 50.000 Dollar plus eine von Meta signierte H200. Einreichungen stehen unter Apache 2.0.

    Paradigm: Muse Spark Open Kernel Challenge

Was an welchem Tag veröffentlicht wurde

Metas Ankündigung trägt das Datum 15. Oktober 2026, und die Hugging-Face-Modellkarte nennt dasselbe Release-Datum. Die Modellkarte hält das Wesentliche in wenigen Zeilen fest: 816B Parameter insgesamt, 42B aktiv, ein Kontextfenster von 1M Token, nativ multimodal, gebaut für Coding und agentische Arbeit, Lizenz namens Muse Model License. Als Autoren sind die Meta Superintelligence Labs genannt.

Ein Detail der Modellkarte übersieht man leicht, und es lohnt sich, es sinngemäß zu zitieren. Die Version mit offenen Gewichten hat zusätzliches Sicherheits-Post-Training, damit sie als eigenständiges Modell ohne System-Leitplanken robuster gegen Missbrauch ist, und Meta empfiehlt, sie als Teil eines größeren Systems mit zum Einsatz passenden Leitplanken zu betreiben. Der PyTorch-Blogbeitrag ergänzt, dass diese offene Version dasselbe Basismodell wie Muse Spark 1.3 nutzt. Das verknüpft den Release mit einer Produktlinie, die schon vor den Gewichten existierte.

Metas Seite sagt außerdem, das Modell habe die Schwellen erreicht, die das Meta Superintelligence Scaling Framework für eine Veröffentlichung verlangt, die detaillierten Ergebnisse stünden in der Modellkarte, und ein vollständiger Evaluationsbericht folge bald. Als wir sie lasen, war dieser Bericht ein Versprechen und kein Link.

Die Architektur, wie dokumentiert

Der Hugging-Face-Launch-Beitrag gibt die meisten Details. Das Sprachmodell hat 62 Schichten und eine Hidden-Dimension von 8192, mit 128 Query-Köpfen und 16 Key-Value-Köpfen. Jeder Mixture-of-Experts-Block hat 256 Experten und einen Router, der pro Token 8 auswählt. Laut Beitrag halten die Experten etwa 97 % der Gesamtparameter, und das Modell hat außerdem einen Perception-Encoder mit 1,8B Parametern für Bilder und Videoframes sowie einen Faltungs-Audio-Encoder, der alle 80 Millisekunden ein Token ausgibt, also 12,5 Token pro Sekunde. Es nimmt Text, Bilder, Audio und Video entgegen und erzeugt Text.

Der Beitrag macht denselben Punkt zum Speicher, der für jedes große Mixture-of-Experts-Modell gilt: Pro Token laufen nur 8 Experten, jedes Token wird also mit etwa 42B Parametern berechnet, aber alle 256 Experten bleiben im Speicher. Das Deployment braucht den Speicher eines 816B-Modells und läuft so schnell wie ein 42B-Modell. Er rechnet auch den Cache vor: etwa 250 KB pro Token in BF16 oder etwa 266 GB für einen vollen Kontext von einer Million Token, zusätzlich zu den Gewichten.

Die Checkpoint-Formate sind BF16 und NVFP4. Laut Beitrag hat der BF16-Checkpoint etwa 1,5 TB und läuft in Transformers über vier Knoten mit je acht H200-GPUs, während die NVFP4-Version auf einem einzelnen B200-Knoten läuft. Die Modellkarte ist bei der Untergrenze direkter: ein GPU-Setup mit mindestens 700 GB VRAM für NVFP4 und 2 TB für BF16.

Die Desktop-Aussage

Metas Schlagzeile zum Release lautet, er bringe erstmals führende agentische Fähigkeiten auf den Desktop, auf zwei Apple-M5-Ultra-Mac-Studios mit dem neuesten MLX-Framework. Die Seite erklärt die Rechnung, auf die sie sich stützt: Der Unified Memory jedes Mac Studio lässt die integrierte GPU bis zu 512 GB nutzen, zwei Geräte können also das ganze Modell halten, und die Speicherbandbreite des Chips von 1,2 TB/s reiche, in Metas Worten, um den kleinen Ausschnitt zu lesen, den jedes Token braucht.

Was sich anhand des Hugging-Face-Beitrags prüfen lässt, ist ein anderes, kleineres Setup. Seine Autoren testeten quantisierte Versionen auf einem Mac M3 Ultra mit 512 GB. Eine 2-Bit-Quantisierung über llama.cpp belegte 304 GB und lief mit 18 Token pro Sekunde. Eine 3-Bit-MLX-Quantisierung brauchte etwa 344 GB und lief bei einem Prompt von 1024 Token und 128 erzeugten Token mit etwa 225 Token pro Sekunde im Prefill und 21 bei der Generierung. Derselbe Beitrag vermerkt, dass selbst die 3-Bit-Quantisierung mehr als 256 GB RAM braucht.

Das sind echte Zahlen von einem anderen Rechner als dem in Metas Schlagzeile, und sie zeigen, wie ein Kompromiss aussieht: aggressive Quantisierung, ein sehr großer Mac und Geschwindigkeiten, die brauchbar, aber bescheiden sind. Für die Konfiguration mit zwei M5 Ultra selbst fanden wir auf den Seiten keine Messung. Die Aussage kann durchaus stimmen, aber die prüfbaren Belege gelten dem M3 Ultra.

Lizenz und Verfügbarkeit

Meta sagt, es veröffentliche die Gewichte unter der Muse Model License „with limited commercial terms, which allow many developers to use the model for free“. Das ist weder Apache 2.0 noch MIT, und wir haben den Lizenztext nicht zusammengefasst, lesen Sie ihn also, bevor Sie ein Produkt bauen. Die Vertriebsliste ist für einen Launch ungewöhnlich breit: Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden und Microsoft Foundry Models für Gewichte und sieben API-Anbieter für gehosteten Zugang.

Auch die Inferenz-Unterstützung ist auf dem Papier breit. Die Modellkarte nennt SGLang, vLLM, Hugging Face, TensorRT-LLM, Unsloth und llama.cpp, und der Launch-Beitrag zeigt Serving-Rezepte für llama.cpp, SGLang und vLLM. Ein Vorbehalt aus diesen Rezepten: Die vLLM-Referenzintegration unterstützt Text- und Bildeingaben mit dem NVFP4-Checkpoint und verlangt GPUs der Blackwell-Reihe, volle Multimodalität ist also nicht in jeder Engine gleich.

Was wir nicht prüfen konnten

  • „Most capable US open-weight model to date.“ Das ist Metas eigenes Etikett, vom Hugging-Face-Beitrag wiederholt. Metas Benchmark-Diagramme sind Bilder, wir haben daher keine Werte gelesen oder reproduziert.
  • Das Setup mit zwei M5-Ultra-Mac-Studios. Messungen fanden wir nur für einen M3 Ultra.
  • Die Sicherheitsevaluation. Meta sagt, ein vollständiger Bericht komme; gesehen haben wir ihn nicht.

Unsere Einschätzung

Die Veröffentlichung ist gewichtig und zum Start gut unterstützt. Die Superlative stammen von Meta, und die Lizenz ist eine eigene, daher bleiben die praktischen Fragen für Entwickler die üblichen zwei: Kann ich mir den Speicher leisten, und darf ich mit dieser Lizenz ausliefern. Für die meisten lautet die Antwort auf die erste Frage eine gehostete API, die Meta auflistet, und nicht ein Schreibtisch. Die Kernel-Challenge vom 22. Oktober ist eine separate Wette: Offene Gewichte werden nützlicher, wenn die Community das Hopper-Serving über die SGLang-Baseline hinaus treiben kann. Diese Seite ist eine lebende Timeline. Wenn der Evaluierungsbericht, Challenge-Ergebnisse, neue Quantisierungen oder Lizenzklarstellungen erscheinen, erhalten sie einen datierten Knoten und einen Update-Log-Eintrag, und die Einzeilen-Fazit oben ändert sich mit.

Zum anderen großen Release offener Gewichte derselben Woche, mit freizügiger Lizenz und anderer Hardware-Geschichte, siehe die Reflection-Beam-Zeitleiste.

Weiterlesen

Alle Beiträge, neueste zuerst, stehen im Front-Blog.

Häufige Fragen

Wann veröffentlichte Meta Muse Spark Open?

Am 15. Oktober 2026, laut Metas Ankündigung und der Hugging-Face-Modellkarte.

Welche Lizenz nutzt Muse Spark Open?

Die Muse Model License, die Meta als Lizenz mit begrenzten kommerziellen Bedingungen beschreibt. Es ist eine eigene Lizenz, lesen Sie den Text vor kommerzieller Nutzung.

Läuft Muse Spark Open auf einem Mac?

Meta sagt, es laufe auf zwei Apple-M5-Ultra-Mac-Studios mit MLX. Die Tests von Hugging Face nutzten einen M3 Ultra mit 512 GB und 2-Bit- und 3-Bit-quantisierte Versionen.

Änderungsprotokoll

  • — Knoten vom 22. Oktober 2026 zur Muse Spark Open Kernel Challenge (Paradigm, Meta und Andromeda) ergänzt.
  • — Erstveröffentlichung.

Quellen