本文へ
FrontierDot

Meta Muse Spark Open：816B の重みが Hugging Face に、そして「Mac Studio 2 台」という主張

更新

更新中のタイムライン · 最終更新 · 更新履歴 2 件

Meta は、米国で最も高性能なオープンウェイトモデルだと述べ、Mac Studio 2 台で動かせるとも述べています。ページから二つ目の主張は一部確かめられますが、一つ目はまったく確かめられません。

10月15日、Meta は Muse Spark Open の重みを公開した。総パラメータ 816B、活性 42B のマルチモーダルモデルで、コンテキストは 1M トークン、ライセンスは独自の Muse Model License。10月22日には Paradigm、Meta、Andromeda がこれらの重みを対象に総額 10 万ドルの H200 カーネル／サービング挑戦を開始した。

重み公開は 2026-10-17 に、カーネル挑戦は 2026-10-24（UTC+8）に再確認：Meta の発表、Hugging Face のモデルカードとローンチ記事、Transformers ドキュメント、Paradigm の挑戦記事、openkernelchallenge.dev、および Daniel Gross の 10 月 22 日の X 投稿。Meta ページのベンチマーク図は画像のため数値は読めず、スコアは報告しない。モデルは実行していない。

タイムライン

  1. のちのモデルについての Hugging Face の公開記事によれば、Meta は同じ Muse シリーズの小型の密なモデル、Muse Glimmer をリリースしました。記事は、Glimmer はローカルで動かすのに最適で、Muse Spark Open とトークナイザと語彙を共有すると述べています。このリリースの日を示す公式ページは見つからなかったため、このノードには月だけを載せています。

    Hugging Face: Welcome Muse Spark Open

  2. Transformers のドキュメントのこのモデルのページによれば、Muse Spark Open への対応が、重みの発表の前日に Hugging Face Transformers に寄せられました。ページには、62 層の言語バックボーンが各トークンを 256 エキスパートのうち 8 つにルーティングすること、BF16 と NVFP4 のチェックポイントがあることが書かれています。

    Transformers docs: Muse Spark Open

  3. Meta がリリースを発表します。Muse Spark Open は総パラメータ 816B、アクティブ 42B、コンテキストウィンドウ 1M トークンで、コーディングとエージェント作業向けに作られています。重みは Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry Models で提供され、ホスト型 API は Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI から利用できます。ライセンスは Muse Model License で、Meta は商用条件に制限があるものと説明しています。

    Meta AI Research: Introducing Muse Spark Open

  4. Paradigm が Meta および Andromeda と協力し、Muse Spark Open Kernel Challenge を開始した。賞金総額 10 万ドルで、Muse Spark Open を NVIDIA H200 GPU 上でより速く動かすことが目標。コンテストは直列の 2 トラックで 11 月 19 日に終了する。まず SGLang ベースラインに対する 5 つのカーネル問題、次に 8×H200 ノード全体で SGLang を改変するサービングトラック。優勝は 5 万ドルと Meta チーム署名の H200。提出物は Apache 2.0 ライセンス。

    Paradigm: Muse Spark Open Kernel Challenge

何が、いつ公開されたか

Meta の発表の日付は 2026 年 10 月 15 日で、Hugging Face のモデルカードにも同じリリース日が書かれています。モデルカードは要点を数行で述べています。総パラメータ 816B、アクティブ 42B、コンテキストウィンドウ 1M トークン、ネイティブなマルチモーダル、コーディングとエージェント作業向け、ライセンスは Muse Model License。著者には Meta Superintelligence Labs が挙げられています。

モデルカードには見落としやすく、趣旨を引いておく価値のある点があります。オープンウェイト版には追加の安全性の後学習が施されていて、システムによる防護なしの単体のモデルとして悪用されにくくすることを意図しています。Meta は、用途に合った防護を備えた、より大きなシステムの一部として配備することを勧めています。PyTorch のブログ記事は、このオープン版が Muse Spark 1.3 と同じベースモデルを共有すると付け加えています。これにより、このリリースは、重みが出る前から存在した製品ラインに結びつきます。

Meta のページは、モデルが Meta Superintelligence Scaling Framework の求めるリリースの基準を満たしたこと、詳細な結果はモデルカードにあること、完全な評価レポートがまもなく公開されることも述べています。私たちが読んだ時点では、そのレポートは約束であり、リンクはありませんでした。

文書に基づくアーキテクチャ

Hugging Face の公開記事が最も詳しく書いています。言語モデルは 62 層、隠れ次元 8192、クエリヘッド 128、キー・バリューヘッド 16 です。各エキスパート混合ブロックには 256 のエキスパートがあり、ルーターがトークンごとに 8 つを選びます。記事によれば、エキスパートが総パラメータの約 97% を占めます。モデルにはさらに、画像と動画フレーム用の 1.8B パラメータの知覚エンコーダと、80 ミリ秒ごと、つまり毎秒 12.5 トークンで一つのトークンを出す畳み込みの音声エンコーダがあります。テキスト、画像、音声、動画を受け取り、テキストを生成します。

記事は、あらゆる大規模なエキスパート混合モデルに当てはまるメモリについての同じ点を述べています。トークンごとに動くエキスパートは 8 つだけなので、各トークンは約 42B パラメータで計算されますが、256 のエキスパートすべてがメモリに残ります。配備には 816B モデルのメモリが必要で、動作速度は 42B モデル並みです。記事はキャッシュも計算していて、BF16 ではトークンあたり約 250 KB、100 万トークンのコンテキストを満たすと約 266 GB で、これは重みに上乗せされます。

チェックポイントの形式は BF16 と NVFP4 です。記事によれば、BF16 のチェックポイントは約 1.5 TB で、Transformers では H200 GPU 8 枚のノード四つにまたがって動き、NVFP4 版は B200 ノード一台で動きます。モデルカードは下限についてもっとはっきり述べています。NVFP4 には少なくとも 700 GB の VRAM、BF16 には 2 TB の GPU 構成が必要です。

デスクトップで動くという主張

Meta がこのリリースに掲げる見出しは、最新の MLX フレームワークを使い、Apple M5 Ultra の Mac Studio 2 台で、先進的なエージェント能力を初めてデスクトップに持ち込むというものです。ページは、その根拠となる算術を説明しています。各 Mac Studio のユニファイドメモリは、統合 GPU が最大 512 GB を使えるので、2 台でモデル全体を保持でき、チップの 1.2 TB/s のメモリ帯域は、Meta の言葉では、各トークンが必要とする小さな部分を読み出すのに十分な速さです。

Hugging Face の記事から確かめられるのは、別の、より小さな構成です。作者は、512 GB の Mac M3 Ultra で量子化版を試しました。llama.cpp での 2 ビット量子化は 304 GB を使い、毎秒 18 トークンで動きました。3 ビットの MLX 量子化は約 344 GB で、1024 トークンのプロンプトと 128 トークンの生成で、プリフィルが毎秒約 225 トークン、生成が約 21 でした。同じ記事は、3 ビット量子化でも 256 GB を超える RAM が必要だと述べています。

これらは、Meta の見出しとは別のマシンでの本物の数字であり、妥協がどんな姿かも示しています。積極的な量子化、非常に大きな一台の Mac、そして使えるが控えめな速度です。M5 Ultra 2 台の構成そのものの測定は、これらのページには見つかりませんでした。主張は成り立つのかもしれませんが、確かめられる証拠は M3 Ultra のものです。

ライセンスと入手方法

Meta は、重みを Muse Model License の下で「多くの開発者が無料でモデルを使える、限定的な商用条件つき」で公開すると述べています。これは Apache 2.0 でも MIT でもなく、私たちはライセンスの文面を要約していないので、製品を作る前に読んでください。配布先の一覧は、公開時のものとしては珍しいほど広く、重みは Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry Models から、ホスト型のアクセスは七つの API プロバイダから得られます。

推論の対応も、紙の上では広範です。モデルカードは SGLang、vLLM、Hugging Face、TensorRT-LLM、Unsloth、llama.cpp を挙げ、公開記事は llama.cpp、SGLang、vLLM のサービング手順を示しています。その手順には注意点が一つあります。vLLM の参照実装は NVFP4 チェックポイントでテキストと画像の入力に対応し、Blackwell 世代の GPU を必要とするため、完全なマルチモーダルは、どのエンジンでも同じではありません。

確認できなかったこと

  • 「これまでで最も高性能な米国のオープンウェイトモデル」。Meta 自身の呼び方で、Hugging Face の記事も繰り返しています。Meta のベンチマークのグラフは画像のため、スコアを読み取ったり再現したりはしていません。
  • M5 Ultra の Mac Studio 2 台の構成。測定が見つかったのは M3 Ultra のものだけです。
  • 安全性の評価。Meta は完全なレポートが出ると述べていますが、私たちは見ていません。

私たちの見方

この公開は規模が大きく、ローンチ時の対応も厚い。最上級の表現は Meta のもので、ライセンスも独自のため、開発者の実務上の問いはいつもの二つだ。メモリを負担できるか、このライセンスで製品を出せるか。多くの人にとって前者の答えは、Meta が列挙するホスト型 API であって机上のマシンではない。10 月 22 日のカーネル挑戦は別の賭けだ。オープンな重みは、コミュニティが Hopper のサービングを SGLang ベースラインより押し上げられるときに一層役立つ、という見方である。本ページは生きたタイムラインだ。評価報告、挑戦の結果、新しい量子化やライセンスの明確化が出れば、日付付きノードと更新ログが増え、冒頭の一行結論もそれに合わせて変わる。

同じ週の、もう一つの大きなオープンウェイトのリリースについては、ライセンスが寛容でハードウェア面の事情も異なる Reflection Beam の時系列をご覧ください。

あわせて読みたい

全記事は新しい順に Front ブログ一覧 にあります。

よくある質問

Meta はいつ Muse Spark Open をリリースしましたか。

Meta の発表と Hugging Face のモデルカードによれば、2026 年 10 月 15 日です。

Muse Spark Open のライセンスは何ですか。

Muse Model License で、Meta は商用条件に制限があるものと説明しています。独自のライセンスなので、商用利用の前に本文をお読みください。

Muse Spark Open は Mac で動きますか。

Meta は、MLX を使って Apple M5 Ultra の Mac Studio 2 台で動くと述べています。Hugging Face のテストでは、512 GB の M3 Ultra で 2 ビットと 3 ビットの量子化版を使いました。

更新履歴

  • — 2026年10月22日の Muse Spark Open Kernel Challenge（Paradigm、Meta、Andromeda）のノードを追加した。
  • — 初回公開。

出典