Meta、30BのAIエージェント「Muse Glimmer」公開 PCで動作
- 桜井 未来
- 1 時間前
- 読了時間: 2分
30Bモデルを4bit量子化、24GB／32GB環境で動作 推論速度は最大3.1倍
米Metaは現地時間8月10日、30B（300億）パラメーターのオープンウェイトモデル「Muse Glimmer」を公開した。Apache 2.0ライセンスで提供し、単一のコンシューマー向けGPUを搭載したMacやPCで動作するローカルAIエージェント向けに最適化したモデルだ。
Muse Glimmerは長時間のタスク実行やツール操作を重視する。関数呼び出し、マルチステップ推論、コーディングに加え、ツール実行に失敗した際に原因を診断して再試行する「Failure Recovery」に対応。専用の知覚エンコーダーにより、スクリーンショットやグラフ、文書などをテキストと組み合わせて処理でき、100以上の言語にも対応する。
エージェント性能を幅広く評価
学習では、「Muse Spark」の出力を利用したlogit distillationを実施。長いコンテキストやエージェント向けデータによる学習に加え、教師ありファインチューニング、オンポリシー蒸留、強化学習を組み合わせた。
性能評価ではGemma4-31BとQwen3.6-27Bを比較対象に、エージェント、コーディング、マルチモーダル、安全性、推論を評価。DeepSearch QA、MCP-Atlas、τ-Bench、SWE-Benchなどを用い、コードの作成・デバッグやツール利用、複数ターンのタスク処理を測定した。Metaは、30Bクラスのモデルとして複数のベンチマークで強い性能を示したとしている。
4bit量子化でローカル実行
ローカル実行では、量子化によってモデルの重みを約4bit、20GB未満に圧縮。KVキャッシュ、画像処理用エンコーダー、投機的デコーディング用モデルを含めても、24GBまたは32GBのメモリ環境に収められる。Metaの検証では、量子化によるエージェントタスクの性能低下は最小からほぼないという。
推論速度の改善にはDFlashベースの投機的デコーディングを採用。Metaの測定では、デコード速度がRTX 5090で3.1倍、M5 Maxで1.8倍、M4 Maxで1.5倍になった。
Hugging Faceで公開
モデルはHugging Faceで公開済み。Ollama、LM Studio、Unsloth、llama.cpp、MLX、ExecuTorchなどへの対応を今後進め、vLLMやSGLangによるサーバー運用も可能にする予定だ。
また、Metaのマーク・ザッカーバーグCEOはXへの投稿で、Muse Glimmerに続いて、最新の基盤モデル「Muse Spark 1.2」のウェイトも近く公開すると明らかにした。Muse Glimmerで30Bクラスのエージェント向けモデルをオープン化したのに続き、Muse Spark 1.2までウェイト公開の対象となれば、Metaのオープンモデル戦略がさらに広がることになる。
参照サイト
Meta
Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device
