オープンモデルといえば、かつてはメタのLlamaだった。いまこの分野をけん引するのは、Qwen、Kimi、GLMといった中国勢だ。Llamaのあと非公開のモデルに軸足を移していたメタが10月15日、久しぶりに大型のオープンモデルを公開した。
「Muse Spark Open」は、総パラメーター数が8160億、1トークンごとに使うのはそのうち420億で、100万トークンのコンテキストを扱う。メタによると、コーディングとエージェント用途を想定したモデルで、複雑なソフトウェア開発や、何段階にもわたる推論を得意とするという。
売りは、クラウドを使わず、Macで動かすことができる点だ。アップルの機械学習フレームワーク「MLX」で最適化し、M5 Ultraを積んだMac Studio 2台をつなげば、モデル全体を載せることができる。メタは、2台のMac Studioが、1テラバイトのメモリを持つ1台のスーパーコンピューターのように動くと説明する。Hugging Faceの検証では、圧縮した版なら、512GBのメモリを積んだMac Studio 1台でも動いた。
メタが公開した実演では、クラウドを通さずに、オープンソースのMastodonアプリ「Ice Cubes」のバグを直し、新しい機能を加え、ビルドまで済ませた。動画編集ソフトのDaVinci Resolveを操作し、素材を1コマずつ見て見せ場を探し、縦長の動画に切り出す作業もこなした。
アップルと手を組んだことも目を引く。両社は、アップルが2021年に、アプリが利用者を追跡する前に許可を求める仕組みを導入して以来、対立してきた。メタは当時、この変更で2022年の売上が100億ドル減ると見積もっていた。CNBCによると、両社が公に協力するのは2017年以来だ。ザッカーバーグはXで、アップルのジョン・ターナスCEOとの協力に触れ、新しいMac Studioで「よく動く」と書いた。メタでAIを率いるアレクサンドル・ワンは、Axiosに「両親がまた仲良くなってくれてうれしい」と話している。
メタが公開した比較表では、複数のツールを使い分ける作業を測るMCP-Atlasや、画像の理解を測るZeroBenchなどで、中国勢のGLM 5.3やKimi K3を上回った。一方、コーディングの項目では、いずれもKimi K3などに及ばなかった。
重みは無料で使うことができ、改変や再配布、販売も認められている。製品には「Built with Muse Spark Open」と表示する必要があり、年間の売上が2,000万ドルを超える事業者がAPIとして提供する場合は、メタと別に契約を結ぶ。
ワンはCNBCに、こうも話している。「これは、私たちが開発し、公開してきたなかで最も高性能なモデルではない」