Meta und Apple optimieren riesiges KI-Modell für Mac Studios

Meta hat ein neues KI-Modell mit offenen Gewichten veröffentlicht. Der Konzern bezeichnet Muse Spark Open als das bisher leistungsfähigste Open-Weight-Modell aus den USA. Es erscheint gut zwei Monate nach Muse Glimmer und ist mit 816 Milliarden Parametern erheblich größer und laut unabhängigen Tests deutlich leistungsfähiger, stellt allerdings auch deutlich höhere Anforderungen an die Hardware.

Laut Modellkarte nutzt Muse Spark Open eine Mixture-of-Experts-Architektur mit 256 Experten, von denen pro Token acht aktiviert werden. Damit sind pro Token rund 42 Milliarden Parameter aktiv. Das Kontextfenster umfasst eine Million Token. Das Modell verarbeitet Text, Bilder, Videos und Audio, gibt aber ausschließlich Text aus. Meta bewirbt es in der Ankündigung für Programmieraufgaben, mehrstufiges Schlussfolgern und KI-Agenten, die Werkzeuge nutzen, Fehler korrigieren und längere Aufgaben bearbeiten sollen.

Meta und Apple kooperieren

Für die lokale Ausführung von Muse Spark Open arbeitete Meta ausgerechnet mit Apple zusammen. Die beiden Unternehmen kooperieren bereits seit mehreren Monaten, berichtet Axios. Mark Zuckerberg bedankte sich auf X öffentlich bei Apple und dessen Chef John Ternus. Dieser wiederum gratulierte dem Meta-Team. Bemerkenswert ist die Kooperation, weil beide Konzerne jahrelang über Datenschutz und Geschäftsinteressen gestritten hatten.

Die auf rund 530 GByte verkleinerte Modellvariante lässt sich laut Apples Forschungsbericht auf zwei miteinander verbundenen Mac Studios mit M5 Ultra und jeweils 512 GByte gemeinsamem Arbeitsspeicher ausführen. Apples MLX-Framework verteilt die Berechnungen über eine Thunderbolt-5-Verbindung auf beide Geräte. Bei einer Kontextlänge von 8192 Token ermittelte Apple dabei rund 25 Ausgabetoken pro Sekunde. Die erforderlichen Mac Studios mit 512 GByte Arbeitsspeicher sollen allerdings erst Ende Oktober erhältlich sein und dürften zusammen mehrere Zehntausend Euro kosten.

Bei Agentenaufgaben hinter chinesischer Konkurrenz

Laut Tests von Artificial Analysis (AA) erreicht Muse Spark Open 39 Punkte im Intelligence Index und ist damit das aktuell leistungsfähigste US-amerikanische Open-Weight-Modell. Nvidias fast gleichzeitig veröffentlichtes Nemotron 3.5 Super VL kommt auf 26 Punkte, ist mit 120 Milliarden Parametern allerdings wesentlich kleiner. Führende chinesische Modelle liegen vorn: MiMo-V2.6-Pro erreicht 46 Punkte, das ähnlich große GLM-5.3 kommt auf 45.

Bei Agentenaufgaben zeigt Muse Spark Open Schwächen: Unter den neun leistungsfähigsten Open-Weight-Modellen belegt es in der Gesamtwertung von vier Agententests den letzten Platz, bei den übrigen sechs Tests hingegen Platz vier. Der gesamte Sechs-Punkte-Rückstand auf GLM-5.3 geht laut AA auf die Agententests zurück.

Eine Stärke ist der Umgang mit Wissenslücken. Im AA-Omniscience-Benchmark erzielt Muse Spark Open mit 25 Punkten den höchsten Wert unter den Open-Weight-Modellen. Bei den nicht korrekt gelösten Fragen liegt die Halluzinationsrate bei 24 Prozent, dem niedrigsten Wert unter Open-Weight-Modellen mit mindestens 30 Indexpunkten.

Sparsamer Tokenverbrauch, hohe API-Preise

Muse Spark Open erzeugt mit durchschnittlich 40.000 Ausgabetoken pro Aufgabe im Intelligence Index weniger als jedes der acht anderen führenden Open-Weight-Modelle, schreibt Artificial Analysis auf X.

Bei den zum Start verfügbaren API-Anbietern Together AI, Fireworks und Baseten kosten eine Million Eingabetoken 1,25 US-Dollar und eine Million Ausgabetoken 4,25 Dollar. Trotz der vergleichsweise hohen Tokenpreise errechnet AA dank des geringen Verbrauchs durchschnittliche Kosten von 0,84 Dollar pro Benchmark-Aufgabe. Bei GLM-5.3 sind es 2,01 Dollar, bei DeepSeek V4.1 Flash hingegen nur 0,27 Dollar.

Wer Muse Spark Open selbst betreiben möchte, kann die Modellgewichte bei Hugging Face herunterladen. Die Modellgewichte sind in einer 16-Bit-Version mit rund 1,6 TByte und einer teilweise auf vier Bit quantisierten Version mit rund 530 GByte verfügbar.

Die Muse Model License erlaubt grundsätzlich auch die kommerzielle Nutzung, verlangt aber den Hinweis „Built with Muse Spark Open“ und die Einhaltung einer Nutzungsrichtlinie. Unternehmen, die Muse Spark Open über APIs als Dienst anbieten, benötigen bei mehr als 20 Millionen US-Dollar Bruttoumsatz innerhalb von zwölf Monaten eine gesonderte Vereinbarung mit Meta. Dabei zählt auch der Umsatz verbundener Unternehmen.