Zuck setzt alles aufs Spiel: Gerade mit einer Schadenersatzforderung von 1,4 Billionen Yuan konfrontiert, veröffentlichte er über Nacht seine kompakte Hochleistungs-KI als Open Source, um die öffentliche Gunst zurückzugewinnen.
Heute erlebt Meta eine höchst zwiespältige Situation.
Ihre sozialen Medienplattformen werden wegen des Vorwurfs, durch suchterzeugende Designs Minderjährigen Schaden zuzufügen, massiv zur Verantwortung gezogen. Die geltend gemachten Schadenersatzforderungen belaufen sich sogar auf 1,4 Billionen US-Dollar, ein Betrag, der fast der gesamten Marktkapitalisierung von Meta entspricht.
Möglicherweise hat Meta erkannt, dass es sein öffentliches Image aufbessern muss: Das Unternehmen, das einst mit Llama die weltweite Open-Source-KI-Gemeinde aufgemischt hat, die Entwickler dann aber lange Zeit warten ließ und ihre Hoffnungen fast zunichte machte, hat nun plötzlich wieder die Open-Source-Fahne hochgehalten.
Gerade eben hat Meta Superintelligence Labs offiziell Muse Glimmer veröffentlicht, ein Open-Weight-Agent-Modell mit 30 Milliarden Parametern, das direkt unter der sehr freizügigen Apache-2.0-Lizenz bereitgestellt wird.
Die Gewichte von Muse Spark 1.2 werden ebenfalls freigegeben
Die Hürden für Herunterladen, Modifizieren und kommerzielle Nutzung sind sehr niedrig.
Konkret gesagt: Muse Glimmer hat nur 30B Parameter, wurde aber speziell für den always-on local agent (ständig aktiven lokalen Agenten) entwickelt. Es läuft auf Mac-Computern ebenso wie auf PCs mit einer einzelnen Consumer-Grafikkarte.
Sie müssen keine ständige Verbindung zur Cloud aufbauen und nicht für jeden einzelnen Schritt eine API aufrufen. Sogar ohne Internetverbindung kann es weiterhin lokale Tools aufrufen, Dateien organisieren, Code schreiben, Screenshots auswerten und Aufgaben bearbeiten.
Ein Agent mit vollen 30 Milliarden Parametern, der Schlussfolgerungen ziehen, Bilder auswerten, Tools aufrufen und Aufgaben nacheinander ausführen kann – wie hat Meta diesen kleinen, aber leistungsstarken KI-Boliden eigentlich in einen normalen PC eingebaut?
Die goldene Größe von 30B: Nicht zu groß, nicht zu klein, genau passend für Ihren Mac
In der Hierarchie der KI-Modelle ist die Größe schon immer ein heikles Thema.
Modelle mit 7B bis 8B Parametern laufen zwar auf Smartphones, ihre Intelligenz reicht aber oft kaum aus, bei etwas komplexeren logischen Schlussfolgerungen beginnen sie bereits unsinnige Ausgaben zu generieren. Modelle mit über 70B Parametern sind zwar leistungsfähig, haben aber einen enormen Speicherbedarf, der für normale Nutzer kaum erschwinglich ist.
Muse Glimmer trifft genau den optimalen Sweet Spot von 30B Parametern.
Aber selbst 30B Parameter erfordern im Vollpräzisionsmodus über 55 GB Arbeitsspeicher, was selbst die Leistungsgrenze einer RTX 5090 übersteigt. Um das Modell tatsächlich praxistauglich zu machen, hat Meta eine Kombination aus mehreren Optimierungsverfahren eingesetzt.
Zuerst kommt eine sehr radikale Modellkompression zum Einsatz.
Mittels neuester Quantisierungstechnik hat Meta die Modellgewichte auf 4-Bit-Präzision komprimiert und die Größe auf unter 20 GB reduziert. Dadurch bleibt wertvoller Videospeicher auf Ihrem Gerät frei, um den Kontextspeicher (KV-Cache) und den multimodalen Encoder für die Bildverarbeitung zu laden.
Aber es reicht nicht, dass das Modell nur läuft – es muss auch schnell sein.
Eine lokale KI, die fünf Minuten braucht, um einen einzigen Satz zu generieren, würde jeden Nutzer zur Verzweiflung bringen. Um das Problem der langsamen lokalen Inferenz zu lösen, ist für die spekulative Dekodierung von Muse Glimmer ein leichtgewichtiger Entwurfsmaster auf Basis von DFlash integriert.
Konkret gesagt verfügt das Modell über einen sehr kleinen "Praktikanten" (das DFlash-Entwurfsmodell), der schnell eine große Anzahl von Token auf einmal vorhersagt. Anschließend führt Muse Glimmer als "Leiter" (das Hauptmodell) eine parallele Prüfung durch: korrekte Token werden übernommen, falsche werden korrigiert.
Dieser Mechanismus befreit Muse Glimmer vollständig von dem Problem herkömmlicher großer Modelle, die nur langsam Wort für Wort generieren. Auf MacBook-Geräten mit M4-Max- oder M5-Max-Chip sowie auf PCs mit RTX 5090-Grafikkarte erreicht es eine so hohe Generierungsgeschwindigkeit, dass eine verzögerungsfreie Echtzeitinteraktion möglich ist.
Zusammengefasst hat Meta durch starke Ingenieurskunst ein Modell, das ursprünglich 60 GB Arbeitsspeicher für einen reibungslosen Betrieb benötigt hätte, so weit optimiert, dass es auch auf Geräten mit 24 GB oder 32 GB Speicher problemlos läuft.
Kein Chatbot, sondern ein "digitaler Mitarbeiter", der Ihre Aufgaben erledigt
Meta definiert Muse Glimmer offiziell als Open Agentic Model (offenes Agentenmodell).
Um Muse Glimmer zu einem leistungsfähigen Mitarbeiter zu machen, hat Meta während des Trainings eine auf Logit basierende Destillationstechnik eingesetzt.
Dabei hat ein sehr großes Lehrermodell (Muse Spark) komplexe Inferenzketten und Agenten-Interaktionsdaten generiert, um Glimmer schrittweise zu trainieren.
Das verleiht Muse Glimmer mehrere herausragende Fähigkeiten:
Beispielsweise kann Muse Glimmer tief in Ihr Betriebssystem eingreifen, lokale Dateien direkt lesen, Ihren Zeitplan verwalten und sogar die IDE öffnen, um Code für Sie zu schreiben – es zeigt beeindruckende Leistungen in anspruchsvollen Tests wie SWE-Bench.
Im Bereich der multimodalen und visuellen Wahrheit verfügt Muse Glimmer über einen integrierten unabhängigen visuellen Encoder. Das bedeutet, dass Sie ihm direkt einen Screenshot mit komplexen Diagrammen übergeben oder es Ihren Bildschirm beobachten lassen können, es versteht multimodale Informationen nahtlos.
Darüber hinaus wurde Glimmer speziell mit einem "Fehlertoleranzmechanismus" trainiert: Wenn ein Tool-Aufruf fehlschlägt oder ungewöhnliche Ergebnisse liefert, verhält es sich wie ein erfahrener menschlicher Programmierer, der Fehlermeldungen selbst diagnostiziert, Parameter anpasst und es erneut versucht, bis das Problem gelöst ist.
Die Ära der persönlichen KI hat gerade erst begonnen
Ein wirklich nützlicher persönlicher Agent wird früher oder später auf Ihre Dateien, Kalender, Fotos, Codes, Chatverläufe zugreifen und sogar Ihre Arbeitsgewohnheiten langfristig verstehen müssen.
Wenn all diese Daten vollständig in der Cloud verarbeitet werden, bleiben Datenschutz, Netzwerkverfügbarkeit, Kosten und Latenz stets einschränkende Faktoren.
Daher werden zukünftige Agenten wahrscheinlich nicht nur eine einzige Form haben: Komplexeste Aufgaben werden weiterhin von großen Cloud-Modellen bearbeitet, während lokale Modelle für häufige, vertrauliche Aufgaben zuständig sind, die langfristig auf dem Gerät ausgeführt werden müssen. Beide Seiten nutzen ihre jeweiligen Stärken.
Der Name Muse Glimmer (deutsch: Schimmer) ist sehr passend gewählt. Die nächste Wettbewerbsphase im KI-Bereich besteht nicht nur darin, Modelle immer größer zu machen, sondern auch darin, leistungsfähige KI zu niedrigeren Kosten auf den Geräten von mehr Nutzern auszuführen.
In den nächsten Tagen werden Entwickler-Frameworks wie llama.cpp, Ollama und MLX die Unterstützung für Muse Glimmer schrittweise implementieren.
Während der Veröffentlichung von Muse Glimmer hat Mark Zuckerberg gerade einen langen Artikel veröffentlicht, der die KI-Strategie von Meta festlegt: Er verspricht, Superintelligenz in die Hände jedes Einzelnen zu legen, anstatt sie bei wenigen Unternehmen zu konzentrieren.
Er stellt sich vor, dass jeder künftig einen persönlichen Agenten haben wird, der 24 Stunden am Tag arbeitet, Ihre Ziele, Arbeit, Gesundheit und Ihr Leben versteht und starken Datenschutz bietet – selbst Meta selbst kann nicht auf diese Daten zugreifen.
Aus dieser Perspektive wird die Bedeutung von Muse Glimmer klar: Ein 30B-Agent, der auf lokalen Computern läuft, dauerhaft aktiv ist und Tools aufrufen kann, ist das praktische Baustein für die "persönliche Superintelligenz".
Er betont erneut die Bedeutung von Open Source und bezeichnet es als Schlüssel zur Vermeidung einer übermäßigen Konzentration von KI-Macht. Er kündigt an, dass Meta Superintelligence Labs die Open-Source-Bemühungen wieder deutlich verstärken wird.
Muse Glimmer ist eines der ersten Modelle dieser neuen Generation.
Hugging Face 🔗https://huggingface.co/meta-models/Muse-Glimmer-30B
Natürlich ist es kaum zu übersehen, dass Meta die Open-Weight-Philosophie gerade jetzt wieder in den Vordergrund rückt: In den letzten zwei Jahren hat die Präsenz chinesischer Modelle in der weltweiten Open-Source-KI-Ökosystem stark zugenommen.
Eine Vielzahl von in China entwickelten Modellen wird stetig auf Hugging Face, GitHub und in die Toolketten von Entwicklern weltweit integriert. Chinesische Teams sind nicht nur Teilnehmer am Open-Source-Modell-Wettbewerb, sondern erhöhen oft sogar stetig die Intensität dieses Wettbewerbs.
Muse Glimmer ist nur ein neuer Teilnehmer an diesem Wettbewerb, während das gesamte sich rasant entwickelnde Ökosystem für lokale Open-Source-KI hinter ihm immer lebendiger wird.
Die Ära der persönlichen Open-Source-KI hat gerade erst begonnen.
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto "APPSO", Autor: APPSO, das zukünftige Produkte entdeckt, veröffentlicht mit Genehmigung von 36Kr.