Wie lange wird es noch dauern, bis Fable 5 auf dem MacBook läuft?

Gute Nachrichten zu Fable 5: Das ursprünglich für den 8. Juli Nachmittag geplante Ende des Betriebs wurde auf den 12. Juli verschoben. Danach können Abonnenten das Modell nicht mehr im Rahmen ihres Abonnementkontingents nutzen.

Diese wenigen Tage haben viele Menschen bereits begeistert, und nun steht der Verlust bevor. Man kann nicht anders, als sich vorzustellen: Wann können Modelle dieses Kalibers endlich auf unseren eigenen Geräten laufen?

Früher, wenn man über Spitzenmodelle sprach, drehten sich die Gespräche meist um Fragen wie „Wie leistungsfähig ist es?“, „Wie viel schneller ist es als die Konkurrenz?“ oder „Welche Arbeitsplätze kann es ersetzen?“. Diesmal jedoch fragen einige Menschen, ob es auch auf Endgeräten laufen kann.

Ehrlich gesagt ist diese Vorstellung bei Fable 5 derzeit noch zu optimistisch. Schließlich handelt es sich um Anthropics erstes öffentliches Modell der Mythos-Klasse mit einem Kontextfenster von einer Million Token, das speziell für lang andauernde asynchrone Aufgaben entwickelt wurde und in den Rechenzentren von AWS und Google Cloud läuft. Zwischen ihm und Endgeräten liegt nicht nur eine Generation von Chips, sondern eine ganze Reihe von Herausforderungen in Bezug auf Rechenleistung, Energieverbrauch und Modellkompression, die um mehrere Größenordnungen größer sind.

Das Ereignis um die Einstellung von Fable 5 erinnert zudem an eine andere Wahrheit: Wie auf Reddit festgestellt wird, ist hohe Verfügbarkeit eine Illusion, solange man nicht über die Siliziumchips und Modellgewichte verfügt. Diese Entwicklung ist vor allem ein Signal: KI auf Endgeräten ist nicht mehr nur ein Branchenjargon, sondern zu einer Erwartung der breiten Öffentlichkeit geworden.

Von der Veröffentlichung von Parametern zur Veröffentlichung von Architekturen

Wenn das Thema der KI auf Endgeräten in den letzten zwei Jahren „Ankündigungen“ war, ist es in diesem Jahr „Neugestaltung“. Die Chiphersteller geben sich nicht mehr damit zufrieden, auf Präsentationsfolien eine NPU-Rechenleistungszahl anzugeben, sondern beginnen, die gesamte Hardwarearchitektur neu zu gestalten, die auf die lokale KI-Inferenz ausgerichtet ist.

Am 25. Juni veröffentlichte Qualcomm Zahlen, die die Wall Street dazu veranlassten, das Unternehmen neu zu bewerten: Das Ziel für den Umsatz im Nicht-Mobilfunk-Geschäft im Geschäftsjahr 2029 wurde auf 40 Milliarden US-Dollar angehoben, was etwa dem Doppelten des vorherigen Ziels entspricht. Das Ziel für die KI-Infrastruktur in Rechenzentren liegt bei über 15 Milliarden US-Dollar, und das für das Automobilgeschäft bei 10 Milliarden US-Dollar. Der Finanzvorstand Akash Palkhiwala drückte es noch direkter aus: „Bis 2029 werden Mobiltelefone nur noch ein Drittel unseres Chip-Umsatzes ausmachen.“

Die Hardwaregrundlage, die dieses Ziel stützt, ist die bereits in der zweiten Generation vorhandene Snapdragon X2-Serie. Die Hexagon-NPU des Snapdragon X2 Elite erreicht eine KI-Rechenleistung von 80 TOPS – eine Zahl, die im Jahr 2024 noch zu den Werten von Cloud-Inferenzchips gehörte. Die Konfiguration mit bis zu 18 Kernen, einer Speicherbandbreite von 228 GB/s und einem einheitlichen Speicher von 128 GB macht es nicht mehr nur zu einem „Laptop, der KI ausführen kann“, sondern zu einem „Laptop, der für KI entwickelt wurde“.

Noch wichtiger als der Chip selbst ist das systemweite Layout von Qualcomm. Auf der AWE-Konferenz am 17. Juni wurde das Snapdragon START-Programm vorgestellt, das Chips, KI-Software-Stacks und ein Partnernetzwerk zu modularen Lösungen kombiniert, sodass Marken und Unternehmen persönliche KI-Endgeräte wie Lego-Bausteine zusammenstellen können. Die ersten umgesetzten Produktkategorien sind intelligente Brillen, später folgen weitere Formfaktoren. Qualcomm nennt diese Vision „The Ecosystem of You“ – nicht dass Sie auf verschiedenen Geräten verschiedene KI öffnen, sondern dass dieselbe KI Ihnen überallhin folgt.

Apple geht noch aggressiver vor: Laut Informationen von Mark Gurman von Bloomberg führt Apple die größte Anpassung seiner Roadmap seit der Einführung von Apple Silicon im Jahr 2020 durch. Es überspringt M6 Pro und M6 Max und setzt direkt auf das KI-ausgerichtete M7 im Jahr 2027.

Apples M-Serie folgt seit 2020 einer Zeitplanung so pünktlich wie die Schweizer Eisenbahn – eine Generation pro Jahr, jede Generation mit drei Konfigurationen (Basis, Pro, Max). Das plötzliche Überspringen einer gesamten High-End-Generation bedeutet, dass Apple intern der Ansicht ist, dass die Nachfrage nach KI auf Endgeräten so dringend ist, dass man nicht mehr auf den üblichen Iterationsrhythmus warten kann.

Die Speicherbandbreite der Basisversion von M6 wird voraussichtlich 200 GB/s betragen (bei M5 sind es 153 GB/s), und das Ziel für M7 liegt bei 240 GB/s. Die einheitliche Speicherarchitektur ermöglicht es CPU, GPU und Neural Engine, denselben Speicherpool gemeinsam zu nutzen, was von Natur aus für die Inferenz großer Modelle geeignet ist. Seit M5 ist in jedem GPU-Kern ein Neural Accelerator integriert – KI ist nicht mehr nur eine Funktion eines separaten Koprozessors, sondern verteilt sich auf alle Recheneinheiten des gesamten Chips.

Laut Gurman beschleunigt Apple diesen Fortschritt, da M7 über „Technologien zur Unterstützung von KI auf Endgeräten und GPU-intensiver Software“ verfügt – nicht nur „KI-Funktionen unterstützen“, sondern „KI auf Endgeräten unterstützen“ – das ist eine Wende bei den Designzielen von Chips.

Während Apple und Qualcomm auf Laptops und Mobiltelefonen setzen, tritt Nvidia aus einer anderen Richtung in den Markt ein. Das Desktop-Gerät DGX Spark mit einem Preis von 4699 US-Dollar ist mit dem Grace-Blackwell-Superchip ausgestattet, verfügt über 128 GB einheitlichen Speicher und eine FP4-KI-Rechenleistung von 1 PetaFLOP.

Nvidia positioniert es als „persönlichen KI-Supercomputer“. Auf der GTC in Taipeh im Juni dieses Jahres veröffentlichte Jensen Huang zudem RTX Spark, einen leichteren Superchip, der darauf abzielt, KI-native PCs in dünnere Laptop-Formfaktoren zu bringen. Diese Produktlinie konvergiert zudem mit Nvidias Workstation-Strategie: Die RTX-PRO-Blackwell-Serie wird bereits in neuen Workstations von Dell, HP und Lenovo eingesetzt.

Das NemoClaw-Projekt ermöglicht es Benutzern, sichere und stets verfügbare KI-Assistenten auf lokalen Workstations auszuführen. DGX Spark ist für die anspruchsvolle Inferenz auf Desktop-Ebene zuständig, RTX Spark für leichte Laptops und RTX PRO für professionelle Erstellung – mit einem umfassenden Ansatz wird lokale KI von einem Geek-Spielzeug zu einer in Serie produzierbaren und preislich festlegbaren Hardwarekategorie.

Sich den Geräten anpassen

Hardware verfolgt die KI, und Modelle passen sich umgekehrt auch der Hardware an. Im vergangenen Jahr haben mehrere Schlüsselmodelle die Antwort auf die Frage „Was kann KI auf Endgeräten leisten?“ verändert. Die auffälligste Aktion stammt von Google DeepMind, das Gemma 4 veröffentlicht hat.

Dies ist eine Familie offener Modelle aus der Forschung von Gemini 3 unter der Apache-2.0-Lizenz. Fünf Parameterspezifikationen stehen zur Verfügung – von E2B, das nur 5 GB Arbeitsspeicher zum Ausführen benötigt, bis zum 31B-Dichtemodell mit Fähigkeiten auf dem Niveau von 70B-Modellen – und bilden eine vollständige Produktlinie für Mobiltelefone bis hin zu PCs.

Am aufregendsten sind die „kleinen“ Modelle: E2B und E4B benötigen bei 4-Bit-Quantisierung nur 4-5 GB Arbeitsspeicher und können auf normalen Laptops ohne GPU oder sogar auf Mobiltelefonen ausgeführt werden. Das 12B-Modell läuft auf Geräten mit 8 GB Arbeitsspeicher und unterstützt gleichzeitig multimodale Eingaben aus Text, Bildern und Audio. 26B-A4B basiert auf der MoE-Architektur und erreicht mit 30 GB Arbeitsspeicher eine Geschwindigkeit von über 30 Token pro Sekunde.

Das Google AI Edge-Team hat einen speziellen Blogbeitrag veröffentlicht, um zu zeigen, wie man Gemma 4 12B auf alltäglichen Laptops für agentische Arbeitsabläufe bereitstellen kann – „Das kostenlose Gemma 4-Modell von Google läuft auf der Hardware, die Sie wahrscheinlich bereits besitzen.“

Wenn „wahrscheinlich bereits besitzen“ zu einem Verkaufsargument eines Tests wird, zeigt das, dass die Hardwareanforderungen für Modelle auf Endgeräten schnell sinken.

Als Vorbild für Open-Source-Modelle versucht Alibaba Qwen3.6 ebenfalls, größere Modelle für die lokale Nutzung freundlicher zu gestalten. Qwen3.6-27B ist ein dichtes Modell mit 27 Milliarden Parametern und einem Kontextfenster von einer Million Token. In Tests von MindStudio wurde es 2026 als das beste Open-Source-Modell für agentische Codierung ausgezeichnet.

Auf Reddit haben Entwickler bereits eine lokale Lösung für agentische Codierung mit „Qwen3.6 35B + llama.cpp + RTX 5090“ erstellt. Qwens Strategie besteht nicht darin, in Bezug auf die Parametergröße mit Cloud-Modellen zu konkur