Werden die großen Modelle gerade "kleiner"?

Die WAIC2026 ist gerade zu Ende gegangen, und die großen Modelle der Hersteller scheinen eine andere Note zu haben.

Auf der Konferenz im vergangenen Jahr wetteiferten die Unternehmen noch um Modellparameter und Ranglistenwerte. In diesem Jahr liegt der Fokus nicht mehr darauf, „wie groß das Modell ist“, sondern darauf, „was das Modell kann und ob es Geld verdienen kann“. Sogar bei genauer Prüfung stellt man überrascht fest: Alle Hersteller setzen auf leichtgewichtige Bereitstellung und arbeiten an verkleinerten Mini-Versionen. Woran liegt das?

Denken Sie mal zurück: Wie lange ist es her, dass Sie in einem Aufzug mit schlechtem Mobilfunksignal vor einem Sprachassistenten gestanden haben, der auf keinen Ihrer Aufrufe reagiert hat? Oder vielleicht erst gestern, als Sie mit dem Auto in einen Tunnel gefahren sind und die Navigation plötzlich stumm wurde. Oder Sie wollten im Flugzeug Ihr Fotoalbum sortieren und stellten fest, dass die Funktion „Passanten mit einem Klick entfernen“ aufgrund fehlender Netzverbindung zu einem grauen Symbol geworden ist. Wir scheinen uns bereits daran gewöhnt zu haben, dass echte Intelligenz immer von der weit entfernten „Wolke“ abhängt.

Aber jetzt findet eine leise Revolution statt.

Die einst riesigen „Supergehirne“ – große Sprachmodelle und multimodale große Modelle – die ein ganzes Gebäude und die Stromerzeugung eines Wasserkraftwerks benötigten, um gerade noch betrieben zu werden, werden mit allen Mitteln in Mobiltelefone, Autos, PCs und sogar in einen unscheinbaren Roboterarm in einer Fabrik „gestopft“. Entwickler und Ingenieure versuchen mit allen Mitteln, die Intelligenz von Netzwerkkabeln und Mobilfunkmasten zu lösen, damit sie in der Handfläche, in der Nähe, jederzeit und überall ohne Verzögerung aktiviert werden kann. Das ist vergleichbar damit, einen „Mammut“ mit hundert Milliarden Parametern in einen „Kühlschrank“ von der Größe einer Handfläche zu packen und dabei sicherzustellen, dass er lebt, denken kann und bei der Arbeit präziser und effizienter jagt als in der Wildnis.

Das ist keine Vorstellung, sondern eine laufende „technologische Großveranstaltung“. Und was sie antreibt, ist nicht die eigensinnige Entscheidung einzelner Personen, sondern ein industrieller Konsens, der aus der echten Nachfrage auf der Bedarfsseite entstanden ist.

Das Gehirn in der Wolke steigt nun „auf die Erde herab“

Ende 2022 tauchte ChatGPT plötzlich auf und schockierte die Welt mit einem Gedicht, einem Codeabschnitt und einer wissenschaftlichen Arbeit. Dann erinnerte sich jeder an die erschreckende Tatsache dahinter: Es benötigte einen Rechencluster aus zehntausend Top-Grafikkarten von Nvidia, und eine riesige Rechenleistung unterstützte unsere Gespräche. Lange Zeit funktionierte dieses Modell gut, bis die reale Welt den Technikern drei deutliche Ohrfeigen versetzte.

Diese drei Ohrfeigen sind schmerzhafter als die vorherige und näher an der Wahrheit als die vorherige.

Die erste Ohrfeige kommt vom Mobiltelefon.

Erinnern Sie sich an die Feier in der Mobilfunkbranche von Ende 2023 bis Anfang 2024? Auf der Präsentation der Samsung Galaxy S24-Serie stand nicht mehr die Kameraauflösung im Rampenlicht, sondern die KI-Funktion namens „Circle to Search“. Sie zeichnen willkürlich einen Kreis auf dem Bildschirm, markieren die Tasche, die ein Blogger trägt, ein Wahrzeichen in einem Bild oder einen Wissenspunkt in einem Text, und das Mobiltelefon sagt Ihnen sofort, was das ist, wo man es kaufen kann und wie man dorthin kommt. Der gesamte Vorgang erfordert keinen Browserwechsel und keine Texteingabe. Hinter diesen Funktionen werben Chips wie Qualcomm Snapdragon und MediaTek Dimestic intensiv für große Modelle mit mehreren zehn Milliarden Parametern, die lokal ausgeführt werden können.

Was ist das Besondere an der lokalen Ausführung großer Modelle? Welche Bedeutung hat es für uns normale Menschen? Ist es wieder eine Marketingkampagne ohne Highlights?

Das Video, das Sie gestern Abend von Ihrem Kind beim ersten Gehen aufgenommen haben, die Screenshots Ihres Aktienkontos und Ihrer Bankauszüge, die privaten und intimen Chatverläufe mit Ihrem Partner – diese Daten dürfen und sollten niemals in irgendein Byte der Cloud hochgeladen werden. Das Mobiltelefon ist fast zu unserem engsten digitalen Organ geworden und ist auch die stärkste und kompromisslosste Kraft, die große Modelle zwingt, „abzunehmen“.

Dann kommt das Auto. Diese Ohrfeige rast mit heulendem Geräusch heran.

Stellen Sie sich eine Szene vor: Sie fahren ein Elektroauto mit dem neuesten intelligenten Cockpitsystem mit einer Geschwindigkeit von 120 km/h auf der Autobahn. Sie sagen beiläufig: „Ich bin ein bisschen müde, mach mir etwas Erfrischendes, aber blas mir nicht ins Gesicht.“ Wie viele Bedeutungsebenen enthält dieser Satz? Zuerst muss er erkennen, dass Sie „müde“ sind, dann „erfrischt werden wollen“, was höchstwahrscheinlich eine Verbindung zu Klimaanlage, Duftstoffen und Musik erfordert. Schließlich „nicht ins Gesicht blasen“ – dies erfordert eine präzise zonale Steuerung der Klimaanlagenauslässe und fast ein Verständnis der Grundkenntnisse der physischen Welt. Diese Kombination von Aktionen erfordert, dass das Cockpitsystem die Anweisung in einem gesprächsähnlichen Dialog versteht und präzise ausführt, anstatt steif zu antworten „Hallo xx, schalte die Klimaanlage ein, schalte die Musik ein...“.

Aus technischer Sicht: Wenn dieser Satz unverändert in die Cloud hochgeladen wird, von einem großen Modell mit hundert Milliarden Parametern verarbeitet wird und dann Anweisungen zurück an das Auto sendet, kann die Hin- und Rücklaufverzögerung mehr als 0,5 Sekunden betragen. Im Büro sind 0,5 Sekunden nur ein Augenblick, aber in einem Auto mit 120 km/h haben Sie in 0,5 Sekunden vielleicht fast 15 Meter zurückgelegt. Wenn das End-to-End-KI-Modell die Echtzeitentscheidungen für das autonome Fahren übernimmt, trägt jede Millisekunde eine Bedeutung für die Sicherheit. Schließlich sind Verzögerung und Zuverlässigkeit physikalische Gesetze – selbst die stärkste Cloud kann nicht mit der Lichtgeschwindigkeit und dem Mobilfunksignal mithalten.

Das Auto muss ein mobiles intelligentes Wesen mit Rädern und eigenständigem Denken sein. Aus Sicherheitsgründen muss sein „Gehirn“ im Auto selbst sitzen, damit es schneller und klüger denken und handeln kann.

Die dritte Ohrfeige kommt aus der Fabrik.

Wenn Sie die sogenannten „Lichtlosen Fabriken (unbemannte Fabriken)“ im Jangtse-Delta und Perlfluss-Delta besuchen können, wird Ihr gesamtes traditionelles Bild der verarbeitenden Industrie auf den Kopf gestellt. Nehmen Sie zum Beispiel diese Szene: Hochgeschwindigkeitskameras scannen jedes elektronische Bauteil auf der Fließband mit Hunderten von Bildern pro Sekunde. In der Vergangenheit mussten diese riesigen Datenmengen über das industrielle Ethernet an einen zentralen Server zur Analyse übermittelt werden. Abgesehen von der Verzögerung musste die gesamte Produktionslinie anhalten, sobald das Netzwerk schwankte oder der Server überlastet war, um auf die Anweisung des „Gehirns“ zu warten. Jeder Stillstand bedeutet echten finanziellen Verlust.

Jetzt laufen in Edge-Computing-Modulen und verschiedenen Industrierechnern mit eingebetteten KI-Chips direkt leichtgewichtige große Modelle für die visuelle Inspektion. Sie sind nicht mit dem Internet verbunden und hängen von keinem externen Signal ab. Sie konzentrieren sich nur auf die Produkte auf der Fließband vor ihnen und treffen in Millisekunden Entscheidungen über „gut“ oder „schlecht“ mit einer Geschwindigkeit und Präzision, die für Menschen unerreichbar ist: Gut, gut, gut... bei Kratzern im Mikrometerbereich wird das Produkt aussortiert! Das ist so, als ob jede Maschine die Seele eines unabhängigen, unaufmerksamen und unklagenden erfahrenen Qualitätsprüfers erhält. Das Gehirn der industriellen Intelligenz sinkt schnell vom zentralen Serverraum in jeden Roboterarm, jeden Bohrer und jeden Sensor.

Diese drei Ohrfeigen haben aus drei Dimensionen – Datenschutz und Sicherheit, physikalische Grenzen sowie Kosten und Effizienz – eine äußerst klare Schlussfolgerung gezogen: Echte Intelligenz kann nicht nur eine in der Luft schwebende Wolke sein. Sie muss wie Sauerstoff im Blut in jedem Endgerät fließen und jederzeit bereitstehen.

Dies führt direkt zu einer scheinbar unvernünftigen Anforderung: Können Ingenieure das große Supermodell, das in der Cloud Hunderte von H100-Grafikkarten verwendet und so viel Strom verbraucht wie eine Kleinstadt, einer beispiellosen „Abnehmoperation“ unterziehen, eine verkleinerte Mini-Version erstellen und diese elegant, stabil und leistungsstark in ein Mobiltelefon, ein Auto oder eine handflächengroße Edge-Computing-Box packen?

Die Nachfrage klopft bereits an die Tür. Hinter der Tür startet der globale Wettbewerb, um große Modelle „abzunehmen“.

Globaler Wettbewerb zur „Gewichtsreduktion“: Wie man große Modelle „Fett absaugt“

Die Gewichtsreduktion kann nicht durch einfache, grobe Operationen erreicht werden – sonst erhält man nur einen gelähmten Patienten. Die Entwickler von Modellen haben in der Erprobung schnell einen Konsens erreicht: Wir wollen kein krankes Modell, das so dünn ist, dass es vom Wind umgeweht wird. Wir wollen einen hochkonzentrierten, energiegeladenen „Spezialeinsatzkräftler“ mit deutlichen Muskelkonturen.

Genau, wir brauchen einen Experten, der für bestimmte Aufgaben eingesetzt wird. Das ist die Richtung. Bei diesem schlachtfeldlosen „Wettbewerb“ haben verschiedene Teams völlig unterschiedliche Herangehensweisen.

Sehen wir uns zuerst die Westküste der USA an: Die alten Rivalen OpenAI und Google haben jeweils eigene Wege mit eigenen Vorzügen.

Die Strategie von OpenAI ist am direktesten und kommerziellsten: vertikale Klassifizierung, Preis nach Qualität. In der Cloud bewacht eines der stärksten KI-Gehirne, GPT-4, die Hochposition. Dieses riesige Wesen erforscht die Grenzen der Intelligenz, versteht mathematische Vermutungen und schreibt Sonette. Aber OpenAI stellte schnell fest, dass die Milliarden von Nutzern weltweit täglich die häufigsten Fragen stellen, wie zum Beispiel „Gib mir einen Namen für mein Brathähnchen-Restaurant“, „Fasse dieses Meeting-Protokoll in drei Punkte zusammen“, „Wie korrigiere ich den fehlerhaften Code“... Es ist nicht nur eine Verschwendung von intellektuellen Ressourcen, sondern auch eine Katastrophe für das Geschäftsmodell, wenn ein vielbeschäftigter Professor mit hohem Stundensatz die Additions- und Subtraktionsaufgaben von Erstklässlern lösen muss.

Daher kam GPT-4o mini. Bei der offiziellen Vorstellung versteckte es seine Position nicht: Wir sind kostengünstiger, leichter und schneller. Seine Antwortgeschwindigkeit ist extrem hoch, und die Kosten für den Aufruf sind um mehr als 60 % drastisch gesunken. Obwohl es nicht so umfassend wie sein großer Bruder GPT-4 ist, ist es bei der Verarbeitung hochfrequenter, massiver Aufgaben wie tägliche Gespräche, Textzusammenfassungen, Kundendienstfragen und Codeunterstützung unglaublich effizient – man spürt kaum einen Unterschied. Das ist vergleichbar damit, dass Sie einen von Nobelpreisträgern betreuten Professor haben und einen extrem klugen Doktorandenkollegen, der Ihre täglichen Fragen und Hausaufgabenprobleme schnell löst und jederzeit verfügbar ist. Der Professor konzentriert sich auf die wichtigen Verteidigungen mehrmals im Jahr und die Steuerung der strategischen Richtung.

Das ist Klassifizierung, das ist Effizienz.

Google verfolgt dagegen den Ansatz „Vollabdeckung aller Größen, Integration von Hardware und Software“ – mit der Romantik eines „Ingenieurs“. Ihr Gemini-Modell wurde von Anfang an klar in drei Versionen unterteilt: Ultra, Pro und Nano. Der Ehrgeiz ist offensichtlich: Es soll wie der Goldene Stab von Sun Wukong sein, der sowohl groß als auch klein sein kann. Ultra erreicht die Grenzen des menschlichen Wissens und dominiert verschiedene akademische Ranglisten. Pro ist der fähige „Mittelschichtler“, der in der gesamten Google Workspace-Suite integriert ist und Ihnen beim Schreiben von E-Mails und Erstellen von Präsentationen hilft. Und das, was die Konkurrenten am meisten erschreckt, ist das unscheinbarste Gemini Nano.

Gemini Nano wurde speziell entwickelt, um nativ auf mobilen Geräten wie Android-Smartphones und -Tablets zu laufen. Die Ingenieure von Google haben verschiedene extrem fortschrittliche Destillationsalgorithmen und Quantisierungstechniken verwendet, um Kern-KI-Funktionen wie „Erkennung von Betrugsnachrichten“, „Vorschläge für intelligente Antworten“ und „Offline-Sprachtranskription“ zu einem kleinen, effizienten Offline-Engine zu komprimieren. Das Ergebnis ist: Wenn Sie ein Pixel 8 Pro mit Tensor G3-Chip verwenden, kann es selbst im Flugmodus präzise Spam-Nachrichten herausfiltern und sofort eine intelligente Textzusammenfassung liefern, wenn Sie ein Sprachmemo aufnehmen. Alle Berechnungen finden auf dem Chip in Ihrer Hand statt – kein einziges Byte Ihrer Daten verlässt jemals Ihr Gerät.

Aber die Giganten sind nicht unverwundbar.

Blicken wir zurück nach China: Hier brodelt die Innovation und hat sich zu einer vielfältigeren und praxisnäheren Weisheit entwickelt.

Wenn es darum geht, große Modelle zu verkleinern und vollständig quelloffen zu machen, kommt man an DeepSeek nicht vorbei. Viele Menschen wissen nicht, dass der Gründer dieses Unternehmens einen Hintergrund im quantitativen Handel hat. Vielleicht verleiht dieser Hintergrund ihnen eine fast zwanghafte Streben nach „Effizienz“ und „Kostenleistung“. Die Strategie von DeepSeek ist noch radikaler: Sie veröffentlichen nicht nur Top-Cloud-Großmodelle, die mit GPT-4 mithalten können, sondern bringen auch eine Reihe von „kleinen“ Modellen mit 1,3B und 6,7B Parametern auf den Markt, die extrem kompakt sind.

Diese kleinen Dinge sind spezialisiert auf Codegenerierung und mathematische Schlussfolgerungen. Wie beeindruckend ist ihre Leistung? Ein kleines Codemodell mit 6,7B Parametern ist extrem schnell bei der Lösung spezifischer Aufgaben wie dem Schreiben von Python-Funktionen und Wettbewerbsalgorithmen, und seine Leistung kann mit Modellen mithalten, die Dutzende Male größer sind als es. Am wichtigsten ist, dass sie völlig kostenlos, quelloffen und für kommerzielle Nutzung zugelassen sind. Das bedeutet, dass ein dreiköpfiges Geek-Team in einer Mietwohnung in Huilongguan, Peking, mit einem selbstgebauten Server von wenigen tausend Yuan einen KI-Kollegen betreiben kann, der die Fähigkeiten eines Algorithmusingenieurs mit dreijähriger Berufserfahrung hat und 24 Stunden am Tag unermüdlich Code schreibt und Fehler sucht. DeepSeek hat das große Schlagwort der „KI-Gleichberechtigung“ direkt zu einem Produktivitätswerkzeug in den Händen kleiner Teams gemacht – das ist die furchterregendste Kraft.

Wenn die Philosophie von DeepSeek „Verkleinerung“ ist, dann definiert das beliebte neue Unternehmen Kimi neu, was „Leichtigkeit“ bedeutet.

Tatsächlich haben Yang Zhilin von Kimi und sein Team von Anfang an gefragt: Was ist der grundlegende Widerspruch, der die aktuelle KI-Anwendung einschränkt? Ihre Antwort ist „Speicher“, genauer gesagt „Arbeitsspeicher“. Das menschliche Denken ist linear und kontinuierlich. Bei einer zweistündigen Brainstorming-Sitzung erfordert die Zusammenfassung in den letzten fünf Minuten den Zugriff auf alle Informationen aus den vorherigen Sätzen. Das ist der unschätzbare Wert von langen Kon