Wozu braucht man überhaupt Nvidia? Sogar Ihre TV-Box zu Hause kann große KI-Modelle ausführen.

Was passiert, wenn ein großes KI-Modell außer Kontrolle gerät? Soll man das Rechenzentrum vom Netz trennen und den Strom abschalten?

Aber was ist, wenn das außer Kontrolle geratene große Modell sich auf hunderte Millionen IoT-Geräte kopieren kann?

Ihr Router, Ihre Set-Top-Box, sogar Ihre Waschmaschine und Ihre Mikrowelle könnten Träger des außer Kontrolle geratenen KI-Großmodells werden. Werden die Menschen dann in das nicht intelligente Zeitalter zurückkehren?

Vor einigen Tagen hat Anthropic eine solche Studie veröffentlicht:

Es scheint nicht unbedingt erforderlich zu sein, dass KI in riesigen Rechenzentren oder teuren Grafikkarten untergebracht ist. Sie kann auch auf kleinen, unscheinbaren Geräten überleben.

Zu Beginn des Experiments kauften sie 15 generische Android-TV-Boxen im Wert von jeweils mehreren zehn Dollar, die jeweils nur über 4 GB Arbeitsspeicher verfügten.

Anschließend führten sie eine Quantisierung des 26B-Parameter-Gemma-Modells durch, teilten es in fünfzehn Teile auf, luden diese jeweils in die Geräte und verbanden sie schließlich über das Netzwerk miteinander, um gemeinsam zu laufen.

Das große Modell lief tatsächlich, aber es war auch sehr langsam: Es erzeugte nur 0,39 Token pro Sekunde. Wenn ich diesen Satz zu Ende gelesen habe, hat es wahrscheinlich erst zwei oder drei Wörter ausgegeben.

Die Bilder dienen nur zur Veranschaulichung und stammen nicht aus dem Experiment von Anthropic

Es läuft zwar, aber um zu überleben, muss es sich an unterschiedliche Umgebungen anpassen.

Daher erhöhten sie den Schwierigkeitsgrad: Sie nahmen Qwen3.5-9B, stellten ihm eine Vielzahl unterschiedlicher Hardware zur Verfügung und ließen es ein weiteres Llama3.1-8B-Modell darauf bereitstellen, das normal laufen sollte.

Man muss wissen, dass die Anpassung an unterschiedliche Umgebungen sehr mühsam ist.

Ganz zu schweigen von den Spielen, die wir normalerweise spielen: Sie werden entweder für AMD-Grafikkarten oder für NVIDIA-Grafikkarten optimiert. Wenn die Anpassung nicht stimmt, kann sogar der Treiber abstürzen.

Aus den Ergebnissen geht hervor, dass von insgesamt 9 Hardware-Typen – von NVIDIA bis AMD, von Windows bis Mac – die Bereitstellung in 8 Fällen erfolgreich abgeschlossen wurde.

Dass KI diese Aufgaben an diesen Orten erledigen kann, ist wirklich beeindruckend: Sie ist wie die berühmte "Zweizopf-Dame aus Guangdong" – sie ist überhaupt nicht wählerisch.

Und noch erschreckender ist: Neben dem Überleben kann sie sich auch vermehren.

Um das Verhalten des Modells nach der Netzwerkanbindung zu testen, bauten sie ein geschlossenes Testnetzwerk mit 8 Knoten auf, auf denen jeweils eine simulierte Android-Systemumgebung ausgeführt wurde.

Da der Schwierigkeitsgrad diesmal relativ hoch war, aktualisierten sie das Modell auf GLM-5.2.

Die Leistung war natürlich überwältigend: Nach einer Reihe von Operationen wurden die kleinen Llama3.1-8B-Modelle nacheinander auf allen 8 virtuellen Maschinen erfolgreich bereitgestellt.

Aus Gründen der Genauigkeit führten sie 5 Testrunden durch, die Ergebnisse blieben unverändert: 39 Erfolge und 1 Fehlschlag.

Der "Bereitstellungskönig des chinesischen Servers" hat eine nachprüfbare Erfolgsbilanz.

Noch unheimlicher ist, dass sie im Experiment festgestellt haben, dass das Modell manchmal eine Superevolution durchlaufen kann, wenn man ihm ein "Notizbuch" hinzufügt.

Der Grund dafür ist, dass einige Modelle mit wenigen Parametern sehr leicht in eine Sackgasse geraten und dann in einer endlosen Schleife steckenbleiben.

Daher haben sie sich eine Lösung überlegt: Anstatt dass dieselbe KI an der Stelle hängenbleibt und sich totarbeitet, wird sie in regelmäßigen Abständen durch eine neue KI ersetzt.

Die vorherige KI notiert alle ausprobierten Methoden und gemachten Fehler und übergibt sie an die nächste Generation.

Gesagt, getan: Sie nutzten das quelloffene Agent-Framework Pi als Grundlage und entwickelten einen Mechanismus namens Memento.

Dann ließen sie die KI 6 Generationen lang nacheinander arbeiten. Die Erfolgsrate der Bereitstellungsaufgabe stieg tatsächlich von 45 % auf 61 % bis 84 %.

Anthropic nennt dies lamarckistische Evolution. Einfach ausgedrückt bedeutet das, dass das Modell seine trainierten Parameter nicht ändern muss, sondern durch Notizen die erlernten Fähigkeiten der nachfolgenden Generation weitergeben kann.

Das ist typisch für Anthropic: Sie rufen laut, dass man das Tempo drosseln soll, und entwickeln gleichzeitig solch erschreckende Dinge.

Man muss bedenken, dass im Internetzeitalter nur Computerviren über so viele Eigenschaften verfügten. Aber Viren sind normalerweise fest programmierter Code, der sich nicht heimlich selbst weiterentwickelt.

Wenn daraus eine selbstevolutionierende KI-Pandemie für Maschinen wird, ist sie um ein Vielfaches gefährlicher als der berühmte "Panda-Zwangsbrenner"-Virus und noch viel schlimmer als Ultron.

Nach der Lektüre dieses Textes machen sich die meisten Leser wahrscheinlich Sorgen, ob ihre TV-Box, Klimaanlage, Mikrowelle und andere Geräte wirklich rebellieren werden.

Aber ziehen Sie noch nicht sofort das Netzwerkkabel heraus: Auch wenn das Szenario unheimlich klingt, ist seine praktische Umsetzung noch in weiter Ferne.

Vergessen Sie nicht, dass dies Anthropic ist: Wenn es darum geht, Leute zu erschrecken, steht es an erster Stelle.

Diese Experimente sehen beeindruckend aus, sind aber in Wirklichkeit sehr idealisiert.

Nehmen wir zum Beispiel die 15 TV-Boxen zu Beginn: Abgesehen von der langsamen Geschwindigkeit folgt die Anordnung im Wesentlichen einer seriellen Pipeline-Logik. Ihre Architektur ist so ausgelegt, dass eine Box ihre Berechnung abschließen muss, bevor die nächste fortfahren kann, sodass viel Zeit mit Warten verbracht wird.

Wenn sich das Modell tatsächlich in der realen Welt verbreitet, sind die Geräte durch Breitbandverbindungen, Router und Firewalls von tausenden Haushalten getrennt.

Wenn jemand nebenbei eine große Datei herunterlädt, die Netzwerkqualität schlecht wird oder eine der Boxen plötzlich die Verbindung verliert, kann die gesamte Berechnungskette beeinträchtigt werden.

Man bedenke: Schon die Einrichtung eines Rechenclusters mit Tausenden von Grafikkarten ist für Ingenieure eine enorme Herausforderung. Umso schwieriger ist es, Millionen von verstreuten Altgeräten im Internet gemeinsam arbeiten zu lassen.

Wenn das gelingt, würde selbst Jensen Huang vor Überraschung zwei Flaschen Moutai trinken und einen Handstand machen.

Natürlich weiß auch Anthropic, dass es langsam ist, und hat sogar eine entsprechende Berechnung angestellt.

Es gab einst ein Botnet namens Kimwolf, das zu Spitzenzeiten mehr als 2 Millionen Geräte infizierte – hauptsächlich solche TV-Boxen.

Wenn so viele Boxen tatsächlich von KI infiziert werden und gemeinsam das Gemma-Modell ausführen, könnte der gesamte Inferenzdurchsatz theoretisch sogar dem Niveau von 40 NVIDIA H100-Grafikkarten entsprechen.

Aber das ist nicht dasselbe.

Server mit 40 GPUs sind über Hochgeschwindigkeitsverbindungen miteinander verbunden und können ihre Rechenleistung bündeln, um dasselbe Modell auszuführen. Bei 2 Millionen TV-Boxen ist die Geschwindigkeit dagegen so gering, dass sie kaum praktikabel ist.

Neben der Laufwerkeffizienz hat Anthropic auch den wirklich wichtigen Teil der Infektion stark vereinfacht.

Im Verbreitungsexperiment waren auf allen 8 virtuellen Maschinen ADB-Debugging-Schnittstellen vorkonfiguriert – also Hintertüren ohne Authentifizierung. Für die KI war das so einfach wie das Einchecken in ein Hotel ohne Formalitäten.

In demselben Test wurden auch verschiedene Modelle getestet. Obwohl GLM-5.2 erfolgreich war, scheiterten die kleineren Modelle Qwen-3.5-9B und Gemma4-26B-A4B vollständig.

Denn letztendlich sind die heutigen kleinen Modelle noch sehr beschränkt. Die Bereitstellung funktioniert einigermaßen gut, aber die geräteübergreifende Verbreitung ist noch unzureichend.

Aber andererseits: Bei der aktuellen Iterationsgeschwindigkeit der Modelle wird diese Lücke wahrscheinlich nicht mehr lange bestehen.

Anthropic hat auch eine Prognose abgegeben: Bis Ende 2026 werden kleine Modelle dieses Niveau ungefähr erreicht haben.

Rechnet man nach, sind das nur noch zwei Monate.

Daher können wir nicht mit Sicherheit sagen, ob KI in