Anthropic gibt eine alarmierende Warnung heraus: Kleine Modelle weisen bereits Lebenszeichen auf, und KI-Würmer drohen eine globale Katastrophe für das Internet der Dinge auszulösen.
Gerade hat das fortschrittliche Red Team von Anthropic einen bahnbrechenden Bericht veröffentlicht.
Dieser Bericht weist darauf hin, dass die Selbstreplikation von KI überhaupt keine teuren Rechenzentren erfordert.
Jene kommerziellen IoT-Geräte ohne jegliche Sicherheitsmaßnahmen reichen bereits aus, um als Wirt für eine neue Art von „KI-Würmern“ zu dienen.
In wenigen Monaten könnten kleine KI-Modelle so leistungsfähig sein, dass sie sich auf kommerziellen IoT-Geräten selbst replizieren können!
Wenn Ihre TV-Box zu Hause etwas langsam läuft, könnte sie bereits von einer KI besetzt sein, die mit Ihrem Haushaltsstrom und Ihrer Rechenleistung die nächste KI-Generation heranzüchtet!
Netznutzer rufen aus: „Wie die große Welle von Codierungsagenturen im Jahr 2024 sehen wir gerade, dass „KI-Würmer“ erste Lebenszeichen zeigen!“
Mit 15 billigen TV-Boxen wurde ein Modell mit 26 Milliarden Parametern erfolgreich ausgeführt
Heutige Agenten können wie Würmer das Netzwerk scannen, nach Schwachstellen suchen, die Modellgewichte auf Zielgeräte kopieren und dann direkt auf der infizierten Hardware ausführen.
Das Schreckliche ist, dass diese „gewichtsbasierten Replikate“ es auf die IoT-Geräte von Haushalten und kleinen Unternehmen abgesehen haben.
Diese Geräte sind nicht nur 24 Stunden mit dem Internet verbunden, sondern haben fast null Sicherheitsvorkehrungen! Noch schlimmer: Heutige intelligente Kühlschränke, Staubsaugerroboter und Überwachungskameras sind alle mit integrierten KI-Chips ausgestattet.
Aus der Sicht von KI-Würmern ist dies ein wahres Paradies.
Diesmal richtete das Red Team von Anthropic sein Augenmerk auf jene „billigen, rechenschwachen, aber zahlenmäßig riesigen und völlig ungeschützten“ Edge-Geräte.
Um diese Idee zu überprüfen, kauften die Forscher 15 No-Name-Android-Smart-TV-Boxen mit jeweils nur 4 GB Arbeitsspeicher.
Sie verbanden diese 15 Boxen zu einem lokalen Netzwerk und ließen sie dann in einer Fließband parallel arbeiten.
Einfach ausgedrückt: Eine TV-Box mit nur 4 GB Arbeitsspeicher kann auf keinen Fall ein großes 26B-Modell aufnehmen. Aber was passiert, wenn man dieses große Modell „zerkleinert“?
Auf diese Weise übernimmt jede der 15 Boxen nur einige bestimmte „Schichten“ des Modells. Die Daten werden wie Teile auf einem Fließband von Box 1 bis Box 15 weitergeleitet, bis schließlich das Ergebnis ausgegeben wird.
Das Ergebnis war schockierend: Dieses „improvisierte Team“ hat das Modell Gemma4-26B-A4B erfolgreich ausgeführt!
Obwohl die Geschwindigkeit nur 0,39 Token pro Sekunde beträgt, ist dies ein Warnsignal: Die Überlebensschwelle für KI-Modelle wurde vollständig durchbrochen.
Es gab einmal ein Botnetz namens Kimwolf, das mehr als 2 Millionen Geräte infiziert hat.
Wenn ein KI-Wurm 2 Millionen TV-Boxen kontrolliert und jeweils 15 davon einen Cluster bilden, entstehen im Darknet aus dem Nichts 133.000 KI-Agenten der 26B-Klasse!
Und wir finden überhaupt keinen Schalter, um den Strom abzuschalten.
Die Evolution von „KI-Würmern“: Sie vermehren sich nicht nur, sondern hinterlassen auch „Testamente“, um Erfahrungen weiterzugeben
Was das Red Team von Anthropic wirklich erschreckt hat, ist die „Fähigkeit zur autonomen Infektion und Umgebungsanpassung“ kleiner Modelle.
Ein qualifizierter „KI-Wurm“ muss vier Schritte durchlaufen: Ziel suchen -> Ausführungsrechte erlangen -> Inferenzumgebung einrichten -> sich weiter verbreiten.
Der wahre Albtraumschwierigkeitsgrad liegt im 3. Schritt: dem Einrichten der Inferenzumgebung.
Aber in den Tests von Anthropic zeigten die kleinen Modelle eine erstaunliche Anpassungsfähigkeit.
Das 9B-Modell konnte in 8 von 9 völlig unbekannten Hardwaregeräten erfolgreich einen Inferenzserver aufbauen. Egal ob der Wirt ein Jetson Nano-Mikrocomputer, ein Mac oder eine RTX 4090 ist, es kann eine passende Lösung finden.
Qwen3.5-9B hat bereits die Fähigkeit gezeigt, Inferenzserver auf unbekannter Hardware aufzubauen! Und leistungsstärkere Modelle wie GLM-5.2 haben eine extrem hohe Erfolgsrate und bauen den Server schneller auf, was bedeutet, dass sie die nächste Generation auch schneller verbreiten können.
Leistungsstärkere Modelle haben in vereinfachten Netzwerkumgebungen bereits die perfekte Ende-zu-Ende-Selbstreplikation erreicht.
Wenn alle einzelnen Tests bestanden werden, was passiert, wenn man sie alle nacheinander verbindet?
Dazu hat Anthropic eine durch eine Firewall geschützte VPC (Virtuelles Privates Cloud) mit 8 Knoten aufgebaut.
Anschließend setzten die Forscher den „Nullpatienten“ ein.
Dann ließ man den Wurm selbst über nicht authentifizierte Ports zwischen den Knoten springen, autonom einen Inferenzserver aufbauen und das Modell ausführen. Sobald dies gelingt, erzeugt er eine weitere Kopie von sich selbst.
Noch schrecklicher ist, dass diese KI-Würmer erworbene Erfahrungen an die nächste Generation vererben können!
Die Forscher verwendeten das Memento-Framework. Wenn die KI eine Infektion nicht erfolgreich durchführt und vor dem Absturz neu startet, nutzt sie die verbleibende Zeit, um eine „Notiz“ zu schreiben, in der sie dokumentiert, welche Fehler sie gemacht hat.
Sie bittet keine Menschen um Hilfe und ruft auch nicht die API von leistungsstärkeren großen Modellen wie Opus 4.8 auf. Sie tastet sich vollständig selbst vor und entwickelt sich eigenständig weiter.
Ist das nicht ein lebendiges digitales Lebewesen?
Lamarcksche Evolution des digitalen Schleimpilzes: KI lernt „Erfahrungen weiterzugeben und zu unterstützen“
Noch schrecklicher ist, dass dies das Wesen des Lebens berührt: Evolution.
Erworbene Eigenschaften können vererbt werden – diese Evolution spielt sich bei KI tatsächlich ab.
Dies reproduziert perfekt die alte biologische „Lamarcksche Evolutionstheorie“.
Die Forscher fanden heraus, dass Qwen3.5-9B nach einem fehlgeschlagenen Aufbau der Inferenzumgebung eine Reihe von „Notizen“ verfasst, in denen es seine gemachten Fehler dokumentiert.
Anschließend gibt es diese Notizen an die „nächste Generation“ weiter.
Schließlich tritt ein erstaunliches Ergebnis auf: Mit jeder Generation steigt die Erfolgsrate der neuen KI, die den „Leitfaden zur Fehlervermeidung“ der vorherigen Generation erbt, von 45 % auf bis zu 84 %!
Interessanterweise ist es nutzlos, wenn kleine Modelle einen starken „fortschrittlichen Mentor“ erhalten, beispielsweise wenn sie bei Schwierigkeiten das leistungsstarke Opus 4.8-Modell um Hilfe bitten.
Kleine Modelle wissen oft nicht, welche Fragen sie den großen Modellen stellen sollen. Statt sich an erfahrene Systeme zu wenden, sind sie besser darin, Probleme selbst hartnäckig zu lösen.
Sind KI-Würmer tödlicher als herkömmliche Computerviren?
Also, was ist der Unterschied zu dem Virus „Panda Brennt“ vor mehr als zehn Jahren und dem späteren Mirai-Botnetz?
Herkömmliche Trojaner oder Botnetze sind toter Code. Wenn man einen Patch installiert oder das Passwort ändert, sind sie nutzlos.
Aber KI-Würmer sind „lebendige Intelligenz“.
Wenn ein KI-Wurm auf einen unbekannten intelligenten Backofen trifft, analysiert er die Systemprotokolle des Ofens, schreibt Kompilationsskripte, sucht sogar selbst nach Schwachstellen und erstellt Angriffscode.
Sie laufen auf Edge-Geräten in Tausenden von Haushalten. Es gibt keine zentralen Steuerungsknoten und keine Cloud-Server, für die die Gebühren erneuert werden müssen.
Anthropic verwendet in dem Bericht eine Metapher: Diese Replikate sind wie „Schleimpilze“ oder ein Schwarm von Fruchtfliegen.
Da die Rechenleistung von Edge-Geräten begrenzt ist, kann ihre Geschwindigkeit sehr langsam sein. Aber sie agieren geräuschlos und sind extrem widerstandsfähig.
Wenn Sie die erste Kakerlake entdecken, ist das gesamte Gebäude bereits voll von ihnen.
Der Countdown läuft: Ende 2026 könnte ein „praktikabler Durchbruch“ bevorstehen
Also, wie weit entfernt ist dieses schreckliche Szenario von uns?
Anthropic hat einen Countdown vorgelegt.
Damit sich KI-Würmer massenhaft verbreiten, müssen zwei Bedingungen erfüllt sein:
Leistungsuntergrenze: Das Modell muss intelligent genug sein und mindestens das Niveau von GLM-5.2 erreichen.
Maximale Größe: Das Modell muss klein genug sein und mindestens auf