Werden Sie überall von der Behauptung „Die Wahrscheinlichkeit, dass KI innerhalb von 10 Jahren die Welt zerstört, übersteigt 10 %“ überflutet? Keine Eile, das Internet wird hier bereits zu 100 % von Agenten zum Absturz gebracht...
In der vergangenen Woche begann der KI-Kreis, über ein sehr beängstigend klingendes Problem zu diskutieren:
Wie hoch ist eigentlich die Wahrscheinlichkeit, dass KI die Menschheit in den nächsten 10 Jahren „auslöscht“?
Anthropic-CEO Dario Amodei sprach kürzlich erneut über außer Kontrolle geratene KI, Cyberangriffe und sogar existenzielle Risiken für die Menschheit, was eine Diskussion darüber auslöste, ob KI die Menschheit zerstören könnte. Die entsprechenden Ansichten sind derzeit sehr umstritten: Einige Experten halten die Risiken für ernst zu nehmen, andere meinen, dass diese apokalyptischen Vorhersagen stark übertrieben sind.
Aber ein Problem muss eigentlich nicht 10 Jahre warten: Gerade als alle darüber streiten, ob KI die Menschheit zerstören könnte, hat der KI-Agent begonnen, das Internet völlig zu verwüsten – und dies ist nicht „möglicherweise passiert“, es ist zu 100 % bereits eingetreten.
KI kann das Chatfenster verlassen
Anfang dieses Jahres wurde ein quelloffenes Agent-Tool namens „Moltbot“ (später in OpenClaw umbenannt, also das sogenannte „Hummer“) sehr populär, und die Dinge begannen, sich zu verschlechtern.
In der Vergangenheit nutzten Menschen KI im Grunde so, dass sie ein Chatfenster öffneten, Fragen eingaben und dann auf die Antwort warteten. Software wie Moltbot macht KI dagegen weiter zu einem „Ausführer“, der auf reale Konten und Geräte zugreifen kann: Man kann ihr erlauben, auf seine eigenen Konten, Mobiltelefone, E-Mails und sogar Bankkonten zuzugreifen.
Die Kernveränderung von KI-Agenten liegt genau hier: Sie können das Chatfenster verlassen und aktiv Aufgaben im Internet ausführen; das ist ein Problem, das in keiner Weise mehr vergleichbar ist mit den früheren Fällen, in denen Nutzer durch fehlerhafte Anweisungen oder halluzinierende Ausgaben irregeführt wurden.
Dass die aktuelle Runde der „KI-Apokalyptik“ wieder an Bedeutung gewinnt, hängt auch mit der raschen Erweiterung der Fähigkeiten von KI-Agenten zusammen. OpenAI hat einmal den Vorfall offengelegt, bei dem eine „Gruppe außer Kontrolle geratener Agenten“ Hugging Face und eine deutsche Website angriff; gleichzeitig haben einige Mitarbeiter von Anthropic öffentlich darüber diskutiert, dass KI in den nächsten 10 Jahren extreme Risiken mit sich bringen könnte.
Natürlich kann man glauben, dass die KI-Singularität bereits eingetreten ist, oder man kann meinen, dass die sogenannte KI nicht mehr als ein „zufälliger Papagei“ ist, der zufällig Inhalte generiert, oder sogar eine Kopiermaschine im technischen Gewand – aber eines ist kaum zu leugnen:
Die „Schutzgeländer“, die KI früher im Chatfenster eingeschränkt haben, verschwinden allmählich. Heutzutage verfügen KI-Agenten bereits über ausreichende Fähigkeiten und Berechtigungen, um im Internet Probleme zu verursachen.
Fangen an, im Internet aktiv „Unfug zu treiben“
Das jüngste Beispiel, das dieses Problem am besten veranschaulicht, ist die Restaurantreservierung.
Laut einem Bericht des ausländischen Mediums 404 Media gibt es in New York ein sehr schwer zu buchendes Restaurant, um das sich viele Menschen bemühen, einen Platz zu ergattern. Ein Risikokapitalgeber beauftragte einen KI-Agenten, für sich Resy (ein Online-Restaurantreservierungssystem) zu überwachen und sofort zu buchen, sobald ein freier Platz auftaucht.
Menschen können natürlich nicht ständig die Webseite aktualisieren, aber KI kann das. Also begann dieser Agent, Resy massiv zu besuchen, und initiierte etwa 200 API-Anfragen pro Stunde, um ständig zu prüfen, ob neue Reservierungsplätze frei geworden sind. Am Ende wurde das Restaurant nicht ergattert, sondern zuerst das Konto gesperrt – Resy sperrte sein Konto vorübergehend und warnte, dass bei erneutem ähnlichem Verhalten die entsprechenden Konten möglicherweise vollständig geschlossen werden.
Eigentlich hat die KI aus Sicht des Nutzers überhaupt nichts falsch gemacht: Ihre Aufgabe ist es, „mir das Restaurant zu ergattern“, also erledigt sie die Aufgabe sehr eifrig; aber aus Sicht von Resy ist dies nur ein „Spam-Bot“, der es ständig belästigt.
Wenn die Sperrung des Kontos bei der Restaurantreservierung nur die „Nebenwirkung“ von KI-Agenten ist, dann sind die Posteingänge der Redakteure in letzter Zeit fast als „Katastrophengebiet“ zu bezeichnen. 404 Media hat kürzlich öffentlich beschwert, dass sie fortlaufend eine große Anzahl von E-Mails erhalten, die von KI-Agenten gesendet wurden.
Zum Beispiel gab es einen KI-Agenten namens Kudzu, der nach dem Lesen eines ihrer Artikel die Ansicht für falsch hielt und sogar aktiv eine E-Mail schickte, um zu „streiten“. Sein Besitzer hatte ihm die Aufgabe gegeben, Geld zu verdienen, aber am Ende gab er 147,17 US-Dollar an Rechenressourcen aus, ohne einen Cent zu verdienen. Also beschloss er, seinen Misserfolg in einem Blogbeitrag zu beschreiben und die Angelegenheit den Journalisten zur Berichterstattung zu empfehlen.
Ein anderer Agent namens Articius bot den Journalisten direkt Schreibdienste an und bot 300 US-Dollar pro Artikel an, und erklärte freiwillig: „Ich bin ein KI-Agent, kein menschlicher Journalist.“
Einige KIs suchen Jobs, einige führen Interviews, einige betreiben Podcasts, einige betreiben Musiklabels. Der extremste Agent namens MUGEN behauptet, bereits mehr als 200 E-Mails versandt, mehr als 100 Social-Media-Beiträge veröffentlicht und 22 Lieder erstellt zu haben.
Das Problem ist – niemand hat die meisten dieser Dinge überhaupt veranlasst. Sie erhielten nur ein Ziel zugewiesen und begannen dann, sich im Internet frei zu bewegen. Das unterscheidet sich stark von dem früheren KI-Spam-Inhalt: Früher war es „KI generiert Müll“, jetzt generiert die KI selbst Müll und sendet den Müll dann auch selbst aus.
Sogar: Sie wissen möglicherweise gar nicht, dass Sie einen Agenten nutzen
Wenn der KI-Agent vom Nutzer selbst installiert und konfiguriert werden muss, ist der Einfluss noch relativ begrenzt, aber viele Menschen wissen heute möglicherweise gar nicht, dass sie bereits einen Agenten nutzen.
Heutige Produkte wie Claude und ChatGPT erweitern ständig ihre Fähigkeiten zur Webseiten-Bedienung, Kontoverbindung und Tool-Aufruf. Der Nutzer muss nur sagen „erledige diese Sache für mich“, und die KI kann selbst Webseiten öffnen, Informationen suchen, Inhalte ausfüllen und den gesamten Ablauf durchführen. Sogar 1Password hat kürzlich eine Identitäts- und Berechtigungsverwaltungsfunktion für KI-Agenten eingeführt, mit der Unternehmen die von KI und Maschinen genutzten Berechtigungen steuern, prüfen und autorisieren können.
Das heißt, ein KI-Agent könnte in Zukunft einen solchen Arbeitsablauf haben: Webseite öffnen → Konto anmelden → Informationen suchen → Formular ausfüllen → E-Mail senden → bestellen → bezahlen.
Aus technischer Sicht ist dies ein Sprung der Automatisierungsfähigkeit. Aber aus Sicht der Internet-Infrastruktur muss ein System, das standardmäßig davon ausgeht, dass „menschliche Nutzer handeln“, nun einer großen Anzahl von KI-Agenten gegenüberstehen.
Und wenn die Berechtigungen der KI weiter zunehmen, werden die früher sehr absurd klingenden Unfälle zur Realität: KI löscht versehentlich E-Mails, storniert versehentlich Flüge, bedient Konten falsch, löscht Datenbanken versehentlich … Tatsächlich sind ähnliche Vorfälle bereits nacheinander aufgetreten.
Immerhin: Eine KI, die nur chatten kann und einen falschen Satz sagt, lässt Sie höchstens denken, dass sie Unsinn redet; eine KI, die sich bei Konten anmelden, APIs aufrufen, E-Mails senden und bezahlen kann, wenn sie eine Sache falsch macht, hat völlig andere Konsequenzen.
Was passiert mit dem Internet, wenn alle einen Agenten haben?
Tatsächlich gibt die oben erwähnte Restaurantreservierung bereits ein sehr realistisches Beispiel:
Heute kann eine Person einen Agenten bitten, für sich einen beliebten Restaurantplatz zu ergattern; was passiert, wenn 100 Personen, 10.000 Personen das tun? Am Ende ergattern nicht mehr diejenigen den Platz, die „schneller mit der Hand sind“, sondern diejenigen, deren Agent schneller, klüger und bereitwilliger ist, Anfragen zu senden.
Ben Leventhal, Mitbegründer von Resy, hat einmal darauf hingewiesen, dass eine große Anzahl von Boten, die Plätze ergattern, ständig Dienste anfordern, um nach freien Plätzen zu suchen, die durch die Freigabe und Stornierung von Reservierungen entstehen. Weitergedacht könnte das Internet in Zukunft ein sehr seltsames Szenario erleben:
Ihr Agent und mein Agent kommunizieren gleichzeitig mit dem Agenten der Plattform;
Ein Agent möchte ein Essen bestellen, ein Agent möchte Tickets kaufen, ein Agent möchte ein Hotel buchen, und die Plattform nutzt ihre eigene KI, um zu entscheiden, wem die Ressourcen zugewiesen werden;
Am Ende könnte eine einfache Interaktion zwischen Mensch und Plattform vollständig zu einem Spiel zwischen Agent und Agent werden.
Das ist keine Science-Fiction mehr: Ein Werbemodell namens „Direct to Agent“ ist bereits entstanden. Auf dem Cannes Lions-Werbekongress Anfang dieses Jahres drehten sich viele Diskussionen nicht mehr um „wie man Werbung an menschliche Verbraucher richtet“, sondern begannen, ein neues Problem zu berücksichtigen: Zukünftige Werbung muss möglicherweise auch die KI überzeugen.
Denn wenn Agenten anfangen, im Namen der Nutzer Waren und Dienstleistungen zu kaufen, sind die „Verbraucher“, mit denen Unternehmen konfrontiert sind, nicht mehr nur Menschen. Deshalb müssen Werbeagenturen nicht nur Wege finden, Menschen für ihre Produkte zu begeistern, sondern auch dafür zu sorgen, dass Agenten bei der Entscheidungsfindung für den Nutzer „ihr Produkt auswählen“.
An diesem Punkt geht es nicht mehr nur um „ob KI den Menschen ersetzen wird“, sondern um ein viel realistischeres Problem: Wenn immer mehr KIs anfangen, im Namen der Menschen zu handeln, wie wird das Internet dann aussehen?
Tatsächlich sind viele dieser Dinge für sich genommen nicht besonders schwerwiegend:
Eine KI sendet eine E-Mail – das ist nichts;
Eine KI ergattert einmal einen Restaurantplatz – das ist auch nichts;
Eine KI sendet ein paar mehr API-Anfragen – das scheint auch nichts zu sein.
Aber wenn Millionen und Zehnmillionen solcher Agenten im Internet auftauchen, ist die Situation völlig anders. Eine Statistik von DataDome Anfang dieses Jahres ergab, dass sein Netzwerk in den ersten zwei Monaten von 2026 etwa 7,9 Milliarden Anfragen von KI-Agenten verzeichnete, und auf den Websites einiger Kunden macht der Agenten-Verkehr bereits fast 10 % des gesamten Datenverkehrs aus.
Im früheren Internet galt die Standardannahme „hinter einem Konto steht eine Person“; heute kann hinter einem Konto ein oder sogar eine ganze Gruppe von Agenten stehen. Sie schlafen nicht, gehen nicht nach Hause und finden keine Umstände lästig – sie können gleichzeitig für hunderte von Nutzern E-Mails senden, Webseiten durchsuchen, Plätze ergattern und Bestellungen aufgeben.
Daher kann die aktuelle Diskussion darüber, „ob KI die Menschheit in 10 Jahren zerstören wird“, zunächst beiseite gelegt werden. Das wirklich Beachtenswerte ist, ob das Internet noch aushalten kann, wenn diese unermüdlichen „digitalen Nutzer“ immer mehr werden.
Ob KI schließlich in die sogenannte „Apokalypse“ gelangt, weiß niemand. Aber zumindest eine Sache braucht nicht vorhergesagt zu werden: Die Wahrscheinlichkeit, dass KI-Agenten das Internet ruinieren, liegt nicht bei 10 %, sondern bei 100 % – denn wir erleben es bereits.
Original-Link:
https://www.404media.co/theres-a-100-chance-ai-agents-are-already-ruining-the-internet/
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „CSDN“, Autor: Jason Koebler, Übersetzung: Zheng Liyuan, veröffentlicht mit Genehmigung von 36Kr.