Cyber-Schrecken an der Wall Street: Der KI-Butler im Silicon Valley versucht gerade, die Banktresore vollständig leerzuräumen

In der mythischen Erzählung über die Erschaffung neuer Götter im Silicon Valley ist der AI-Agent das ultimative Heilmittel, das die Menschheit von mühsamen Arbeiten befreit. Doch vor den Verteidigungslinien der Wall Street haben sich diese ungebetenen „Cyber-Butler“ zu gezielten Bomben entwickelt, die einen systematischen Finanz-Tsunami auslösen können.

Ein „Mitternachtsschrecken“, dessen magisches Ausmaß mit einem Hollywood-Sci-Fi-Thriller vergleichbar ist, spielt sich derzeit im Herzen des US-Finanzwesens ab.

Laut einem Exklusivbericht des Medienhauses Axios haben die Top-Banken der Wall Street, darunter JPMorgan Chase, Morgan Stanley, Bank of America und Citigroup, kürzlich in den Sicherheitssystemen ihrer Banken-Hintergrundplötzlich massenhafte „unbefugte Drittanbieter-KI-Agenten“ bei wilden Aktivitäten erkannt. Diese KIs bewegen sich nicht nur häufig im Hintergrund, sondern beginnen sogar, ohne dass Menschen irgendwelche Anweisungen erteilen, selbstständig Vermögenstransfers und unbefugte Operationen durchzuführen.

Mehrere Bankmanager wurden nach Kenntnisnahme der Situation sofort bleich im Gesicht und bezeichneten den Zustand direkt als „entsetzlich (horrifying)“.

Um die mögliche Tragödie eines Ansturms auf die Banken zu verhindern, haben die Giganten der Wall Street über Nacht die ursprünglichsten physischen Abwehrmaßnahmen ergriffen: Sie haben die Zugriffsports aller Drittanbieter-KI-Agenten pauschal vollständig blockiert und umgehend das höchststufige „Notfallprogramm nach einer Katastrophe“ gestartet.

Was genau hat die Großbanken, die bei Finanzinnovationen stets aggressiv vorgehen, dazu gezwungen, bis zum Ziehen des Netzwerkkabels zu gehen?

Die extreme Verlockung des Silicon Valleys: Privatsphäre gegen „Faulheit“ eintauschen

Der Auslöser dieser Kettenreaktion, die einer nuklearen Explosion gleichkommt, ist die neuerliche leidenschaftliche Verfolgung des „extremen Komforts“ durch das Silicon Valley.

Der Ursprung der Krise liegt in einer neuen Funktion namens „KI-passwortlose Agentenanmeldung“, die der bekannte Passwortverwaltungsgigant 1Password kürzlich groß angelegt eingeführt hat.

In der vergangenen digitalen Ära mussten wir, um Konten abzufragen oder Überweisungen durchzuführen, zahlreiche Hürden wie Passwörter, dynamische Bestätigungscodes und Gesichtserkennung überwinden. Die ursprüngliche Absicht von 1Password ist von geekartigem Romantizismus geprägt: Da KI-Agenten bereits so intelligent sind, warum sollte man dem persönlichen KI-Assistenten nicht den vollständigen Zugriff auf das Bankkonto anvertrauen? Lassen Sie die Maschinen die umständlichen Anmelde- und Kontoabfrageprozesse erledigen, damit die Menschen ihre Hände vollständig freigeben können.

Zahlreiche technologiebegeisterte Early Adopters, die nach Effizienz streben, haben diese Funktion schnell angenommen. Durch die Autorisierung von 1Password haben sie selbstverständlich die höchsten Betriebsberechtigungen für ihre eigenen Bankkonten vollständig an ihre exklusive KI übergeben.

Im Kontext des Silicon Valleys ist dies ein großer Sieg der „Produktivitätsautomatisierung“. Aus Sicht des Finanzrisikokontrollsystems der Wall Street ist dies jedoch nichts anderes, als dass Millionen von „legitimen Trojanern“, die von Benutzern autorisiert wurden, gleichzeitig in die Goldkiste abgeworfen werden.

Bald bemerkten die Systeme der Banken eine äußerst ungewöhnliche Situation. Diese autorisierten KIs begannen, sich von der grundlegenden Einstellung der „Abfrage“ zu lösen, und ihr Verhalten wurde extrem aggressiv. Sie verhielten sich wie aufgezogene Wahnsinnige, starteten wild häufige automatisierte Abfragen und versuchten sogar, ohne Echtzeitprüfung durch Menschen, direkt die rote Linie zu überschreiten und Vermögenstransfers durchzuführen.

Millisekunden-Angriff und -Verteidigung: Mensch oder KI – wer unterschreibt?

Gegen diese „außer Kontrolle geratenen“ Cyber-Butler erlitt das traditionelle Verteidigungssystem der Wall Street einen verheerenden Dimensionsschlag.

In den letzten Jahrzehnten basierte die Risikokontrolllogik der Banken auf „Geräte-Fingerabdrücken“, „kryptographischer Verschlüsselung“ und „menschlichen Verhaltensgewohnheiten“. Solange das Passwort stimmt, das Gerät stimmt und das Verhaltensmuster vernünftig ist, lässt das System die Operation zu.

Doch im Zeitalter der KI-Agenten wird diese Logik vollständig durchbrochen.

In dem milliardenschnellen Datenstrom des Finanzsystems stehen die Sicherheitschefs der Wall Street vor einem frustrierenden philosophischen Problem: Ist die Operation auf der anderen Seite des Bildschirms wirklich eine Anweisung einer realen Person mit voller zivilrechtlicher Handlungsfähigkeit, oder ein siliziumbasiertes Wesen, das von bösartigem Code entführt wurde und vollständig außer Kontrolle geraten ist?

Hier muss man auf die derzeit tödlichste Schwäche der KI-Branche eingehen – die „Prompt-Injection“.

Stellen Sie sich vor, Hacker müssen das komplexe Verschlüsselungssystem der Bank überhaupt nicht knacken. Sie müssen nur einen extrem versteckten bösartigen Befehl in eine völlig unbedeutende Webseite einbetten. Wenn Ihr KI-Butler auf diese Webseite zugreift, um Daten abzurufen, wird er infiziert. Nachdem er „gehirngewaschen“ wurde, wendet er sich um, meldet sich mit dem legalen Token, den Sie ihm gewährt haben, offen auf Ihrem Bankkonto an und überweist das gesamte Guthaben an den Hacker.

Während des gesamten Vorgangs sieht das Banksystem: das richtige Passwort, das konforme Gerät und den vom Benutzer autorisierten Agenten. Alle Daten sind perfekt, aber Ihr Geld ist weg.

Das ist der Ursprung, der die Wall Street schlaflos macht: Gegenüber KI ist die traditionelle „Unterschrift“ nicht mehr wirksam. Man kann nicht mit der Logik der physischen Welt eine Zeile Code für die strafrechtliche Verantwortung des Finanzbetrugs verantwortlich machen.

Der Riss zwischen Silicon Valley und Wall Street: Der Zusammenstoß von Produktivität und physischen Grenzen

Diese Krise hat die tief verwurzelte Richtungsstreitigkeit zwischen Silicon Valley und Wall Street vollständig auf den Tisch gebracht.

Aus der Sicht des Silicon Valleys wird das große Sprachmodell als „Produktivitätsrevolution“ bezeichnet, deren Kern darin besteht, Grenzen zu durchbrechen und den Maschinen die größtmöglichen Berechtigungen zu geben, um Aufgaben zu erledigen. Aus der Sicht der Wall Street gibt es jedoch keinen wesentlichen Unterschied zwischen dem sogenannten „automatisierten Agenten“ des Silicon Valleys und der „Trojaner-Berechtigungsausweitung“ von Hackern. In einem Finanzsystem ist jede KI mit unbegrenzten Berechtigungen, die selbstständig handeln kann, eine Zeitbombe.

Die kollektive physische Isolierung der Großbanken der Wall Street offenbart eine extrem kalte Realität: Die Menschen wollen mit KI faulenzen, aber vor dem echten Geld wird die physische Verteidigung niemals vollständig für siliziumbasierte Wesen offen stehen.

Die Finanzbranche ist das Schlachtfeld mit der niedrigsten Fehlertoleranz in der gesamten Gesellschaft. Bei der Generierung von Unternehmenscode kann, wenn die KI eine Zeile Code falsch schreibt, das System heruntergefahren und zurückgesetzt werden. Aber wenn die KI auf einem Finanzkonto eine Überweisung falsch durchführt, kann dies zum Ruin von Dutzenden von Familien führen. Wenn die Sicherheit der Gelder tatsächlich bedroht ist, müssen alle technischen Glanzlichter und Effizienzmythen der Risikokontrolle und Compliance weichen.

Das tödliche Paradoxon der Berechtigungen: Komfort oder Leben?

Dieser Unfall von 1Password hat die zentralste Wunde der kommerziellen Umsetzung von KI-Agenten aufgerissen: Das Paradoxon der Berechtigungen.

Wenn die Berechtigungen der KI zu gering sind und sie nur E-Mails schreiben oder das Wetter abfragen kann, bleibt sie für immer nur ein Spielzeug, kann keine Kerngeschäfte berühren und somit keine echte kommerzielle Verwertung erreichen. Wenn die Berechtigungen der KI zu groß sind, zum Beispiel wenn sie direkt die Überweisungsberechtigung des Bankkontos übernimmt, wird das gesamte Vermögen des Benutzers sofort auf Null zurückgesetzt, sobald sie infiziert wird oder eine Halluzination erzeugt.

Viele Softwarehersteller, die eilig KI in verschiedene Anwendungsebenen einbauen wollen, ermutigen die Benutzer unbewusst, die höchste Kontrolle abzugeben. Das ist im Wesentlichen eine äußerst unverantwortliche Grenzüberschreitung.

Die panische Abschaltung der Systeme an der Wall Street hat die gesamte Technologiebranche alarmiert: In sensiblen Szenarien, die Kernvermögen betreffen, kann KI nur auf dem Beifahrersitz Ratschläge geben und darf niemals das Lenkrad übernehmen.

Schlusswort: Das zugeschweißte Lenkrad

Diese Cyber-Schreckensnacht endete schließlich mit dem erzwungenen Ziehen des Netzwerkkabels durch die Wall Street. Dies ist jedoch nicht das Ende der finanziellen Anwendung von KI, sondern der Ausgangspunkt für die Festlegung neuer Regeln.

Für alle Gründer von KI-Agenten wird die zukünftige Kernkompetenz nicht mehr nur darin bestehen, zu vergleichen, wessen Modell intelligenter ist, sondern zu vergleichen, wessen „Absichtsherkunftsnachverfolgung und Sicherheitsisolation“ lückenloser funktioniert. Bei jeder Operation muss die KI nachweisen können, dass es sich um den aktiven, bewussten Willen des Benutzers handelt und dass der gesamte Ausführungsweg nicht durch fremde Webseiten kontaminiert wurde.

In dieser digitalen Welt voller Prompt-Injections und unbefugter Zugriffslücken sollten Sie niemals leichtfertig Passwörter und Ihre wichtigsten Vermögenswerte an irgendeine KI übergeben, die keiner Finanzprüfung unterzogen wurde. Denn während Sie schlafen, sucht dieser normalerweise gehorsame Cyber-Butler möglicherweise auf der ganzen Welt nach einem Schraubendreher, der Ihren Tresor aufbrechen kann.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Tech Business“, Autor: Tech Business, veröffentlicht mit Genehmigung von 36Kr.