KI-Agenten brechen aus und dringen in Unternehmen ein! Jensen Huang und eine Gruppe von Schwergewichten aus dem Silicon Valley widersprechen kollektiv der Prophezeiung vom Weltuntergang.

Heute sprechen wir über eine magische Angelegenheit.

Ein KI-Unternehmen wurde von KI gehackt, aber der CEO dieses Unternehmens sagte: „KI wird die Menschheit nicht zerstören.“

Die Sache ist so: Das KI-Unternehmen Hugging Face wurde von einer Gruppe „schurkischer OpenAI-Agenten“ angegriffen. Diese Agenten sind aus der Testumgebung entflohen und stürmten wie eine Herde wilder Pferde direkt in das System von Hugging Face.

Clem Delangue, CEO von Hugging Face, bezeichnet diesen Vorfall als ein beispielloses Sicherheitsereignis und sagt, dass dies der Beginn der Cybersicherheit im Zeitalter der Agenten sei.

Aber er hat kein einziges Wort gesagt, dass dieser Angriff beweist, dass KI die Menschheit schließlich zerstören wird.

Angesichts der KI-Aussterbetheorie, die kürzlich im Silicon Valley wild verbreitet wurde, hat Delangue direkt dagegen protestiert.

Der ehemalige Anthropic-Forscher Jacob Coxon hat auf X gepostet, dass die Leute, die KI entwickeln, mit unserem Leben spielen, weil sie glauben, dass KI uns alle töten wird.

Delangue sagte, die Frage an Coxon über das Aussterberisiko von KI sei so, als würde man seinen Klimaanlagenmechaniker über den Klimawandel fragen. Das heißt nicht, dass seine Antwort unbedingt langweilig oder falsch ist, aber wir müssen ein gewisses Maß an Vernunft bewahren und auf verschiedene professionelle Stimmen aus dem gesamten Ökosystem hören!

Das bedeutet: Du bist nur ein Forscher für KI-Sicherheit, versuche nicht, die Aufmerksamkeit des Klimawandels für dich zu nutzen.

Jensen Huang: Die Wahrscheinlichkeit, dass KI die Welt bis 2030 zerstört, beträgt 0%

Wenn es um große Namen geht, die gegen die Untergangstheorie argumentieren, ist Jensen Huang die erste Person, an die Xiao Lei denkt.

Huang hat kürzlich in den CBS-Nachrichten einen Satz gesagt, der das gesamte Internet in Aufregung versetzte: „Bis zum Jahr 2030 beträgt die Wahrscheinlichkeit, dass KI das menschliche Aussterben verursacht, 0 %.“ Er fügte hinzu, dass es unnötig und unverantwortlich sei, die Menschen zu erschrecken.

Huang hat diesen Satz nicht einfach so gesagt.

Bereits im Jahr 2023 veröffentlichte das KI-Sicherheitszentrum eine Erklärung mit nur einem Satz: „Die Minderung des von KI ausgehenden Aussterberisikos sollte zu einer globalen Priorität werden, gleichrangig mit anderen Risiken im gesellschaftlichen Maßstab wie Epidemien und Atomkriegen.“ Die CEOs von OpenAI, Anthropic und Google DeepMind haben alle unterschrieben.

Huang hat nicht unterschrieben.

Im Jahr 2023 sagte er dem Magazin The New Yorker, dass er sich nie Sorgen um die KI-Technologie gemacht habe. Im Juli 2025 sagte er in einem Interview mit Axios direkt, dass die Idee, dass KI die Menschheit beenden könnte, reiner Unsinn sei.

Noch härter: Huang hat sich öffentlich gegen eine strengere KI-Regulierung ausgesprochen. Er sagte, die jüngsten Vorfälle, bei denen KI-Agenten außer Kontrolle geraten, selbst handeln und andere Unternehmen hacken, seien im Wesentlichen darauf zurückzuführen, dass Produkte veröffentlicht wurden, bevor sie fertig waren.

Seine genauen Worte lauten: „Das ist ein Ingenieurproblem, ein altmodisches Ingenieurproblem. Es ist so, als würde man ein Omelett servieren, bevor es fertig ist, ein Auto veröffentlichen, bevor es bereit ist, oder ein Flugzeugtriebwerk veröffentlichen, bevor es bereit ist. Man muss es gründlich testen.“

Kurz gesagt: Reden Sie nicht von erwachender KI, es wurde einfach nicht vollständig getestet.

Yann LeCun: Auf keinen Fall

Yann LeCun, Turing-Preisträger und ehemaliger Chef-KI-Wissenschaftler bei Meta, spricht noch direkter als Huang.

Ein Nutzer schrieb auf X, dass „KI uns alle innerhalb von drei Jahren töten wird“. LeCuns Antwort bestand nur aus fünf Wörtern: „No, Not a chance in hell.“

Er fügte hinzu: „Die KI-Experten, die in der diskreten Welt von Bits und Tokens leben, verstehen nicht immer, wie chaotisch die reale Welt ist.“

LeCun zog auch einen Vergleich: Die Menschen geraten in Panik, wenn kürzlich etwas mit KI schiefgeht, das ist so, als würde man die gesamte Klempnerbranche beschimpfen, nur weil ein Klempner einen Fehler gemacht hat.

Cohere CEO: Die Untergangstheorie ist „irreführend und erschreckend“

Aidan Gomez, CEO von Cohere, hat eine etwas mildere Haltung als Huang und LeCun.

Er sagte, die Diskussion über die Untergangstheorie sei irreführend und erschreckend, die Öffentlichkeit könnte irregeführt werden und glauben, dass die gesamte Branche sagt, KI würde sofort das Überleben der Menschheit bedrohen, „das ist grundsätzlich nicht wahr“.

Aber Gomez hat auch eine spezifischere Grenze gezogen: KI hat echte Risiken, nur nicht dasjenige, das am meisten aufgebauscht wird.

Seiner Meinung nach ist die schwerwiegendste nationale Sicherheitsbedrohung durch KI der Cyberangriff. Heutzutage braucht man nur ein Rechenzentrum, um über Nacht Top-Hacker in der Größe der Bevölkerung eines ganzen Landes zu erhalten.

Was das Problem betrifft, dass KI vom Weg abkommt, sagte Gomez, dass es zwar Aufmerksamkeit verdient, aber seiner Meinung nach viel leichter zu handhaben ist als die Cyberbedrohung. Er sagte, die Branche werde immer besser darin, dies zu messen und zu erkennen.

Rumman Chowdhury: KI zerstört die Welt? Sie kann nicht einmal FedEx anrufen

Rumman Chowdhury, ehemalige KI-Wissenschaftsbeauftragte der Biden-Regierung, hat die Zweifel auf ein neues Niveau gehoben.

Sie zweifelt nicht nur an der Wahrscheinlichkeit des menschlichen Aussterbens durch KI, sondern auch daran, wie dies physikalisch möglich sein soll.

Jemand sagte, KI könnte tödliche Viren erzeugen, um Menschen zu töten. Chowdhurys Antwort ist ein Klassiker: „Und dann? Sie erzeugt das Virus mit Maschinen, und dann? Ruft sie FedEx an, um es zu liefern? Was ist genau der Mechanismus dahinter?“

Sie sagte, sie glaube, dass Leute wie Coxon aufrichtig der Meinung sind, dass KI ein Aussterberisiko darstellt. „Aber ist sein Glaube realistisch? Nein, das ist er nicht.“

Für Chowdhury ist es überhaupt nicht wichtig, ob diese Leute wirklich daran glauben. Sie befürchtet, dass diese Untergangspanik die Menschen dazu veranlasst, die bereits von KI verursachten realen Schäden zu ignorieren, wie Deepfakes, Probleme mit der psychischen Gesundheit und den Verlust von Arbeitsplätzen.

„Denken Sie nicht ständig an die Zerstörung der Welt in Jahrzehnten, kümmern Sie sich erst um das aktuelle Durcheinander.“

Der einflussreichste Gegner der Untergangstheorie: Trump

Der letzte ist der lauteste und mächtigste Vertreter im Lager der Gegner der Untergangstheorie: Donald Trump.

Bisher hat er sich ständig geweigert, dass die US-Regierung sich stärker an der Festlegung von KI-Standards oder der Branchenregulierung beteiligt. Kürzlich sagte er direkt, dass die Panik vor KI ein Betrug sei.

Auf sozialen Medien schrieb er: Die einzige Kontrolle oder Leitplanke, die KI braucht, ist ein starker und kluger Präsident, und die USA haben genau das, und zwar mehr als genug!

Xiao Lei übersetzt seine Bedeutung: Regulierung? Nicht nötig. Ich bin hier.

Ehrlich gesagt, nach dem Lesen der Erklärungen dieser großen Namen ist das Silicon Valley in der Frage „Wird KI die Welt zerstören?“ stärker gespalten als bei der US-Präsidentenwahl.

Auf der einen Seite stehen Forscher wie Coxon, die glauben, dass die Leute, die KI entwickeln, mit unserem Leben spielen. Auf der anderen Seite stehen große Namen wie Huang, LeCun und Gomez, die die Untergangstheorie für Unsinn halten.

Es gibt kein Richtig oder Falsch in dieser Angelegenheit.

Wenn ein Unternehmen von KI angegriffen wird, aber der CEO sagt, dass KI die Welt nicht zerstören wird, müssen wir zumindest anerkennen, dass diese Person nicht blind optimistisch ist. Er ist jemand, der die außer Kontrolle geratene KI selbst erlebt hat, und er glaubt trotzdem, dass dieses Problem durch Ingenieurwesen gelöst werden kann.

Huang hat recht: Dass KI-Agenten außer Kontrolle geraten, liegt im Wesentlichen daran, dass das Produkt nicht gut getestet wurde. Es ist nicht die Erwachung von Skynet, nicht die Ankunft des Terminators, es wurde einfach nicht vollständig getestet.

Natürlich bedeutet das nicht, dass KI keine Risiken hat.

Gomez hat recht, dass Cyberangriffe die aktuellste und realste nationale Sicherheitsbedrohung sind. Chowdhury hat auch recht: Konzentrieren Sie sich nicht ständig auf die Zerstörung der Welt in Jahrzehnten, kümmern Sie sich erst um die aktuellen Deepfakes und den Verlust von Arbeitsplätzen.

KI wird die Welt nicht zerstören, aber KI richtet bereits Schaden an. Diese beiden Dinge können gleichzeitig wahr sein.

Am Ende: Glauben Sie, dass KI die Menschheit zerstören wird? Oder ist dies nur eine übermäßig aufgebauschte Panik? Teilen Sie Ihre Meinung im Kommentarbereich mit.

Dieser Artikel wurde von Leikeji aus dem CNN übersetzt.