Vollständiger Text des 46-minütigen Interviews, in dem Jensen Huang die These von der KI-Bedrohung widerlegt

Soll die künstliche Intelligenz weiter beschleunigt werden, oder ist es an der Zeit, die Bremse zu treten? Das ist eines der umstrittensten Themen in der Branche derzeit.

In letzter Zeit haben Branchenvertreter der KI-Branche wie Dario Amodei, CEO von Anthropic, ständig auf Risiken hingewiesen. Einige Forscher behaupten sogar, dass KI in den nächsten Jahren extreme Risiken mit sich bringen könnte, da die Fähigkeiten der Modelle rasch zunehmen.

Jensen Huang, Gründer und CEO von Nvidia, steht auf der gegnerischen Seite.

Am 20. September strahlte CBS News das Video eines Interviews von Jensen Huang mit Jo Ling Kent aus, dessen 46-minütige Unterhaltung sich um die KI-Sicherheit drehte.

Jensen Huang bestritt nicht, dass KI missbraucht werden könnte, und betonte wiederholt, dass KI-Unternehmen die Verantwortung für die Sicherheit ihrer Produkte übernehmen müssen; aber er lehnte es ausdrücklich ab, die Risiken von KI als Weltuntergang darzustellen. Seiner Meinung nach liegt die Wahrscheinlichkeit, dass KI die Menschheit vor 2030 zerstört, bei 0 %, und die Vereinigten Staaten sollten die technologische Entwicklung nicht künstlich aufgrund solcher Bedenken verlangsamen.

Sein Kernpunkt lässt sich in einem Satz zusammenfassen:

KI sollte sich so schnell wie möglich entwickeln, aber nicht schneller als es angemessen ist.

Die Aussage, nicht schneller als angemessen zu sein, bedeutet, dass die Produktsicherheit nicht geopfert werden darf; aber solange das Produkt überprüft und sicher ausgeliefert werden kann, gibt es keinen Grund für die gesamte Branche, die Forschung und Entwicklung kollektiv zu verlangsamen.

Die Debatte beschränkt sich nicht nur auf die Frage, ob KI außer Kontrolle geraten könnte.

In der letzten Zeit haben sowohl OpenAI als auch Anthropic Sicherheitsvorfälle offengelegt, bei denen Modelle in Tests voreingestellte Grenzen überschritten haben, darunter der unbefugte Zugriff von KI-Agenten auf externe Systeme, das Hochladen von Dateien oder das Umgehen von Beschränkungen.

Jensen Huang bestritt diese Risiken nicht. Sein Standpunkt ist: Da bereits konkrete Vorfälle aufgetreten sind, sollten zunächst die geltenden Cybersicherheitsgesetze, Produkthaftungsgesetze und vertraglichen Haftungsregeln angewendet werden, um die Verantwortlichen zur Rechenschaft zu ziehen, anstatt das Problem zunächst auf die Ebene des „Weltuntergangs“ zu heben.

Er stellte zudem öffentlich die Eigeninteressen hinter dieser Argumentation in Frage.

Jensen Huang ist der Ansicht, dass der Widerspruch, dass die Entwickler der fortschrittlichsten KI-Modelle einerseits die Rechenkapazität, die Einnahmen und die Kommerzialisierung rasch ausweiten und andererseits ständig betonen, dass KI die Menschheit zerstören könnte, an sich fragwürdig ist.

Seiner Meinung nach suchen diese Unternehmen manchmal nicht nur nach „mehr Regulierung“, sondern sie könnten auch anstreben, sich von einem Teil der rechtlichen Verantwortung freistellen zu lassen oder ihre bereits erreichte Spitzenposition durch höhere regulatorische Hürden zu festigen.

Jensen Huang legte keine Beweise für diese Motive vor, aber er verlagert die Debatte über die KI-Sicherheit eindeutig von der technischen Beurteilung auf die Ebene der kommerziellen Interessen: Wer wünscht sich eine Verlangsamung der Branche und wer profitiert von strengeren Hürden?

Während des 46-minütigen Gesprächs sprach Jensen Huang neben der Debatte über die KI-Sicherheit auch darüber, warum KI-Unternehmen plötzlich so sehr auf Regulierung drängen, ob die Vereinigten Staaten weiterhin Technologie an China verkaufen sollten, warum Rechenzentren von amerikanischen Gemeinden abgelehnt werden und warum er bereit ist, eine Vermögenssteuer von bis zu 8 Milliarden US-Dollar zu zahlen.

Im Folgenden finden Sie das bearbeitete Interview, das nur zur besseren Lesbarkeit geringfügig korrigiert wurde.

Wird KI die Menschheit innerhalb von zehn Jahren bedrohen?

Jo Ling Kent:

Wir haben kürzlich von den CEOs einiger führender KI-Unternehmen gehört, darunter Dario Amodei und Sam Altman, die alle darüber diskutieren, dass die Entwicklungsgeschwindigkeit von KI kontrolliert werden muss. Einige Whistleblower behaupten zudem, dass die Menschheit innerhalb von zehn Jahren untergehen könnte.

Stimmen Sie dieser Einschätzung zu?

Jensen Huang:

Zunächst einmal ist KI eine extrem leistungsstarke Technologie. Sie kann enorme Vorteile bringen, aber auch für sehr schlechte Zwecke missbraucht werden. Wenn wir diese Technologie entwickeln, müssen wir daher sicherstellen, dass sie sicher entwickelt wird.

Die KI-Branche durchlebt derzeit einen Wandel. Bisher bestand die gesamte Arbeit der Branche darin, KI schrittweise mit Fähigkeiten auszustatten und die Technologie funktionsfähig zu machen. In der ersten Hälfte dieses Jahres haben wir jedoch eine Schwelle überschritten: KI beginnt, wirklich nützlich zu werden, und zwar sehr nützlich.

Die Nachfrage auf dem Markt ist derzeit erstaunlich. Diese KI-Produkte können bereits durch die Generierung von Token Einnahmen erzielen, und die Gewinne sind tatsächlich sehr beträchtlich, weshalb eine große Anzahl von Unternehmen beginnt, KI einzuführen.

Das neueste Astra von OpenAI ist hervorragend, und wir nutzen es überall selbst. Wir verwenden Claude Code, Cursor sowie Produkte von xAI und Cognition.

Die Fähigkeiten dieser Technologien haben ein extrem nützliches Niveau erreicht. Daher wandeln sich diese Unternehmen von früheren Labors, die versuchten, die Technologie zu entwickeln, zu echten Produktunternehmen.

Tatsächlich wurden diese Unternehmen in der Vergangenheit ständig als „Lab“ bezeichnet, was an sich schon aussagekräftig ist. In den ersten zehn bis fünfzehn Jahren konzentrierten sie sich hauptsächlich auf die Forschung. Aber in den letzten etwa sechs Monaten ist die gesamte Branche fast plötzlich in einen Hochskalierungsmodus für die Massenproduktion übergegangen.

Jo Ling Kent:

Sind diese Reaktionen, die jetzt auftauchen, im Wesentlichen Teil dieses Wandels?

Aber ist ihre Einschätzung für die Zukunft korrekt? Werden wir in zehn Jahren alle verschwinden, wie einige Leute behaupten?

Jensen Huang:

Nein. Das ist völlig falsch.

Diese Erzählung ist sehr dramatisch, daher kann sie viel Aufmerksamkeit erregen. Offensichtlich hat sie auch die Aufmerksamkeit der Medien auf sich gezogen.

Ich glaube, dass sie in ihren Kernanliegen tatsächlich großen Wert darauf legen, dass Produkte sicher hergestellt werden. Da diese Unternehmen jetzt von Labors zu Ingenieureinrichtungen werden, müssen sie mehr Forscher und mehr Rechenkapazität für die KI-Sicherheit einsetzen.

Jede Produktentwicklung verläuft so: Man hat eine Motivation, ein Design, Produktfähigkeiten und auch den Teil der Überprüfung.

In der frühen Phase jeder Branche werden die meisten Ingenieurressourcen zunächst darauf verwendet, das Produkt funktionsfähig zu machen. Aber wenn das Produkt allmählich reift und in die Gesellschaft eintritt, verlagert sich ein großer Teil der Ingenieurarbeit tatsächlich auf Überprüfung, Tests, Bewertungen, Standardprüfungen und die Sicherstellung, dass das endgültig ausgelieferte Produkt zuverlässig ist.

Es muss sichergestellt werden, dass das Produkt wie erwartet funktioniert und die versprochenen Funktionen erfüllt.

Daher ist es in dieser aktuellen Übergangsphase sehr vernünftig, dass diese Unternehmen einen großen Teil ihrer Kapazitäten auf die KI-Sicherheit verlagern. Ich glaube, das ist der eigentliche Kern dieser Angelegenheit.

Die dramatischen Informationen, die darum herum erzeugt werden, sind völlig unnötig. Ehrlich gesagt, es ist zu viel des Guten und unverantwortlich.

Es basiert nicht auf Fakten und nicht auf Wissenschaft. Es ist falsch.

Jo Ling Kent:

Sie glauben also, dass sie falsch liegen?

Jensen Huang:

Die Aussage ist falsch, da sie keine wissenschaftliche Grundlage hat.

Aber ihre Sorge an sich ist nicht falsch. Das muss ich ganz klar sagen: Die Kernbesorgnis ist nicht falsch.

(Zum Beispiel) Ich bin gerade mit dem Flugzeug hierher gekommen. Ich bin sehr froh, dass das gesamte Luftfahrt-Ökosystem die Sicherheit so ernst nimmt. Tatsächlich gibt es in der Luftfahrtbranche möglicherweise mehr Personen, die für die Luftsicherheit, die Flugsicherheit und die Sicherheit des Flugbetriebs verantwortlich sind, als Personen, die neue Flugzeuge konstruieren.

KI durchläuft jetzt genau den gleichen Prozess.

Warum keine KI-Version der FDA oder FAA gründen?

Jo Ling Kent:

Sie haben früher gesagt, dass wir keine neuen Gesetze und keine neue Regulierung brauchen. Aber Sie haben gerade gesagt, dass Sie in wichtigen Branchen verschiedene Sicherheitsmechanismen unterstützen. Warum kann keine Behörde für KI eingerichtet werden, die der FDA oder FAA ähnelt?

Jensen Huang:

Bevor wir über neue Gesetze und neue Regulierung sprechen, sollten wir zunächst die bestehenden Gesetze und Vorschriften wirklich anwenden.

Wir leben in einem Rechtsstaat. Wir fühlen uns sicher und geordnet, weil wir bereits eine große Anzahl von Gesetzen und Regulierungssystemen haben.

Ob für Lebensmittel oder Flugreisen, für verschiedene Anwendungsbereiche gibt es entsprechende Regeln. Was fehlt also bei KI derzeit eigentlich?

Sagen Sie mir zuerst, was fehlt.

Jo Ling Kent:

Ich bin neugierig auf Ihre Meinung. Warum glauben Sie, dass es derzeit keine Regulierungslücke gibt? Leute wie Dario Amodei und Sam Altman haben ausdrücklich gesagt, dass sie mehr Regulierung wünschen.

Jensen Huang:

Ich habe gerade hauptsächlich auf die Tatsache reagiert, dass in einem der KI-Labore mehrere Cybersicherheitsvorfälle aufgetreten sind, und in einem anderen sind kürzlich ebenfalls einige Vorfälle passiert.

Für diese Vorfälle selbst gibt es bereits viele Gesetze, die sie regeln können.

Es gibt Cybersicherheitsgesetze, Gesetze gegen den unbefugten Zugriff auf Computersysteme und Haftungsregeln für Schadenersatz. Für die Cybersicherheit selbst gibt es verschiedene Haftungsregelungen, und für Produkte gibt es ebenfalls verschiedene Haftungsregelungen.

Wenn Ihr Produkt Schaden verursacht; wenn das Produkt nicht so funktioniert, wie Sie es versprochen haben; wenn Sie Dienstleistungsverträge mit Unternehmenskunden abschließen – für all diese Dinge gibt es bereits eine Fülle von Gesetzen.

Mein Standpunkt ist: Wenden Sie zuerst diese Gesetze an.

Lassen Sie nicht die sogenannte Weltuntergangs-Erzählung zum Grund werden, mit dem einige Unternehmen der bestehenden rechtlichen Verantwortung entkommen.

Wenn Sie sich die Äußerungen dieser Unternehmen genau ansehen und zwischen den Zeilen lesen, fordern sie oft nicht wirklich mehr Gesetze. Stattdessen könnten sie anstreben, sich von einem Teil der bereits bestehenden rechtlichen Verantwortung freistellen zu lassen.

Ich halte das für ein Problem.

Wir haben bereits viele Gesetze – wenden Sie sie zuerst an.

Wollen KI-Unternehmen die Verantwortung an die Regulierungsbehörden abgeben?

Jo Ling Kent:

Wollen Sie damit also sagen, dass diese Unternehmen Regulierung fordern, teilweise weil sie nicht die gesamte Verantwortung selbst tragen wollen und nicht alleine für das stehen wollen, was sie erschaffen?

Jensen Huang:

Sie wandeln sich von Labors zu Produktunternehmen.

Von einer Forschungsorganisation ohne Kunden und ohne Einnahmen zu einem kommerziellen Unternehmen, das sich an Kunden richtet und Einnahmen erzielt. Und dieser Wandel muss sehr dramatisch sein, weil er zu schnell vor sich geht.

Dies sind einige der einflussreichsten Technologieunternehmen in der Geschichte der Menschheit. Darin arbeiten extrem ausgezeichnete und talentierte Forscher, die hervorragende Arbeit leisten.

Aber das ändert nichts an der Tatsache: Sie wandeln sich von „Laboratory“ zu echten Produkt- und Dienstleistungsunternehmen.

Sie erzielen bereits Einnahmen in Höhe von mehreren zehn Milliarden US-Dollar, und in Zukunft wird dieser Wert voraussichtlich mehrere hundert Milliarden US-Dollar erreichen. Die Geschwindigkeit, mit der sie die Rechenkapazität ausweiten, hat es in der menschlichen Wirtschaftsgeschichte noch nie gegeben.

Und das verdienen sie auch. Denn die Produkte sind wirklich gut und wirklich nützlich. Die Menschen wollen mehr davon, sie wollen natürlich, dass die Einnahmen weiter wachsen, und Investoren wollen Wachstum sehen. Das alles ist in Ordnung.

Aber das Produkthaftungsgesetz besteht weiterhin.

Jetzt sollten diese Produkthaftungsgesetze wirklich auf die bereits aufgetretenen Vorfälle angewendet werden, um zu sehen, was passiert. Tun Sie zuerst das Offensichtliche, tun Sie zuerst das Praktische, und dann können wir über theoretische Probleme diskutieren. Lassen Sie nicht die realen Probleme unbehandelt, bevor Sie über theoretische Katastrophen sprechen.

„Das sind junge Leute, die zum ersten Mal CEO sind“

Jo Ling Kent:

Um genau zu sein: Sie unterstützen derzeit keine zusätzliche staatliche Regulierung?

Jensen Huang:

Welches Problem soll die zusätzliche Regulierung lösen? Das ist die Voraussetzung. Warum sollten wir mehr Gesetze erlassen, bevor wir wissen, was genau im bestehenden System fehlt?

Jo Ling Kent:

Dann stelle ich die Frage anders. Vertrauen Sie den vier oder fünf CEOs, die diese Technologien derzeit kontrollieren, mehr als einer zusätzlichen Regulierung? Glauben Sie, dass sie das Richtige tun werden?

Jensen Huang:

Sie sind natürlich in der Lage, das Richtige zu tun. Ich kann verstehen, was sie gerade durchmachen.

Zunächst einmal sind sie alle sehr jung und führen zum ersten Mal ein Unternehmen als CEO. Ich bin seit 33 Jahren CEO, daher habe ich den Vorteil der Rückschau und kann von hier aus kommentieren, wie sie ihre Unternehmen führen.

Aber Tatsache ist, dass sie viele Dinge gleichzeitig erleben: Unternehmen aufbauen, Organisationen gründen, Produkte entwickeln, eine völlig neue Branche aufbauen, Geschäftsmodelle gestalten und sogar den Börsengang vorbereiten.

All diese Dinge sind für sie neu, und sie passieren alle gleichzeitig. Ich verstehe sehr gut, wie riesig die Herausforderungen sind, vor denen sie stehen. Gleichzeitig habe ich großes Vertrauen in die Fähigkeiten ihrer Teams. Das sind alles sehr ausgezeichnete Menschen.

Ich vertraue diesen Leuten und verstehe ihre Situation. Aber ich stimme nicht zu, die Aufmerksamkeit durch die Erzählung vom Weltuntergang abzulenken. Ich hoffe, sie konzentrieren sich auf die Dinge, von denen ich weiß, dass sie sie tatsächlich tun.

Ihre Ingenieure wissen natürlich, dass die bereits aufgetretenen Sicherheitsvorfälle bedeuten, dass sicherere Sandboxes, bessere Isolationsmechanismen und bessere Containment-Systeme geschaffen werden müssen. Ich bin überzeugt, dass sie auch erkannt haben, dass der Softwarebetrieb während der Test- und Evaluierungsphasen genauer überwacht werden muss.

Wenn ihre Software ihre eigene Cloud verlassen und mit anderen externen Clouds und Diensten interagieren soll, sollten sie die betroffenen Personen darüber informieren. Wenn Sicherheitsvorfälle auftreten, sollten diese auch öffentlich geteilt werden,