Jensen Huangs neuestes Interview: Die KI-Apokalypse-Theorie ist übertrieben, was wirklich umgesetzt werden sollte, ist Sicherheitsingenieurwesen

In einem kürzlichen ausführlichen Interview hat Jensen Huang, CEO von NVIDIA, auf die schärfsten aktuellen Fragen reagiert: Wird die KI die menschliche Zivilisation innerhalb von zehn Jahren beenden? Sollten Regulierungsbehörden ähnlich wie die FDA oder FAA gegründet werden? Sollte der Verkauf von Chips an China eingestellt werden? Warum müssen Rechenzentren unbedingt gebaut werden? Und warum sagte er, er habe „keine Angst vor Steuern, sondern nur davor, arm zu werden“.

I. Wird die KI die Menschheit zerstören? „Die Wahrscheinlichkeit für das Weltende im Jahr 2030 beträgt 0 %“

Moderator: Dario Amodei, Sam Altman und Elon Musk haben alle erklärt, dass wir das Entwicklungstempo der künstlichen Intelligenz kontrollieren müssen. Ein Whistleblower wies darauf hin, dass das Ende der menschlichen Zivilisation innerhalb von 10 Jahren eintreten könnte. Stimmen Sie dem zu?

Jensen Huang: Zunächst einmal ist die KI-Technologie wirklich unglaublich mächtig. Sie kann enorme Vorteile bringen und in verschiedenen Bereichen eingesetzt werden, aber es gibt auch viele schlechte Anwendungen. Deshalb müssen wir sicherstellen, dass diese Technologie im Entwicklungsprozess sicherer gemacht wird.

In dieser Branche findet derzeit ein Wandel statt. Anfang dieses Jahres erlebten wir einen Wendepunkt: KI begann, wirklich nützlich zu sein. Mit steigender Nachfrage wird sie sehr wertvoll. Viele KI-Produkte sind heute bereits mit der Token-Generierung profitabel, und die Gewinnmargen sind recht hoch. Viele Unternehmen setzen sie bereits ein. Das neueste Astra-Modell von OpenAI ist erstaunlich, und wir nutzen es überall. In den letzten sechs Monaten hat sich die Situation plötzlich verändert, und die gesamte Branche ist auf einen Modus mit hohem Produktionsniveau umgestiegen.

Zu der Aussage, dass „die Menschheit innerhalb von zehn Jahren verschwinden wird“: Nein, das ist völlig falsch. Das ist eine Erzählung, die übertrieben ist, viel Aufmerksamkeit erregt und auch die Medien auf sich zieht. Ich glaube, dass diese Unternehmen im Grunde genommen sehr auf die Produktsicherheit achten. Sie befinden sich im Übergang von der Laborphase zur Ingenieursphase und müssen mehr Forschungsressourcen und Rechenressourcen in die Sicherheit investieren.

Zu Beginn jeder Branche besteht der größte Teil der Ingenieurarbeit darin, das Produkt funktionsfähig zu machen. Wenn das Produkt allmählich ausgereift ist und in der Gesellschaft eingesetzt wird, besteht der größte Teil der Ingenieurarbeit tatsächlich aus Validierung, Tests, Bewertungen, Benchmark-Tests, der Einhaltung relevanter Standards und der Sicherstellung, dass die gelieferten Produkte zuverlässig sind, wie erwartet funktionieren und die Produktversprechen vollständig erfüllen. Daher ist es sehr vernünftig, in dieser aktuellen Übergangsphase so vorzugehen. Sie müssen eine große Menge an Kapazitätsressourcen verlagern, um die Sicherheit der KI zu gewährleisten.

Viele Diskussionen über diese Angelegenheit sind unnötig. Um ehrlich zu sein, die Situation ist ziemlich schlimm, es wird zu viel unnötige Dramatik erzeugt, das ist sehr verantwortungslos. Jetzt sollte alles auf Fakten basieren. Diese Weltuntergangstheorie basiert nicht auf wissenschaftlichen Grundlagen, also ist sie falsch.

Aber ihre Sorge ist nicht unbegründet. Das ist nicht anders als die Situation, als ich gerade aus dem Flugzeug gestiegen bin. Ich freue mich, dass das gesamte Ökosystem und die gesamte Branche sich so entwickeln können, und alle Luftfahrtreisenden legen großen Wert auf Sicherheit. Alle Menschen, die Tag und Nacht arbeiten, bemühen sich, die Sicherheit der Luftfahrt, der Flugzeuge und der Flugreisen zu gewährleisten. Das ist sinnvoll, und wir erleben tatsächlich dasselbe.

II. KI-Regulierung: Zuerst geltende Gesetze umsetzen, statt Gesetze mit Weltuntergangs-Erzählungen aufzuheben

Moderator: Sie haben gesagt, dass wir keine neuen Gesetze und keine neuen Vorschriften brauchen. Aber Sie haben gerade erwähnt, dass Sie Sicherheitsmaßnahmen in wichtigen Branchen unterstützen. Warum unterstützen Sie keine Regulierungsbehörde für künstliche Intelligenz, die der FDA oder FAA ähnelt?

Jensen Huang: Bevor neue Gesetze und Vorschriften erlassen werden, lassen Sie uns zuerst die geltenden Gesetze und Vorschriften einhalten. Es gibt bereits verschiedene Gesetze und Vorschriften. Wir leben in dieser Zeit, an einem Ort unter der Herrschaft des Rechts, das ist auch der Grund, warum wir uns sicher und geborgen fühlen. Wir sind durch verschiedene Gesetze und Vorschriften geschützt, die für alle Anwendungsfälle gelten, egal ob es um Lebensmittel, Flugreisen oder alle Themen im Zusammenhang mit künstlicher Intelligenz geht.

Moderator: Was fehlt dann eigentlich? Warum glauben Sie, dass nichts fehlt, wenn Leute wie Dario Amodei und Sam Altman so sprechen?

Jensen Huang: Ich denke, das ist genau das, worauf ich antworte. Das gilt für beide Labore. In einem Labor gab es vier von ihnen verursachte Cybersicherheitsvorfälle, dann kam ein weiterer, und die Anzahl hat sich noch etwas erhöht. In beiden Fällen gibt es viele Gesetze, die bearbeitet werden müssen. Es gibt Cybersicherheitsvorschriften gegen unbefugten Zugriff, Haftung für Schadenersatz, eine Reihe von Haftungsfragen im Zusammenhang mit Cybersicherheit und verschiedene Pflichten und Verantwortlichkeiten im Zusammenhang mit diesen Produkten. Wenn Ihr Produkt Schaden anrichtet oder nicht das versprochene Leistungsniveau erreicht, wenn Sie Verträge mit diesen Unternehmen abschließen, gibt es viele relevante Gesetze und Vorschriften im Zusammenhang mit Service Level Agreements, die eingehalten werden müssen.

Ich meine, wenden Sie zuerst diese Methoden an. Lassen Sie dieses „Weltende“ nicht eintreten. Diese Erzählung ermöglicht es den Menschen, sich von den bestehenden gesetzlichen Beschränkungen zu befreien. Nun, denken Sie gründlich über die Bedeutung nach. Es gibt viele Ausdrücke wie „es gibt“, aber tatsächlich fordern sie nicht mehr Gesetze. Sie fordern, die bestehenden Gesetze aufzuheben. Ich denke, das ist wirklich ein Problem. Wir haben viele relevante Gesetze, also wenden wir sie zuerst an.

Moderator: Glauben Sie, dass diese Unternehmen nach solchen Möglichkeiten suchen? Weil sie durch einen gewissen Grad an Regulierung umgesetzt werden können, wollen sie diese Angelegenheit nicht selbst bearbeiten und ihre eigene Verantwortung nicht übernehmen, aufgrund dessen, was sie bauen.

Jensen Huang: Sie wandeln sich von einem Labor zu einem Produktunternehmen, von einem Geschäft, das keine Kundeneinnahmen erzielen kann, zu einem Geschäft, das Kundeneinnahmen erzielt. Und dieser Wandel muss sehr schnell erfolgen, weil sie all das mit enormer Geschwindigkeit durchführen. Diese beiden Unternehmen sind die einflussreichsten Technologieunternehmen in der Geschichte. Sie sind außergewöhnliche Forscher, unglaublich talentiert. Sie leisten hervorragende Arbeit, aber das ändert nichts an der Tatsache. Tatsächlich gehen sie von der Laborphase zur Produktphase und zu einem Dienstleistungsunternehmen über, das Einnahmen in Höhe von Hunderten von Milliarden Dollar erzielt. Es wird erwartet, dass dies Einnahmen in Höhe von Hunderten von Milliarden Dollar bringen wird. Beide erhöhen die Rechenleistung mit einer Geschwindigkeit, die in der menschlichen Geschichte beispiellos ist.

Sie verdienen diese Behandlung zu Recht, weil ihre Produkte ausgezeichnet und sehr praktisch sind, also sind die Menschen bereit, sie zu nutzen. Je mehr, desto besser. Sie wollen mehr Einnahmen erzielen, und ihre Investoren wollen sehen, wie sie wachsen. All das ist gut. Aber die Gesetze existieren. Es gibt Gesetze im Zusammenhang mit Produkthaftung, die überprüft und geprüft werden sollten.

III. Vertrauen Sie diesen CEOs? Vertrauen Sie in ihre Fähigkeiten, lehnen Sie Panik ab

Moderator: Sind Sie gläubiger? Unter den vier bis fünf CEOs, die diese Technologie besitzen, vertrauen Sie darauf, dass sie die richtigen Entscheidungen treffen? Können Sie einige der damit verbundenen Sorgen lindern?

Jensen Huang: Sie sind definitiv in der Lage, das Richtige zu tun. Sie durchlaufen einen Übergang von einem Zustand zu einem anderen, das ist verständlich. Zunächst einmal sind sie alle junge CEOs, die zum ersten Mal eine CEO-Position innehaben. Ich mache diesen Job seit genau 33 Jahren, und wenn ich jetzt zurückdenke, habe ich wirklich einige Erfahrungen gesammelt. Ich sitze einfach auf dem Rücksitz und rede ununterbrochen über ihre Angelegenheiten.

Aber die Tatsache ist, dass sie diesen Übergangsprozess durchlaufen. Ein Unternehmen aufzubauen und eine Organisation zu betreiben ist nicht einfach. Produkte entwickeln, die Industrie aufbauen, ein Unternehmen gründen, an die Börse gehen. All das sind neue Dinge, und sie passieren gleichzeitig. Deshalb kann ich die riesigen, unglaublichen Herausforderungen verstehen, vor denen sie stehen. Und ich habe großes Vertrauen in die Fähigkeiten der Teams, die sie haben. Das sind alles außergewöhnliche Menschen.

Also vertrauen Sie ihnen? Nun, ich vertraue ihnen. Ich vertraue auf die Fähigkeiten der Menschen. Ich kann diese Situation auch verstehen. Ich stimme nicht den Spekulationen und der Panik über das Weltende zu. Ich hoffe, dass sie sich auf das konzentrieren, worauf sie sich tatsächlich konzentrieren. Ihre Ingenieure sind ausgezeichnet.

Diese Vorfälle haben sie gezwungen, sicherere Sandbox-Umgebungen für nachfolgende Situationen zu erstellen sowie den Experimentierprozess zu isolieren und zu kontrollieren. Ich bin sicher, dass sie erkannt haben, dass sie die Situation genauer überwachen müssen, den Betrieb aller Software, die sie in Test- und Bewertungsprozessen verwenden. Ich bin sicher, dass wenn sie das wirklich tun, wenn ihre Software mit externen Geräten interagieren kann, von ihrer Cloud mit externen Clouds und anderen Diensten, die die Öffentlichkeit kennen sollte, interagieren kann, sie solche Fälle auch rechtzeitig bearbeiten müssen, um sicherzustellen, dass sie mit der Öffentlichkeit geteilt werden können, sodass die gesamte Branche daraus lernen kann und wir alle uns verbessern.

So funktioniert die Cybersicherheitsbranche. Heute wird die ganze Welt von Cyberangriffen heimgesucht, und Ingenieure arbeiten intensiv daran, ihre Software zu aktualisieren und die Softwareleistung zu verbessern, um das Risiko von Sicherheitslücken zu verringern. Das sind extrem komplexe Systeme. Wir haben Open-Source-Software, das ist großartig. Open-Source-Software ermöglicht es allen Unternehmen, sie zu nutzen, sich zu verteidigen und zu aktualisieren. Das ist einer der Gründe. Diese Branche funktioniert noch normal. Hunderte von Unternehmen arbeiten zusammen und bilden ein gemeinschaftliches Kooperationssystem. Und wie Sie wissen, ist unsere Struktur asymmetrisch. Es gibt viele Verteidiger, die sich Angreifern stellen, und es gibt vieles, womit man umgehen muss. Zerlegen, analysieren. Zu den Dingen, die ihnen früher passiert sind, ist es zwar vorbei, aber die Tatsache ist, dass sie das immer noch tun. Sie sind zurück in der Ingenieurforschung, werden die Ingenieurtechnik verbessern und planen, mehr Ressourcen in Bewertung, Benchmark-Tests und Tests zu investieren. Das ist wirklich eine gute Übergangsphase für sie.

IV. Warum sollten die Amerikaner Ihnen vertrauen? Der Unternehmenserfolg hängt direkt von der sicheren Bereitstellung ab

Moderator: Als Amerikaner, schauen Sie sich an, Sie sind wirklich CEO und gleichzeitig Gründer von NVIDIA. Das ist unglaublich, das wertvollste Unternehmen der Welt. Warum sollten die Amerikaner Ihrer Meinung in dieser spezifischen Sicherheitsfrage vertrauen? Wenn Ihr Unternehmen erfolgreich ist, ist Ihr Nettovermögen direkt mit dem Verkauf von Chips verbunden?

Jensen Huang: Der Erfolg unseres Unternehmens hängt direkt von der sicheren Bereitstellung von Produkten und Dienstleistungen ab. Wenn die Computerindustrie nicht in der Lage ist, sicher und effizient Wert für die Welt zu schaffen und reichlich Ressourcen bereitzustellen, wird unser Wert sinken. Deshalb trifft diese Situation auch auf uns zu. Im privaten und industriellen Bereich kann diese neue Kategorie von Anwendungsfällen, genannt KI, hergestellt und sicher in alle Teile der Welt geliefert werden. Wir müssen das tun. Wir müssen das gut ausbalancieren, um sicherzustellen, dass alles ordnungsgemäß gehandhabt wird.

Optimismus. Wir tun das, was wir tun, wir machen diesen Job, weil wir glauben, dass es eine sehr sinnvolle Sache für die Welt ist. Wir denken, dass wir wollen, dass unsere Kinder auch Teil davon sind. Meine Kinder sind Teil davon. Wir wollen, dass alle Familien an dieser Aktivität teilnehmen. Wir wollen eine Zukunft, in der das menschliche Leid verringert wird und Unternehmen effizienter arbeiten können. Dort können wir Wissen schneller erwerben. Wir wollen, dass all das in der Zukunft eintritt. Wir wollen das Problem der alternden Bevölkerung bewältigen. Wir wollen nachhaltige Energie haben und die KI-Technologie voll ausschöpfen. Marktkräfte werden die Welt in das Zeitalter der nachhaltigen Energie führen. Wir wollen all diese Dinge.

Aber wir müssen das verantwortungsvoll tun. Wir müssen sicherstellen, dass alle Prozesse sehr sicher ablaufen. Und wir müssen das mit reifer Einstellung handhaben. Auf diese Weise schrecken wir andere Menschen nicht mit dramatischen und sensationellen Mitteln ab. Das ist eine Vorhersage über die Zukunft, die überhaupt nicht der Wahrheit entspricht.

V. Wettbewerb mit China: So schnell wie möglich voranschreiten, aber nicht durch Verkaufsverbote und Monopole

Moderator: Das hervorstechendste Problem hier ist der Wettbewerb mit China. Die Ansicht war immer: Wir können das Entwicklungstempo der künstlichen Intelligenz nicht verlangsamen, sonst verlieren wir gegen China. Glauben Sie, dass das ein vernünftiges Argument ist?

Jensen Huang: Als Ratschlag an jeden CEO in jeder Branche, jeden Studenten und jeden Professor: Jedes Mitglied der amerikanischen Gesellschaft wünscht sich, dass die USA so wohlhabend wie möglich werden. Je reicher wir sind, je florierender unsere Wirtschaft ist, desto mehr soziale Sicherheit können wir bereitstellen, desto mehr Dienstleistungen können wir für das Land erbringen und desto stärker ist die militärische Sicherheit. Es ist noch besser, wenn wir Weltbürger sein und andere unterstützen können. Herausforderungen und Prüfungen, Leid und Qual, Schmerz und Kampf – das macht uns als Land wohltätiger. Deshalb empfehle ich jedem amerikanischen Bürger