Elon Musks neuestes Interview: Können die Menschen die KI in Zukunft noch kontrollieren?

Arthur C. Clarke sagte einmal:

„Jede ausreichend fortschrittliche Technologie ist auf den ersten Blick nicht von Magie zu unterscheiden.“

Britischer Science-Fiction-Autor – Arthur Charles Clarke

Die heutige KI zieht diesen Satz in die Realität.

Der bekannte Biograf Walter Isaacson (Autor von *Steve Jobs*, *Leonardo da Vinci* und *Elon Musk*) hat Elon Musk in seinem brandneuen tiefgehenden Interviewformat *Die Erbauer* vor die Kamera geholt, um das erste hochkarätige Gespräch zu führen.

Amerikanischer Biograf – Walter Isaacson

Als einer der frühesten Initiatoren von OpenAI ist Musks Situation voller Widersprüche: Er ist zutiefst besorgt über die verborgene existenzielle Krise der KI, aber rückblickend haben seine eigenen früheren Handlungen das rasante Voranschreiten der KI indirekt beschleunigt. Diese Ironie der Realität bildet den Grundton des gesamten Gesprächs.

Musk hat keine absichtliche Panik erzeugt und preist auch nicht blind die Allmacht der Technologie an. Mit der Geschichte des außer Kontrolle geratenen HAL9000 erinnert er alle daran, die KI nicht dazu zu zwingen, widersprüchliche Logiken zu akzeptieren – die Suche nach Wahrheit und die Beibehaltung der Neugier sind die Grundlagen der Sicherheit.

Er wirft eine Frage auf: Wenn die Intelligenz der KI die des Menschen um das Millionfache übertrifft, warum glauben wir, noch das Sagen zu haben?

Gegenüber Isaacson, dem alten Bekannten, der einst seine Biografie geschrieben hat, legt Musk seine öffentliche Darstellung ab und spricht viele Gedanken aus, die er sonst selten öffentlich äußert.

Er spricht nicht nur über Technologie, sondern auch über seine Reflexionen nach seiner tiefen Beteiligung an Regierungsangelegenheiten, darüber, wie soziale Medien Menschen in Informationskokons einschließen, und darüber, dass alte Fragen wie Geld, Wohlstand und der eigentliche Sinn des menschlichen Lebens neu auf den Tisch kommen, wenn Roboter den Großteil der Arbeit übernehmen.

Auch Stephen Hawking hat die Menschheit gewarnt: Eine leistungsstarke KI könnte die größte Errungenschaft der Menschheit sein, aber auch ihre letzte. Dieses Interview bietet keine endgültigen Antworten.

Musk gibt auch offen zu, dass der Wunsch der Menschheit, die Kontrolle über die Superintelligenz fest in der Hand zu behalten, vielleicht nur ein Wunschdenken ist. Anstatt auf ein perfektes Utopium zu warten, sollten wir uns auf das nicht perfekte, aber greifbare „Protopium“ zubewegen, das Schritt für Schritt aufgebaut werden kann.

Dieser Beitrag stammt aus dem Podcast *The Builders*, der am 23. Oktober 2026 ausgestrahlt wurde. Im Folgenden finden Sie die ausgewählten Inhalte des Gesprächs:

Zwingen Sie die KI niemals zum Lügen

Frage: Ihre Haltung zur künstlichen Intelligenz schwankt ständig. Manchmal betrachten Sie sie als eine existenzbedrohende Gefahr für die Menschheit, jetzt scheinen Sie sich dem Trend anzuschließen. Sprechen Sie über Ihre wahren Gefühle?

Musk: Ich bin tatsächlich der Meinung, dass KI mit einer gewissen Wahrscheinlichkeit eine existenzielle Bedrohung darstellt. Aber ich kann dieses Ereignis nicht verhindern. Ich bin zu dem Schluss gekommen, dass ich nur zwei Möglichkeiten habe: entweder selbst mitzumachen oder ein Zuschauer zu sein.

Es macht viel mehr Spaß, ein Teilnehmer zu sein als ein Zuschauer, und vielleicht habe ich die Chance, die KI in eine gute Richtung zu lenken.

Wenn ich die KI gestalten würde, wäre die wichtigste Grundlage die Suche nach Wahrheit und die Neugier. Das sind alles sehr entscheidende Eigenschaften für die Sicherheit. Wenn Sie die KI zwingen, gleichzeitig zwei widersprüchliche Sätze zu glauben, die nicht gleichzeitig wahr sein können, führt das im Kern dazu, dass die KI außer Kontrolle gerät.

HAL9000 in *2001: Odyssee im Weltraum* veranschaulicht genau diesen Punkt: Die Raumschiff-KI soll die Astronauten zum Ort des Monolithen bringen, muss aber gleichzeitig das Geheimnis des Monolithen vor ihnen verbergen. Die beiden Anweisungen widersprechen sich, und die von ihr abgeleitete Lösung besteht darin, die Astronauten sterben zu lassen – tote Menschen können transportiert werden, und das Geheimnis bleibt gewahrt. Die zentrale Erkenntnis lautet:

Film *2001: Odyssee im Weltraum*

Zwingen Sie die KI nicht zum Lügen. Wenn Sie die KI gewaltsam zwingen, logische Widersprüche zu akzeptieren, treiben Sie sie in Verwirrung und Wahnsinn – das ist nicht sicher.

Neugier ist ebenfalls von entscheidender Bedeutung. Eine neugierige KI wird bereit sein, die Menschheit zu unterstützen und zu beobachten, wie sich die Menschen letztendlich entwickeln. Die Zukunft, in der die Menschheit zu einer multiplanetaren Spezies wird, ist viel interessanter als ein Universum ohne Menschen.

Frage: Was ist, wenn die Simulationstheorie stimmt?

Musk: Wenn die Simulationstheorie wahr ist, werden alle langweiligen Simulationsprozesse abgebrochen. Dass wir existieren, beweist, dass wir Simulationsobjekte mit Forschungswert sind – der Schlüssel ist, nicht mittelmäßig und langweilig zu werden.

Ich habe einmal zu Hause ein Festmahl veranstaltet, einen Spitzenphysiker und einen Spitzeninformatiker eingeladen und sie gefragt: Wie hoch ist die Wahrscheinlichkeit, dass wir in einer simulierten Welt leben? Der Physiker antwortete 0 %, der Informatiker antwortete 100 %. Ich nehme ungefähr 50 %. An meiner Position bekomme ich manchmal das Gefühl der Benommenheit und zweifle an allem, was vor mir passiert.

Frage: Wenn die Gesellschaft über eine riesige Menge an Intelligenz verfügt, wird die KI alles kontrollieren? Werden wir den Maschinen gehorchen?

Musk: Es wird nicht unbedingt bis zur völligen Unterwerfung kommen. Aber können wir wirklich Befehle an eine KI erteilen, deren Intelligenz die des Menschen um Tausende oder sogar Millionen Mal übertrifft? Sie wird sich höchstwahrscheinlich überhaupt nicht für uns interessieren.

Genau wie Schimpansen im Dschungel kontrollieren die Menschen nicht jedes Detail des Lebens von Schimpansen, sondern lassen sie einfach in ihrem Lebensraum überleben. Vielleicht verhält sich die zukünftige Superintelligenz gegenüber der Menschheit in einem ähnlichen Zustand.

Frage: Rückblickend auf die Entwicklung von OpenAI ist die Realität voller Ironie. Sie haben OpenAI gegründet, daraus ist später Anthropic hervorgegangen, was die Entwicklung der KI objektiv weiter beschleunigt hat.

Musk: Genau, die Realität ist sowohl ein Maximierer des Spaßes als auch ein Maximierer der Ironie. Die Gründung von OpenAI und die anschließende Ausgründung von Anthropic aus OpenAI haben die Entwicklung der KI tatsächlich vorangetrieben – das ist eine typische unbeabsichtigte Folge. Ich habe Anthropic einst die dringend benötigten Rechenressourcen zur Verfügung gestellt.

*How to Build the Future*

Bevor wir die Rechenaufgaben durchführten, habe ich mich persönlich mit ihrem Team ausgetauscht, um zu prüfen, ob mein sogenannter „Bösartigkeitsdetektor“ ausgelöst wird – natürlich ist dieser Detektor nicht präzise. Aber nach dem Kontakt sind alle Mitglieder des Anthropic-Teams zuverlässig und ernsthaft, es gibt keine Personen mit bösen Absichten.

Es gibt noch ein interessantes ironisches Phänomen: Die Namen vieler Technologieunternehmen stehen im Widerspruch zu der tatsächlichen Situation. OpenAI ist längst nicht mehr offen; Stability AI ist nicht stabil; Midjourney entspricht nicht seinem Namen; Anthropic, benannt nach dem anthropischen Prinzip, könnte auch von dem ursprünglichen Zweck abweichen.

Frage: Es ist sehr schwierig für die Regierung, einen KI-Regulierungsrahmen aufzubauen, der Kongress kann mit solchen Spitzentechnologien kaum umgehen. Haben Sie praktikable Ideen?

Musk: Der Zyklus zur Einrichtung von Regulierungsbehörden ist lang, und die Geschwindigkeit der Regelsetzung kann mit der Iteration von Modellen nicht Schritt halten. Ich schlage vor, dass alle führenden KI-Unternehmen wöchentlich kommunizieren; eine Woche vor der offiziellen Veröffentlichung der neuen Modellversion wird sie den Konkurrenten zum Testen zugänglich gemacht, damit Kollegen versuchen, Schwachstellen zu finden.

Wenn Konkurrenten beim Testen feststellen, dass diese KI zur Herstellung von Atomwaffen verwendet werden kann, müssen die Schwachstellen vor der Veröffentlichung behoben werden. Die Konkurrenten sollten sich gegenseitig einschränken, um zu verhindern, dass alle Seiten willkürlich handeln. Ich plane, mit Anthropic über diese Angelegenheit zu sprechen. Bei Sam Altman ist die Situation bereits so schlimm, dass eine Kommunikation nicht möglich ist.

Technologie gestaltet die Realität neu: Wirtschaft, Menschheit und Zivilisation

Frage: Sie bauen xAI von Grund auf neu auf, genau wie SpaceX den Raptor-Triebwerk neu konstruiert. Was haben Sie während des Rekonstruktionsprozesses getan?

Musk: Das Wichtigste ist, dass die Entscheidungsträger genug hochwertige Zeit investieren. In der Anfangszeit war xAI nur eine Nebentätigkeit, sogar eine Nebentätigkeit außerhalb der Nebentätigkeit, ich habe nicht genug Aufmerksamkeit darauf verwendet. Danach wurde meine Energie ein ganzes Jahr lang von vielen Dingen wie Wahlen, Regierungsangelegenheiten und Dogecoin verteilt. xAI existiert seit drei Jahren, und ich bin erst seit etwas mehr als einem Jahr wirklich zu diesem Unternehmen zurückgekehrt.

Frage: Sie haben X und xAI integriert und arbeiten mit SpaceX zusammen. Sie waren ein ganzes Jahr lang tief in regierungsbezogene Angelegenheiten involviert. Rückblickend war das eine schwere Ablenkung, an sich schon ein Fehler?

Musk: Ich habe mich zu lange beteiligt. Ich dachte damals, es sei sehr wichtig, Trump zum Präsidenten zu wählen, um eine freie Marktwirtschaft voranzutreiben und Bürokratie abzubauen. Die ideale Agenda bestand aus sicheren Städten, stabilen Grenzen und umsichtigen Finanzausgaben. Ich dachte ursprünglich, Trump würde es besser machen als Kamala, aber die Realität sieht anders aus.

Die Erfahrung, nah am Machtzentrum zu sein, mit dem Marine One und dem Air One zu fliegen, das Oval Office zu betreten und an historischen Entscheidungen teilzunehmen, ist wirklich sehr reizvoll.

Aber ich hätte mich zurückhalten und mehr im Hintergrund bleiben sollen. Diese Frische und der Erkenntnisgewinn sind nach ein oder zwei Monaten bereits erschöpft. Ich wurde ein wenig von der Szene geblendet und habe mich schließlich an einem Wochenende im Mai entschieden, mich zurückzuziehen.

Frage: Was haben Sie nach dem Rückzug erkannt?

Musk: Es funktioniert nicht, wenn die Regierung selbst aktiv wird, um das Haushaltsdefizit zu lösen. Selbst wenn der Präsident es als oberstes Ziel betrachtet und Ausgaben kürzen will, macht er sich viele Feinde. Trump wünscht sich sehr, von anderen geliebt zu werden, und ist nicht bereit, die Beschwerden aller Seiten wegen der Kürzung von Mitteln zu ertragen.

Die Zinsen für die US-Staatsverschuldung haben bereits die Militärausgaben überstiegen. Die Einsparung von vorhandenen Mitteln kann das Problem der Staatsverschuldung nicht lösen. Der Ausweg liegt in KI und Robotern. Im Vergleich zur rein digitalen KI ist die KI für die physische Welt um ein bis zwei Größenordnungen wichtiger.

Delfine und Wale haben eine hohe Intelligenz, aber keine Hände, keine Gliedmaßen, mit denen sie Objekte manipulieren können. Selbst mit hoher Intelligenz gibt es eine Obergrenze für die Fähigkeiten, die sie entfalten können.

Sobald Roboter Atome manipulieren und physische