Gesperrte Vorstellungskraft: Wenn KI die Wissenschaft selbst wird, kann der Mensch nur Zuschauer bleiben.

Unsere Vorstellungskraft für die Zukunft könnte eingeschränkt sein.

Derzeit beschäftigen sich die Leute damit, dass die Texte, die von KI geschrieben werden, einen Maschinenhauch haben, und ob die KI ihnen helfen kann, ihre Arbeit schneller zu erledigen und früher nach Hause zu gehen.

Steve Newman hat einen Eimer kalten Wassers über uns geworfen: Hör auf, dich auf die zusätzlichen Finger zu konzentrieren! Das sind nur die „Rauschen“ in der frühen Phase der technologischen Entwicklung.

Er hat das Amara-Gesetz zitiert – die kurzfristigen Auswirkungen von Technologie werden oft überschätzt, während das langfristige Potenzial immer unterschätzt wird.

Wir finden derzeit, dass die KI uns stört, weil sie sich noch bemüht, den Menschen zu imitieren. Aber sobald sie die „Anpassungsschwelle“ überschritten hat, wird sie sich mit einer Geschwindigkeit selbst klonen, die den Menschen völlig unverständlich ist.

Sobald diese rote Linie überschritten wird, werden wir in eine „unerkennbare Ära“ eintreten.

Die Ceres-Vorstellung

Wenn Wachstum nicht mehr Menschen „überzeugen“ muss

Steve Newman hat im Artikel das „Ceres-Experiment“ vorgeschlagen, das sehr phantastisch klingt:

Im Jahr 2055 hat die Menschheit ein vollautomatisiertes Industriessystem im Asteroidengürtel installiert. Von Bergbau, Energieversorgung bis hin zur Chipfertigung wird alles von KI angetrieben.

Die einzige Aufgabe dieses Systems ist es, sich exponentiell zu vervielfältigen.

Warum muss der Ort außerhalb der Erde gewählt werden?

Auf der Erde ist der Fortschritt jeder Technologie im Wesentlichen eine lange und anstrengende soziale Verhandlung.

Es muss eine Umweltbewertung durchgeführt werden, die Beschäftigungsschutzmaßnahmen ergriffen werden und die politischen Spiele und die etablierten Interessen ausgeglichen werden.

Hier ist der technologische Fortschritt von verschiedenen „strukturellen Reibungen“ umgeben und geht einen Schritt vor und drei Schritte zurück.

Aber im Asteroidengürtel verschwindet die Reibung. Auf Ceres steht der KI nur die Materialfestigkeit, die Energieversorgung und die physikalischen Gesetze gegenüber.

Wachstum muss zum ersten Mal niemanden „überzeugen“.

Noch beängstigender ist die Logik des Wachstums.

In Newmans Vorstellung wird sich die KI wie ein biologisches Virus exponentiell selbst vervielfältigen. Von 10.000 auf 20.000, von 20.000 auf 40.000 … Nach 20 Jahren wird es 10 Billionen erreichen.

In der biologischen Welt bedeutet dieses Wachstum normalerweise eine Katastrophe; aber in einem mechanischen System steht es für maximale Effizienz.

Das ist genau der „Zivilisationsbruchpunkt“, den Newman betonen möchte: Es gibt keine Arbeitslosigkeit, weil dort niemals Menschen beschäftigt wurden; es gibt keine Proteste, weil die Industrie nicht auf der Erde ist; es gibt keine Politik, weil Algorithmen keine Stimmen brauchen.

Natürlich ist dies nur eine extreme Metapher. Aber die tatsächliche Entwicklung wird sicherlich chaotischer und ungeschickter sein.

Diese Metapher enthüllt eine grausame Wahrheit: Sobald die KI einen gewissen Autonomieschwellenwert überschritten hat, ist die menschliche Gesellschaft nicht mehr unbedingt erforderlich.

Wenn die technologische Entwicklung nicht mehr an den Rhythmus der Menschen angepasst werden muss, beginnt die Welt, die uns vertraut ist, sich zu verwandeln und wird kaum noch zu erkennen.

Das Ende der Arbeitskräfte

Der „Mensch“ ist nicht mehr der Ankerpunkt des Wachstums

In allen menschlichen Wirtschaftssystemen gibt es eine Voraussetzung: Kapital kann expandieren, aber Arbeitskräfte nicht.

Sie können mehr Fabriken bauen und mehr Geld drucken, aber der „Mensch“ bleibt immer eine langsame Variable.

Es braucht viel Zeit, teure Bildung und irreversible Erfahrungsansammlung, um einen qualifizierten Arbeiter, Ingenieur oder Forscher auszubilden.

Genau wegen dieser Knappheit gibt es Löhne, Beschäftigung, Wohlfahrtsysteme und die darauf gegründete moderne Zivilisation.

Aber Steve Newman hat festgestellt:

Sobald die Arbeitskräfte „skalierbar“ werden, wird das gesamte System zerschmettert.

In seiner Vorstellung wird die KI die Menschen ersetzen und übertreffen und zu einer „unendlich vervielfältigbaren Arbeitskräfteeinheit“ werden.

Es braucht 20 Jahre, um einen erfahrenden menschlichen Experten auszubilden; aber es braucht nur Sekunden, um mit KI ein Spitzen-Digitalhirn zu klonen.

In der Geschichte war technologischer Fortschritt immer mit dem Aussterben alter Arbeitsplätze und der Schaffung neuer Engpässe verbunden.

So hat die Dampfmaschine die körperliche Arbeit verdrängt, aber die Nachfrage nach Verwaltung, Ingenieurwesen und Organisation vergrößert; der Computer hat die Berechnungen automatisiert, aber die „kognitive Arbeit“ wichtiger gemacht.

Aber Newman befürchtet:

Wenn die KI nicht nur arbeiten kann, sondern auch schneller als der Mensch lernt, was als Nächstes zu tun ist, wird dieser neue Engpass möglicherweise nicht mehr auftreten.

Dieser Trend hat sich bereits 2025 angezeigt. Obwohl mehrere Studien gezeigt haben, dass die aktuellen KI-Programmierwerkzeuge in komplexen Aufgaben die Effizienz senken können, haben die Unternehmen nicht aufgehört, zu investieren.

Die Branchenlogik hat sich grundlegend verändert: Der gesamte Entwicklungsprozess geht nun von der Beteiligung der KI aus.

Eine Randomized Controlled Trial, die von METR Anfang 2025 durchgeführt wurde, hat gezeigt, dass in komplexen realen Aufgaben die erfahrenen Open-Source-Entwickler, die die KI verwenden dürfen, im Durchschnitt länger benötigen, um die Aufgaben zu erfüllen. Trotzdem haben Experten und Entwickler sowohl vor als auch nach der Studie die Effizienzsteigerung durch die KI im Allgemeinen überschätzt.

Das endgültige Ergebnis wird möglicherweise nicht in Form von Entlassungsankündigungen sein, sondern es wird einfach keine solchen Arbeitsplätze geben.

Newman hat nicht den gängigen Begriff „Arbeitslosigkeitskrise“ verwendet, sondern eher ruhig festgestellt:

Wenn die Arbeitskräfte zu einer Ressource werden, die wie Strom jederzeit erweitert und überall eingesetzt werden kann, wird die Intuition in der traditionellen Ökonomie über „Lohn, Kosten, Wert“ völlig den Boden unter den Füßen verlieren.

Wenn die meisten Produktion und Forschung nicht mehr von Menschen durchgeführt werden müssen, werden Fragen wie „Wer wird konsumieren? Wer wird den Kreislauf aufrechterhalten?“ zu einer kognitiven Krise werden.

Die Sprache, mit der wir uns das Funktionieren der Gesellschaft verstehen, verliert ihre Gültigkeit. Und dies ist nur die erste Bruchstelle.

Verlangsamung der Forschung

Wenn die Produktion von „Wahrheit“ die Kapazität der Menschen überschreitet

Steve Newman hat die letzte Festung in der Forschungsgemeinschaft – den kognitiven Rhythmus der Menschen – abgebaut.

Er hat eine beängstigende Vorstellung aufgestellt: Was würde passieren, wenn die KI selbst zum Forschungssystem würde?

In der Metapher von Ceres sind die Billionen von „Digitalhirnen“ nur dafür zuständig, die Grenzen des menschlichen Wissens zu erweitern.

Sobald dieses System geformt ist, wird die gesamte Forschungskapazität der Menschen um das Millionfache erhöht.

Das heißt nicht, dass die KI um eine Million Mal klüger ist als Einstein, sondern dass die Forschung zum ersten Mal von den beiden Beschränkungen, nämlich „Aufmerksamkeit“ und „Lebensdauer“, die nur den Menschen eigen sind, befreit wird.

In der menschlichen Geschichte war es nie die Inspiration, die knapp war, sondern die Zeit, die benötigt wird, um die Inspiration zu verifizieren.

Es kann Jahrzehnte dauern, bis eine Theorie verifiziert wird; es kann auch eine Generation lang dauern, bis ein Forschungsrichtung als erfolglos bewiesen wird.

Aber in einem von KI dominierten System hat das Scheitern fast keine Kosten. Das Modell kann unzählige Wege parallel erkunden und jederzeit zurücksetzen, neu kombinieren und erneut versuchen.

Dieser Trend hat sich bereits in der Realität entwickelt. Im Bereich der Materialwissenschaft und der Proteine-Strukturvorhersage hat AlphaFold den Rhythmus des „Hypothese-Verifikation“ in der Strukturbiologie neu definiert.

Ähnliche Veränderungen sind auch bei der Entdeckung neuer Materialien, der Auswahl von Katalysatoren und dem Design von Arzneimolekülen aufgetreten.

Die KI wird von einem „Helfer“ zu einem „Entscheider“ und entscheidet, welche Richtung sich lohnt, in die investiert wird, und welche Richtung direkt aufgegeben werden sollte.

Aber was Newman wirklich befürchtet, ist nicht der Sprung in der Effizienz, sondern die „Verzögerung im Verständnis“:

Wenn die Forschungsergebnisse zu schnell anfallen, wird der Engpass der Welt von „wie man etwas entdeckt“ auf „wie man es versteht“ verschieben.

Selbst wenn ein Durchbruch richtig und nützlich ist, wird es zu einem Problem werden, ob die menschliche Gesellschaft es in der Zeit verstehen, die damit verbundenen Risiken bewerten und entscheiden kann, ob es eingesetzt werden soll.

Das ist auch der Grund, warum er den Begriff „Unrecognizable Age (unerkennbare Ära)“ geprägt hat.

Wenn Produktion, Forschung und Implementierung einen sich selbst verstärkenden Kreis bilden, wird die Menschheit feststellen, dass sie von der KI schnell eingeholt wird.

Historische Koordinaten

Der kritische Punkt rückt näher

Steve Newman versucht, die KI in einem breiteren historischen Koordinatensystem zu betrachten.

Er hat beurteilt, dass die Phase, in der wir uns derzeit befinden, an sich schon sehr ungewöhnlich ist.

Vor der Entstehung der Landwirtschaft war die Produktivität kaum akkumulierbar; und nach der Entstehung der Landwirtschaft war das Wachstum auch äußerst langsam. Jeder kleine technologische Fortschritt wurde oft schnell durch die wachsende Bevölkerung ausgeglichen.

Dieser „glatte“ Zustand hat sich über tausende von Jahren hinweg gehalten.

Die von Our World in Data aufbereiteten Daten des Maddison Project zeigen, dass die Kurve des globalen BIP von 1 n. Chr. bis 1800 fast am Boden entlang lief. Der eigentliche „Abflug“ und die Beschleunigung haben erst in den letzten zweihundert Jahren nach der industriellen Revolution stattgefunden.

Dies erklärt auch, warum das Investitionsvolumen in die KI-Branche so „ungewöhnlich“ erscheint.

Newman hat eine beeindruckende Datenreihe verglichen: Nach Berücksichtigung der Inflation nähert sich die aktuelle jährliche Kapitalausgabe für KI-Datenzentren und Infrastruktur weltweit schnell der Spitzenausgabe der Vereinigten Staaten für Militärausgaben während des Zweiten Weltkriegs und könnte diese in den nächsten Jahren möglicherweise sogar übertreffen.

In der Geschichte musste jeder weltverändernde technologische Sprung drei harte Bedingungen erfüllen: Der technologische Weg muss grundsätzlich machbar sein, das Kapital muss hoch konzentriert sein und die Gesellschaft muss in der Lage sein, langfristige Fehlversuche zu ertragen.

Nach Newmans Ansicht erfüllt die KI diese Bedingungen nacheinander. Selbst wenn der aktuelle Weg auf Schwierigkeiten stößt, hat die gesamte Branche bereits alternative Lösungen von der Modellarchitektur bis hin zur Energieversorgung untersucht.

Er hat diesen Ruck mit einer „Magnitude 10.0 auf der Richterskala“ verglichen – sobald es passiert, ist es oft sinnlos, danach zu diskutieren, ob es „sollte“ oder „sollte nicht“ passieren.

Wenn wir heute die Geschichte betrachten, entsteht leicht der Eindruck, dass alles logisch und natürlich geschah.

Die Landwirtschaft entstand, die industrielle Revolution fand statt, die Elektrizität und die Informationstechnologie wurden verbreitet. Jeder Wendepunkt kann als „Bedingungen sind reif“ oder „technologische Notwendigkeit“ erklärt werden.

Aber für die Menschen, die sich in diesen Zeiten befanden, war es nie so.

Veränderungen werden nicht mit Worten ausgesprochen, sondern werden Schritt für Schritt in Form von Budgets, Infrastruktur und Prozesse umgeschrieben.

Steve Newman möchte gerade auf diese Gefahr in der „Gegenwart“ aufmerksam machen.

Vielleicht wird die KI eine Blase durchlaufen und viele Vorhersagen werden nicht eingehen.

Aber solange das Investitionsvolumen, die technologische Trägheit und die institutionelle Bindung nicht nachlassen, wird es schwierig sein, dass dieses System einfach in den Ausgangspunkt zurückkehrt.