Die von der KI geschaffene Effizienz droht die nächste Generation von Fachkräften zu zerstören.

Shen Yiju ist das Übersetzungsteam von 36Kr, das sich auf Bereiche wie Technik, Wirtschaft, Berufsleben und Alltagsleben konzentriert und vor allem neue Technologien, neue Ansichten und neue Trends aus dem Ausland vorstellt.

Anmerkung der Redaktion: Während KI die Arbeitseffizienz erheblich steigert, entzieht sie den Neueinsteigern heimlich die grundlegenden Positionen, in denen sie praktische Erfahrungen sammeln. Die historischen Lehren aus der Luftfahrtbranche mahnen uns, dass die vollständige Abhängigkeit von Automatisierung zu einer Degradierung der menschlichen Fähigkeiten führt. Die Einführung von manuellen Eingriffen scheint kurzfristig Effizienz einzubüßen, dient aber tatsächlich der Reservierung professioneller Urteilskraft für die Zukunft, sodass in Krisenzeiten immer noch Menschen vorhanden sind, die die Situation beherrschen. Dieser Text stammt aus einer übersetzten Arbeit und soll Ihnen neue Denkanstöße geben.

Bildquelle: JAMES STEINBERG

Vor mehr als zehn Jahren leitete ich die Entwicklung eines bahnbrechenden voll digitalen Steuerungssystems für ein Kernkraftwerk in den USA. Nach den Papierparametern war dieses System perfekt: Es folgte dem Muster moderner ziviler Verkehrsflugzeuge, konnte selbstständig betrieben werden, die Bediener waren nur für die Überwachung zuständig und brauchten kaum manuell einzugreifen. Aber damals trafen wir eine Entscheidung, die für effizienzorientierte Menschen sehr rückschrittlich erschien: Wir behielten absichtlich mehrere manuelle Arbeitsschritte in Prozessen, die das System vollständig automatisch erledigen könnte.

Unser Ziel war es, ein praktisches Problem zu lösen – wenn Bediener nur dafür zuständig sind, automatisierte Systeme zu überwachen, sind sie mit der Zeit keine echten Bediener mehr. Die praktische Fertigkeit schwindet allmählich, und das Verständnis für den tatsächlichen Betriebszustand der Geräte wird verschwommen. Eines Tages gibt das automatisierte System die Kontrolle an den Menschen zurück, und das ist oft der gefährlichste Moment: Die Automatisierung verlässt den autonomen Modus nur, wenn sie auf unvorhergesehene Situationen stößt oder Störungen auftreten. Aber die Person, die am Bedienpult sitzt, hat seit Jahren nicht mehr wirklich mit diesem Gerät gearbeitet. Die Einrichtung manueller Schritte dient dazu, dass die Bediener ihre praktischen Fähigkeiten behalten. Dieses Design wurde bewusst mit einem Teil des Verzichts auf Betriebseffizienz erkauft.

Dieses Kernkraftwerk wurde letztendlich nicht realisiert. Aufgrund der politischen und wirtschaftlichen Faktoren der US-Atomenergiebranche wurde das Projekt ausgesetzt, was nichts mit dem Ingenieurdesign selbst zu tun hat. Aber dieses Konzept wurde beibehalten. Heute diskutieren die Vorstände großer Unternehmen darüber, wohin die menschliche Berufserfahrung geht, wenn alle Arbeiten, die ursprünglich zur Anhäufung beruflicher Fähigkeiten dienten, von KI erledigt werden. Und ich bin der Meinung, dass dieses Konzept eine sehr wertvolle Denkrichtung dafür liefern kann.

KI bricht die berufliche Aufstiegsleiter von Ingenieuren ab

Die relevanten Daten können nicht ignoriert werden. Ein Arbeitspapier der Harvard University, das mehr als 280.000 Unternehmen in den USA mit insgesamt 65 Millionen Arbeitnehmern untersucht hat, ergab: In den sechs Quartalen nach der Einführung von generativer KI in Unternehmen ist die Beschäftigung in Einstiegspositionen zurückgegangen, während die Beschäftigungsgröße in erfahrenen Positionen weiter wächst.

Eine Analyse der Stanford University auf Basis von ADP-Gehaltsaufzeichnungen kommt zu dem gleichen Ergebnis. Unter den Berufen, die am stärksten von KI betroffen sind, schrumpfen die Stellen für junge Berufstätige, während erfahrene langjährige Mitarbeiter ihre Stellen behalten. Die Studie von Stanford zeigt, dass der Stellenverlust sich auf Bereiche konzentriert, in denen KI menschliche Aufgaben direkt ersetzt; in Positionen, in denen KI nur als Werkzeug zur Unterstützung des Menschen dient, bleibt die Beschäftigung von Berufsanfängern stabil oder steigt sogar an.

Natürlich besteht in der Wissenschaft noch Streit über die zugrundeliegende Kausalität, was objektiv festgestellt werden muss. Forscher der Federal Reserve Bank of New York sind der Meinung, dass die hohe Arbeitslosigkeit junger Absolventen größtenteils auf die Telearbeit zurückzuführen ist: Unternehmen sind nicht bereit, unerfahrene Neueinsteiger aus der Ferne auszubilden und anzuleiten. Aber beide Erklärungen weisen Gemeinsamkeiten auf: Egal ob KI die grundlegenden Arbeiten übernimmt, mit denen Neueinsteiger Erfahrungen sammeln, oder das Telearbeitsmodell den Kanal der Weitergabe von Wissen zwischen erfahrenen Mitarbeitern und Neueinsteigern unterbricht, im Wesentlichen zerstören beide einen entscheidenden Mechanismus – den Lehrpfad, bei dem berufliche Fähigkeiten von „erfahrenen Berufstätigen“ an „Neueinsteiger“ weitergegeben werden. In beiden Fällen verwandeln sich „Einstiegspositionen“ heimlich in Stellen, die „drei Jahre Berufserfahrung“ verlangen.

Hinter der Erscheinung ist das Problem eigentlich sehr einfach: Niemand kann die Anfangsphase überspringen und direkt zu einem leitenden Ingenieur werden. Berufliche Fähigkeiten lassen sich nicht durch Herunterladen erwerben, sie stammen aus wiederholten fehlgeschlagenen Konstruktionen, Debugging in Sackgassen und jenen verwirrenden Momenten, in denen man sich fragt „warum läuft das eigentlich trotzdem“. Und die leistungsstarke KI von heute hilft Neueinsteigern, all diese Prüfungen zu umgehen. Sobald Neueinsteiger nicht genügend praktische Erfahrungen sammeln, wird es eine Gruppe von Berufstätigen geben, die nur KI-Modelle überwachen können, aber keine intuitive Urteilskraft haben – sie erkennen nicht, dass das Ergebnis, das das Modell scheinbar selbstsicher ausgibt, bereits katastrophale Fehler enthält.

Die meisten Kommentare bleiben auf der Ebene der Problemdiagnose oder erlassen Richtlinien, um den Verlust von Einstiegspositionen rein als wirtschaftliches Problem zu behandeln. Aber dies ist auch ein schwieriges Problem im Bereich der Ingenieurstechnik, und Branchen mit extrem hohen Sicherheitsanforderungen haben jahrzehntelang nach Lösungen gesucht.

Das Automatisierungsparadoxon: Die Lehre aus der Luftfahrtbranche

Meine berufliche Laufbahn begann an der Front der Automatisierungstechnik. Mein erster Job nach dem Abschluss war die Prüfung der Software für digitale Düsentriebwerkssteuerungen. Dieses Gerät konnte schneller als Piloten beurteilen, wie das Triebwerk eines Kampfflugzeugs auf verschiedene Betriebszustände reagieren sollte. Bereits Ende der 1980er Jahre trat der Kernkonflikt auf: In normalen Szenarien ist die Maschine dem Menschen überlegen, aber bei unerwarteten Situationen, die die Maschine nicht vorkonfiguriert hat, kann nur der Mensch eine Katastrophe abwenden. Das ist das Automatisierungsparadoxon: Je leistungsfähiger die Automatisierung wird, desto weniger Gelegenheiten haben menschliche Bediener, praktische Übungen durchzuführen – aber wenn etwas schiefgeht, müssen alle schwierigen Situationen trotzdem von Menschen bewältigt werden.

Die Luftfahrtbranche hat einen schmerzhaften Preis gezahlt und immer wieder erlebt, welche Folgen die Degradierung menschlicher Fähigkeiten haben kann. Der Unfall von Flug 447 von Air France ist ein typisches Beispiel: Dieses Flugzeug stürzte 2009 in den Atlantik. Der direkte Auslöser war nicht kompliziert: Vereiste Fluggeschwindigkeitssensoren übermittelten falsche Daten an den Autopiloten, der gemäß seiner Auslegungslogik abschaltete und die Kontrolle über das Flugzeug an die Besatzung zurückgab. Die anschließende Störung war kein Hardwarefehler, sondern ein Ausfall der menschlichen Fähigkeiten. Obwohl die Situation noch zu retten war, hatten die Piloten, die jahrelang auf den Autopiloten angewiesen waren, die Fähigkeit verloren, einen Hochgeschwindigkeitsabriss zu erkennen und manuell zu beheben. Die Hardware des Flugzeugs war nicht beschädigt – die Automatisierung hatte die praktischen Fähigkeiten der Piloten heimlich aufgezehrt.

Die Lösung der Luftfahrtbranche ist sehr aufschlussreich und stimmt mit dem Konzept unseres damaligen Kernkraftwerksprojekts überein. Der Autopilot wurde nicht abgeschafft, sondern die praktische manuelle Flugausbildung wurde bewusst wieder in den Prozess integriert. 2017 veröffentlichte die US-amerikanische Luftfahrtbehörde FAA die „Sicherheitswarnung für Betreiber 17007“, in der ausdrücklich festgelegt wurde, dass „manuelles Fliegen die Grundlage aller anderen Flugtechniken ist“, und die Degradierung von Fähigkeiten offiziell als eigenständiges Sicherheitsrisiko eingestuft wurde. Einige Fluggesellschaften haben ihre Betriebsvorschriften geändert und erlauben es, Piloten bei guten Wetterbedingungen zu ermutigen, die Startsteigphase und die anfängliche Sinkphase manuell durchzuführen. Sie nehmen bewusst einen kleinen Verlust an Treibstoffeffizienz in Kauf, um die ursprünglichen Flugfertigkeiten der Besatzung zu erhalten.

Diese Abwägung ist der entscheidende Punkt. Ein System, das nach maximaler Optimierung strebt, aber Bediener mit unzureichenden Fähigkeiten hervorbringt, ist keine echte Optimierung. Es verlagert das Ausfallrisiko nur an Stellen, die in Berichten nicht sichtbar sind.

„Manuelle Kontrollpunkte“ zum Schutz praktischer Fähigkeiten

Aus den Lehren der Luftfahrtbranche und dem Designkonzept der Kernenergiebranche können wir ein Designmuster für KI-gestützte Arbeitsabläufe ableiten – das absichtliche Einrichten von manuellen Kontrollpunkten.

Manuelle Kontrollpunkte sind bestimmte Knoten im Arbeitsablauf, an denen der Mensch die Steuerung übernehmen muss. Sie werden nicht eingerichtet, um Aufgaben so schnell wie möglich abzuschließen, und dienen nicht nur als Sicherheitsverriegelung. Ihr Kernziel ist es, leicht degradierbare berufliche Fähigkeiten zu trainieren und zu erhalten. Ihr zentrales Merkmal ist die bewusste menschliche Gestaltung: Die Organisation legt im Voraus fest, welche Kernfähigkeiten unbedingt beim Menschen verbleiben müssen – diese Fähigkeiten sind das, worauf wir uns in Notzeiten verlassen können. Dann erzeugt man bewusst eine angemessene „Reibung“ im Ablauf, damit die Fähigkeiten der Menschen nicht einrosten.

Ein Beispiel: Ein Softwareteam, das KI in großem Umfang zum Codieren nutzt, kann manuelle Kontrollpunkte bei den Debugging-Fähigkeiten einrichten, die am wenigsten verloren gehen dürfen. Wenn ein Fehler in einem Kernmodul auftritt, muss der festgelegte Ingenieur (vorzugsweise ein Junior-Ingenieur) zuerst den KI-Assistenten deaktivieren, den Fehler unabhängig reproduzieren, die Ursache lokalisieren und einen automatisierten Testfall schreiben, der diesen Bug nachbilden kann. Erst nachdem der Ingenieur die vollständige Fehleranalyse abgeschlossen hat, wird die KI wieder aktiviert, die eine Reparaturlösung vorschlägt, alternative Ideen liefert und den Codebestand nach ähnlichen Schwachstellen durchsucht. Anschließend vergleicht der Ingenieur sein eigenes Urteil mit der Ausgabe der KI. Wenn die Schlussfolgerungen von Mensch und KI nicht übereinstimmen, entfaltet dieses Design seinen Wert: Der Widerspruch wird im alltäglichen, sicheren Zustand offengelegt, nicht in dem Moment, in dem ein kritischer Ausfall ausbricht.

Dieses Konzept verändert die Rolle von Junior-Ingenieuren grundlegend. Heute ist es üblich, KI Einstiegsarbeiten übernehmen zu lassen, weil man meint, dass es schneller und kostengünstiger geht. Aber einige grundlegende Arbeiten sind keine überflüssigen Kosten, die gestrichen werden müssen – sie sind das Ausbildungsmedium für zukünftige erfahrene Fachkräfte und sollten so geschützt werden wie kritische Infrastrukturen. Die Effizienz mag in diesem Quartal sinken, aber wenn man sie aufgibt, zehrt man die technische Stärke von zehn Jahren später auf.

Warum Unternehmen unbedingt die Ausbildung von Junior-Ingenieuren fortsetzen müssen

Dieses Konzept kann nicht ohne Kosten umgesetzt werden. Die Vermeidung von Kostenfragen bedeutet, die Realität der Budgetverantwortlichen zu ignorieren. Das bewusste Einrichten manueller Kontrollpunkte ist kurzfristig in der Effizienz nicht so gut wie die vollständige Überlassung an die Automatisierung. Wenn Neueinsteiger grundlegende Prozesse zur Anhäufung von Erfahrungen durchführen, fallen sofort Kosten an – aber dafür entsteht eine Fähigkeitsreserve für die Zukunft.

In einem Marktumfeld, in dem Manager üblicherweise nach Quartalsergebnissen bewertet werden, ist dieses Konzept schwer umzusetzen. Wenn das Führungsteam „nicht notwendige“ Personalressourcen behält, die die KI ersetzen könnte, wird es vor der Realisierung der Gewinne vom Vorstand hinterfragt. Nur Einheiten, die nicht durch den Druck kurzfristiger Leistungsziele eingeschränkt sind, können diese Rechnung nachvollziehen: Gründer mit Kontrollmacht, private Unternehmen, Institutionen mit langfristiger Perspektive oder Aufsichtsbehörden – die wie heute die regelmäßige praktische Prüfung von Piloten vorschreiben, auch von Berufstätigen verlangen, regelmäßig ihre beruflichen Fähigkeiten unter Beweis zu stellen.

Das bedeutet: Die Organisationen, die am besten in der Lage sind, ihre eigene Reserve an Fachkräften zu schützen, sind diejenigen, die bereit sind, kurzfristige Gewinne für langfristige Fähigkeiten einzutauschen. Alle anderen Einheiten brauchen externe Kräfte, um Veränderungen voranzutreiben.

Zusammengefasst lässt sich der Kerngedanke in einem Satz zusammenfassen: Das bewusste Beibehalten eines Teils der „Ineffizienz“ ist keine Verschwendung. In sicherheitskritischen Ingenieurbereichen betrachten wir dies immer als eine Art Versicherung, für die wir bewusst Kosten aufwenden. Wenn KI die Arbeiten übernimmt, die zur Prägung beruflicher Fähigkeiten dienen, ist es klüger, sich nicht gegen die Automatisierung zu wehren, sondern durch Gestaltung die Möglichkeit für Menschen zu behalten, praktisch zu arbeiten. Nur so wird es auch dann noch Menschen am Bedienpult geben, die wissen, wie sie die Situation beherrschen, wenn die Automatisierung letztendlich ausfällt.

 Übersetzerin: Teresa