Wenn Menschen zu Maschinen-Qualitätsprüfern degradiert werden, ist die KI-Transformation bereits auf einen Irrweg geraten.

Viele Unternehmen betrachten die manuelle Prüfung als Sicherheitslösung für die KI-Implementierung, geraten aber in das Automatisierungsparadoxon: Die Lebensdauer von Prüfstellen ist sehr kurz, und der personelle Wert schrumpft stetig. Eine echte Transformation besteht nicht darin, Menschen die Lücken der KI schließen zu lassen, sondern den neuen Raum zu ergreifen, den die Technologie eröffnet, die Organisation um neue Entscheidungen und neue Geschäfte herum neu zu strukturieren und Wachstumschancen in höheren Dimensionen zu erschließen.

„Im Prozess gibt es immer eine menschliche Kontrolle.“

Dieser Satz ist wahrscheinlich der am häufigsten wiederholte Satz, wenn Unternehmen über die KI-Implementierung diskutieren. Führungskräfte nutzen ihn stets, um zu erklären, warum der Einsatz solcher Systeme verantwortungsvoll und sicher ist, und um Mitarbeiter zu beruhigen, dass ihre Arbeit nicht beeinträchtigt wird. Doch dieser scheinbar beruhigende Satz führt am Ende oft dazu, dass die wertvollsten und zentralsten Mitarbeiter des Unternehmens damit beauftragt werden, Arbeiten zu überwachen, die bald von Maschinen übernommen werden.

Vordenker behaupten oft, dass die Rolle menschlicher Arbeitnehmer in der Zukunft darin besteht, die Lücken zu schließen, die Maschinen nicht füllen können. Zum Beispiel hat eine führende Venture-Capital-Gesellschaft vorgeschlagen, dass sich im Zeitalter der Wissensökonomie bald vier Haupttypen menschlicher Stellen herausbilden werden: Personen, die die endgültige Verantwortung übernehmen, wenn die Ergebnisse der KI nicht vertrauenswürdig sind; Personen, die die Arbeitsabläufe für den Maschinenbetrieb entwerfen; Personen, die zwischenmenschliche Kooperationsbeziehungen pflegen, die intelligente Agenturen nicht übernehmen können; Personen, die die Ausgaben von Maschinen prüfen. Diese Vorstellung von der Zukunft taucht heute häufig in Beratungsrahmen, akademischen Prognosen und Implementierungsleitfäden von KI-Herstellern auf. Sogar Aufsichtsbehörden haben sie in Vorschriften aufgenommen: Das KI-Gesetz der Europäischen Union verlangt die menschliche Überwachung von KI-Systemen mit hohem Risiko, und die menschliche Kontrolle ist fast zu einer allgemeinen Abkürzung für die verantwortungsvolle KI-Implementierung geworden.

Die Logik hinter solchen Prognosen ist weitgehend gleich: Zuerst werden die Dinge identifiziert, die die KI derzeit noch nicht kann, dann werden die Aufgaben definiert, die Menschen übernehmen müssen, um die Lücken zu schließen. In diesem Denkmodell ist der Mensch eine Sicherheitsschicht, die die noch unvollständige Automatisierung umhüllt. Auf der Freiberuflerplattform Fiverr ist die Nachfrage nach „manueller Verfeinerung von KI-Inhalten“ der am schnellsten wachsende Bereich unter den Schreibanforderungen (die Suchanfragen sind innerhalb von sechs Monaten um 641 % gestiegen). Das Korrekturlesen von KI-generierten Texten ist seit 2023 bereits eine eigenständige Dienstleistung. Die Übersetzungsbranche ist von der KI besonders stark betroffen: Heute macht das Geschäft der Korrektur von maschinellen Übersetzungen etwa ein Viertel des Umsatzes europäischer Sprachendienstleister aus, während das Volumen der traditionellen Übersetzungsdienstleistungen Jahr für Jahr schrumpft. Sogar die Stellen, die erhalten geblieben sind und ausschließlich zur Korrektur von Maschinenausgaben eingerichtet wurden, verengen sich stetig in ihrem Arbeitsinhalt, erfordern immer weniger Fähigkeiten und verlangen von Mitarbeitern fast nicht mehr, neue Kompetenzen zu erlernen.

Die Idee, Menschen die Lücken der Maschinen füllen zu lassen, klingt vorsichtig und sicher, und sie verspricht die Kontinuität der Arbeit, wenn viele Menschen um ihre Arbeitsplätze fürchten. Das Problem liegt aber darin, dass dieses Denkmodell von den bestehenden Arbeitsabläufen ausgeht, zuerst die Aufgaben auswählt, die intelligente Agenturen übernehmen können, und dann die übrig gebliebenen Randaufgaben an Menschen verteilt. Aus dieser Perspektive sind zukünftige Organisationen nichts anderes als die heutigen Organisationen, bei denen die bereits automatisierten Aufgaben entfernt und eine zusätzliche Schicht menschlicher Überwachung hinzugefügt wird. Hier wird der Mensch nie als Quelle neuer Produktivität betrachtet.

Diese Sichtweise birgt viele versteckte Gefahren. Jahrzehntelange Forschungen im Bereich der Automatisierung zeigen: Je besser das Automatisierungssystem funktioniert, desto anfälliger wird diese menschliche Sicherheitsbarriere. Je zuverlässiger die Automatisierung ist, desto leichter lassen sich die für die Überwachung zuständigen Personen entspannen, ihre Fähigkeiten verschlechtern sich allmählich, und es fällt ihnen immer schwerer, sich zu konzentrieren. Vor vierzig Jahren nannte Lisanne Bainbridge dieses Phänomen das Paradoxon der Automatisierung: Je mehr die Automatisierung erledigt, desto mehr sind Sie abhängig von menschlichen Fähigkeiten, die die Automatisierung Ihnen langsam entzieht. Und die KI verschärft dieses Problem noch weiter. Wenn die KI Fehler macht, gibt sie Inhalte aus, die genauso selbstsicher formuliert, flüssig geschrieben und strukturell vollständig sind wie bei korrekten Ergebnissen. Prüfer, die nur auf die Verständlichkeit des Textes achten, können gar nicht erkennen, ob der Inhalt wahr ist.

Selbst wenn der Prüfmechanismus funktioniert und Menschen Fehler erfolgreich aufdecken, wird jede Korrektur als Trainingsdaten erfasst. Jeder Sonderfall, den Menschen bearbeiten, lehrt das System, ähnliche Situationen selbst zu bewältigen; je besser die Qualität der Trainingsdaten ist, desto kleiner wird der Bereich, der zukünftig einer manuellen Prüfung bedarf. Ein Beispiel: xAI hat im September 2025 etwa 500 allgemein ausgerichtete „KI-Betreuer“ entlassen und gleichzeitig angekündigt, die Zahl der spezialisierten Stellen um das Zehnfache auszuweiten. Wenn man die zukünftig am schnellsten verschwindenden menschlichen Stellen auswählen würde, wäre die Lebensdauer solcher Prüfstellen zweifellos die kürzeste.

Aber Organisationen, die auf dem Modell der menschlichen Kontrolle aufgebaut sind, haben ein tieferliegendes Problem: Dieser oberste Entwurf versteht die Transformation verkehrt herum. Er lässt Unternehmen um die sich stetig verengende Grenze kreisen, die Maschinen vorübergehend noch nicht überwinden können. Doch hier verbirgt sich eine viel größere Chance: Die KI bricht alte Beschränkungen auf und ermöglicht völlig neue Arbeitskombinationen, neue Entscheidungsbefugnisse und neue Wertformen. Dementsprechend haben Unternehmen die Chance, ihre Organisation um diese neuen Entscheidungen herum neu zu strukturieren und ihre Geschäfte neu zu kombinieren, anstatt sich an dem schrumpfenden Rest alter Arbeiten festzuhalten. Das ist der Kernpunkt, den dieser Artikel erörtern möchte.

Zwei Arten der Transformation

Immer wenn eine allgemeine Technologie in eine Branche eindringt, stehen Unternehmen vor ähnlichen organisatorischen Entscheidungen. Mit wachsenden Fähigkeiten der Maschinen werden die Beschränkungen aufgehoben, die einst die Arbeitsweise einschränkten, und Menschen können sich höherwertigen Arbeiten zuwenden, die früher kaum erreichbar waren.

Die Aufhebung einer Beschränkung auf Ausführungsebene erweitert den Raum der Entscheidungen, die eine Organisation treffen und übernehmen kann. Schauen wir uns die Veränderungen an, die in den letzten Jahren in der Filmbranche stattgefunden haben. 2019 bewies *The Mandalorian* der Branche, dass riesige LED-Bildschirme virtuelle Szenen in Echtzeit rendern können, sodass Filmteams komplexe Spezialeffektbilder direkt vor der Kamera aufnehmen können. Das scheint nur eine Innovation der Spezialeffekttechnik zu sein, eröffnet aber den Auftakt zu einer grundlegenden Veränderung des Organisationsmodells der Filmproduktion. Die Auswirkungen sind noch weitreichender: Viele Entscheidungen, die ursprünglich erst in der Nachbearbeitung festgelegt werden sollten, werden nun auf den Drehort vorverlagert. Der Stil der Szenen, die Beleuchtung, die Bildkomposition und eine große Anzahl visueller Effekte im fertigen Film können alle gleichzeitig mit den Aufnahmen der Schauspieler erstellt und bestätigt werden. Kreative müssen keine realen Kulissen bauen und keine monatelangen Wartezeiten für Spezialeffekte in Kauf nehmen, um zwischen vielfältigen virtuellen Szenen zu wechseln; die Weltgestaltung auf Großproduktionsniveau lässt sich auch mit dem Budget einer Fernsehserie realisieren.

Der Arbeitsschwerpunkt von Spezialeffektkünstlern hat sich von der Nachbearbeitung von Bildern nach den Aufnahmen hin zu der Beteiligung an der Entscheidung, was die Kamera erfassen soll, von Anfang an verlagert. Nach dem Wegfall der Beschränkungen ändern sich Umfang und Ort der wertvollen Entscheidungen, und die Organisationsstruktur der Filmbranche wird um die Personen herum neu aufgebaut, die für diese neuen Entscheidungen verantwortlich sind. Es entstehen eine Reihe neuer Stellen, die Fotografie, Kunstausstattung, visuelle Effekte und Computertechnik verbinden, beispielsweise Leiter der virtuellen Produktion, Betreiber von LED-Studios und virtuelle Kameramänner.

Eine ähnliche „Neukombination“ von Geschäften ist auch in der Entwicklung von Nachrichtenredaktionen zu beobachten. Traditionelle Redaktionen binden drei Dinge zusammen: das Sammeln von Fakten, das Schreiben von Artikeln und die Verbreitung von Inhalten. Nachdem generative KI das Schreiben von Artikeln, das Erstellen von Überschriften und Zusammenfassungen vereinfacht hat, reagieren viele Redaktionen darauf, indem sie Journalisten mehr Zeit für die Prüfung von KI-generierten Texten widmen lassen, während die Struktur der Redaktion selbst unverändert bleibt.

Aber die echte Chance für Redaktionen liegt darin, nach oben zu gehen: Hinweisen nachzugehen, die es wert sind, vertieft zu werden, Informationsquellen zu überprüfen und Beweise zu erzeugen, die andere glaubwürdig finden. Ein gutes Beispiel dafür ist, dass die markanteste redaktionelle Innovation der BBC im KI-Zeitalter keine Fließband mit manueller Prüfung ist, die das Schreiben von Artikeln beschleunigt, sondern die BBC Verify. Angesichts der unaufhörlich auftauchenden KI-Falschinformationen hat die Redaktion ein spezielles Team von Journalisten aufgebaut, das auf offene Geheimdienstdaten, Satellitenbilder, Herkunftsanalysen und Datenwissenschaft zurückgreift, um die Glaubwürdigkeit umstrittener Behauptungen zu prüfen, anstatt nur Berichte wiederzugeben. Reuters hat sich in die gleiche Richtung weiterentwickelt, ein spezielles Team für Prüfung und Faktenprüfung aufgebaut und die geprüften, faktenbasierten Berichte selbst zu einem eigenständigen kommerziellen Produkt gemacht.

Managementtransformation

Das Verlassen des Modells der menschlichen Kontrolle bedeutet nicht, darauf zu warten, dass sich die KI stetig weiterentwickelt, bis keine manuelle Prüfung mehr erforderlich ist. Führende Unternehmen denken nicht zuerst darüber nach, welche Aufgaben Maschinen übernehmen können, sondern umgekehrt: Welche neuen Stellen schafft diese Technologie, die es früher nicht gab, und wie gestaltet man die Organisation um diese Stellen herum neu? Um dies zu erreichen, können Sie die folgenden Schritte als Referenz nutzen:

1. Erfassen Sie die aufgehobenen Beschränkungen und neuen Fähigkeiten, statt die Aufgaben aufzulisten, die automatisiert werden können

Der übliche KI-Transformationsfahrplan beginnt sofort mit der Aufgabenaufzählung: Welche Arbeiten können an Maschinen übergeben werden und wie viele Arbeitsstunden lassen sich einsparen. Dieser Ausgangspunkt muss geändert werden. Für jedes Geschäftsmodul sollten Sie fragen: Welche alte Beschränkung ist aufgehoben worden? Welche neuen Chancen ergeben sich daraus? Welche Dinge waren früher zu teuer, zu langsam in der Iteration oder hatten einen zu kleinen Zielmarkt, um überhaupt umgesetzt zu werden?

2021 übernahm der Chatbot des IKEA-Kundendienstes die Bearbeitung regulärer Anfragen und befreite Mitarbeiter, um höherwertige Arbeiten zu erledigen. Zwischen 2021 und 2023 bearbeitete dieser Chatbot 3,2 Millionen Anfragen und sparte fast 13 Millionen Euro an Kosten ein. Aber die Ingka-Gruppe (der größte Einzelhandelsbetreiber von IKEA) ging noch weiter und schulte 8500 Mitarbeiter der Kundendienstzentren im Bereich des ferngesteuerten Innendesigns um. Nachdem die Personalkapazitäten auf personalisierte Beratungsdienste verlagert wurden, konzentrierte sich IKEA nicht nur auf die Kürzung der Kundendienstausgaben, sondern erweiterte seine Vertriebs- und Dienstleistungsfähigkeiten. Bis 2022 erzielte der ferngesteuerte Vertriebskanal der Ingka-Gruppe einen Jahresumsatz von 1,3 Milliarden Euro. IKEA nutzte die Automatisierung nicht nur, um die Kosten bestehender Geschäfte zu senken, sondern um den Wert, den Mitarbeiter schaffen können, durch die Automatisierung zu steigern.

2. Finanzieren Sie zukunftsweisende Innovationsprojekte, statt nur Effizienzoptimierungsprojekte

Lösungen zur Effizienzsteigerung wirken oft pragmatischer und leichter umsetzbar, aber sie lassen Unternehmen ständig im Denkrahmen der „Automatisierungsentlastung“ gefangen und verschieben eine tiefgreifendere organisatorische Neugestaltung. Bei jedem Start eines KI-Geschäftsprojekts sollte das Team nicht nur angeben, wie viele Arbeitsstunden es einsparen kann, sondern auch ein neues Problem vorstellen, das diese Technologie gerade erst die Möglichkeit bietet, zu lösen. In Großbritannien erhielt Garfield Law im Mai 2025 die Zulassung der britischen Anwaltsaufsichtsbehörde und wurde damit Großbritanniens erste „KI-gesteuerte Anwaltskanzlei“. Sie übernimmt die Eintreibung von Kleinforderungen, die traditionelle Anwaltskanzleien für unrentabel halten, mit Gebühren ab 2 Pfund, und jeder Fall wird von einem zugelassenen Anwalt vollständig verantwortet. Innerhalb eines Jahres nach dem Start hat sie Hunderte von Klagen eingereicht und die erste strittige Gerichtsverhandlung gewonnen. Das ist keine bloße Effizienzsteigerung im bestehenden Markt, sondern ein völlig neuer Markt, der durch die veränderte wirtschaftliche Kostenstruktur entstanden ist.

3. Bewerten Sie kontinuierlich die Fähigkeiten der Menschen und folgen Sie der Iteration der KI-Fähigkeiten synchron

Statische Stellendefinitionen können mit der KI-Fähigkeitskurve nicht Schritt halten, die sich alle paar Monate aktualisiert. Johnson & Johnson nutzt maschinelles Lernen, um aus den Arbeitsdaten Tausender Techniker die Fähigkeiten jeder Person abzuleiten, sie anhand der Fähigkeiten zu bewerten, die die Unternehmensstrategie in der nächsten Phase benötigt, und die Bewertung durch mehrere Iterationen kontinuierlich zu aktualisieren. Johnson & Johnson betrachtet die Fähigkeiten der Mitarbeiter nicht als unveränderlichen Bestand, sondern baut ein System auf, um ständig zu beurteilen, was Mitarbeiter aktuell tun können, was sie lernen müssen und in welche Richtung sich ihr Wertbeitrag mit der Weiterentwicklung der Technologie erweitern kann.

4. Integrieren Sie Governance-Regeln in die Geschäftsprozesse, statt am Ende eine zusätzliche Prüfstufe hinzuzufügen

Nachträgliche Prüfstellen sind nicht