Warum ist die mehrere Millionen kostende KI zu einer bloßen Dekoration geworden, die niemand zu nutzen wagt?

In den internen Systemen vieler großer Unternehmen herrscht eine teure Stille: Die künstlichen Intelligenzplattformen, die mit enormen Investitionen bereitgestellt wurden, verzeichnen nach Ablauf der anfänglichen Neuheitsphase einen drastischen Rückgang der Zugriffszahlen und sinken allmählich zu einer peinlichen Aktivitätszahl in den Berichten.

Mitarbeiter trauen sich nicht, sie zu nutzen, weil sie unsicher sind, ob die vom System gelieferten Urteile nicht zu einem späteren Zeitpunkt als Vorwand für eine Verantwortungsrückverfolgung dienen könnten; sie sind nicht willig, sie zu nutzen, weil sie die Logikkette hinter den Ausgaben nicht durchschauen; sie wollen sie nicht nutzen, weil das bestehende Anreiz-, Befugnis- und Pflichtsystem keine klare Rückmeldung gibt, unabhängig davon, ob die Nutzung gut oder schlecht verläuft.

Aus diesem Grund hat IBM die These aufgestellt: Ohne Vertrauen sind die KI-Strategien der meisten Unternehmen zum Scheitern verurteilt.

Diese These bezieht sich nicht nur auf die Ebene der technischen Konformität. Sie zeigt tatsächlich den umfassenden Mangel an „institutionellen öffentlichen Gütern“, der bei der KI-Einführung in Unternehmen aufgetreten ist. Die allermeisten Entscheidungsträger wenden nach wie vor die Methode des Einkaufs standardisierter Software an, um eine Reform zu bewältigen, die die Neugestaltung der internen Verträge erfordert.

Meiner Meinung nach hat sich die Trennlinie des heutigen Wettbewerbs um KI zwischen Unternehmen bereits vom Wettbewerb um Rechenkapazitätsreserven hin zur Fähigkeit zur Verwaltung der „organisatorischen Reibungskosten“ verschoben. Im Folgenden wird aus vier Dimensionen – der Ineffizienz der Transaktionskosten, dem internen Lemonenmarkt, der Lücke bei der Prinzipal-Agent-Beziehung sowie der positiven Spirale von Governance und Innovation – schrittweise analysiert, warum Vertrauen zu der tödlichsten und am meisten unterschätzten strategischen Variable wird.

Wie das Fehlen von Vertrauen KI zu einem teuren Dekorationsobjekt macht

Warum geraten KI-Projekte in Unternehmen weitgehend ins Stocken? Die klassische Frage, die Ronald Coase 1937 aufgeworfen hat, ist nach wie vor äußerst scharf: Warum existieren Unternehmen? Weil interne Anweisungen und Autoritätsbeziehungen die wiederkehrenden Such-, Verhandlungs- und Vertragskosten bei Markttransaktionen einsparen können.

Wenn jedoch KI-Systeme in der Rolle von „elektronischen Vertretern“ in die Organisation eintreten, tritt eine unerwartete Umkehrung ein: Sie senkt nicht automatisch die internen Koordinationskosten, sondern erzeugt stattdessen eine große Anzahl neuer Transaktionskosten zwischen Mensch und System, und diese Kosten sind hochgradig verborgen und werden nicht direkt in irgendeiner Finanzberichterstattung erfasst.

Die erste Form der Kosten ist das psychologische Audit.

Ein Einkaufsmanager erhält eine von KI empfohlene Lieferantenliste, und seine erste Reaktion besteht nicht darin, die Vor- und Nachteile des Plans zu bewerten, sondern darüber nachzudenken, welche historischen Daten das Modell beim Training verwendet hat und ob es bestimmte graue Vorgänge der Vergangenheit in die Parameter eingelernt hat. Wenn er eine Empfehlung annimmt und der Lieferant später in Schwierigkeiten gerät, ist bei der Audit-Rückverfolgung der unterzeichnende Verantwortliche ich oder das Team für die Algorithmenentwicklung?

Ähnliche Szenarien spielen sich auch in der Personalabteilung ab: Der Rekrutierungsalgorithmus liefert eine sortierte Liste von Kandidaten, aber der Personalchef muss zusätzliche zwei Stunden aufwenden, um die ersten Kandidaten manuell aus dem Lebenslaufstapel zu prüfen, ob sie wirklich der Intuition entsprechen, bevor er im System auf „Zustimmen“ klickt.

Diese geistigen Aufwendungen für wiederholte Überprüfungen, selbstständige Beweiserhebung und die Vorbereitung von Erklärungsspielräumen sind an sich eine defensive Betriebskosten.

Mit jedem einzelnen Mal wird der von KI versprochene Effizienzgewinn ein Stück weit aufgezehrt.

Die zweite Kostenart ist noch verborgener, wirkt sich aber tiefer aus: das Spiel der Verantwortungsabwälzung.

Aufgrund fehlender transparenter Erklärungsmechanismen und im Voraus festgelegter Verantwortungsgrenzen neigen die Beteiligten in der abteilungsübergreifenden Zusammenarbeit leicht zu kollektivem Schweigen, sobald es um KI-Ausgaben geht. Die Marketingabteilung hält die vom Modell vorgegebene Preisstrategie für zu aggressiv und möchte sie anheben, fürchtet aber, bei einem Absatzrückgang für die „Ignorierung der Vorschläge der Datenwissenschaft“ verantwortlich gemacht zu werden. Das Datenteam hingegen stellt klar, dass das Modell nur eine Entscheidungshilfe ist und die endgültige Entscheidungskompetenz bei der Fachabteilung liegt.

Keine der beiden Seiten trifft eine Entscheidung, und das von der KI ausgegebene Preisplan zirkuliert im Genehmigungsverfahren hin und her, bis die Aktualität vollständig verloren geht.

Was die Organisation dafür zahlt, sind nicht die Fehlerkosten einer einzelnen Person, sondern die Verzögerung und Starrheit des gesamten Entscheidungssystems.

Wenn wir diese Phänomene zusammensetzen, stellen wir fest, dass viele KI-Pilotprojekte in Unternehmen eine extrem hohe Rendite erzielen, bei der großflächigen Einführung jedoch ein steiler Rückgang auftritt.

Der Grund dahinter ist nicht kompliziert: Pilotprojekte werden in der Regel von hoch vertrauten Innovationsteams übernommen und laufen in einer abgeschlossenen Umgebung mit reichlichen Ressourcen und Risikofreistellung, sodass diese defensiven Kosten künstlich isoliert werden.

Sobald das System auf das gesamte Unternehmen ausgeweitet wird, müssen gewöhnliche Mitarbeiter mit ihrer eigenen Arbeitsplatzsicherheit ein System übernehmen, das sie nicht verstehen und dessen Befugnis- und Pflichtgrenzen ihnen nicht klar mitgeteilt wurden. Dann überwiegt der defensive Instinkt alles andere.

Wenn die Organisation zu diesem Zeitpunkt keine vorausgehenden „institutionellen öffentlichen Güter des Vertrauens“ bereitstellt, wie z. B. transparente Erklärungsmechanismen, klare Verantwortungszuweisungen und ungehinderte Beschwerdewege, wird kollektives Nicht-Handeln und symbolische Nutzung die dominante Strategie jedes rationalen Individuums.

Das mit großen Investitionen aufgebaute KI-System wird zu einem präzisen Motor, den niemand wirklich in Betrieb nehmen wagt.

Das heißt, die Ausweitung der internen Reibungskosten in Unternehmen hat die technische Machbarkeit zu einer organisatorischen Unmöglichkeit zusammengedrängt.

Der stetige Anstieg der Reibungskosten führt nicht nur zu einer Reihe ungenutzter Werkzeuge.

Er erzeugt noch verborgenere Folgen: Wenn gewöhnliche Mitarbeiter die tatsächliche Qualität der KI-Ausgaben überhaupt nicht beurteilen können, spielt sich eine systemische negative Auswahl leise im Inneren des Unternehmens ab.

Warum hochwertige KI-Anwendungen kollektiv vernachlässigt werden

1970 hat George Akerlof mit dem Modell des „Lemonenmarktes“ aufgezeigt, wie Informationsasymmetrie dazu führt, dass minderwertige Produkte hochwertige Produkte verdrängen.

Die gleiche Logik lässt sich auch auf die Szenarien von KI-Anwendungen in Unternehmen anwenden: Die technische Abteilung verfügt über alle Details der Modellleistung, während die Nutzer auf der Fachseite nur die Eingaben und Ausgaben wie bei einem schwarzen Kasten beobachten können.

Diese schwerwiegende Informationsasymmetrie führt dazu, dass Nutzer natürlicherweise dazu neigen, alle KI-Vorschläge als „Lemon“ mit verborgenen Risiken zu behandeln, da der Aufwand zur Unterscheidung zwischen gut und schlecht zu hoch ist.

Diese Mentalität erzeugt dann ein höchst zerstörerisches Nutzungsmodell.

Mitarbeiter binden KI strikt an die randständigsten und unbedeutendsten Aufgaben, z. B. lassen sie generative KI Feiertagsgrüße per E-Mail entwerfen, erste Entwürfe von Interviews zusammenstellen und die Kernpunkte nicht sensibler Dokumente zusammenfassen.

In diesen Szenarien führen selbst Fehler nicht zu Konformitätsrisiken, Kundenansprüchen oder aufsichtsrechtlichen Verantwortlichkeiten.

Die hochwertigen Szenarien, die den Gewinnpool wirklich erschließen können, wie z. B. die Bewertung von Kreditrisiken, dynamische Preisstrategien und die Schwachstellenprüfung von Lieferketten, werden jedoch kollektiv vernachlässigt. Die Schwere des Problems liegt darin, dass diese Vermeidung eine rationale Selbstschutzmaßnahme der Nutzer ist, aber aus der Sicht der gesamten Organisation stellt sie eine typische negative Auswahl dar: Hochwertige KI-Systeme erhalten keine Chance, sich in hochwertigen Szenarien zu beweisen, weil alle sie nach der schlimmsten Annahme nutzen; während einige mittelmäßige Systeme mit sogar verborgenen Mängeln stattdessen stabil in der komfortablen Zone mit niedriger Sensibilität laufen, da sie nie an die Frontlinie der echten Prüfung geschickt werden.

Das gesamte KI-Investitionsportfolio wird in einem Bereich mit extrem niedrigem Grenznutzen festgehalten.

Dies erklärt auch, warum viele Unternehmen behaupten, „KI sei umfassend implementiert“, aber keine strukturelle Verbesserung in der Gewinn- und Verlustrechnung zu sehen ist. Große Mengen an Ressourcen werden in kleine Verbesserungen gesteckt, die keinen großen Wertzuwachs erzeugen können, während die Effizienzlogik der zentralen Betriebsabläufe fast unverändert bleibt.

Die wahre Kraft von Governance- und Transparenzmechanismen liegt genau darin, diesen Teufelskreis zu durchbrechen.

Wenn Nutzer durch Kanäle wie Erklärbarkeitsberichte, Auditprotokolle und Fairnessprüfungen kontinuierlich die Entscheidungsgrundlagen und Risikogrenzen des Modells beobachten können, erhalten sie tatsächlich ein Signalsystem zur glaubwürdigen Beurteilung der Qualität von KI-Ausgaben.

Hochwertige Systeme werden aus dem Zustand des „standardmäßigen Verdachts“ befreit und schrittweise in die zentrale Entscheidungsfindungskette aufgenommen.

Governance spielt hier keine einschränkende Rolle, sondern übernimmt die Funktion der „Freigabe von Qualitätssignalen“ und löst den Lemonenmarkt von innen heraus auf.

Aber selbst wenn das Problem der Qualitätssignale gelöst ist, ist das innere Ringen der Mitarbeiter noch lange nicht vorbei.

Es hängt noch eine schärfere Frage über jeder Interaktion zwischen Mensch und KI: Wenn wirklich etwas schiefgeht, wer trägt dann die Konsequenzen?

Dieses Vakuum bei der Verantwortungszuweisung ist wahrscheinlich die hartnäckigste Lücke.

Im KI-Zeitalter: Die Verantwortung, die niemand übernehmen will

Aus der Perspektive der Unternehmensfinanzierung und der Anreiztheorie entspricht die Einführung eines KI-Systems dem Einbringen eines besonderen Vertreters in die Organisation, dessen Verhalten nicht vollständig vertraglich festgelegt werden kann.

Im traditionellen Prinzipal-Agent-Rahmen kann der Prinzipal durch Gehaltsgestaltung, Überwachung und Bewertung die Interessen des Agenten mit seinen eigenen in Einklang bringen.

Aber KI-Systeme haben keine Absichten und verfolgen keine eigenen Interessen, erzeugen aber dennoch Ausgaben mit wirtschaftlichen Folgen.

Daraus entsteht ein strukturelles Vakuum bei der Verantwortungszuweisung.

Zum Beispiel lehnt ein Kreditsachbearbeiter den Antrag eines Kleinunternehmers gemäß der von KI gegebenen Empfehlung zur Kreditablehnung ab. Später stellt die Aufsichtsbehörde fest, dass diese Entscheidung eine diskriminierende Kreditablehnung darstellt.

Bei der Verantwortungsrückverfolgung sagt der Sachbearbeiter: „Ich habe nur nach den Systemhinweisen gehandelt, und das interne Unternehmensverfahren verlangt, dass die KI-Meinung protokolliert werden muss.“ Das Datenwissenschaftsteam argumentiert: „Die voreingestellten Fairnessindikatoren des Modells haben die Anforderungen erfüllt, und die Abweichung in einzelnen Fällen ist ein Problem der statistischen Verteilung.“ Die Compliance-Abteilung hingegen stellt klar: „Wir haben den Gesamtkonformitätszustand des Modells bei der Inbetriebnahme geprüft, können aber nicht jede einzelne spezifische Ausgabe in Echtzeit überwachen.“

Alle drei Ebenen sind in ihrer eigenen Logik haltbar, aber die Organisation kann keine Entität finden, die die Verantwortung klar übernimmt.

Die Tatsache darin ist, dass niemand die Extremrisiken von KI-Entscheidungen effektiv bewertet hat.

Die hier genannte Bewertung bezieht sich nicht nur auf die Berechnung der Risikowahrscheinlichkeit, sondern auch auf das grundlegende Eigentumsproblem: „Wer trägt die finanziellen und Reputationsfolgen nach einem Schadensfall, in welcher Reihenfolge und auf welche Weise?“

IBM betont, dass Governance von Anfang an in die Systemarchitektur eingebettet werden muss, nicht nachträglich hinzugefügt werden darf. Ihre tiefe Erkenntnis liegt darin, dass dies tatsächlich die Gestaltung eines Mechanismus zur vorausgehenden Verantwortungsverteilung ist.

Indem die Auslösebedingungen des Vetorechts, die Pfade der Eskalationsbehandlung und die Regeln für die Verantwortungsunterzeichnung an verschiedenen Entscheidungsknoten im Voraus klargestellt werden, kann die Organisation ein sehr wertvolles „Rechenschafts-Optionsrecht“ aufbauen: Wenn KI-Ausgaben nachteilige Folgen verursachen, kann das Unternehmen vordefinierte Verfahren zur Untersuchung, Korrektur und Entschädigung schnell einleiten, um das Chaos auf einen beherrschbaren Bereich zu senken und gegenseitige Vorwürfe in eine geordnete Ursachenzuordnung umzuwandeln.

Mit diesem Optionsrecht hat das KI-Projekt sozusagen eine billige institutionelle Versicherung für seine Extremrisiken abgeschlossen.

Projekte, die dies vermissen, müssen bei der Berechnung des Nettobarwerts einen höheren risikobereinigten Diskontsatz auf ihre zukünftigen Cashflows anwenden, da sie nicht nur Marktschwankungen tragen, sondern auch eine organisatorische Verantwortungskrise, die jederzeit ausbrechen kann und nicht quantifizierbar ist.

Unternehmen mit schlechter Governance verlieren also bereits in der Bewertungsphase ihrer KI-Projekte. Der Kapitalmarkt hat ihnen aufgrund der Abneigung gegen Unsicherheit bereits einen höheren impliziten Abschlag zugewiesen.

Ist das nicht ziemlich kontraintuitiv? Organisationen, die die Verantwortungszuweisung klar ordnen können, legen sich keine schwereren Fesseln an, sondern bereiten den Weg für eine längere Startbahn für Innovationen.

Wenn die Menschen keine Energie mehr für die Frage „Wer trägt die Konsequenzen nach einem Fehler“ verschwenden müssen, hat Governance ihren wichtigsten Sprung vollzogen: Sie wandelt sich von einer defensiven Kontrolle zur Grundlage einer offensiven Fähigkeit.

Die positive Spirale zwischen Governance-Mechanismen und KI-Innovation

Seit langem steckt das Management allgemein in einem kognitiven Trägheitszustand: Überwachung ist gleich Einschränkung, Kontrolle ist gleich Verlangsamung.

Aus empirischen Studien zur Verhaltensforschung in großangelegten Organisationen geht jedoch genau das Gegenteil hervor.

Klare Grenzen sind oft die wichtigste Infrastruktur für psychologische Sicherheit.

Wenn die Mitarbeiter an der Front genau wissen, in welchen Szenarien die von KI gegebenen Vorschläge nur als Referenz dienen, unter welchen Bedingungen sie das Vetorecht ausüben können, wohin sie Ausnahmefälle melden sollen und sie dafür keine persönliche Verantwortung außerhalb der Compliance tragen, legen sie ihre Defensivität wirklich ab und integrieren ihre langjährig angesammelten subtilen Intuitionen und impliziten Kenntnisse tiefgehend mit den Algorithmenausgaben in einer Art Widerstreit.

Diese „konfrontative Integration“ ist genau der kreative Wert, den Unternehmen am meisten von KI-Investitionen erwarten.

Unklare Bereiche führen nur zu einem kollektiven Verhaltensrückzug. Wenn Mitarbeiter im Stillen raten müssen