Missbrauch von KI: Arbeitnehmer werden schwer geschädigt

Künstliche Intelligenz ist bereits im Arbeitsalltag vieler Menschen angekommen.

PR-Manager nutzen sie, um Konzepte und Pläne zu erstellen, Juristen generieren damit grundlegende Dokumente, und Programmierer schreiben Code mit ihrer Hilfe. Für viele ist sie wie ein Praktikant am Arbeitsplatz, der jederzeit zur Stelle ist.

Zudem macht die Liefergeschwindigkeit von KI leicht „süchtig“ und erzeugt sogar die Illusion, „Magie beherrscht“ zu haben.

Bis die Magie ihre andere Seite zeigt.

Sie erfindet aus dem Nichts nicht existierende Konkurrenzmarken und Branchendaten, zitiert ernsthaft fiktive Rechtsvorschriften und ändert im Code unbefugt Module, die nicht berührt werden sollten. Viele Pannen passieren genau deshalb, weil die Ergebnisse so echt aussehen, dass die Menschen ihre Wachsamkeit verlieren.

Wir haben mit mehreren Personen gesprochen, die bei der Arbeit von KI hereingelegt wurden. Sie sind nicht unfähig, KI zu nutzen. Im Gegenteil: KI ist bereits in den größten Teil ihrer Arbeitsabläufe integriert. Trotzdem werden sie manchmal von ihr in die Irre geführt.

Diese Erfahrungen erinnern sie daran: Je vollständiger die Antworten der KI sind, desto mehr müssen Nutzer die Fähigkeit behalten, zu urteilen, zu überprüfen und die Verantwortung zu übernehmen.

Die sogenannte Effizienzsteigerung durch KI bedeutet nie, die Arbeit einfach aus der Hand zu geben. Sie gleicht vielmehr einer neuen beruflichen Selektion: Wer KI beherrscht, wird schneller, während diejenigen, die nur kopieren und einfügen, in kritischen Momenten von ihr mitgerissen werden könnten.

01. Die KI erfand drei nicht existierende Konkurrenten – ich wurde vom Kunden direkt bei der Präsentation entlarvt

Lin Chen | 30 Jahre, Strategiemanagerin in einer PR-Agentur, Shanghai

Ich arbeite im Bereich PR-Strategie. In einer Agentur werden Mitarbeiter in der Strategieabteilung oft „Präsentationsmaschinen“ genannt. Ein einziger Anruf des Kunden kann verlangen, dass wir in kürzester Zeit eine uns unbekannte Branche durchdringen, Erkenntnisse daraus ziehen und ein komplettes Marketingkonzept liefern. Die Branche ist fremd, die Zeit reicht nicht aus – und der Kunde erwartet etwas „Beeindruckendes“.

Deshalb habe ich mich fast sofort auf KI gestürzt, als sie aufkam.

Täglich verbringe ich mindestens ein Drittel meiner Arbeitszeit mit großen Sprachmodellen, hauptsächlich für Brainstorming und Strukturaufbau. Am Anfang war es wirklich „genial“. Einmal wollte der Kunde ein Marketingkonzept für die „Seniorenwirtschaft“ – und gab uns nur zwei Stunden Zeit. Ich ließ die KI über ein Dutzend Richtungen generieren, wählte eine aus, verfeinerte sie leicht und reichte sie ein. Der Kunde war sehr zufrieden.

Dieses Gefühl, als hätte man plötzlich eine Art Magie beherrscht – genau diese „Genialität“ ließ mich meine Wachsamkeit Schritt für Schritt verlieren.

Was mich wirklich zu Fall brachte, war im April dieses Jahres.

Wir erhielten eine Ausschreibung für ein ganzjähriges Großprojekt im Wert von mehreren Millionen. Der Kunde wollte eine Premium-Linie für Tiernahrung entwickeln. Wie immer war die Zeit knapp: Die Präsentation sollte in weniger als einer Woche fertig sein. Ich war für die Konkurrenzanalyse zuständig.

Ich lieferte die Kundendaten und die Namen der wichtigsten Konkurrenten an das große Sprachmodell und forderte einen detaillierten Analysebericht, der besonders die „Marketinglücken“ dieser Konkurrenten im Premiumsegment aufzeigen sollte.

Die KI lieferte schnell ein Ergebnis mit schlüssiger Logik: Sie analysierte nicht nur die bekannten Konkurrenten, sondern listete „zusätzlich“ drei „neue Premium-Tiernahrungsmarken“ auf, die ich nie beachtet hatte. Ihre Marketingstrategien und Zielgruppenprofile wurden detailliert dargestellt, am Ende wurden sogar Daten eines Forschungsinstituts für die Tierbranche zitiert. Die Schlussfolgerung war klar: Der Kunde sollte das Konzept der „Herkunftsnachverfolgung“ hervorheben, um diese Marktlücke zu füllen. Weil die Zeit so knapp war, prüfte ich nichts und kopierte diesen Teil direkt in die Präsentation.

Am Tag der Präsentation, als ich zum Abschnitt „Konkurrenzsituation“ kam, unterbrach mich der Kunde plötzlich: „Diese drei Marken – warum habe ich noch nie von ihnen gehört?“

Mein Kopf summte, meine Hände wurden sofort schwitzig. Ich versuchte, ruhig zu bleiben, und sagte, ich würde „nachher nachschauen“.

Doch die drei Marken waren vollständig von der KI erfunden, und die Daten des Forschungsinstituts ließen sich nirgendwo nachweisen.

Wir verloren das Projekt. Die Firma war der Meinung, ich habe bei der Überprüfung schwer versäumt, und kürzte meine Leistungsboni für drei Monate. Ich halte diese Entscheidung für fair.

Nach diesem Ereignis habe ich mir eine Regel auferlegt: Alle von KI generierten Daten, Fälle und Markennamen müssen einzeln überprüft werden. Wenn die Herkunft nicht nachweisbar ist, nutze ich sie lieber nicht. Außerdem baue ich jetzt eine eigene Konkurrenzdatenbank auf: Wenn ich KI nutze, liefere ich direkt echte Materialien, damit sie auf Basis tatsächlicher Informationen analysiert – statt etwas zu erfinden.

Allmählich denke ich: Die sogenannte Effizienzsteigerung durch KI ist eigentlich ein Trugschluss.

Sie spart mir Zeit für den ersten Entwurf, aber ich muss ständig wachsam bleiben. Je besser sie schreiben kann, desto höher sind die Anforderungen an Ihre Fähigkeit, zu unterscheiden.

Deshalb ist meine Beziehung zu KI heute so: Ich kann nicht ohne sie, aber ich traue ihr auch nicht.

02. Die KI fügte unbefugt zusätzlichen Code hinzu – das gesamte Team musste Überstunden machen, um das Problem rückgängig zu machen

Lu Yao | 32 Jahre, Produktmanager, Shanghai

Ich arbeite im Produktmanagement.

Früher war unser Arbeitsablauf klar: Das Produktteam erstellt Anforderungen, Entwicklung und Design setzen sie um, nach Tests und Abnahme geht das Produkt live. Heute ist KI in praktisch jeden Schritt dieser Prozesskette eingedrungen.

Ich selbst nutze sie eher zurückhaltend. Meistens lasse ich sie nach doppelten Anforderungen in historischen Dokumenten suchen oder meine unübersichtlichen Anforderungen strukturieren. Am Ende entscheide ich selbst, wie es geschrieben wird und was nutzbar ist – diesen Teil habe ich nicht an sie übergeben. Meine Kollegen aus der Entwicklung geben die Anforderungen auch erst an die KI weiter, um Logik und Bedarf zu klären, bevor sie einen Lösungsvorschlag erstellen.

Dieser Ablauf an sich ist nicht fehlerhaft – aber diesmal übernahm ein Neuling, der erst kurze Zeit im Beruf war, die Aufgabe.

Er kannte das Geschäft noch nicht gut, unsere historischen Codes waren ihm fremd, und er verstand sogar den von der KI gelieferten Lösungsvorschlag nicht vollständig. Er arbeitete den Vorschlag der KI um, stellte keine Probleme fest. Produkt und Test prüften es auch – das Ergebnis entsprach genau unseren Vorstellungen. Alle dachten, die Sache liefe reibungslos weiter.

Bis wir bei umfangreichen Tests merkten, dass etwas nicht stimmt.

Es stellte sich heraus: Die KI hielt sich nicht an den engen Rahmen der Anforderungen. Sie entwickelte sich „frei“ und fügte viele zusätzliche Inhalte hinzu. Etwa die Hälfte des Codes in dieser Version war „nebenbei“ geschrieben. Wie ein über-eifriger neuer Kollege: Man bittet ihn, nur einen Tisch zu tragen – und er stellt die Möbel im ganzen Büro um. Wir aber haben nur den Tisch überprüft.

Bei Dokumenten könnte man überflüssige Absätze einfach löschen. Bei Code ist das anders: Eine einzelne Änderung zieht eine Kette von Problemen nach sich. In diesen Tagen mussten Produkt, Test, Design und Entwicklung alle Überstunden machen. Wir prüften, ob das Live-System betroffen war, welche Teile die KI zusätzlich geschrieben hatte – und suchten rückwärts nach der Ursache des Fehlers.

Wir haben auch versucht, die KI selbst das Problem finden zu lassen. Sie sagte sehr überzeugt, die Ursache lokalisiert zu haben. Als ein erfahrener Kollege es sich ansah, stellte sich heraus: Der Code, den sie für die Ursache hielt, hatte überhaupt nichts mit dem Problem zu tun. Am Ende blieb nichts anderes übrig, als diese Codeversion zu löschen und alles von Hand neu zu schreiben.

Diesmal hatten wir Glück: Das Problem wurde noch vor dem Live-Gang erkannt. Aber ich glaube nicht, dass die KI allein schuld ist. Das größere Problem liegt darin, dass Menschen und Prozesse nicht mitwachsen. Selbst wenn dieser Kollege keinen Fehler gemacht hätte, würden später Kollege B oder C an ähnlichen Stellen scheitern. Jetzt ist es am wichtigsten, den Ablauf zu überprüfen: An welcher Stelle hat die KI das Problem eingebracht – und wo soll der Schwerpunkt der Überprüfung künftig liegen?

Ich bin jetzt vorsichtiger. KI spart tatsächlich Zeit: Früher musste ich ein Problem ein bis zwei Tage prüfen, heute liefert sie in zehn Minuten mehrere Richtungen. Aber ich schaue es mir immer noch einmal an und frage nach der Herkunft.

Sie müssen ganz genau wissen, was Sie wollen, und alle Details ausreichend durchdenken, bevor Sie KI ausführen lassen. Wenn Sie eine unklare Idee an KI weitergeben, gibt sie Ihnen nur etwas noch Unklareres zurück. Dieses Risiko bricht vielleicht nicht sofort aus – sondern wird nur verschoben, bis es eines Tages massiv explodiert.

KI ist tatsächlich klug – aber nur unter der Voraussetzung, dass Sie sie beherrschen. Je stärker KI ist, desto höher sind die Anforderungen an den Menschen. Wenn jemand seine Arbeit darauf reduziert, KI-Ergebnisse zu kopieren und einzufügen, ist es nur eine Frage der Zeit, bis er verdrängt wird.

03. Ich habe mit KI 40 % der Arbeitszeit eingespart – bin aber fast an einer fiktiven Rechtsvorschrift gescheitert

Delia | 31 Jahre, Anwältin in einer unabhängigen Kanzlei, Peking

Ich arbeite in einer Kanzlei mit hohem Anteil an ausländischen Mandaten. Täglich bearbeite ich viele chinesisch-englische Verträge und Handelsstreitigkeiten. Heute ist KI praktisch zu meinem „unsichtbaren Kollegen“ geworden – sie ist in den größten Teil meiner Arbeitsabläufe integriert. Aber dieser „Kollege“ war nicht von Anfang an nutzbar: Ich habe ihn durch viele Fehler und Versuche nach und nach optimiert.

Ich nutze sie hauptsächlich für drei Dinge: Übersetzungen von chinesisch-englischen Verträgen, Erstellung grundlegender Dokumente und Recherche zu rechtlichen Trends in der Branche.

Die Übersetzung ist der Bereich, dem ich am meisten vertraue. Fast alle Verträge in der Kanzlei sind zweisprachig – eine repetitive Arbeit, die das Team viel Zeit kostet. KI liefert hier stets stabile Ergebnisse: Fachbegriffe und Satzlogik entsprechen den Regeln juristischer Texte, es gibt kaum Fehlübersetzungen oder Auslassungen. Allein dadurch sparen wir fast 40 % der grundlegenden Arbeitszeit und reduzieren die repetitive Belastung des Teams erheblich.

Die Erstellung von Dokumenten ist dagegen der Bereich, wo man am leichtesten Fehler macht.

Tatsächlich habe ich seit 2024 versucht, mit KI Rechtsvorschriften zu suchen und Dokumente zu unterstützen. Manchmal machte sie Fehler – aber damals konnte ich diese „Halluzinationen“ noch in der letzten manuellen Überprüfung beseitigen.

Was mir wirklich kalte Schauer über den Rücken jagte, war, als sie an Stellen, die ich nicht gut kannte, ernsthaft Unsinn erzählte.

Anfang letzten Jahres bearbeitete ich einen lokalen Aktienstreit. Die Zeit war knapp, und die regionalen Sonderbestimmungen waren besonders kompliziert. Ich ließ die KI den ersten Entwurf erstellen und bat sie, lokale Rechtsvorschriften und vergleichbare gültige Urteile zur Unterstützung meiner Argumente hinzuzufügen.

Sie lieferte schnell ein fertiges Dokument mit flüssiger Logik und sauber zitierten Stellen. Die großen Rechtsvorschriften überarbeitete ich – danach sah es fehlerfrei aus. Weil ich gerade mit Kundenkontakten beschäftigt war, legte ich es schnell in die Akte.

Zum Glück entdeckte ein Kollege bei der Überprüfung durch den Partner ein Problem: Einige lokale Rechtsvorschriften im Dokument waren vollständig erfunden. Die Fehler waren so versteckt, dass man sie kaum erkennen konnte, wenn man sich nicht speziell mit lokalen Vorschriften auskannte.

In diesem Moment erwachte ich sofort: KI kann mir helfen, die Effizienz zu steigern – aber in Bereichen außerhalb meines Wissensrahmens, selbst wenn es nur klein ist, laufe ich Gefahr, Fehler zu machen.

Um die Risiken von KI-Halluzinationen zu vermeiden, baue ich jetzt eine eigene Datenbank auf. Bei jeder Nutzung beschränke ich die KI darauf, nur in dieser Datenbank zu suchen. Später habe ich sofort professionelle kostenpflichtige Datenbanken abonniert – nach längerer Nutzung klappt es jetzt immer besser.

Im Austausch mit Kollegen merke ich, dass viele noch in einem Irrtum stecken. Viele nutzen mehrere KI-Modelle zur gegenseitigen Überprüfung von Dokumenten und glauben, Fehler vermeiden zu können. Aber die Wirkung ist fast gleich Null – mehrere Modelle können an derselben Stelle gemeinsam falsch liegen, und viele haben diese Erfahrung schon gemacht.

Heute vertrete ich die Ansicht: KI ist weder gut noch schlecht. Ob sie nutzbar ist, hängt vollständig von der fachlichen Kenntnis des Nutzers ab. Sie kann unsere Hände entlasten – aber sie kann niemals die logische Beurteilung, die Überprüfung von Rechtsvorschriften und die Werturteile eines Anwalts ersetzen.

Heute sind sich Juristen weitgehend einig: Die Halluzinationen von KI lassen sich durch die Fähigkeiten des Nutzers beheben – aber KI fehlt es noch weitgehend an Kausalität und logischem Denken, um die Branche zu bedrohen. Denn Recht ist nie eine Frage von „Ja oder Nein“.

Wer KI nicht nutzen kann,