Die Journalisten, die hinter den großen KI-Modellen verborgen sind: So werden die Antworten der GPT-Modelle verfasst

In den letzten zwei Jahren sind allein in Los Angeles über 40.000 Arbeitsplätze in der Film- und Fernsehbranche verschwunden. Die Zahl der Redakteursstellen bei US-Zeitungen ist gegenüber 2008 um die Hälfte gesunken. Viele dieser entlassenen Medienfachleute sind zu großen Sprachmodell-Unternehmen im Silicon Valley gewechselt und nutzen ihre Schreiberfahrungen, um KI darin zu unterweisen, Ihre Fragen zu beantworten. Jedes Mal, wenn Sie das Gefühl haben, dass die Antwort des großen Sprachmodells Sie tief im Inneren trifft, stammt der Satz, der Sie berührt, von ehemaligen Journalisten, Redakteuren und Dokumentarfilmregisseuren.

In dieser Folge des Podcasts „Silicon Valley 101“ sprechen wir über diesen wenig bekannten Beruf – den Content Engineer, auch Inhaltsingenieur genannt. Wir haben zwei erfahrene Inhaltsingenieure eingeladen, die aus dem Journalismus gewechselt sind: Tony, ehemaliger Medienfachmann und Moderator des Podcasts „Planetentaverne“, sowie Bianca Consunji, Direktorin für KI-Strategie bei NBCUniversal. Wir gehen der Frage nach, was eine „gute“ Unterhaltung ausmacht und wie man sie in quantifizierbare, trainierbare und bewertbare technische Standards zerlegen kann.

Wir beginnen mit diesem aufstrebenden Beruf, der in allen KI-Unternehmen rasant expandiert, und untersuchen, wie Inhalt und Geschmack zum Schlüssel der Produktwettbewerbsfähigkeit werden, wenn sich die Fähigkeiten der Modelle allmählich angleichen – und wie das Urteilsvermögen, das sich auf Geistes- und Sozialwissenschaften stützt, in eine Sprache übersetzt werden kann, die für die Technik nutzbar ist.

Im Folgenden finden Sie eine Auswahl des Gesprächs:

01 Ein neuer Beruf im Silicon Valley: Inhaltsingenieur

Software-Ingenieure haben KI wie ChatGPT und Claude die Fähigkeit gegeben, zu sprechen. Inhaltsingenieure hingegen definieren eine andere Sache: Was macht eine Unterhaltung zu einer „guten“ Unterhaltung? Dinge wie Inspiration, Sprachgefühl und die geistige Berührung, die wir erleben, wenn wir uns in einem Gespräch ganz verlieren – all das, was wir lange für etwas gehalten haben, das man nur fühlen, aber nicht in Worte fassen kann, wird von dieser Gruppe ehemaliger Schriftstellern in Regeln zerlegt, die in die KI eingebaut werden können.

In der Stellenausschreibung für Inhaltsingenieure bei Meta werden die Aufgaben wie folgt beschrieben: Definieren, was „guter Inhalt“ bedeutet; über ausgezeichneten Geschmack, Kreativität und Schreibfähigkeiten verfügen; Antworten verfassen, die Nutzer freuen, überraschen und begeistern.

Faith: Was ist ein Inhaltsingenieur?

Tony: Gestalten wir eigentlich das KI-Modell, das KI-Produkt oder seinen Schreibstil? Nichts davon. Wir gestalten die menschliche Wahrnehmung.

Damals hat Meta eine neue Stelle namens Content Engineering ausgeschrieben. Es hieß, man brauche Erfahrung mit Inhalten, Erfahrung als Redakteur und idealerweise Erfahrung als Filmproduzent. Ich dachte mir: Das beschreibt doch genau mich! Bei dem Vorstellungsgespräch habe ich ihnen direkt gesagt, dass ich jede einzelne ihrer Anforderungen erfülle – und dass man auf dem Markt kaum so viele Menschen finden kann, die alle diese Kriterien erfüllen, also sollten sie mich einfach einstellen.

Was muss man im Content Engineering eigentlich schreiben? Das können zum Beispiel System-Prompts sein. Es erfordert sehr viel kreatives Schreiben: Wie man etwas gut formuliert, sodass das Modell es versteht, und wie man es trainiert, wenn das Modell manchmal launisch reagiert – das sind die Kernfähigkeiten der Berufstätigen in diesem Bereich.

Bianca: Code ist eine technische Sprache, aber auch die gewöhnliche Sprache ist technisch. Sie hat Grammatik und Syntax, die alle quantifiziert werden können. Was ist gutes Schreiben, gute Produktion und gute Unterhaltung? All das sind technische Fähigkeiten. Ein gutes Drehbuch oder ein guter Artikel kann man auseinandernehmen, analysieren und bewerten – die meisten Menschen lesen es nur nach Gefühl. Die Leute wissen, dass der Stil von *The New Yorker*, *The New York Times* und der *Daily Mail* unterschiedlich ist, aber sie können den Unterschied nicht genau benennen. Wir, die aus dem Journalismus in die KI-Branche gewechselt sind, machen genau das: Wir erklären, was *The New Yorker* zu *The New Yorker* macht. Wir übersetzen Tonfall, Stil und Stimme in etwas Technischeres.

Letztendlich geht es darum, die Frage zu beantworten: Wie sollte Inhalt eigentlich aussehen? Für viele von uns mit journalistischem Hintergrund denken wir immer – egal ob wir Videos machen oder schreiben – zum Beispiel: Wen interviewe ich? Welcher Ton soll diese Geschichte haben? Zuerst lernen wir, Inhalte zu produzieren, dann lernen wir, Inhalte rückzuentwickeln.

Faith: Bevor wir darüber sprechen, wie man „guten Inhalt“ zerlegt, müssen wir zuerst verstehen: Was ist die Definition von „gut“?

Bianca: Der Begriff „gut“ hängt davon ab, welches Produkt Sie gerade in der Hand haben. Nehmen wir an, Sie haben dasselbe Basismodell, aber Sie wollen unterschiedliche Produkte bauen: Eines könnte ein Agent sein, der Ihnen bei der Arbeit hilft, ein anderes ein Chatbot, der so tut, als wäre er Ihr Freund. Diese beiden Produkte sind völlig verschieden. Bei einem Chatbot für den Kundenservice einer Fluggesellschaft müssen Sie zum Beispiel den Anfang des Gesprächs gestalten. Sie müssen sich auch über das Ziel dieser Interaktion klar werden: Soll er Probleme lösen – oder die Nutzer schnellstmöglich abfertigen, wie ein echter Kundenservice-Mitarbeiter?

Danach trainieren wir es ständig und prüfen seine Ausgaben. Sie müssen alle Eigenschaften einzeln auseinandernehmen und bewerten. In diesem Prozess isolieren Sie ständig Variablen, finden heraus, was weniger nützlich ist – und definieren dann Schritt für Schritt, was „gut“ bedeutet. Manche Antworten sind vielleicht gut, aber nur 7 von 10 Punkten wert. Dann müssen wir erklären, wo die fehlenden 3 Punkte liegen.

Der Schwerpunkt meiner Arbeit liegt darin, das Schreiben zu verbessern und die KI dazu zu bringen, Fragen besser zu beantworten. Das sind alles grundlegende journalistische Fähigkeiten: Beantwortet die KI die Frage des Nutzers wirklich? Oder hat sie die eigentliche Absicht des Nutzers nicht verstanden? Wenn ich mein Fachgebiet nennen müsste, würde ich sagen: Ich verstehe die Absicht hinter der Frage, nicht nur die wörtliche Frage. Ich bringe der KI bei, was eine ideale Antwort ist. Zum Beispiel, wenn jemand fragt: „Wird Taylor Swift im Madison Square Garden heiraten?“

Eine schlechte Antwort wäre: „Ja, sie wird dort heiraten, hier ist die Liste ihrer Brautjungfern.“ Denn Sie wissen überhaupt nicht, ob das stimmt – niemand weiß das.

Eine andere sehr schlechte Antwort ist die, die wir leicht erkennen können: Eine Antwort, die voller roboterhafter Klischees ist und Informationen mechanisch aneinanderreiht.

Madison Square Garden | Bildquelle: Ajay Suresh, CC BY 2.0

Was ist dann eine bessere Antwort? Zum Beispiel: „Wir wissen nicht, ob sie wirklich heiraten wird, aber es gibt viele Spekulationen, dass ihre Hochzeit im Madison Square Garden stattfinden könnte.“ Dann fügen Sie Quellen und Herkunft hinzu. Sie geben zu, dass die Informationen noch sehr unsicher sind. Das sind alles Faktoren, die eine journalistische Meldung besser machen – also müssen wir sie alle in den Trainingsprozess einbeziehen. Zusammengefasst geht es um drei Dinge: Faktenkorrektheit, Tonfall und das echte Verständnis dafür, welche Informationen der Nutzer sucht.

Stellen Sie sich vor: Der Nutzer fragt vielleicht nur „Wird sie im Madison Square Garden heiraten?“. Wenn Sie nur „Nein“ antworten, haben Sie die Frage wörtlich beantwortet – aber der Nutzer ist nicht zufrieden. Er will auch Hintergrund und Kontext wissen.

Faith: Also man versteht die „unausgesprochene Bedeutung“ hinter der Frage des Fragenden.

Bianca: Das ist besonders für nicht-westliche Kulturen sehr wichtig. Ich bin selbst Filipina – viele wirklich wichtige Informationen sagen wir nicht direkt. Wenn Sie mit einer echten Person sprechen, müssen Sie ihr Gesicht beobachten und ihre Pausen verstehen, um zu wissen, was sie nicht ausspricht.

Wenn ich Leuten beibringe, KI-Tools besser zu nutzen, ermutige ich sie, Spracheingabe zu verwenden. So kann die KI viel feinere Unterschiede erfassen. Wenn Sie sprechen, bearbeiten Sie Ihre Gedanken nicht erst im Kopf – Sie sagen direkt, was Sie ausdrücken wollen. Das ist sehr ähnlich wie ein Interview: Mündliche Interviews – ob am Telefon oder persönlich – sind fast immer viel besser als schriftliche Interviews per E-Mail.

Denn bei E-Mail-Interviews werden die Antworten sowohl von uns als auch von den Befragten übermäßig bearbeitet. Die Befragten haben zu viel Zeit, ihre Antworten zu schmücken – also teilen sie oft nicht ihren vollständigen Denkprozess mit, oder sie sind einfach zu beschäftigt, um eine Stunde lang Ihre Fragen zu beantworten. Und ein wichtiger Punkt: Bei E-Mail-Interviews kann niemand in Echtzeit nachfragen, man kann den Gesprächspartner nicht bitten, seine vorherigen Aussagen auszuführen – man beantwortet nur die festgelegten Fragen nacheinander. Das ist genau das, was Journalisten sehr gut können. Deshalb ermutige ich alle, mündlich zu sprechen, damit das Modell einen vollständigeren Denkbereich bekommt. Als Model Designer oder Content Engineer können wir darauf aufbauend bessere Antworten gestalten.

Was ich an KI am meisten mag, ist, dass man erkennt: Die Geschwindigkeit des Denkens und die Geschwindigkeit des Handelns sind nicht dasselbe. Die Zeit, die man braucht, um an etwas zu denken, und die Zeit, um es tatsächlich umzusetzen, sind völlig verschieden. Anstatt der KI mehr Material zuzufüttern, empfehle ich Ihnen, zuerst alle Ihre Gedanken, ihren Hintergrund und warum Sie diese Gedanken haben, direkt der KI mitzuteilen. Das Modell hat vielleicht schon viel Training hinter sich – aber es braucht nur, dass Sie Ihre Absichten vollständig ausdrücken, damit es seine Fähigkeiten abrufen kann.

02 Die KI fehlt an Kontextfähigkeit – Medienfachleute springen ein

Faith: Was Bianca gesagt hat, ist: Wie man der KI den vollständigen Kontext aus dem eigenen Denken übermittelt. Aber Kontext existiert nicht nur im Kopf einer Person – er steckt auch in einer Sprache, in einer Kultur, in den stillen Absprachen, die sich eine Branche über Jahre aufbaut. Manchmal ist ein Satz wörtlich korrekt übersetzt, aber die Bedeutung stimmt nicht. Was können Inhaltsingenieure bei dem Wechsel zwischen mehreren Sprachen und Kulturen tun?

Tony: Seit dem Aufkommen der generativen KI haben alle KI-Labore eine neue Chance erkannt: Die Internationalisierung. Vor der KI konnten Sie, wenn Sie dasselbe Produkt oder denselben Inhalt in die ganze Welt verbreiten wollten, nur eines tun: Übersetzen. Zum Beispiel „Meryl Streep hat gerade einen Oscar gewonnen“ übersetzen Sie direkt in die entsprechende Sprache.

Aber mit der generativen KI gibt es eine neue Möglichkeit: Die KI soll Inhalte nicht nur in verschiedenen Sprachen darstellen, sondern sie auch an die lokale Sprache und den lokalen Kontext neu anpassen. Wenn wir dieselbe Information in den chinesischen Kontext stellen: Wer ist die chinesische Entsprechung von Meryl Streep? Was ist der chinesische Oscar? Das wären vielleicht Siqin Gaowa und der Golden Rooster Award oder Hundred Flowers Award. Das ist eine kreative, generative Neugestaltung.

Kann die KI das? Die KI hat die sprachlichen Fähigkeiten dazu – aber ihr fehlt das Wissen, wer die Entsprechung von Meryl Streep in verschiedenen Kontexten ist. Es ist sehr schwierig, das der KI beizubringen, weil man diese Übereinstimmungen sprach- und regionsübergreifend suchen muss. Man riskiert leicht Konflikte mit Fangemeinden oder andere kulturelle Konflikte, die sehr sensibel sind. Wer kann das am besten machen? Im Bereich der Unterhaltung sind das natürlich Unterhaltungsjournalisten – denn sie verfolgen täglich diese Nachrichten und haben ein sehr gutes, spezialisiertes Kleines Modell für die Unterhaltungsbranche. Wenn man sie das Training, die Anpassung und die Strategien machen lässt, ist das Ergebnis am besten.

Ein anderes Beispiel: Vor ein paar Tagen habe ich eine frühere Folge von „Silicon Valley 101“ gehört, in der Regisseur Lu Chuan sagte, dass die Gesichter der Menschen, die von inländischen Videogenerierungsmodellen erzeugt werden, alle den gängigen Schönheitsidealen von Männern und Frauen in China entsprechen. Das liegt offensichtlich daran, dass die Personen, die das Modell gestaltet haben, und die Trainingsdaten selbst voreingenommen sind. Aber wenn man jemanden einsetzt, der Filme versteht, der weiß, wie ein „Filmgesicht“ aussieht und wie man das Videomodell vielfältiger gestalten kann, verbessert sich die Qualität des Modells sehr schnell.

Die Interaktion zwischen Journalismus und KI ist nicht nur Frage und Antwort – sie kann auch journalistisches Schreiben sein. Ich habe festgestellt, dass viele Menschen keine guten Fragen an die KI stellen können, weil sie nicht verstehen, welcher Kontext in dieser Situation benötigt wird. Beim journalistischen Schreiben können Sie nicht einfach eine Tatsache aussprechen – Sie müssen immer einen Kontext herstellen: Wie ist das passiert? Was sind die Gründe und Folgen? Wenn Sie sich angewöhnt haben, zuerst den Kontext, die Gründe und Folgen einer Sache klar zu erklären, bevor Sie Ihre Kernfrage und Ihre Kernaussage stellen, ist diese Art des journalistischen Schreibens im Training und in der Interaktion mit KI extrem effektiv – es funktioniert jedes Mal.

Lassen Sie uns etwas Aktuelles besprechen. Auf der diesjährigen ICLR-Konferenz wurde eine Arbeit mit dem Best Paper Award ausgezeichnet, die sich mit der Verarbeitung von Mehrrunden-Gesprächen durch KI befasst – das ist normalerweise die Schwäche von KI. Die Arbeit hat sehr komplexe Anweisungen in kleine Stücke zerlegt und sie der KI nach und nach zugeführt – und festgestellt, dass die Qualität der Ergebnisse stark gesunken ist, im Vergleich dazu, wenn man der KI die gesamte komplexe Anweisung auf einmal gibt. Warum? Wenn die KI nicht genug Kontext hat, fängt sie an, auf Basis ihres eigenen Trainings zu ergänzen, ihre Antworten werden immer umständlicher – und wenn sie einmal einen Fehler macht, wird dieser Fehler wie ein Schneeball immer größer. Das ist unsere Erkenntnis über KI im Jahr 2026.