Willkommen in der Welt des „Fast genug“: Wenn KI in allen Bereichen meisterhaft ist, degeneriert die menschliche geistige Leistungsfähigkeit kollektiv?
Das Übersetzerbüro von 36Kr ist ein Team für Übersetzungen und Kompilationen, das sich auf Bereiche wie Technik, Wirtschaft, Berufsleben und Alltag konzentriert und vor allem neue Technologien, neue Ansichten und neue Trends aus dem Ausland vorstellt.
Anmerkung des Herausgebers: Wenn KI alle intellektuellen Tätigkeiten zu „mehr oder weniger gleich“ macht, bewegen wir uns kollektiv auf den Abgrund des Abbaus von Fähigkeiten zu? Der Artikel stammt aus einer Übersetzung.
Im Jahr 1924 verfasste der chinesische Gelehrte Hu Shi die Biographie von Herrn Mehr-oder-weniger. „Mehr oder weniger gleich“ entspricht grob „behelfsweise“, „akzeptabel“ oder „gut genug“. Nach der Darstellung von Hu Shi kam Herr Mehr-oder-weniger zwei Minuten zu spät zum Zug und wunderte sich stattdessen, warum der Zug unbedingt pünktlich abfahren musste. Er schrieb oft das Zeichen „zehn“ als „tausend“, weil seiner Meinung nach die beiden sich nur um einen kleinen Querstrich unterschieden. Als er schwer krank war, holte er den Tierarzt Dr. Wang statt den für Menschen zuständigen Dr. Wang, mit der Begründung, beide hätten den Familiennamen Wang, wozu sollte man sie so genau unterscheiden. Im Sterbebett murmelte er noch stockend, dass Lebende und Tote sich auch nicht viel voneinander unterschieden.
Die heutige KI ist bereits „gut genug“. In der mittleren und langfristigen Zukunft werden wir mit fast absoluter Sicherheit erleben, dass KI-Tools die Menschen in fast allen intellektuellen Tätigkeiten übertreffen. Im Moment scheint es nur eine Frage der Zeit zu sein, wann jede Branche ihren eigenen „Stockfish-Moment“ erlebt. Der sogenannte „Stockfish-Moment“ ist vergleichbar mit der Geburt des Top-Schach-Engines Stockfish: In einem bestimmten Bereich hat die KI ihre Spitzenleistung erreicht, menschliches Eingreifen kann das Ergebnis nicht verbessern, sondern verschlechtert nur die Qualität der Ausgabe. Die Menschen, die versuchen, sich ihr zu widersetzen, sind dazu verurteilt, gegen eine absolute Kraft zu verlieren, die sie weder verstehen noch erklären können. Derzeit haben wir diesen Schritt in den meisten Bereichen noch nicht erreicht. In vielen Branchen aber können Laien und sogar Fachleute nur einen Blick auf das von Prompt generierte Ergebnis werfen, mit den Schultern zucken und sagen „Na ja, es ist mehr oder weniger richtig“, und es dann freudig annehmen. Mit anderen Worten: Wir sind fest in einer „Welt des Mehr-oder-weniger“ gefangen – in dieser Welt untergraben und ersetzen „gut genaue“ KI-Ergebnisse zunehmend das menschliche Denken selbst.
Was bedeutet das für uns? Kurz gesagt: Die meisten Menschen werden wahrscheinlich ihr ganzes Leben lang die meisten intellektuellen Fähigkeiten nicht über das Anfängerniveau hinaus verfeinern. Stattdessen verlassen sie sich auf diese „gut genauen“ Tools und erstellen Halbfabrikate, die erfahrene Fachleute peinlich finden, aber weit über das hinausgehen, was Anfänger aus eigener Kraft erreichen können. In der Vergangenheit sind Fertigkeiten mit sehr hohen Zugangshürden wie die Sternnavigation oder der handwerkliche Bleisatz allmählich zurückgegangen und verschwunden, als die Technik „gut genaue Ersatzprodukte“ bereitstellte. Heute steht wir vor dem Bild: Alle geistigen Fähigkeiten entwickeln sich gleichzeitig zu einem gewissen Grad umfassend zurück.
Warum ist das wichtig?
Die hohe Hürde der professionellen Meisterschaft
Um die meisten Fähigkeiten auf Expertenniveau oder nahezu Expertenniveau zu verfeinern, braucht es Hunderte bis Tausende von Stunden beharrlicher Anstrengung. Der Prozess des Erlernens von Fähigkeiten ist mühsam, langwierig, voller Rückschläge und oft auch von Peinlichkeiten begleitet – weil Anfänger am Anfang noch weit von „mehr oder weniger richtig“ entfernt sind. Sie sind einfach „schlecht“, wirklich deutlich schlechter.
Auch mit großer Intelligenz kann man diesen Prozess nicht umgehen. Menschen mit hoher fließender Intelligenz können in neu definierten, noch zu erforschenden Bereichen schnell neue Ideen entwickeln. Aber die körperlichen und geistigen Grenzen des Menschen setzen eine unüberwindbare Grenze für die Geschwindigkeit des Erlernens von Fähigkeiten. Wenn viele Menschen ernsthaft nach der perfekten Beherrschung einer Fähigkeit streben, werden diese Grenzen offensichtlich. Ein Bodybuilder kann nicht achtmal schneller Fortschritte machen, wenn er täglich acht Stunden Eisen hebt, als jemand, der nur eine Stunde trainiert. Ebenso muss sich die Verinnerlichung von Fähigkeiten in unzähligen geistigen Bereichen, egal wie effizient du arbeitest, durch lange Zeit und wiederholte bewusste Übung vollziehen.
Max Deutsch, der sich selbst als „Geek-Lernfanatiker“ bezeichnet, hat öffentlich eine Reihe von Versuchen unternommen, Fähigkeiten im Schnelldurchgang zu erlernen. Sein ultimatives Ziel war es, in nur einem Monat Training so schachspielen zu lernen wie ein Computer, um den damals weltbesten Schachmeister Magnus Carlsen herauszufordern. Diese Schnellmethode funktioniert tatsächlich in Bereichen, in denen fast niemand mehr als ein paar Stunden investiert oder Laien die Feinheiten nicht erkennen können – zum Beispiel eine Zaubertechnik üben, um sie vor Passanten vorzuführen, eine Fremdsprache sprechen, ohne dass die Zuhörer ein Wort verstehen, oder oberflächliches Wissen über ein seltenes Thema in den Sozialwissenschaften lernen, um knapp mit Top-Gelehrten ins Gespräch zu kommen. Aber Schach gehört nicht dazu. In diesem Bereich müssen selbst Wunderkinder, die immer wieder Altersrekorde brechen, Tausende von Stunden praktische Erfahrung über Jahre hinweg investieren, um auf der Bühne bestehen zu können. In diesem Bereich reicht die tiefste Erkenntnis, die ein begabter Amateur mit aller Anstrengung entwickelt, nicht an das Niveau heran, das ein Großmeister mit einem flüchtigen Blick auf das Schachbrett erfasst. Ein Monat vergeht schnell. Deutsch spielte wie geplant gegen Carlsen und verlor kläglich.
Ähnlich zielen Tools wie Math Academy darauf ab, den Lernpfad für Mathematik nach den Prinzipien der Kognitionswissenschaft zu optimieren und zu einer Art „geistigem Fitnessstudio“ zu machen. Solche Tools können den Schülern helfen, mathematische Konzepte vier- oder sogar zehnmal schneller zu beherrschen als im traditionellen Unterricht. Aber Mathematik ist eine umfassende und gut erforschte Disziplin mit Tausenden von spezifischen Teilfähigkeiten. Diese Fähigkeiten bauen oft aufeinander auf und erfordern, dass grundlegende Fähigkeiten zu einer „unbewussten automatischen Reaktion“ werden – du solltest nicht erst nachdenken, um die Lösung zu finden, sondern sie instinktiv in deinem Gehirn verankern, um sie jederzeit abzurufen und kreativ anzuwenden. Das bedeutet: Selbst mit den fortschrittlichsten Lehrmitteln kannst du nicht das gesamte mathematische System in ein oder zwei Monaten im Schnelldurchgang beherrschen. Die Anhäufung von professioneller Meisterschaft ist nie ohne die Prüfung durch Zeit möglich.
Die KI hat diesen Prozess nicht beschleunigt, sondern direkt „kurzgeschlossen“. Je weniger Denken und Anstrengung du aufwendest, um ein „akzeptables“ Ergebnis zu erzielen, desto unwahrscheinlicher ist es, dass du die grundlegende Fähigkeit entwickelst, dieses Ergebnis unabhängig zu erzielen. Natürlich bekommst du ein falsches Gefühl der Vertrautheit, so als ob du nach dem Anschauen von vielen populärwissenschaftlichen Videos auf YouTube glaubst, dass du es wirklich verstehst. Aber was das echte vollständige Verständnis oder die instinktive Muskelgedächtnis angeht? Das ist absolut unmöglich.
Die Rolle von „mehr oder weniger guter“ KI
Bei der Erstellung von Illustrationen für Artikel habe ich trotz des Widerstands einiger Leser fast sofort den Handel mit Herrn Mehr-oder-weniger akzeptiert. Zumindest in diesem Bereich bin ich ein Pionier: Seit diese „magische Zeichenmaschine“ die ersten Bilder erzeugt hat, sehe ich sie als Wunder an. Sie ist das Tor zu traumhaften Bildern, extrahiert surrealistische Fragmente aus der gesamten menschlichen Kreativität und bildet die Vorstellungen in meinem Kopf ab. Ich habe die KI-Malerei von Anfang an geliebt, auch wenn die heutigen Modelle immer noch von dem banalen Plastiklicht, leuchtenden Partikeln und seelenlosen unternehmensartigen Schrottbildern geplagt werden, die mir eine Gänsehaut bereiten. Aber ich weiß genau, welchen Preis ich dafür zahle: Solange ich KI weiter verwende, wird meine künstlerische Meisterschaft für immer auf einem sehr niedrigen Niveau bleiben. Ich werde wahrscheinlich nie einen einzigartigen persönlichen Malstil entwickeln und auch nicht die technische Kompetenz beherrschen, die diesen Stil unterstützt. Wenn ich das KI-Tool wegnehme, werden die meisten meiner visuellen künstlerischen Ergebnisse verschwinden. Das bedeutet nicht, dass die Verwendung von KI keine Fähigkeiten erfordert – so wie ein Filmregisseur, der sich auf ein Team von Hunderten stützt, um seine persönlichen Vorstellungen umzusetzen, auch Geschick braucht. Aber das ist etwas völlig anderes als die Fertigkeiten, die echte Künstler verfeinern. Die Existenz von „Mehr-oder-weniger-Kunst“ bedeutet, dass jeder, der wie ich nach Abkürzungen sucht, nie wirklich ein Künstler werden kann.
Letztendlich: Wenn wir nur gelegentlich ein paar Illustrationen für Essays hinzufügen wollen, wozu sollten wir Tausende von Stunden damit verbringen, unseren persönlichen Stil zu erforschen und uns in einer strengen, engen technischen Disziplin abzuquälen?
Du bist natürlich viel besser. Du bist bereit, diese Tausenden von Stunden zu investieren. Vielleicht hast du es schon getan und gehörst zu der Gruppe, die ich bewundere und beneide – sie schaffen atemberaubende visuelle Kunst so selbstverständlich wie Atmen, bereichern sich selbst und erhellen die Welt. Hoffentlich ist das so. Kunst ist eine so heilige Suche, dass man sie nicht vollständig an Maschinen übergeben darf.
Aber kannst du in jedem Bereich so rein bleiben?
Oder stellst du bei den Randfähigkeiten, die nicht zu deinen Lieblingsbereichen gehören, aber in deiner täglichen Arbeit unverzichtbar sind, fest, dass du dich auch in der „Welt des Mehr-oder-weniger“ befindest? Sogar diese Fähigkeiten sind keine Randfähigkeiten: Vielleicht bist du wie viele gute Programmierer, die unzählige Jahre damit verbracht haben, ausgezeichnete Fähigkeiten zu entwickeln, und jetzt feststellen: Warum sollte ich mir die Mühe machen, Code Zeile für Zeile zu schreiben, wenn ich Codex einfach anweisen kann, die Arbeit für mich zu erledigen?
Ich denke, dass das Programmieren für mich heute vollständig tot ist. Ich wollte nur eine kleine Änderung vornehmen, aber ich fand es zu mühsam, überhaupt Cursor zu öffnen, und habe die Sache direkt Claude überlassen. Plötzlich wurde mir klar, dass ich wahrscheinlich für den Rest meines Lebens nie wieder selbst Code schreiben werde. Das Gefühl ist wirklich seltsam.
Oder du stehst vor einer strengen Frist und einem Kunden, der dringend Ergebnisse braucht. Nach objektiver Überlegung stellst du fest, dass ein „mehr oder weniger fertiges“ KI-Werk die Anforderungen des Kunden besser erfüllt als ein schlechtes handgemachtes Werk, bei dem du den Kunden als Versuchsperson für deine Übungen nutzt. Heutzutage kann fast jeder Angestellte ausreichende Gründe finden, die Arbeit, die er früher selbst erledigt hat, an KI auszulagern. Mit anderen Worten: Sie akzeptieren den Preis des Abbaus ihrer eigenen Fähigkeiten, um im Moment ein ansehnlicheres Ergebnis zu erzielen.
Das heißt nicht, dass die effiziente Steuerung von KI keine Fähigkeiten erfordert – auch wenn die Anforderungen an Menschen immer niedriger werden, je leistungsfähiger die KI wird. Ich werde auch nicht behaupten, dass wir immer neue intellektuelle Fähigkeiten lernen müssen, um sie zu steuern, nur um die KI zu verteidigen. Meine Freunde, die oft mit KI malen, nennen sich selbst „Regisseure“, und ich finde diese Bezeichnung sehr passend: Die Fähigkeiten, die für die heutige KI benötigt werden, gehören im Wesentlichen zum Bereich Management und Koordination. Aber mein Kernpunkt ist: Die Zahl der Anhänger von vielen Fertigkeiten, die Tausende von Stunden sorgfältiger Verfeinerung erfordern, wird schließlich stark abnehmen. Mit dem rasanten Wachstum der KI-Fähigkeiten wird das menschliche Potenzial in vielen Bereichen unweigerlich schrumpfen und versiegen.
Wie wird „mehr oder weniger gute“ KI uns umgestalten
Die Zeitschrift The Economist hat kürzlich ein Diagramm veröffentlicht, das auf einer Umfrage zur Anwendung von KI an chinesischen Schulen basiert und eine der schockierendsten Folgen der „Welt des Mehr-oder-weniger“ lebendig darstellt: In vielen Klassen besteht eine negative Korrelation zwischen den Noten der Hausaufgaben und den Prüfungsnoten. Das heißt: Nach einem ganzen Semester schneiden die Schüler, deren Hausaufgaben besonders gut aussehen, bei der Abschlussprüfung oft schlechter ab. Schüler waren schon immer keine Gruppe, die für Fleiß und Begeisterung für Hausaufgaben bekannt ist – sie lassen schon lange Maschinen für sich arbeiten. Und bei diesen täglichen Schularbeiten ist das einzig wirklich wertvolle Ergebnis eigentlich die Verinnerlichung von Wissen und die persönliche Weiterentwicklung, aber genau das vermeiden sie.
Du kannst die Schuld vollständig den Schülern geben, und natürlich sind sie zu einem gewissen Grad selbst dafür verantwortlich. Wenn die Menschen sich die Zeit nehmen, die Kursinhalte zu bearbeiten, für die sie Tausende von Studiengebühren gezahlt haben, werden sie davon stark profitieren. Aber aus der Perspektive der Systemgestaltung sollten wir einen höheren Blickwinkel haben. Menschen sind von Natur aus Optimierer, die nach Erleichterung streben. Wir haben unzählige Systeme geschaffen, um die kurzfristige Bequemlichkeit leichter mit langfristigen Zielen in Einklang zu bringen. Wenn nur ein Schüler in einer Klasse schummelt, ist das das Problem dieses Schülers. Aber wie in einem Kurs an der Brown University, der von Inside Higher Ed berichtet wurde: Wenn 56 von 59 Schülern schummeln, ist offensichtlich das gesamte Bewertungssystem fehlerhaft.
Unser Newsletter akzeptiert seit langem Beiträge von der Öffentlichkeit. Eine öffentliche E-Mail-Adresse für Beiträge ist immer wie das Öffnen einer Blindbox: Sie ist ständig voller Spam-Mails, in denen nach dem Preis für Werbeartikel über Kryptowährung oder Cannabidiol (CBD) gefragt wird. Aber kürzlich sind wir auf ein neues Phänomen gestoßen: Pädagogen mit glänzenden Titeln senden offen unter ihrem echten Namen KI-generierte Manuskripte oder Themenvorschläge, die auf den ersten Blick gefälscht sind und voller Fehler stecken. Grundsätzlich lehne ich KI-Schreiben nicht ab: Ich habe schon vor der Einführung der ersten Version von ChatGPT mit der KI-Generierung experimentiert, habe schon einmal vollständige Gespräche mit KI in dieser Publikation veröffentlicht und habe sogar mehr als 6 Millionen Wörter meiner eigenen Manuskripte sortiert, um eines Tages ein eigenes Modell zu trainieren, das zu meinem Stil passt. Mein Problem ist nicht, dass sie KI verwendet haben, und auch nicht nur, dass sie es nicht offengelegt haben – sondern dass diese Beiträge oft inhaltsleer sind und voller formalisierter, ärgerlicher sprachlicher Eigenheiten stecken. Das ist kein guter Artikel. Leider ist er aber bereits „gut genug“, dass angesehene Bildungsexperten sich freiwillig an Verlage wenden und ihren Namen mit diesem nährstofflosen Textbrei verbinden.
An jedem Ort, an dem Textausdruck benötigt wird, ist diese Szene nur ein kleines Beispiel. Wie der Bericht des Pew Research Center zeigt, hat mehr als