Das größte Risiko von KI in der Bildung ist nicht das Schummeln, sondern die Erosion des Lernens selbst.

Ein Foto eines Universitätslehrers, der in einem leeren Unterrichtsraum unterrichtet, wird gerade zu einer Metapher. Auf dem Podium steht eine Person, die Sitze sind leer – nicht wegen passiver Isolation, sondern weil die Studierenden möglicherweise gerade vor dem Bildschirm mit Chatbots sprechen. Die Welle der künstlichen Intelligenz fegt über die Hochschulbildung hinweg, aber das größte Risiko liegt nicht im wiederholt diskutierten Problem des Betrugs, sondern in der langsamen Erosion des Ökosystems des Lernens selbst.

Dies ist der Kernpunkt, den Neil Eickhoff, Professor für Philosophie an der University of Massachusetts Boston und Direktor des Zentrums für angewandte Ethik, gemeinsam mit Jacob Burley, Forscher am selben Zentrum, vorgebracht hat. In einem kürzlich veröffentlichten Weißbuch haben die beiden Wissenschaftler die zunehmende Verbreitung von künstlicher Intelligenz in der Hochschulbildung systematisch durchgearbeitet und gewarnt: Da Maschinen immer besser darin werden, „Wissenschaft zu betreiben“, stehen die Studierenden, Lehrkräfte und Forscher, von denen die Universitäten abhängen, sowie die Weitergabebeziehungen zwischen ihnen vor der Gefahr, ausgehöhlt zu werden.

Betrug ist nur die Spitze des Eisbergs

Die öffentliche Debatte über künstliche Intelligenz und Universitäten konzentriert sich überwiegend auf eine Frage: Werden Studierende Chatbots nutzen, um Hausarbeiten schreiben zu lassen? Können Lehrkräfte das erkennen? Sollte es umfassend verboten werden?

Nach Ansicht von Eickhoff und Burley sind diese Bedenken zwar verständlich, weichen aber schwerwiegend von den zentraleren Themen ab. Künstliche Intelligenz ist längst in alle Aspekte des institutionellen Lebens der Universitäten eingedrungen – von der Ressourcenverteilung, der Kennzeichnung von „risikoreichen“ Studierenden und der Optimierung von Lehrplanplänen bis hin zur Automatisierung alltäglicher verwaltungstechnischer Entscheidungen. Studierende nutzen sie, um Literatur zusammenzufassen und das Lernen zu unterstützen; Lehrkräfte nutzen sie, um Hausarbeiten zu vergeben und Lehrpläne zu erstellen; Forscher nutzen sie, um Code zu schreiben und Arbeiten zu durchsuchen, und stundenlange mühsame Arbeit auf wenige Minuten zu komprimieren.

Das Problem liegt nicht darin, dass einzelne Personen betrügen, sondern darin: Was hat die Universität noch einen unersetzlichen Sinn, wenn Maschinen immer besser in der Lage sind, Forschung und Lernen selbst zu bewältigen?

Drei Arten von künstlicher Intelligenz, drei Ebenen von Risiken

Um dieses Problem zu klären, teilen die beiden Autoren die aktuellen Anwendungen von künstlicher Intelligenz in der Hochschulbildung in drei Ebenen ein.

Ebene 1: Nicht-autonome Systeme

Zulassungsprüfung, Beschaffung, akademische Beratung, Risikobewertung – in diesen Bereichen ist Software für künstliche Intelligenz längst im Einsatz. Sie werden als „nicht-autonome Systeme“ bezeichnet, da sie zwar Aufgaben automatisch ausführen können, aber weiterhin von Menschen als Werkzeuge bedient werden müssen.

Die Probleme, die diese Ebene mit sich bringt, sind relativ traditionell: Privatsphäre der Studierenden, Datensicherheit, algorithmische Voreingenommenheit, Mangel an Transparenz. Wer hat Zugriff auf die Daten der Studierenden? Wie wird der „Risikowert“ erzeugt? Können die Systeme Ungleichheiten verschärfen und bestimmte Studierende als „Probleme“ behandeln, die verwaltet werden müssen?

Diese Probleme sind zwar wichtig, aber die Universitäten verfügen schließlich über Governance-Mechanismen wie Compliance-Büros und Ethikprüfungsausschüsse. Die wirklich schwierigen Probleme liegen noch vor uns.

Ebene 2: Hybride Systeme

Hybride Systeme umfassen KI-gestützte Chatbots für die Nachhilfe, personalisierte Feedback-Tools, automatische Schreibunterstützung und mehr. Sie basieren größtenteils auf generativer künstlicher Intelligenz, insbesondere auf großen Sprachmodellen. Menschen legen die allgemeinen Ziele fest, aber die Zwischenschritte, die das System zur Erreichung der Ziele unternimmt, sind oft nicht eindeutig festgelegt.

Genau hier finden Eickhoff und Burley den angemessenen Platz für die Diskussion über „Betrug“. Aber sie weisen sofort darauf hin, dass die Probleme, die von hybriden Systemen verursacht werden, weit darüber hinausgehen.

Das erste Problem ist die Transparenz. Die natürliche Sprachschnittstelle von Chatbots macht es schwer zu unterscheiden, ob man mit einer echten Person oder einer Maschine spricht. Wenn Studierende sich auf eine Prüfung vorbereiten, sollten sie wissen, ob sie einen Tutor oder einen Roboter konsultieren; wenn sie das Feedback zu ihrer Abschlussarbeit erhalten, müssen sie wissen, ob die Kommentare von dem Lehrer stammen. Wenn all dies verschwimmt, haben Studien der Universität Pittsburgh gezeigt, dass Studierende Unsicherheit, Angst und Misstrauen entwickeln.

Das zweite Problem ist die Rechenschaftspflicht und die Namensnennung. Wenn Lehrkräfte künstliche Intelligenz nutzen, um Hausarbeiten zu erstellen, und Studierende ebenfalls künstliche Intelligenz nutzen, um Hausarbeiten zu erledigen, wer bewertet dann? Was wird bewertet? Wenn das Feedback teilweise von einer Maschine erzeugt wird, wer ist verantwortlich, wenn es Studierende irreführt, ihre Motivation schwächt oder versteckte Voreingenommenheiten enthält? Wenn künstliche Intelligenz einen wesentlichen Beitrag zur Synthese oder zum Schreiben von Forschungsergebnissen leistet, müssen die Universitäten dringend klarere Regeln für die Namensnennung festlegen – nicht nur für Studierende, sondern auch für Lehrkräfte.

Das dritte Problem ist das kritischste: Die kognitive Entlastung. Künstliche Intelligenz erleichtert zwar die mühsame Arbeit, was an sich nicht schlecht ist. Aber sie kann die Nutzer auch dazu bringen, die Schritte zu überspringen, die Fähigkeiten wirklich fördern – Ideen entwickeln, Verwirrung überwinden, ungeschickte Entwürfe überarbeiten, eigene Fehler entdecken. Und genau das ist der Kern des Lernens.

Ebene 3: Autonom handelnde Agenten

Die bahnbrechendste Veränderung könnte von Systemen ausgehen, die eher wie „Agenten“ als wie „Helfer“ funktionieren. Obwohl wirklich autonome künstliche Intelligenz noch eine Vision ist, wird „ein in einer Maschine eingebauter Forscher“ – ein intelligentes System, das unabhängig Forschung betreiben kann – immer realistischer.

Im Forschungsbereich können bestimmte Roboterlabore bereits kontinuierlich betrieben werden, die meisten experimentellen Schritte automatisieren und sogar neue Experimente basierend auf früheren Ergebnissen autonom auswählen. Im Bildungsbereich wird erwartet, dass diese Werkzeuge „Zeit freisetzen“, sodass sich die Lehrkräfte auf Arbeiten mit höherem humanistischem Wert konzentrieren können, während sie den täglichen Unterricht effizienteren Systemen überlassen.

Auf den ersten Blick scheint dies ein großer Sprung nach vorne in der Produktivität zu sein. Aber Eickhoff und Burley geben eine tiefe Warnung aus: Universitäten sind keine Informationsfabriken, sondern Praxissysteme.

Universitäten sind auf einen stetigen Strom von Doktoranden und jungen Wissenschaftlern angewiesen – sie lernen durch die Teilnahme an Forschung und Lehre. Wenn autonome Systeme mehr von den „regulären“ Aufgaben übernehmen, die früher als Einstiegspunkte in die akademische Laufbahn dienten, können die Universitäten zwar weiterhin Kurse anbieten und Veröffentlichungen herausgeben, aber sie untergraben heimlich die Gelegenheitsstrukturen, die berufliche Fähigkeiten langfristig aufrechterhalten.

Dasselbe Prinzip gilt auch für Studierende im Grundstudium. Wenn künstliche Intelligenz Erklärungen, Entwürfe, Lösungen und Lernpläne nach Bedarf bereitstellen kann, ist es leicht, die schwierigsten Teile des Lernens an Maschinen zu übergeben. Für die Branche, die die Einführung von künstlicher Intelligenz an Universitäten vorantreibt, erscheint diese Art von Arbeit „ineffizient“, und es ist besser für Studierende, die Arbeit von Maschinen erledigen zu lassen.

Die kognitive Psychologie hat jedoch längst gezeigt: Die Intelligenz der Studierenden wächst gerade in dem Prozess, in dem sie entwerfen, überarbeiten, scheitern, es erneut versuchen, mit Verwirrung umgehen und schwache Argumente korrigieren. Das ist genau der Prozess, wie man das Lernen lernt.

Universität: Zertifikatsfabrik oder Praxisökosystem?

Basierend auf der obigen Analyse kommen Eickhoff und Burley zu dem Schluss: Das größte Risiko der Automatisierung der Hochschulbildung liegt nicht darin, dass Maschinen bestimmte konkrete Aufgaben ersetzen, sondern in der langfristigen Erosion des gesamten Praxisökosystems, das Lehre, Forschung und Lernen stützt.

Das führt zu einer beunruhigenden Frage: Was ist der Sinn der Existenz von Universitäten in der heutigen Zeit, in der Wissensarbeit zunehmend automatisiert wird?

Eine mögliche Antwort lautet: Universitäten sind in erster Linie Motoren zur Erzeugung von Zertifikaten und Wissen. Die Kernfrage ist das Ergebnis – schließen die Studierenden ab? Werden die Arbeiten veröffentlicht? Wenn autonome Systeme diese Ergebnisse effizienter erzeugen können, haben die Universitäten allen Grund, sie einzusetzen.

Aber eine andere Ansicht besagt, dass der Wert der Universitäten teilweise in ihrem Ökosystem selbst liegt. Dieses Modell bietet Anfängern Kanäle, um zu Experten zu werden, Strukturen der Mentorschaft, die Urteilskraft und Verantwortung fördern, sowie Bildungsdesigns, die aktive Erkundung anstelle von reinem Effizienzstreben fördern. Wichtig ist nicht nur, ob Wissen und Abschlüsse erzeugt werden, sondern wie sie erzeugt werden und welche Talente, Fähigkeiten und Gemeinschaften in diesem Prozess geformt werden.

Die beiden Autoren erklären ausdrücklich, dass sie der letzteren Auffassung zuneigen. Ihrer Meinung nach ist die Rolle der Universitäten nichts weniger als ein zuverlässiges Ökosystem, das menschliche Fachkenntnisse und Urteilskraft fördern kann.

Eine Frage, die beantwortet werden muss

In einer Zeit, in der die Wissensarbeit selbst zunehmend automatisiert wird, fordern Eickhoff und Burley jede Universität auf, sich selbst zu fragen: Welche Verantwortung trägt die Hochschulbildung gegenüber den Studierenden, den jungen Wissenschaftlern und der Gesellschaft, der sie dient?

Die Antworten auf diese Fragen werden nicht nur bestimmen, wie künstliche Intelligenz an Universitäten angewendet wird, sondern auch die zukünftige Entwicklung der modernen Universitäten prägen. Das Foto des Lehrers in dem leeren Unterrichtsraum ist vielleicht nicht nur eine Erinnerung an die Vergangenheit, sondern auch ein Warnsignal für die Zukunft.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Edu-Leitfaden“, Autor: Neil, mit Genehmigung von 36Kr veröffentlicht.