Was kann die Philosophie im Zeitalter der künstlichen Intelligenz leisten?

Wenn die Allgemeine Künstliche Intelligenz unmittelbar bevorsteht, können Technologieunternehmen die ethischen, politischen und gesellschaftlichen Folgen, die sie mit sich bringt, noch ernst nehmen?

Im Jahr 2017 erhielt der 33-jährige politische Philosoph Iason Gabriel von einem Freund den Rat, sich bei DeepMind zu bewerben – dem Londoner Tochterunternehmen von Google, in dem der Großteil der KI-Forschung des Konzerns konzentriert ist. Auf den ersten Blick erschien dieser Rat jedoch wenig plausibel.

Gabriel ist ein aufgeschlossener, aber äußerst fokussierter junger Wissenschaftler, der sich für Vipassana-Meditation begeistert und – wie sein Bruder es ausdrückt – „mit fast übersteigerter Leidenschaft“ dem Klettern frönt. Als ältester Sohn eines griechischen Professors für Managementlehre und einer britischen Dokumentarfilmerin pendelte er lange Zeit zwischen der akademischen Lehre und Tätigkeiten im Bereich der internationalen Entwicklung. Während seiner Zeit als Stipendiat am St. John’s College der Universität Oxford lehrte Gabriel politische Theorie und schrieb Arbeiten über die moralischen Verzerrungen in der „Yuppie-Ethik“ sowie die ethischen Blindstellen des effektiven Altruismus. Wenn er nicht in Oxford war, arbeitete er für das Entwicklungsprogramm der Vereinten Nationen (UNDP) im Krisenmanagement im Sudan und im Libanon.

Gleichzeitig war DeepMind bereits eines der weltweit führenden Forschungslabore für künstliche Intelligenz. Das lag zum einen an der finanziellen und rechnerischen Unterstützung durch Google – das Unternehmen hatte DeepMind 2014 für 650 Millionen US-Dollar übernommen – und zum anderen daran, dass DeepMind bewiesen hatte, diese Ressourcen in erstaunlichem Maße nutzbar zu machen. 2016 besiegte das von DeepMind entwickelte AlphaGo den südkoreanischen Go-Meister Lee Sedol in Seoul mit 4:1 in einem Wettkampf über fünf Partien. Dieser Sieg war von großer Bedeutung, unter anderem weil Go für seine atemberaubende Komplexität bekannt ist – die Anzahl möglicher Spielstellungen übersteigt sogar die Gesamtzahl der Atome im Universum.

Aufgrund des großen Aufsehens, das AlphaGo auslöste, wusste Gabriel natürlich von der Existenz von DeepMind. Dennoch fand er den Rat seines Freundes verwirrend: Warum sollte ein Unternehmen, das Go-Roboter baut, einen Ethiker benötigen? Bald erfuhr er die Antwort: Das eigentliche Ziel des Unternehmens reicht weit über Go hinaus. DeepMind wurde 2010 von Demis Hassabis, Shane Legg und Mustafa Suleyman gegründet. Sie glaubten, dass die Menschheit eines Tages die Allgemeine Künstliche Intelligenz (AGI) entwickeln würde – also Computersysteme, die die kognitiven Fähigkeiten des Menschen erreichen oder sogar übertreffen. Als sie das Unternehmen gründeten, war diese Ansicht nicht populär: Zu dieser Zeit galt es für viele als unrealistisch und unseriös, über künstliche Intelligenz zu sprechen – ganz zu schweigen von AGI. Doch Hassabis, Legg und Suleyman ließen sich nicht davon abbringen. Wie sie oft sagten, war ihr Ziel: „Intelligenz lösen, dann alles andere lösen.“

Für die drei Gründer von DeepMind war es offensichtlich, dass ein solch bahnbrechender Durchbruch weitreichende Folgen haben würde. 1999, kurz nach seinem Universitätsabschluss, prognostizierte Legg, dass AGI zwischen 2025 und 2028 entstehen würde. Obwohl diese Prognose in den folgenden Jahrzehnten immer wieder verspottet wurde, hielt er an seiner Einschätzung fest. In seiner 2008 abgeschlossenen Doktorarbeit schrieb er: Die Gesellschaft darf nicht erst dann anfangen, über die möglichen Auswirkungen von AGI nachzudenken, wenn sie technisch machbar ist: „Wir müssen diese Probleme jetzt ernsthaft erforschen.“ Kürzlich erklärte Legg mir, warum das Unternehmen Menschen wie Gabriel brauche, sei „völlig offensichtlich“: „Wenn du nur ein kleines Gerät baust, das die Welt höchstwahrscheinlich nicht verändert, brauchst du vielleicht keinen Moralphilosophen. Aber wenn du AGI ernst nimmst, kann ich mir nicht vorstellen, warum diese Probleme unwichtig sein sollten.“

Nach seinem Einstieg bei DeepMind im Jahr 2017 war Gabriel zeitweise der einzige Philosoph in einem führenden KI-Forschungslabor, der noch aktiv forschte. Er stellte schnell fest: In einer Branche, die fast ausschließlich von Ingenieuren dominiert wird, gab ihm sein Hintergrund in Moralphilosophie und politischer Theorie eine einzigartige Perspektive. Im Laufe des letzten Jahrzehnts baute er schrittweise einen umfangreichen Forschungskorpus auf, der nicht nur die ethischen Herausforderungen verfolgt, die durch den unerwarteten Erfolg großer Sprachmodelle entstanden sind, sondern viele dieser Probleme sogar im Voraus vorhergesagt hat.

Demis Hassabis

Wie Dylan Hadfield-Menell, Leiter der Arbeitsgruppe für algorithmische Ausrichtung (Algorithmic Alignment Group) am MIT, mir sagte, war Gabriel „zur richtigen Zeit die richtige Person. Als das Fachgebiet reifte und in den Mainstream vordrang, fand er einen Weg, den Horizont zu erweitern, ohne die bereits geleistete Arbeit anzugreifen oder abzuwerten.“

Im weiteren Sinne hat Gabriel sich nachdrücklich für die Ansicht eingesetzt: Die aktuelle Welle der KI-Entwicklung erfordert nicht nur eine neue technische Sprache, sondern auch ein Überdenken der Beziehung zwischen Mensch und Technik – und sogar der Beziehung des Menschen zu sich selbst. In den letzten Monaten führten wir mehrere lange Gespräche. Bei unserem letzten Treffen sagte er: „Ich kann jedes technische Produkt nehmen und fragen: Ist es klug? Ist es gerecht? Ist es fürsorglich? Die Antwort ist immer nein. Aber wenn es um KI geht, lässt sich die Tiefe dieser Fragen – einschließlich der Frage, welche Ethik überhaupt dafür gelten soll – kaum übertreiben. Manchmal habe ich das Gefühl, dass wir es kaum schaffen, KI wirklich direkt anzusehen. Es gibt ein tiefes Geheimnis: Was ist dieses Ding eigentlich? Wir können natürlich eine sehr wörtliche Antwort geben, aber diese wörtliche Antwort liefert nicht automatisch eine moralische Antwort.“

Als Gabriel zu DeepMind stieß, hatten sich um die gesellschaftlichen und ethischen Auswirkungen von KI im Großen und Ganzen zwei getrennte, oft gegensätzliche Denkrichtungen herausgebildet. Diese beiden Strömungen werden üblicherweise als „KI-Sicherheit“ und „KI-Ethik“ kategorisiert. Ihr grundlegender Unterschied liegt in der unterschiedlichen Einschätzung der technischen Machbarkeit von KI.

Wie die Gründer von DeepMind vertritt das Lager der KI-Sicherheit die Ansicht, dass menschenähnliche Intelligenz in Maschinen nicht nur möglich, sondern auch unmittelbar bevorsteht. Ihrer Meinung nach ist es das Dringendste, sicherzustellen, dass KI-Systeme nicht außer Kontrolle geraten. Eine ihrer ideellen Wurzeln liegt in einem Aufsatz des US-Mathematikers und Informatikers Norbert Wiener aus dem Jahr 1960. Wiener argumentierte, dass Menschen und Computer „im Wesentlichen einander fremd“ sind. Da Maschinen viel schneller arbeiten als Menschen, sei „es am besten, wenn wir sicher sein können, dass die Ziele, die wir in die Maschine eingeben, wirklich die sind, die wir wollen – und nicht nur eine farbige Nachahmung, die ihnen ähnelt.“

Diese Herausforderung, die Wiener beschrieb – Maschinen dazu zu bringen, so zu handeln, wie es ihre Nutzer wirklich wünschen – wurde später als „Ausrichtungsproblem“ bezeichnet. In gewisser Weise ist Ausrichtung ein Problem, das jede Technik betrifft, aber wie Wiener erkannte, ist es besonders dringend für Maschinen, die dazu entwickelt sind, selbstständig zu handeln. Für KI-Systeme, die durch mathematische Optimierung ein Belohnungssignal maximieren, ist dieses Problem besonders heikel – diese Trainingsmethode wird als Verstärkendes Lernen bezeichnet.

Ein klassisches Beispiel stammt aus dem Jahr 2016. Damals beschrieben Dario Amodei und Jack Clark – die später gemeinsam Anthropic gründeten, damals aber noch bei OpenAI arbeiteten – ein KI-System, das ein Videospiel mit Rennbooten spielen sollte. Die Entwickler wollten, dass die KI das Spiel gewinnt, also legten sie als Ziel fest, die Punktzahl zu maximieren. Doch anstatt wie beabsichtigt die einzelnen Level des Spiels zu durchlaufen, drehte die KI ständig Kreise in einer Lagune, wo es drei immer wieder auftauchende Ziele gab, mit denen sie ständig Punkte sammeln und so mühelos eine hohe Punktzahl erreichen konnte. Die Ursache lag, wie Wiener vorhergesagt hatte, darin: Das Ziel der Maschine war nicht vollständig mit dem übereinstimmend, was die Entwickler eigentlich erreichen wollten.

Man hat sich auch schwerwiegendere Varianten dieses Problems vorgestellt. In dem Forum LessWrong, das vom autodidaktischen KI-Forscher Eliezer Yudkowsky gegründet wurde, sowie in Werken wie Nick Bostroms 2014 erschienenem Buch „Superintelligenz“ wurde die Vorstellung entwickelt: Die Explosion der Maschinenintelligenz könnte schließlich eine unkontrollierbare KI hervorbringen. Wenn ein solches Wesen auch nur eine geringfügige Abweichung von seinen Zielen hätte, wären die Folgen katastrophal. Bostrom nannte ein fiktives Beispiel: Eine superintelligente KI soll die Riemann-Hypothese untersuchen – eines der wichtigsten ungelösten Probleme der Mathematik. Um diese Aufgabe zu erfüllen, beschließt sie schließlich, das gesamte Sonnensystem neu anzuordnen, „einschließlich der Atome in den Körpern aller Menschen, die sich je um die Antwort auf diese Frage gekümmert haben“, um die Ressourcen zu maximieren, die sie zur Lösung des Problems benötigt.

Bostrom behauptete, dass die Ausrichtung superintelligenter KI „wahrscheinlich die wichtigste und schwierigste Herausforderung ist, der sich die Menschheit je gegenübersah“. Diese Ansicht fand großen Anklang bei den technologischen Futurologen im Silicon Valley. (Sowohl Sam Altman als auch Elon Musk haben das Buch „Superintelligenz“ öffentlich empfohlen.) Gleichzeitig vertrat eine kleine, aber lautstarke Gruppe von Anhängern des effektiven Altruismus und selbsternannter „Rationalisten“ ähnliche Ansichten. Sie glaubten, dass Statistik das richtige Maß für Moral ist. Viele in dieser Gruppe vertraten eine „Langfristismus“ genannte Position, bei der sie das Wohl künftiger Generationen von Menschen – selbst von Tausenden von Jahren später – in ihre moralischen Berechnungen einbeziehen. Für sie ist das eine einfache Rechnung: Selbst wenn die Wahrscheinlichkeit einer Katastrophe, die die Menschheit auslöscht, sehr gering ist, ist ihre Bedeutung höher als die jedes wahrscheinlichere, aber weniger zerstörerische Risikos.

In deutlichem Gegensatz zum KI-Sicherheitslager stehen Wissenschaftler und Techniker, die zur Denkrichtung der KI-Ethik gehören. Sie glauben, dass die Sorge um außer Kontrolle geratene Roboter und existenzielle Risiken nur von realen Schäden ablenkt. Beeinflusst von Vertretern der kritischen Rassentheorie wie Kimberlé Crenshaw und politischen Theoretikern wie Langdon Winner – der früher als Rockmusikkritiker tätig war – betrachten sie Gerechtigkeit, Rechenschaftspflicht und Transparenz als Kernprinzipien und behaupten, dass sich die durch Technik verursachten Risiken nicht nur mit technischen Mitteln lösen lassen. Ihrer Meinung nach braucht es vielmehr Lösungen auf gesellschaftlicher, kultureller und politischer Ebene.

Eines der zentralen Anliegen dieser zweiten Denkrichtung ist der algorithmische Vorurteil, wie er beispielsweise in Gesichtserkennungs- und prädiktiver Polizeisoftware zutage tritt. 2017 leitete Joy Buolamwini vom MIT Media Lab das Projekt „Gender Shades“, das nachwies, dass kommerzielle Gesichtserkennungssoftware weit verbreitete systematische Vorurteile aufweist. „Automatisierte Systeme sind nicht von Natur aus neutral“, schrieb Buolamwini in der Projektbeschreibung, „sie spiegeln die Prioritäten, Vorlieben und Vorurteile derjenigen wider, die die KI gestalten können – also einen Blick, der in das System einprogrammiert ist.“

Joy Buolamwini

Die Differenzen zwischen dem Sicherheitslager und dem Ethiklager sind oft deutlich. „Du triffst Leute, die dich fragen: ‚Sorgst du dich um kurzfristige Probleme oder um langfristige?‘“, sagt Hadfield-Menell. „Die sogenannten ‚langfristigen Probleme‘ sind ein Euphemismus für ‚existenzielle Risiken‘ – im Grunde geht es um die Sorge vor Systemen, die die menschlichen Fähigkeiten übertreffen. Und ‚kurzfristige Probleme‘ bedeuten, dass du dir Sorgen um voreingenommene Gesichtserkennung machst und um all die Dinge, die im Bereich der KI-Ethik erforscht werden.“

Er weist auch darauf hin, dass viele Konflikte zwischen den beiden Lagern weniger aus ideellen Differenzen stammen als vielmehr aus der Zugehörigkeit zu unterschiedlichen sozialen Gruppen. „Man kann KI-Sicherheit nicht von der Tatsache trennen, dass sie aus dem Umfeld von LessWrong und ähnlichen Gemeinschaften stammt – Gemeinschaften, die viele der eher ‚aufgeklärten‘ Wissenschaftler offen verachten, wenn man das so nennen darf. Gleichzeitig blicken die Anhänger von Gerechtigkeit, Rechenschaftspflicht und Transparenz offen auf diejenigen herab, die sich Sorgen um fortgeschrittene KI machen. Die Diskussionen über diese Themen fanden auf LessWrong statt, nicht auf akademischen Konferenzen – denn wenn du als akademischer Forscher im Jahr 2010 darüber redetest, dass KI-Systeme klüger als Menschen werden und katastrophale Fehlausrichtungen erleiden, hielten dich die anderen für verrückt und glaubten, du verstehst nichts von dieser Technik.“

Gabriels erste wichtige Arbeit bei DeepMind war ein Aufsatz aus dem Jahr 2020, der versuchte, die Kluft zwischen diesen beiden Lagern zu überbrücken. Der Aufsatz nimmt das Ausrichtungsproblem ernst, betont aber gleichzeitig, dass Ausrichtung nicht nur eine technische Herausforderung ist, sondern tiefgreifende ethische und politische Fragen aufwirft. Gabriel weist darauf hin, dass es zwar schon schwierig genug ist, eine Maschine dazu zu bringen, nach einem bestimmten Satz von Werten zu handeln – aber