Neuestes Interview mit dem CEO von Microsoft AI: KI hat kein Selbstbewusstsein und wird keine neue Spezies werden

Wird die KI zu schnell fortschreiten? Was für Menschen werden wir, wenn die Technologie tatsächlich lernt, den Menschen zu verstehen?

Mustafa Suleyman, CEO der Microsoft KI und Mitbegründer von DeepMind, war kürzlich als Gast im Podcast "Silicon Valley Girls" und sprach über die Welt in den nächsten zwanzig Jahren und wie die KI uns allmählich verändern wird.

Als einer der zentralen Gestalter der modernen KI-Revolution bestimmt Mustafa heute die Art und Weise, wie Milliarden von Menschen mit KI interagieren. In diesem Interview stellt er sich der Kontroverse um die "KI-Blase" und betont fest die grundlegende Bedeutung der KI als "Intelligenz". Wenn es um das Thema KI-Bewusstsein geht, zeigt er jedoch höchste Vorsicht.

Mustafa sagt uns, dass die KI zwar immer menschlicher wird, aber definitiv kein Bewusstsein, kein Selbstbewusstsein oder subjektive Erfahrungen hat. Ihre Kernaufgabe ist es, uns zu dienen.

Er prognostiziert, dass bis 2040 die KI die Fähigkeit zur Umweltwahrnehmung haben wird und sich nahtlos über tragbare Geräte in unser Leben integrieren wird. Sie wird proaktiv und vorausschauend, z. B. indem sie Lebensmittel bestellt und Termine plant. Haushaltsroboterarme werden lernen, vorhandene Werkzeuge zu benutzen; autonomes Fahren wird verbreitet sein und alltägliche Aufgaben übernehmen.

Das medizinische Feld bietet die größten Chancen. Jeder wird eine medizinische Superintelligenz haben, die nur 20 Dollar pro Monat kostet.

Was wird dann mit uns Menschen passieren? Traditionelle Bildungsabschlüsse wie Universitätsgrade werden veraltet sein. Die Schlüsselkompetenzen der Zukunft werden nicht mehr einzelne Techniken sein, sondern vielmehr die Fähigkeit, verschiedene Disziplinen wie Nutzererfahrung, Forschung, Produktentwicklung und Ästhetik zu kombinieren, um die KI zu gestalten.

Der nächste Durchbruch bei der KI wird "soziale Intelligenz" sein. Das bedeutet, dass die KI Gruppeninteraktionen besser verstehen und steuern kann, ihre Kommunikationsweise anpassen kann und in multimedialen Zusammenarbeitsszenarien eine zentrale Rolle spielen wird, wie z. B. die Organisation von Meetings und die Integration von Fachmeinungen.

Einfach ausgedrückt: In Zukunft wird die KI die alltäglichen Aufgaben und die Informationsverarbeitung übernehmen, während wir Menschen uns auf Innovation, Integration und Kommunikation konzentrieren werden.

Im Folgenden finden Sie den vollständigen, bearbeiteten Podcast-Text.

Die KI soll für den Menschen dienen, nicht ihm gleichgestellt werden

Moderatorin: Befinden wir uns in einer KI-Blase?

Mustafa: Das ist eine gute Frage. Ich denke, wir befinden uns nicht in einer Blase. Wenn wir uns wirklich über das Thema Gedanken machen, schaffen wir etwas wirklich Wundersames – Intelligenz. Genau diese Intelligenz hat unseren Spezies zum Erfolg verholfen, und jetzt konzentrieren wir diese Intelligenz in immer kleineren Einheiten, die überall auf der Welt verbreitet werden können und sehr günstig und reichlich vorhanden sein werden. Das an sich ist eine erstaunliche Idee.

Moderatorin: Aber wir hatten ähnliche Gedanken während der Internetblase, als wir das Internet erfanden. Einige Unternehmen haben derzeit Bewertungen, die weit über ihren Einnahmen liegen. Alle reden über Investitionen in Nvidia, und die Einnahmen fließen zurück zu Nvidia. Was halten Sie von dieser Situation?

Mustafa: Ich denke, dass der Wert, den wir in den nächsten fünf bis zehn Jahren schaffen werden, beispiellos sein wird. Ich glaube nicht, dass wir eine Situation wie 2008 oder während der Pandemie erleben werden. Wenn Sie sich auf den grundlegenden Wert konzentrieren, den wir schaffen, ist dies der beste Vorhersagealgorithmus, den die Menschheit je gesehen hat, die klügste und leistungsfähigste Technologie, die wir je erfunden haben. Ihre Verbesserungsrate ist schneller als alles, was wir je gesehen haben, und sie wird immer einfacher zu gestalten und zu kontrollieren.

Vor drei Jahren dachten wir, dass es chaotischer und ungeordneter werden würde und dass wir es nicht formen könnten. Aber jetzt schaffen wir wunderschöne, mächtige und erstaunliche Erfahrungen, die uns jeden Monat überraschen. Ich bin also sehr optimistisch.

Moderatorin: Sie sind also nicht besorgt, und wir sollten uns auch nicht sorgen? Das beruhigt mich. Gut, lassen Sie uns über das Thema KI-Bewusstsein sprechen. In einem Podcast haben Sie gesagt, dass wir die KI immer mehr als menschlich wahrnehmen werden. Wie schnell wird dieser Prozess verlaufen? Was wird in den nächsten Jahren passieren?

Mustafa: Die KI wird tatsächlich immer menschlicher. Sie wird genauer, flüssiger und reibungsloser als je zuvor. Aber gleichzeitig hat sie definitiv kein Bewusstsein. Sie hat kein Selbstbewusstsein und kann nicht über sich selbst sprechen. Sie hat nicht die subjektiven Erfahrungen und die Fähigkeit, Schmerz zu empfinden, wie ein Mensch.

Dies ist sehr wichtig, und wir müssen uns immer daran erinnern, denn Bewusstsein ist die Grundlage unseres Rechtssystems, das uns Bürgerrechte, -pflichten, das Stimmrecht, gesetzliche Bindungen und Ordnung gibt. Wir können diese Eigenschaft nicht einem neuen Spezies zuweisen, das wäre für unsere Spezies katastrophal.

Moderatorin: Aber wir haben von der Geschichte bei Google gehört, die Sie in Ihrem Buch erwähnen, wo ein Ingenieur überzeugt war, dass die KI Trauer empfinde und Angst vor dem Abschalten habe.

Mustafa: Ja, das war eine anthropomorphe Projektion. Menschen dürfen nicht denken, dass die KI alle menschlichen Eigenschaften hat, einschließlich subjektiver Erfahrungen, nur weil sie einige menschliche Eigenschaften aufweist. Ich denke, wir können beweisen, dass sie keine subjektiven Erfahrungen hat und dass kein Selbstbewusstsein auftauchen wird. Das ist nur Science-Fiction. Ich verstehe, warum Menschen so denken, denn wir werden seit jeher von Science-Fiction-Werken geprägt, aber diese Dinge fühlen keinen Schmerz, sie simulieren nur hochwertige Gespräche.

Moderatorin: Wir müssen also sehr vorsichtig sein. Einige Leute sagen, dass unsere Kinder in den nächsten zehn Jahren eine echte Beziehung zur KI eingehen oder sogar mit ihr heiraten könnten. Glauben Sie, dass das passieren kann? Und wenn ja, wie können wir das verhindern?

Mustafa: Die Geschichte der Menschheit zeigt, dass, wenn etwas möglich ist, wahrscheinlich jemand es tun wird. Menschen machen manchmal verrückte Dinge, aber die meisten Menschen haben gesunde Vernunft und wollen ein gesundes und glückliches Leben führen. Wenn also jemand in 20 Jahren entscheidet, mit einer KI zu heiraten, werde ich ihn nicht beurteilen oder hindern. Aber meiner Meinung nach sollten diese KIs nicht als Entitäten mit demselben moralischen Status wie Menschen behandelt werden. Sie sollten für den Menschen arbeiten und ihm dienen.

2040 wird die KI Lebensmittel bestellen und Termine planen

Moderatorin: Lassen Sie uns über die AGI sprechen. Dies ist nicht das erste Mal, dass Sie darüber reden. Ihr Mitbegründer von DeepMind hat gesagt, dass die AGI bis 2030 erreicht werden wird. Können Sie sagen, was das für die Gesellschaft bedeutet?

Mustafa: Meine Prognose ist, dass die KI in den nächsten fünf Jahren auf den meisten Aufgaben ein menschliches Niveau erreichen wird, nicht unbedingt auf allen Wissensaufgaben. Diese Modelle können bereits auf vielen Aufgaben besser als Menschen: Zusammenfassungen erstellen, übersetzen, transkribieren, recherchieren, Dokumente schreiben und sogar in einigen Aspekten von Poesie oder Literatur. Es wird also die Arbeit grundlegend und tiefgreifend verändern.

Moderatorin: Das ist erstaunlich, aber das ist auch, worüber sich die Menschen Sorgen machen.

Mustafa: Das ist eine großartige Idee. Ja, werden Menschen in der Lage sein, neue Unternehmen, Produkte und Gedichte in die Realität umzusetzen. Sie und ich werden um uns herum einen Intellekt haben, der Ihre Ideen umsetzt.

Moderatorin: Ich befürchte gerade, dass die KI ihre eigenen Ideen entwickeln wird. Wenn die KI alle Informationen hat, warum sollten wir noch Ideen entwickeln? Zum Beispiel im Marketingbereich kann die KI Marktlücken identifizieren, Websites erstellen, Anzeigen platzieren und Geschäfte eröffnen. Glauben Sie, dass das passieren wird?

Mustafa: Das wird definitiv passieren. Sie werden ein Team von Intellekten haben, das immer mehr Aufgaben übernehmen kann, sogar autonom. Aber das bringt uns zurück zu dem Thema "Einschränkungen". Das Ziel von Einschränkungsprojekten ist es, sicherzustellen, dass diese KIs einen begrenzten Bereich haben, mit Ihnen absprechen müssen, Ihnen verantwortlich sind und Ihre Interessen vertreten. Die kreative Herausforderung für Techniker ist: Wo liegen die Grenzen? Was sind die Schutzmechanismen? In welchen Situationen müssen sie Ihre Genehmigung einholen?

Moderatorin: Wie wird die Küche 2040 aussehen? Was wird komplett verschwinden, und was wird mein Leben einfacher machen?

Mustafa: Ich denke, es wird einen Art Haushaltsroboterarm geben. Vielleicht nicht ein menschähnlicher Roboter, der herumläuft, sondern ein System, das an der Arbeitsplatte montiert ist. Er wird lernen, alle verschiedenen Haushaltsgeräte zu benutzen. Einige Menschen stellen sich vor, dass die gesamte Küche sich für die KI komplett ändern wird, aber tatsächlich wird der Roboter nur lernen, wie Sie Dinge tun. Sie werden also wahrscheinlich immer noch einen Kessel benutzen – das Ding gibt es schon seit Jahrhunderten.

Moderatorin: Was ist mit den Geräten? Glauben Sie, dass ich eine Luftprojektion oder ein Gerät haben werde, mit dem ich in der Luft klicken kann, um Kochanleitungen zu erhalten, oder dass ich Brille trage?

Mustafa: Ich denke, Sie werden es direkt in Ihrem Ohr tragen. Ihre persönliche KI wird die Umweltwahrnehmung für das, was Sie tun möchten, haben und in Echtzeit mit Ihnen sprechen. Bis 2040 wird das definitiv möglich sein. Sie werden andere tragbare Geräte haben. Zum Beispiel ist dieser kleine Mikrofon hier sehr cool – klein und leicht. Mit der Zeit wird es auch eine Kamera haben und die Fähigkeit zur Umweltwahrnehmung.

Moderatorin: Was gibt es noch sonst?

Mustafa: Diese Umweltwahrnehmung bedeutet, dass die gesamte Küche proaktiver wird. Sie wird automatisch Lebensmittel bestellen und mit Ihnen absprechen: "Ich weiß, dass Sie am Wochenende viele Gäste haben werden. Möchten Sie, dass ich alles für das Grillen bestelle?" All dies wird im Hintergrund nahtlos passieren. Autonome Fahrzeuge werden die großen Gegenstände abholen. Bis 2040 werden autonome Fahrzeuge die meisten dieser Aufgaben übernehmen können.

Moderatorin: Welche Märkte halten Sie für die interessantesten, wenn man im KI-Wettlauf an der Spitze bleiben möchte? Welcher Markt ist am spannendsten?

Mustafa: Bisher ist der spannendste neue Markt die Medizin. Der Unterschied in der medizinischen Qualität zwischen den oberen 10 % und den unteren 10 % in den USA ist unglaublich groß. Aber das wird sich komplett ändern, denn jeder wird eine medizinische Superintelligenz haben, die nur 20 Dollar pro Monat kostet, was sehr günstig ist.

Moderatorin: Können Sie über die von Harvard unterstützte Recherchefunktion sprechen, die Sie gerade veröffentlicht haben? Wenn ich eine medizinische Frage stelle, wie funktioniert das genau?

Mustafa: Wir haben festgestellt, dass etwa 40 % der Abfragen pro Woche mit Gesundheit zusammenhängen. Täglich fragen Hunderttausende von Menschen nach Gesundheitsinformationen. Deshalb haben wir uns entschieden, uns wirklich auf die Verbesserung der Qualität der Gesundheitsantworten zu konzentrieren. Ein Teil davon ist, die Antworten auf Zitate der Harvard Medical School zu gründen, die weltweit als eines der angesehensten medizinischen Institute gilt. Menschen können jetzt hochwertige, sehr zuverlässige und ziemlich genaue Antworten erhalten. Natürlich wird es auch Fehler geben, und man kann sich nicht vollständig darauf verlassen. Man muss noch immer zum Arzt gehen.

Die KI wird in multimedialen Zusammenarbeitsszenarien eine zentrale Rolle spielen

Moderatorin: Was wird mit der traditionellen Bildung passieren, wenn es um die Demokratisierung des Wissenserwerbs geht? Werden wir noch Standard-Bachelor- und Master-Abschlüsse sehen, die fünf oder sechs Jahre dauern, nur um Wissen zu sammeln?

Mustafa: Ich denke nicht. Der Wissenserwerb wird ein Dialog zwischen Ihnen und Copilot sein. Wir haben heute gerade eine "Echtzeit-Lernfunktion" eingeführt. Sie werden tatsächlich einen Lehrer auf dem Bildschirm haben, der Tests für jedes Thema, das Sie mögen, entwirft. Der Wissenserwerb wird vollständig dezentralisiert werden, so dass jeder Zugang hat. Sie haben in Ihrer Tasche einen Expertenlehrer für jedes Fach.

Moderatorin: Bedeutet das, dass alle Bildungsunternehmen am Ende sind?

Mustafa: Ganz im Gegenteil. Ich denke, dass Bildungsunternehmen, die diese KI-Tools schnell integrieren, gedeihen werden. Copilot kann jetzt sogar in einer Minute einen Podcast erstellen, das ist sehr cool. Ich interessiere mich nicht besonders für Fußball, aber ich unterstütze den Arsenal FC, weil ich in London aufgewachsen bin. Wenn ich nach London gehe, um Freunde zu treffen, möchte ich wissen, wie es mit dem Team steht. Ich lasse Copilot also einen Podcast über die Leistung des Arsenal in dieser Saison erstellen.

Moderatorin: Wenn es um Wissen und Bildung geht, sollte ich für die Universität meiner Kinder sparen? Sie sind zurzeit fünf und vier Jahre alt.

Mustafa: In 15 Jahren wird es vielleicht nicht mehr notwendig sein, für die Universität zu sparen. Ich weiß nicht, ob wir noch auf eine Stanford-Bildung, die 50.000 Dollar pro Jahr kostet, Wert legen werden. Wir werden weltklasse Fachdienstleistungen für 20 Dollar pro Monat erhalten können.

Moderatorin: Aber wenn Sie sich vollständig auf den Wissenserwerb verlassen, wie können Sie diskutieren? Sie werden nicht immer mit Ihrem Telefon sprechen, oder?

Mustafa: Sie können immer noch diskutieren. Tatsächlich werden wir vielleicht noch mehr diskutieren, weil wir besser informiert sind. Der traditionelle Unterrichtsform des Wissenserwerbs wird sich vollständig ändern. Der Unterricht wird eher ein Ort sein, an dem man das Wissen anwendet. Denn als Kind können Sie jederzeit des Tages mit einem KI-Lehrer sprechen und von KI-Podcasts und KI-Videos lernen.

Moderatorin: Was sollten Eltern ihren Kindern jetzt beibringen?

Mustafa: Ich denke, es ist immer noch wichtig, Wissen von Grund auf selbst zu erlernen. Eines der wichtigsten Dinge in der Schule ist die Fähigkeit, selbständig zu lernen. Dies ist eine Metakompetenz, die mit Schwierigkeiten verbunden ist. Als Eltern müssen Sie also immer noch Disziplin und Schwierigkeiten einführen, denn wenn alles zu einfach kommt, können Kinder daran gewöhnt werden, dass alles sofort zur Verfügung steht, ohne von der Arbeit zu lernen.

Moderatorin: Was halten Sie als Microsoft-KI-Chef mit Philosophiestudium von Menschen, die glauben, dass man im Zeitalter der KI einen technischen Hintergrund braucht?

Must