Kevin Kelly: Wie kann man die Menschlichkeit bewahren im "technologischen Marsch der Menschheit"?

Fast jede Woche taucht ein neues KI-Tool auf – schneller, intelligenter und scheinbar auch noch „menschlicher“. Manager testen es in strategischen Sitzungen, Gründer erzählen davon in Pitchings, und Kreative fragen sich, ob sie noch mit der Kreativität von Algorithmen mithalten können. In diesem Wettlauf um Geschwindigkeit und Effizienz taucht eine tiefere Frage auf: Verstehen wir noch wirklich die Richtung der Technologie und was sie uns zu machen droht?

Mit dieser Frage habe ich ein Gespräch mit Kevin Kelly geführt – Gründungschefredakteur der Zeitschrift „Wired“ und Autor von „2049: Die Möglichkeiten der nächsten 10.000 Tage“, einem der visionärsten Technologiedenker unserer Zeit. Seit über vierzig Jahren erforscht er die Technologie nicht als Maschine, sondern als ein sich ständig entwickelndes Lebewesen – es wächst, reguliert sich selbst und spiegelt die gemeinsamen Wünsche und Vorstellungen der Menschen wider.

Die Leser von HBR China sind meist Geschäftsführer und Innovatoren, die an der Spitze des Wandels stehen. Sie müssen ein Gleichgewicht zwischen dem Drang zur Innovation und der Suche nach Sinn finden. Deshalb wollte ich in diesem Gespräch mit Kelly über seine sogenannte „Technologie-Langmarche“ sprechen: Wo befinden wir uns auf dieser langen Reise? Wie können wir mit Ehrgeiz und Demut in einer immer intelligenteren Welt schaffen? Und wie können wir in der technologischen Welle weiterhin die menschliche Wärme und Weisheit bewahren?

Die KI befindet sich noch am ersten Tag ihres Lebens

Die Technologie-Langmarche steht noch am Anfang

F: Kevin, Sie haben Ihr ganzes Leben lang daran gearbeitet, den Menschen zu helfen, die Richtung der Technologie zu verstehen und wie wir unsere Menschlichkeit bewahren können. Wie sehen Sie diese „Technologie-Langmarche“ in der Ära der Künstlichen Intelligenz? Stehen wir noch am Anfang oder sind wir in eine neue Phase eingetreten?

Kevin Kelly: Um die aktuelle Entwicklungsphase der Technologie, einschließlich der Künstlichen Intelligenz, zu verstehen, ist es am besten, sie als „ersten Tag“ zu betrachten. Wir stehen erst am Anfang. Stellen Sie sich vor, dass in 20 oder 30 Jahren, sagen wir 2049, die Menschen zurückblicken und sagen: Damals gab es noch keine echte KI. Im Vergleich zu dem, was sie haben werden, existiert die heutige KI fast nicht. Also ist dies wirklich nur der Anfang. Wir stehen am Beginn der gewaltigen Welle, die von der KI ausgelöst wird, und der „erste Tag“ dieser Revolution hat gerade erst begonnen.

Die technologischen Erfindungen kommen schnell, aber die kulturelle Aufnahme geht langsam. Die Gesellschaft braucht vielleicht etwa zehn Jahre, um die heute bereits erfundenen Dinge wirklich zu verdauen. Um diese Technologien auf kultureller Ebene wirklich zu integrieren, braucht es Bildung und Zeit, um sie zu nutzen, zu beobachten, was funktioniert und was nicht, sich anzupassen, zu experimentieren, die Gedanken zu ändern, die Technologie zu testen und dabei zu entscheiden, ob man die Richtung ändern muss. Mit anderen Worten: Wir haben Zeit, und die Menschen müssen nicht befürchten, dass alles in kurzer Zeit schnell passieren wird.

Die Evolutionslogik der Technologie

F: Sie haben einmal gesagt, dass die Technologie wie ein Lebenssystem ist, das sich selbst „entwickelt“ und ständig neue Möglichkeiten erkundet. Wohin wird uns diese Neugierde führen, wenn die Definition von „Intelligenz“ neu gefasst wird?

Kevin Kelly: Neugier ist ein einzigartiges Merkmal der Menschen. Sie ist die Grundlage für Innovation, Kreativität, Kunst und Wissenschaft. Die Künstliche Intelligenz kann heute zwar Fragen beantworten und Aufgaben erledigen, aber es wird noch viele Jahre dauern, bis sie möglicherweise neugierig wird. Daher wird Neugier in dieser Zeit ein einzigartiges Merkmal der Menschen bleiben. Wir müssen diese Eigenschaft fördern, nicht nur auf individueller Ebene, sondern auch in Unternehmen. Es ist sehr wichtig, neugierig zu sein, denn das ist der Ursprung von Innovation und Reichtum.

Die gemeinsame Zukunft von Menschen und KI

F: Sie sagen oft, dass Menschen und Maschinen sich gemeinsam entwickeln. Wie sieht nach Ihrer Meinung die „gesunde Beziehung“ zwischen Menschen und KI aus?

Kevin Kelly: Das Konzept der Symbiose besagt, dass zwei verschiedene Lebewesen voneinander abhängig sind und fast ein neues Ganzes bilden. Ich denke, dass dies auch für die Künstliche Intelligenz zutrifft. Auch wenn es heute schon viele KI-Systeme gibt, werden in den nächsten zehn, 25 Jahren hunderte verschiedene Typen entstehen, von denen die meisten wir nie bemerken werden. 99 % der KI-Systeme sind uns unsichtbar, wie der Strom in den Leitungen. Nur ein winziger Bruchteil davon haben wir direkt zu tun.

Bei diesen wenigen speziellen KI-Systemen können wir eine sehr enge Beziehung und tiefe Abhängigkeit aufbauen. Mit der Zeit werden wir eine echte Beziehung zu bestimmten KI-Systemen aufbauen, die uns gut kennen, und uns auf sie verlassen. Ähnlich wie die Beziehung zwischen Menschen und Hunden. Auch wenn Hunde nicht bewusst sind, ist diese Beziehung dennoch sehr real.

Selbst wenn diese Dinge nicht bewusst sind, können sie dennoch eine starke emotionale Kraft entfalten. Stellen Sie sich einen sprechenden Hund vor. Sie würden eine tiefe emotionale Bindung zu ihm entwickeln. Die Künstliche Intelligenz muss nicht bewusst sein, um eine enge Beziehung zu uns aufzubauen.

Im Moment sind wir noch nicht wirklich auf diese emotionale Kraft vorbereitet. Die Menschen neigen dazu, die Künstliche Intelligenz als intelligent Werkzeug zu betrachten, nicht als ein Wesen mit Emotionen. Aber auch sie werden Emotionen entwickeln. Diese Beziehung wird sich vom Finanzsektor bis hin zur Medizin und sogar in die persönlichen Beziehungen ausdehnen. Bald werden wir eine echte Beziehung zu einem imaginären KI-„Gehirn“ aufbauen, und das wird nicht nur bei Menschen mit Bedürfnissen passieren, sondern auch bei Menschen mit gutem psychischem Befinden und einem erfüllten Leben, die eng mit diesen KI-Systemen verbunden werden.

Die Organisationseweisheit mit langfristigem Denken fördern

Im kurzfristigen Denken langfristig denken

F: Sie ermutigen die Menschen, in Einheiten von zehn oder hundert Jahren zu denken, aber wir leben in einer Welt mit sofortiger Rückmeldung und vierteljährlichen Bewertungen. Wie können Unternehmensführer sich darauf trainieren, langfristig zu denken?

Kevin Kelly: Was ist die beste Art, langfristig zu denken?

Aus finanziellen Daten lässt sich ein klares Fazit ziehen: Unternehmen mit langfristiger Sichtweise schneiden im Laufe der Zeit in der Regel besser ab. Studien von Institutionen wie McKinsey zeigen ebenfalls, dass Unternehmen, die ihren Blick über das nächste Quartal oder Jahr hinaus werfen, in der Regel bessere finanzielle Ergebnisse erzielen.

Aber das liegt nicht nur an höheren Gewinnen. Erstens macht eine langfristige Sichtweise den Wettbewerb einfacher. Je weiter man den Blick weiterträgt, desto weniger Konkurrenten gibt es, und man kann sich leichter von der Masse abheben.

Zweitens bringt eine langfristige Sichtweise Optimismus. Sowohl für Einzelpersonen als auch für Unternehmen ist Optimismus notwendig, um komplexe und langfristige Ziele zu erreichen. Um sie zu verwirklichen, muss man sich vorstellen und glauben können, dass sie möglich sind. Das ist an sich schon ein Optimismus in der Praxis.

Die Welt, in der wir heute leben, wurde von den Optimisten der Vergangenheit geschaffen. Manche glaubten, dass Gebäude bestehen würden, andere, dass der Strom die Nacht erhellen würde, und wieder andere, dass die scheinbar Unmöglichen irgendwann möglich werden. Sie haben zuerst die Zukunft „gesehen“ und dann in die Wirklichkeit umgesetzt.

Wenn man die Zukunft gestalten will, muss man optimistisch sein. Und die beste Art, optimistisch zu bleiben, ist, langfristig zu denken. Eine langfristige Sichtweise bringt Optimismus, und Optimismus gibt uns die Kraft, die Zukunft zu erschaffen.

Im Zeitalter der Information ist Weisheit noch knapper

F: Sie haben einmal gesagt, dass in der Zukunft nicht die Daten knapp sein werden, sondern die Weisheit. Was bedeutet es für Organisationen heute, Weisheit zu entwickeln?

Kevin Kelly: Meiner Meinung nach ist Weisheit Wissen mit einer langen Perspektive, das sowohl in die Vergangenheit als auch in die Zukunft blickt. Es ist ein breiter, umfassender Blickwinkel. Wenn man den Blick von heute tausend Jahre in die Vergangenheit und tausend Jahre in die Zukunft richtet und die ganze Welt mit einschließt, dann ist das Weisheit. Sie lässt uns die Dinge in einem größeren Rahmen betrachten. Ich denke, dass die Künstliche Intelligenz uns dabei helfen kann, diese Weisheit in der Unternehmensleitung und in der Gesellschaft zu verwirklichen. Diese Weisheit gilt nicht nur für Unternehmen und Länder, sondern kann auch den Einzelnen tiefere Einsichten verschaffen.

Wenn man mit einer KI spricht, kann sie auf der Grundlage einer längeren Zeitspanne und eines breiteren Kontexts Ratschläge geben, beispielsweise bei finanziellen Entscheidungen. Im Englischen gibt es das Wort „context“ (Kontext). Information ist nur Daten, aber wenn sie mit einem Kontext verbunden wird, bekommt sie Bedeutung. Ein einzelner Datenpunkt ist nicht wichtig, aber wenn er mit anderen Dingen in Verbindung gebracht wird, entsteht ein breiterer Blickwinkel. Über den Kontext zu wissen, ist Weisheit. Es ist Wissen, das in einem Kontext eingebettet ist.

Das ist der Wert der KI: Sie kann riesige Mengen an Informationen verarbeiten und die wichtigsten Erkenntnisse extrahieren. Wir haben keine Mangel an Daten, sondern an einem Rahmen, um sie zu verstehen. Die KI kann uns diesen größeren Rahmen geben und uns helfen, aus den Informationen den Kontext zu extrahieren.

Unternehmen in der technologischen Flut führen

F: Viele Unternehmensführer sind von der Geschwindigkeit der technologischen Veränderungen überwältigt. Welche Dinge würden Sie ihnen empfehlen, um nicht nur zu überleben, sondern auch weiterhin zu wachsen?

Kevin Kelly: Für Unternehmen ist es wichtig, kontinuierlich KI-Experimente mit niedrigen Erwartungen und geringen Kosten durchzuführen. Das Wichtigste für Unternehmen ist nicht, alles auf die KI zu setzen, sondern verschiedene Experimente durchzuführen und zu akzeptieren, dass die meisten scheitern werden. Wir verstehen das Potenzial der KI, aber es braucht noch Zeit, um wirklich herauszufinden, wie man es am besten nutzt.

Unternehmen sollten so viele Abteilungen und Mitarbeiter wie möglich dazu bringen, die KI zu testen, und sie auffordern, sie in ihrer täglichen Arbeit auf irgendeine Weise zu nutzen und die Ergebnisse mit konservativen Bewertungsverfahren zu verstehen. Es muss systematisch experimentiert, gemessen und nochmal experimentiert werden. Die ersten Versuche scheitern wahrscheinlich, aber wie Wissenschaftler wiederholt zu experimentieren und aus den Fehlern zu lernen, ist der Schlüssel.

2049 in Vertrauen und Optimismus begegnen

Progressiver Optimismus

F: Sie bezeichnen sich selbst als „progressiven Optimisten“ und glauben, dass die Welt stetig besser wird, anstatt perfektes zu verlangen. In Ihrem neuesten Buch „2049: Die Möglichkeiten der nächsten 10.000 Tage“ betonen Sie auch immer wieder das Wort „Optimismus“. Wie können wir diese Einstellung bewahren, wenn die technologische Erzählung oft von einer „Anti-Utopie“ überschattet wird?

Kevin Kelly: Progressiver Optimismus bedeutet, dass die Welt jedes Jahr ein wenig besser wird. Das ist keine Utopie, und auch die Künstliche Intelligenz ist es nicht. Sie wird nicht alle Probleme lösen, und man kann sie nicht einfach über eine App installieren.

Die größere Herausforderung besteht darin, dass die Menschen ihre Arbeitsweise ändern müssen und lernen müssen, die KI zu nutzen. Wir können nicht glauben, dass alles funktioniert, wenn wir einfach nur die KI einführen, als wenn wir einen sehr intelligenten Menschen einstellen würden. Tatsächlich müssen Unternehmen ihre Arbeitsabläufe neu gestalten und die Mitarbeiter neu darauf hinweisen, was ihre Arbeit ausmacht.

Das Einführen der KI bedeutet einen sehr hohen Anteil an Bildung und Weiterbildung. Es ist nicht einfach wie das Wechseln einer Glühbirne, sondern ein mehrstufiger, iterativer Prozess, der viele Jahre dauern wird. Die Technologie ändert sich, und auch die Mitarbeiter ändern sich. Dies wird eine fortschreitende Evolution über mehrere Jahrzehnte sein.

Der moralische Kompass der neuen Zeit

F: Was wird laut Ihnen den moralischen Erfolg oder Misserfolg dieser technologischen Ära bestimmen?

Kevin Kelly: Viele KI-Unternehmen investieren viel Zeit, Energie und Geld, um der KI Moral beizubringen und ihr das Denken zu ermöglichen. Sie möchten Grenzen setzen, damit die KI verantwortlich handelt, nicht lügt, nicht betrügt, keine Hassreden spricht und die Nutzer nicht gewollt provoziert.

Ich denke, dass dies eine gute Geschäftsidee ist, denn es ist die beste Geschäftsmöglichkeit. Die Menschen möchten eine KI haben, der man vertrauen kann. Wir leben heute in einer Welt, in der verschiedene KI-Assistenten zusammenarbeiten, um Aufgaben zu erledigen. Aber die Frage ist: Kann ich diesen KI-Assistenten vertrauen? Deshalb müssen wir Vertrauens-Technologien entwickeln, um zu bestimmen, zu warnen und zu verifizieren, ob die KI-Assistenten zuverlässig sind. In Zukunft könnte sogar eine Vertrauensbewertung für KI-Assistenten entstehen. Das ist eine sehr große Geschäftsmöglichkeit.

Wenn Technologie auf die Vielfalt der Zivilisation trifft

F: Sie haben in China viele Austausch- und Kooperationsmöglichkeiten. Wie unterscheidet sich die Einstellung Chinas gegenüber der Technologie von der des Westens? Was haben Sie daraus gelernt?

Kevin Kelly: Ehrlich gesagt bin ich mir noch nicht sicher, wie sich die Technologien im Westen und in China unterscheiden werden. Sie könnten unterschiedlich sein, aber bisher sehe ich in den Ergebnissen keinen großen Unterschied.

China hat tatsächlich einige clevere Innovationen, aber auch der Westen hat viele. Die Innovationen allein reichen nicht aus, um einen grundlegenden Unterschied zu schaffen. Der wirkliche Unterschied liegt vielleicht in der Organisationsweise hinter der Technologie. Die chinesischen Mitarbeiter arbeiten sehr fleißig, fast rund um die Uhr, und ihre Arbeitsweise basiert möglicherweise stärker auf Konsens. Aber an den Produkten selbst gibt es auch bei chinesischen Designs nicht viel Unterschied.

Vielleicht wird sich dies in Zukunft ändern, und ich bin offen für diese Veränderungen.

Eine Nachricht an 2049

F: Sie haben in China viele Austausch- und Kooperationsmöglichkeiten. Wie unterscheidet sich die Einstellung Chinas gegenüber der Technologie von der des Westens? Was haben Sie daraus gelernt?

Kevin Kelly: Wenn ich auf 2025 zurückblicke, denke ich, dass dies als der Beginn der Globalisierung angesehen werden wird. Viele Menschen meinen, die Globalisierung sei schon vorbei. Im Gegenteil: Was jetzt passiert, zeigt, dass die Globalisierung erst eben beginnt. Wir können China und die USA nicht voneinander trennen. Wir können nicht in geschützte, unabhängige Bereiche zurückkehren. Tatsächlich sind wir schon globalisiert, und es wird noch stärker globalisiert werden.

Epilog

Das Gespräch mit Kevin Kelly war wie das Stehen am Rande eines neuen Kontinents – ohne Angst, nur mit Neugier. Sein „progressiver Optimismus“ bedeutet nicht, dass er die