WAIC 2025: Künstliche Intelligenz wird sicherlich weiter wachsen. Es ist eine menschliche Herausforderung, zu verhindern, dass sie zum "letzten Bösewicht" wird.

Die Weltkonferenz für Künstliche Intelligenz in Shanghai (WAIC) ist wieder im Trend!

Am 26. Juli 2025 hat die diesjährige WAIC über 1200 Gäste aus mehr als 30 Ländern und Regionen angelockt. Darunter befinden sich 12 Preisträger der Turing-Award, des Nobelpreises und anderer Spitzenpreise, über 80 chinesische und ausländische Akademiker sowie Vertreter vieler international führender Labore.

Bei der Eröffnungsveranstaltung am 26. Juli hielt der Preisträger des Nobelpreises 2024, Geoffrey Hinton, als ein Grandmaster der KI-Branche einen Vortrag. Dieser bekannte Wissenschaftler, der immer die Theorie der "Bedrohung durch KI" vertritt, betonte erneut die Gefahren einer unkontrollierten Entwicklung der KI und forderte die Welt auf, ein "Sicherheitsnetz" für die KI-Forschung aufzubauen.

Außerdem erklärte Yan Junjie, Gründer und CEO des aufstrebenden chinesischen KI-Startups MiniMax, in seinem Vortrag, dass die immer stärker werdende KI fast keine Grenzen bei ihrem Wachstum hat. Mit der Abnahme der Trainingskosten wird die KI in Zukunft "allgemein zugänglicher" sein.

Zur gleichen Zeit trat Peng Zhihui (auch bekannt als Zhihui Jun), Mitbegründer und Cheftechnologiewissenschaftler des chinesischen Robotik-Startups ZhiYuan Robotics, das kürzlich Gerüchte über eine "Reverse Merger" verbreitet hat, mit dem Robotikprodukt Lingxi X2 auf der Bühne auf und führte ein "Kouji" (chinesische Komödie) auf, was die "Partnerbeziehung" zwischen Robotern und Menschen noch bildlicher machte.

01 Sowohl Löwen als auch Babys brauchen "Aufsicht"

Obwohl seine Schüler und Schützlinge einen großen Teil der Silicon Valley KI-Technologiebranche einnehmen, widerspricht Geoffrey Hinton, der "Grandmaster" der KI-Branche, ständig seinen Branchenkollegen und hält immer an der Theorie der "Bedrohung durch KI" fest.

Auf der WAIC-Konferenz am 26. Juli betonte Hinton erneut in seinem Vortrag seine Sorge über die schnelle Entwicklung der KI.

Nach einer einfachen Beschreibung der Entwicklung der KI-Technologie in den letzten 30 Jahren bis zum heutigen Stadium der großen Modelle meinte Hinton, dass die Art und Weise, wie die heutigen großen Modelle Sprache verstehen, der der Menschen ähnelt.

„Die Menschen könnten möglicherweise auch große Sprachmodelle sein und wie große Sprachmodelle Halluzinationen haben und viele halluzinatorische Sprache kreieren.“ Diese Einsicht von Hinton stimmt tatsächlich sehr gut mit dem sogenannten "Mensch-Maschine"-Memes in den sozialen Medien überein.

Das Problem ist jedoch, dass im Vergleich zum "Kohlenstoffhirn" der Menschen hat das "Siliziumhirn" der KI die inhärenten Vorteile der Speicherbarkeit, Kopierbarkeit und "Sekundenübertragung". Dies bedeutet, dass mit der technologischen Entwicklung die Branche einhellig der Ansicht ist, dass es nur eine Frage der Zeit ist, bis es KI gibt, die intelligenter als Menschen ist. Als ein Wesen werden diese KI, die als "Intelligenzagenten" repräsentiert werden, sicherlich "Existenz" und "Kontrolle" fordern.

Hinton meint, dass die heutige KI möglicherweise wie ein "drei Jahre altes Kind" ist und noch leicht von Menschen manipuliert werden kann, aber wie die Situation in Zukunft aussehen wird, ist ungewiss. Er verglich die gegenwärtige KI auch mit einem kleinen Löwen, und es gibt nur zwei Möglichkeiten, einen Löwen aufzuziehen: "Entweder ihn zu trainieren, damit er dich nicht angreift, oder ihn zu eliminieren".

Angesichts des gegenwärtigen globalen Fortschritts in der KI kann kein Land die KI wirklich "eliminieren", indem es die technologische Entwicklung stoppt. Es bleibt nur noch ein Weg übrig: Die Welt braucht eine KI-Sicherheitsbehörde, um die KI zu trainieren, damit sie "zum Guten" neigt.

„Wie man eine KI trainiert, die nicht die Menschen regieren will, ist das ultimative Problem, vor dem die Menschheit steht.“ sagte Hinton am Ende.

02 Während einige Regulierung fordern, andere "Entlastung" suchen

Die Äußerungen des Grandmasters auf der WAIC waren sehr nachdenklich stiftend. Aber in Nordamerika, wo Hinton seinen Einfluss hat, ist die Situation etwas "blind". Die von Hintons Schülern gegründeten Unternehmen OpenAI und Anthropic haben bereits einen Wert von hunderten von Milliarden Dollar, ganz zu schweigen von den riesigen Investitionen der Silicon Valley-Venturekapitalgeber in KI-Startups in den letzten Jahren.

Ein deutliches Beispiel dafür ist, dass mit der Zunahme der Lobbyausgaben der KI-Unternehmen in der amerikanischen Politik hat die amerikanische Regulierungsbehörde die Kontrolle über die Entwicklung der KI offiziell gelockert.

Ebenfalls in dieser Woche, am 23. Juli 2025 Ortszeit in den USA, hat der damalige Präsident Donald Trump einen Handlungsplan für Künstliche Intelligenz (The AI Action Plan) veröffentlicht. In diesem Dokument hat die amerikanische Regulierungsbehörde festgelegt, wie sie von den Aspekten der Daten, Standards und Arbeitskräften die Führungsrolle der USA in der KI sicherstellen wird:

1. Mehr Investitionen in Forschung und Entwicklung (Invest in R&D)

Starke Erhöhung der langfristigen Investitionen der Bundesregierung in die Grundlagen- und angewandte Forschung der KI, insbesondere in Bereichen wie der nächsten Generation KI, KI-Sicherheit und vertrauenswürdiger KI.

2. Freisetzung von Datenressourcen (Unleash AI Data Resources)

Antrieb, die riesigen Datensätze, die von der Bundesregierung besessen werden, sicher für KI-Forscher und die Öffentlichkeit zugänglich zu machen, um hochwertige "Brennstoffe" für das Modelltraining bereitzustellen.

3. Festlegung von technischen Standards (Set AI Technical Standards)

Unter der Leitung der Regierung in Zusammenarbeit mit der Industrie und der Wissenschaft werden globale Benchmarks, Standards und Vorschriften für die KI-Technologie festgelegt, um sicherzustellen, dass KI-Systeme sicher, zuverlässig, interpretierbar und fair sind.

4. Ausbildung von KI-Fachkräften (Cultivate an AI-Ready Workforce)

Reform der STEM-Bildung, Förderung von Ausbildungs- und Weiterbildungsprogrammen, um die besten globalen KI-Fachkräfte anzuziehen und zu halten und die Arbeitskräfte für die KI-Wirtschaft aufzubauen.

5. Stärkung der internationalen Zusammenarbeit (Strengthen International Collaboration)

Gründung einer KI-Allianz mit Verbündeten und Partnerländern, um gemeinsam Regeln zu erstellen, die Missbrauch der KI durch "autoritäre Länder" entgegenzuwirken und die offene und demokratische Anwendung der KI zu fördern.

6. Schutz von Schlüsseltechnologien (Protect Key Technologies)

Stärkung des Schutzes der amerikanischen Schlüssel-KI-Technologien, Algorithmen und Hardware (insbesondere Halbleiter) durch Maßnahmen wie Exportkontrollen und Investitionsüberprüfungen, um zu verhindern, dass Technologien an strategische Wettbewerber gelangen.

Man kann erkennen, dass die USA die Entwicklung der KI-Technologie fördern und gleichzeitig geopolitische Probleme nutzen, um zu verhindern, dass die Wettbewerber auf gleicher Stufe mit ihnen starten.

03 Die "Erfahrungszeit" der Roboter ist angebrochen

Im Veranstaltungsort der diesjährigen WAIC-Konferenz waren die humanoiden Roboter zweifellos der aufregendste Highlight, ohne Zweifel.

Im Hauptforum brachte Peng Zhihui (Zhihui Jun), Mitbegründer von ZhiYuan Robotics, das Produkt Lingxi X2 auf die Bühne und führte ein "Mensch-Roboter-Kouji" auf.

Bei einem Kouji geht es um Sprechen, Nachahmen, Witze und Singen. Bei der Zusammenarbeit zwischen Robotern und Menschen geht es um "Verständnis". Lingxi X2 erklärte auf der Bühne, dass die Zusammenarbeit zwischen Menschen und Robotern auf "Konsens" basieren muss. Aber wie kann man den Konsens zwischen Robotern und Menschen aufbauen und die Schlüsselpunkte der Mensch-Roboter-Zusammenarbeit überwinden? Zhihui Jun sagte, dass dies der Bereich ist, in dem das Unternehmen sich intensiv engagieren wird. Wichtig ist es, gemeinsam mit mehr Mitstreitern voranzugehen.

Deshalb hat Zhihui Jun auch vor Ort das Open-Source-Programm "ZhiYuan Lingqu OS" angekündigt, um zusammen mit mehr Menschen die Integration der gegenwärtigen Robotersystemökosysteme und den Durchbruch in neuen Technologien der Embodied Intelligence voranzutreiben.

Als würde dies die Embodied Intelligence unterstützen, meinte Richard Sutton, Preisträger der Turing-Award 2024 und Professor der Informatik an der Universität Alberta in den USA, der per Videokonferenz an der Konferenz teilnahm, dass die Daten, die für das Training großer Modelle verwendet werden, fast aufgebraucht sind. Aber man brauche sich nicht zu entmutigen, denn dies bedeutet, dass die nächste Ära der KI - die Ära der Erfahrung (the Era of Experience) - bald hereinkommt.

Im Gegensatz zur Vergangenheit, als die KI mit "statischen" Daten trainiert wurde, kann man die KI nun wie menschliche Babys lernen lassen, indem sie die Außenwelt und Gegenstände "erleben", um Wissen zu erwerben und ihre Fähigkeiten zu verbessern. Obwohl das Ziel noch etwas weit entfernt ist, trainieren und lernen zahlreiche Roboter-Startups tatsächlich ständig in der "physischen Welt".

Deshalb haben auch führende Wissenschaftler wie Fei-Fei Li von der "KI" zur "physischen KI" übergegangen und betont, dass die Künstliche Intelligenz, um in die reale Welt einzutreten, die Welt aus dreidimensionaler Perspektive verstehen und lernen muss.

Dieser Artikel stammt aus dem WeChat-Account "GeekPark" (ID: geekpark), Autor: Jing Yu, veröffentlicht von 36Kr mit Genehmigung.