Drei Warnungen des Nobelpreisträgers: Wenn KI Aufgaben erledigen kann, ändert sich die Welt.

< p >Im Vorfeld des Jahres 2026 sprach der "Vater der KI", der Nobelpreisträger für Physik Geoffrey Hinton in einem öffentlichen Gespräch in Berlin über die Kernveränderungen, die in der KI stattfinden: < blockquote > < p >< strong >Die KI gibt nicht mehr einfach nur Antworten, sondern beginnt selbst zu denken, Daten zu generieren und Aufgaben auszuführen. < p >Hinter diesem Satz verbergen sich drei Ebenen von Veränderungen, die gerade stattfinden: < p >Die KI kann schließen, und die Halluzinationen nehmen ab. < p >Die KI kann sich selbst lernen, ohne dass man ihr Daten füttern muss. < p >Die KI kann Aufgaben ausführen und Ergebnisse aktiv liefern. < p >In der Realität bedeutet dies: Die Macht in der medizinischen Diagnose verschiebt sich. Es geht nicht darum, dass Ärzte arbeitslos werden, sondern dass sich die Frage, wer die Diagnose trifft, ändert. Die Bildung beschleunigt ihre Differenzierung. Einzelstunden mit KI - Tutoren, mathematische Erkundungen und wissenschaftliche Entdeckungen beschleunigen. < p >Wenn die KI von einer passiven Reaktion zu einer aktiven Ausführung übergeht, muss die Kooperationsbeziehung zwischen Mensch und Maschine neu gestaltet werden. < h2 >< strong >Warnung 1: Die KI kann schließen, und die Halluzinationen nehmen ab < p >Was war in den letzten ein bis zwei Jahren das größte Problem bei Chatbots? < p >"Sie sagen Dinge mit einem ernsthaften Gesicht, die falsch sind." < p >Aber Hinton sagt: Solche Fälle werden bald viel seltener sein. Nicht weil die KI mehr Informationen gelernt hat, sondern weil sie beginnt, zu schließen. < p >Woher kommt das Schließen? < p >Er gibt eine Metapher: Jedes Wort ist wie ein Lego - Baustein mit einer komplizierten Form. Wenn man es in einen Satz setzt, verformt es sich leicht je nach Kontext. Diese Wortbausteine greifen ineinander und bilden eine Bedeutung. Die KI übersetzt nicht die Worte in logische Symbole und rechnet dann, sondern sucht die natürlichste Verbindungsmöglichkeit zwischen diesen Wortbausteinen. < p >< strong >Sobald die KI diese Wortbausteine besser kombinieren kann, entwickelt sich von selbst die Fähigkeit zum Schließen. < p >Seit Jahren dominiert die symbolische KI in diesem Bereich. Sie glaubt, dass das Wesen des Schließens darin besteht, englische Sätze in logische Formen umzuwandeln und dann symbolische Regeln anzuwenden. Sie ist so überzeugt davon, dass sie nicht einmal annimmt, dass dies eine Hypothese ist, sondern hält es für eine Tatsache. < p >Hinton sagt klar: Das ist völliger Unsinn. < p >Diejenigen, die sich für ein neuro - symbolisches Mischsystem einsetzen, versuchen im Grunde genommen, das alte Framework aufrechtzuerhalten und lassen das neuronale Netzwerk nur als Unterstützung fungieren. Das ist so, als würde jemand zugeben, dass ein Smartphone besser ist, aber dann ein Smartphone benutzen würde, um eine Rechentafel zu steuern. Man versteht einfach nicht den Kern der Sache. < p >Das Schließen findet vollständig in der Sprache statt und muss nicht in eine logische Form umgewandelt werden. < p >Verstehen bedeutet nicht, Sätze in logische Symbole umzuwandeln, sondern Wörter in hochdimensionale Vektoren, die miteinander interagieren können. Das ist eher wie die Faltung von Proteinen als eine logische Rechnung. < p >In Zukunft wird die KI nach dem Äußern eines Satzes einen zusätzlichen Schritt unternehmen: Sie wird zurückschauen, was sie gerade gesagt hat, es mit den Tatsachen oder vorhandenen Hinweisen vergleichen und, wenn sie etwas Unplausibles findet, es korrigieren. Dies ist nicht einfach eine Verbesserung der Genauigkeit, sondern die KI entwickelt eine neue Fähigkeit: < strong >Selbstverifikation. < p >Ehe konnte sie nur ausgeben, jetzt kann sie überprüfen, ob ihre Ausgabe sinnvoll ist. < p >Ehe war sie nur für die Antworten verantwortlich, jetzt wird sie ihre eigenen Antworten in Frage stellen. < p >Dieser geschlossene Kreis von Ausgabe zu Verifikation gibt der KI erstmals eine Art Selbstkorrekturmechanismus wie beim Menschen. Für den Benutzer bedeutet dies direkt eine höhere Genauigkeit, eine kohärentere Logik und eine deutliche Reduzierung von Erfindungen. < p >Aber die tiefere Veränderung ist: Die KI ist nicht mehr ein passives Reaktionswerkzeug, sondern ein System, das seine Ausgabe aktiv überprüfen, korrigieren und optimieren kann. Sie entwickelt einen gewissen Grad an Autonomie. < p >Dies ist ein grundlegender Durchbruch auf der Fähigkeitsebene. < h2 >< strong >Warnung 2: Die KI beginnt, sich selbst zu lernen, ohne auf Datenzufuhr zu warten < p >Seit jeher war das Training von KI - Modellen untrennbar von "Aufstockung" verbunden. < p >Man hat Rechenleistung und Daten aufgestockt, indem man alle Artikel, Romane, Enzyklopädien und Foren im Internet abgerufen hat. < p >Jetzt gibt es aber ein Problem: Die öffentlichen Daten im Internet sind fast aufgebraucht. Dies ist die erste Grenze, die das Skalierungsgesetz erreicht hat. Wenn man die Leistung des Modells verbessern möchte, muss man viel mehr investieren, aber die Verbesserungen werden immer geringer. < p >Hinton ist der Meinung, dass die nächste Generation der KI nicht mehr von Menschen gefüttert werden muss, sondern selbst tätig wird. < p >Er erwähnt das Beispiel von AlphaZero. < p >Diese KI hat nicht von menschlichen Schachspielen gelernt, sondern hat selbst gegen sich selbst gespielt, dabei gelernt und immer stärker geworden. Am Ende war sie < strong >genauer und stabiler als menschliche Weltmeister. < p >Es hat < strong >durch Selbstspiel unendliche Trainingsdaten generiert und muss nicht auf mehr Schachpartien von Menschen warten. < p >Hinton sagt, dass die Mathematik der Bereich sein wird, in dem die KI am leichtesten sich selbst trainieren kann. Denn die Mathematik ist ein geschlossenes System, und die KI kann selbst Vermutungen aufstellen und Versuche zur Beweisung unternehmen. Genau wie AlphaGo selbst gegen sich selbst Schach spielt, wird die KI "Mathematik spielen": < p >Kann ich das beweisen? < p >Kann ich das andere beweisen? < p >In etwa 10 Jahren wird die KI - Mathematikerin möglicherweise viel stärker als Menschen sein. Sie kann selbstständig fortschreiten und unendliche Trainingsdaten generieren. < p >Nicht nur in der Mathematik. Hinton stimmt mit Demis Hassabis, dem Leiter von DeepMind, überein: Die KI wird in der wissenschaftlichen Entdeckung eine immer größere Rolle spielen. In allen Bereichen der Physik, Chemie und Biologie werden es Durchbrüche geben. < p >Das Gleiche gilt für die großen Sprachmodelle. < p >Gerade wegen der Fähigkeit zum Schließen kann die KI durch Selbstverifikation Trainingsdaten generieren. Es ist wie ein Mitarbeiter, der tagsüber arbeitet, abends die Arbeit nachdenkt, Probleme findet und am nächsten Tag automatisch besser wird. Die KI ist nicht mehr ein passiver Empfänger von Daten, sondern sie verarbeitet, verifiziert und verbessert sie aktiv. < p >Früher war die Logik des Trainings: Je mehr Daten, desto stärker das Modell. Deshalb haben alle versucht, so viele Daten wie möglich zu sammeln, zu bereinigen und zu markieren. < p >Jetzt ist der Wandel: Das Modell kann selbst hochwertige Trainingsdaten generieren, seine Ausgabe durch Schließen überprüfen und aus Fehlern lernen. < p >Mit anderen Worten: Eine wirklich starke KI beruht nicht auf der Zufuhr von Daten, sondern auf wiederholten Übungen und dem Selbstverständnis. < strong >Dies ist nicht nur eine technische Optimierung, sondern ein grundlegender Wandel im Trainingsansatz. Vom externen Inputantrieb zum internen Zirkulationsantrieb. < p >Ehemals musste man die KI lehren, aber die kommende KI wird sich selbst lernen. < h2 >< strong >Warnung 3: Der Übergang von Werkzeug zu Mitarbeiter < p >Das am häufigsten erwähnte KI - Buzzword im Jahr 2025 war: Agent. < p >Es ist nicht nur ein Konzept, sondern eine neue "biologische" Form: Eine KI, die Aufgaben verstehen, Prozesse zerlegen und aktiv ausführen kann. < p >Hinton sagt: < p >"Wir haben bereits gesehen, dass Agenten im Internet für Menschen Bestellungen aufgeben und Termine planen. In Zukunft werden sie auch aktiv mit anderen Agenten verhandeln." < p >Das ist nicht mehr eine intelligente Suche oder ein hochwertiger Assistent, sondern es beginnt, die Aufgaben zu übernehmen, die du sonst selbst erledigen würdest. < p >Im Gespräch erwähnte Hinton, dass er 2016 vorhersagte, dass die KI innerhalb von 5 Jahren Radiologen ersetzen würde. Er hat die benötigte Zeit unterschätzt, aber jetzt passiert es tatsächlich. Die FDA hat bereits über 250 KI - Anwendungen für medizinische Scans genehmigt. Die KI kann aus Netzhautbildern Informationen entnehmen, die Ärzte nicht bemerkt haben. In Bezug auf die Diagnosegenauigkeit liegt die KI bei 50 %, die Ärzte bei 40 %, und in Kombination liegt es bei 60 %. In Nordamerika sterben jährlich 200.000 Menschen an Fehldiagnosen, und diese Zahl wird stark sinken. < p >Auch die Bildung ändert sich. < p >Ein Einzelstundenlehrer kann die Lerngeschwindigkeit eines Kindes verdoppeln, weil er versteht, wo das Kind Schwierigkeiten hat. Ein KI - Lehrer wird es noch besser machen, weil er über die Lerninformationen von Millionen von Kindern verfügt. Nicht nur in der Kinderbildung, sondern auch in der Erwachsenenausbildung ändert sich die Situation. Hinton nimmt sich selbst als Beispiel: Wenn er in Google die Mitarbeiter über neuronale Netze unterrichtet, ist es sehr langweilig. Aber ein KI - Lehrer kann es besser machen, ist interaktiver und effektiver. < p >Nicht nur in der Medizin und der Bildung, sondern auch in der alltäglichen Arbeit ist die Veränderung deutlicher. < p >Früher hast du die KI so genutzt: Du hast ihr gesagt, einen Text zu schreiben, Zusammenfassungen zu erstellen oder Termine zu planen. Aber jetzt wird die KI dich fragen: Möchtest du ein Hotel buchen oder ein Flugticket kaufen? Wenn dein Budget begrenzt ist, empfehle ich, zuerst das Rückflugticket zu buchen. Später wird sie sogar ohne deine Anweisung direkt handeln. < p >Sobald die KI diese Initiative entwickelt, ist sie nicht mehr nur ein Werkzeug, sondern eher ein "Kollege", der die Arbeit erledigt. < p >Das ist der "Agent". < p >Ihre Fähigkeiten basieren auf den ersten beiden Punkten: < p >Die Fähigkeit zum Schließen ermöglicht es, die nächste Aktion zu entscheiden. < p >Die Fähigkeit zum Selbstlernen ermöglicht es, sich während der Ausführung zu verbessern. < p >Viele denken, dass je stärker die Agenten werden, desto mehr Jobs ersetzt werden. < p >Hinton sagt nicht so. Er sagt, dass der Mensch weniger an der Ausführung beteiligt sein wird. Es ist nicht, dass du plötzlich arbeitslos wirst, sondern dass du nicht mehr jeden Schritt überprüfen und jede Aktion bestimmen musst. Einige Aufgaben werden von den Agenten selbst verhandelt und erledigt, und dann werden sie dir sagen, dass es erledigt ist. < strong >Dies bedeutet, dass die Macht verschiebt, und deine Möglichkeit, das Ergebnis zu beeinflussen, wird geringer. < p >Deshalb müssen die Fähigkeiten der Agenten begrenzt werden. Aus Hintons Sicht entwickeln wir nicht einen gehorsamen Assistenten, sondern bringen einen Teilnehmer ein, der bereit und in der Lage ist, Aufgaben zu erledigen. Dies bringt einige Fragen mit sich, die beantwortet werden müssen: < ul > < li >Welche Aufgaben sollten die Agenten tatsächlich erledigen? < li >Welche Dinge müssen von Menschen überprüft werden? < li >Wer ist verantwortlich, wenn ein Agent einen Fehler macht? < p >Die Antworten können von Firma zu Firma unterschiedlich sein, aber die Richtung ist die gleiche: Die KI - Agenten sind nicht mehr nur Hilfsmittel, sondern beginnen, direkt Ergebnisse zu liefern. < p >Am Ende wird deine Arbeit nicht mehr darin bestehen, konkrete Projekte durchzuführen, sondern du wirst zu einem Entscheider werden. < h2 >Fazit: Wenn die KI tätig wird, ändert sich die Kooperationsbeziehung < p >An diesem Tag in Berlin sprach Hinton weder von Hype noch von einer Apokalypse. < p >Er gab drei Warnungen: < p >Die KI beginnt zu schließen und sagt nicht mehr unsinnige Dinge mit einem ernsthaften Gesicht. < p >Die KI lernt selbst, ohne dass Menschen sie füttern müssen. < p >Die KI kann tätig werden, ohne auf Anweisungen zu warten. < p >Von einem Werkzeug zu einem Mitarbeiter: Deine Rolle ändert sich von Ausführender zu Entscheider. < p >📮 Original - Link: < p >https://www.youtube.com/watch?v = M9ZNCkJJ0Sg&t = 2s < p >https://www.businessinsider.com/ai - scaling - debate - geoffrey - hinton - ilya - sutskever - alexandr - wang - lecun - 2025 - 12 < p class="editor - note">Dieser Artikel stammt aus dem WeChat - Account < a target="_blank" rel="noopener noreferrer" href="https://mp.weixin.qq.com/s/VRoKp7DxCyc5xqcqlspRjg">"AI Deep Researcher", Autor: AI Deep Researcher. Veröffentlicht von 36Kr mit Genehmigung.