Wird es in Zukunft nicht mehr die Menschen sein, die die Welt verändern? Der Chefwissenschaftler von OpenAI sagt direkt: Künstliche Intelligenz ist die Schlüsselkraft.

Nachrichten vom 16. August: In der neuesten Podcast - Folge von OpenAI nahmen der Moderator (ehemaliger OpenAI - Ingenieur) Andrew Mayne und seine Goldpartner aus der Firma, der Chefwissenschaftler Jakub Pachocki und der Forscher Szymon Sidor, als Gäste teil.

Dieses Paar kehrte zurück auf ihre Beziehung, die von der Zeit als Gymnasialschüler in Polen bis hin zur Zusammenarbeit bei OpenAI reicht. Sie diskutierten auch eingehend über die Schlüsselthemen in der Entwicklung der künstlichen Intelligenz, einschließlich der Definition und des Messkriteriums für die allgemeine künstliche Intelligenz (AGI), der markanten Ergebnisse von technologischen Durchbrüchen, der Herausforderungen bei Benchmark - Tests sowie der tatsächlichen Auswirkungen von KI auf Bildung, Forschung und Gesellschaft. Die Kernaussagen sind:

● Die Entwicklung der Definition und des Messkriteriums für AGI: AGI hat sich von einem abstrakten Konzept zu einer Sammlung von mehrdimensionalen Fähigkeiten verfeinert. Beispielsweise sind Meilensteine wie die Goldmedaille beim IMO zwar bedeutsam, aber punktuelle Durchbrüche reichen nicht mehr aus. Zukünftig sollte man sich auf die Auswirkungen in der automatisierten Forschung und der praktischen Anwendung konzentrieren.

● Der Weg der technologischen Durchbrüche in der KI: Vom frühen Engpass bei der Sentiment - Analyse bis hin zur Iteration der GPT - Serienmodelle können die Modelle jetzt an Wettbewerben wie IMO, ICPC und dem japanischen AtCoder teilnehmen, was ihre starke Fähigkeit zur logischen Schlussfolgerung und kreativen Denkweise zeigt.

● Die Herausforderungen und die "Sättigung" bei Benchmark - Tests: Viele Benchmark - Tests zeigen "Sättigung", da die Modelle das menschliche Niveau annähern oder sogar übertreffen, aber es ist schwierig, die Intelligenz vollständig widerzuspiegeln. Die Messkriterien sollten sich auf die praktische Nützlichkeit und die Fähigkeit, neue Erkenntnisse zu finden, verlagern.

● Die Auswirkungen von KI auf Bildung und Talententwicklung: KI kann als Hilfsmittel in der Bildung dienen, aber die emotionale Unterstützung der Lehrer ist unersetzlich. Die Bildung muss reformiert werden, um weiche Fähigkeiten wie strukturiertes Denken und kritisches Denken zu fördern. Programmieren ist ein wirksamer Weg, diese Fähigkeiten zu erlernen.

● Die zukünftigen Durchbruchrichtungen und die Vertrauensschwelle: Die Dauerhaftigkeit des Modells und die Fähigkeit, sich lange auf ein Problem zu konzentrieren, sind wichtige Entwicklungsrichtungen. KI muss die Vertrauensschwelle überwinden und beim Zugang zu persönlichen Daten den Wert und die Sicherheit im Gleichgewicht halten, um Missbrauch zu vermeiden.

● Die breiten Auswirkungen und das Entwicklungstempo von KI: Ähnlich wie die Auswirkungen des Internets auf die Wirtschaft ist die Rolle von KI schwer anhand eines einzelnen Punktes zu messen. Obwohl das Entwicklungstempo von KI scheinbar einen "Engpass" hat, hat es langfristig bemerkenswerte Fortschritte gemacht und wird Branchen und Gesellschaft tiefgreifend neu gestalten.

Im Folgenden finden Sie die gekürzte Version dieses Podcasts:

Andrew Mayne: Hallo, ich bin Andrew Mayne. Willkommen beim OpenAI - Podcast. Heute sind unsere Gäste der Chefwissenschaftler von OpenAI, Jakub Pachocki, und der Seniorforscher Szymon Sidor. Wir werden über die Messung der Fortschritte in der KI, die Definition der allgemeinen künstlichen Intelligenz (AGI) und die nächste mögliche Durchbruchrichtung diskutieren.

Unsere Modelle können bereits genau erkennen, bei welchen Problemen sie noch keine Fortschritte gemacht haben. Gleichzeitig beginnen wir auch ernsthaft darüber nachzudenken, ob wir als Organisation bereit sind, diesem äußerst schnellen Entwicklungstempo zu begegnen. Bei der Planung der Forschungsvorhaben von OpenAI ist unser Ziel, eine hochgradig universelle Intelligenz zu schaffen.

Ich möchte zunächst wissen, welche konkreten Aufgaben Sie haben. Pachocki, sind Sie der Chefwissenschaftler von OpenAI?

Jakub Pachocki: Ja, ich bin der Chefwissenschaftler.

Andrew Mayne: Was sind die konkreten Aufgaben eines Chefwissenschaftlers?

Jakub Pachocki: Meine Hauptaufgabe ist es, den Forschungsplan für das Unternehmen zu erstellen, d. h. die technologischen Wege, auf die wir setzen werden, und die grundlegenden Forschungsrichtungen, die wir langfristig vorantreiben werden, festzulegen.

Andrew Mayne: Sidor, was sind Ihre Aufgaben?

Szymon Sidor: Meine Aufgaben sind recht vielfältig. Ich arbeite hauptsächlich als Individual Contributor (ein Mitarbeiter, der in einer Organisation durch seine persönlichen Fachkenntnisse direkt Aufgaben erledigt und Wert schafft, ohne die Verantwortung für die Leitung von anderen zu übernehmen) und übernehme gelegentlich auch einige Führungsaufgaben. Insgesamt mache ich das, was am wertvollsten ist.

Andrew Mayne: Knew Sie sich schon vor dem Eintritt bei OpenAI?

Jakub Pachocki: Ja, wir haben an der gleichen High School studiert.

Szymon Sidor: Ja, an der gleichen High School.

Andrew Mayne: Waren Sie in der High School Freunde?

Szymon Sidor: Ich denke, wir sind erst nach der High School beste Freunde geworden. Die Zeit in den USA war gewissermaßen eine emotionale Reise, um eine tiefe Freundschaft aufzubauen. In der High School waren wir eher akademische Kameraden.

Andrew Mayne: Welche Art von High School kann Talente wie Sie hervorbringen?

Jakub Pachocki: Unsere High School befand sich in Polen. Damals wurden wir beide von einem Informatiklehrer namens Ryszard Sobolewski zu dieser Schule hingezogen. Bevor wir eintraten, hatte er bereits hervorragende Ergebnisse bei der Ausbildung von Informatikern und Programmieren erzielt, insbesondere bei Programmierwettbewerben, und er hat sich dafür eingesetzt, dass die Schüler in diesem Bereich eine Spitzenleistung erbringen.

Szymon Sidor: Diese Erfahrung hat uns stark beeinflusst. Er war ein ausgezeichneter Lehrer. Seine Programmierungseinheiten gingen weit über den normalen High - School - Lehrplan hinaus und behandelten Themen wie Graphentheorie und Matrizen. Ich hoffe, dass es mit ChatGPT heute leichter ist, solche tiefgehenden Lernprozesse zu absolvieren, denn ohne einen geeigneten Lehrer und viel Einsatz ist es schwer, solche Lernerfahrungen zu wiederholen.

1 Die Entwicklung und das Messkriterium von AGI

Andrew Mayne: Wie soll man die Fähigkeit von ChatGPT, interaktive Multimedia - Inhalte sofort zu generieren und Bildungsprobleme zu lösen, definieren und messen? Wenn wir über AGI sprechen, wie würden Sie es aus technischer und einfacherer Sicht erklären?

Jakub Pachocki: Nehmen wir das von Ihnen erwähnte Bildungsszenario als Beispiel. ChatGPT kann tatsächlich eine wichtige Rolle spielen - es kann Konzepte klarer erklären, verschiedene Unterrichtsmethoden anbieten und sich gut an Lehrer wie Sobolewski anpassen. Aber es muss betont werden, dass KI nicht die Lehrer ersetzen kann, denn Lehrer vermitteln nicht nur Wissen, sondern bieten auch emotionale Unterstützung und eine Lernatmosphäre, was KI derzeit noch nicht alleine leisten kann.

Andrew Mayne: Das ist sehr wichtig. Oft wird gesagt, dass KI die Bildung ersetzen wird, aber diese Meinung ignoriert oft diesen Aspekt. Ich habe schon Lehrer getroffen, deren Wissen vielleicht nicht immer korrekt war, aber ihre Sorgfalt und Zuneigung waren echt, und sie waren bereit, Fragen geduldig zu beantworten. Also sind diese Tools eigentlich Hilfsmittel in der Bildung, und Lehrer können mit ihnen effizienter arbeiten. Kommen wir zurück zum Thema AGI. Ich möchte zunächst eine nicht - technische Beschreibung hören. Wie würden Sie es einem Geschwister erklären?

Jakub Pachocki: Vor einigen Jahren, als wir über AGI sprachen, war das Konzept von AGI noch ziemlich abstrakt und weit entfernt, obwohl das Potenzial der Deep - Learning - Technologie riesig war. Damals schienen menschliche Intelligenz, natürliche Gesprächsfähigkeit, die Fähigkeit, mathematische Probleme zu lösen und die Fähigkeit, Forschung zu betreiben, alle in die gleiche Kategorie zu fallen. Aber mit der Entwicklung der Technologie haben wir festgestellt, dass es sich um ganz unterschiedliche Fähigkeiten handelt.

Zurzeit kann KI in einem breiten Themenbereich natürliche Gespräche führen und auch mathematische Probleme lösen. Beispielsweise hat es die Goldmedaille beim Internationalen Mathematikolympiade (IMO) gewonnen, was einer der langjährigen Meilensteine in der Entwicklung von AGI war, und dieses Ziel wurde erreicht. Die Lösung aller Probleme des Mathematikolympiades ist schwieriger und stellt einen weiteren Meilenstein dar.

Allerdings denke ich immer mehr, dass diese punktuelle Messung nicht ausreicht, und deshalb beginnen wir, die tatsächlichen Auswirkungen von KI auf die Welt zu berücksichtigen. Für mich persönlich, wenn ich darüber nachdenke, wie KI wirklich einen sinnvollen Einfluss auf die Welt haben kann, denke ich zunächst an ihr Potenzial in der automatisierten Entdeckung und Produktion neuer Technologien.

Wir schreiben normalerweise neue Ideen und grundlegende technologische Fortschritte der menschlichen Kreativität zu und messen den Fortschritt anhand von großen Erfindungen und technologischen Revolutionen. Aber es ist schwer vorstellbar, dass ein Großteil dieses Prozesses automatisiert werden kann. Ein großer Computer könnte möglicherweise Ideen entwickeln, die unsere Weltanschauung grundlegend verändern. Ich denke, dass dieser Tag nicht mehr weit entfernt ist. Deshalb ist es mein oberstes Anliegen, über den Abstand zu diesem Ziel und die möglichen Auswirkungen dieser Technologie nachzudenken.

2 Die Mission von OpenAI: Universalintelligenz zuerst

Andrew Mayne: Ich habe gerade ein Mac Studio bestellt und möchte das Open - Source - Modell GPT4All (ein Open - Source - Projekt von Nomic AI, das es Benutzern ermöglicht, große Sprachmodelle auf ihren persönlichen Geräten lokal auszuführen, ohne auf Cloud - Dienste angewiesen zu sein) ausführen lassen, damit es rund um die Uhr Inhalte generiert und Aufgaben bearbeitet. Diese Idee fasziniert mich. Aber Sie haben über die automatisierte wissenschaftliche Forschung im großen Maßstab gesprochen. Welche Entdeckungen oder Ergebnisse könnten wir als Erstes erwarten?

Jakub Pachocki: Bei der Planung der Forschungsvorhaben von OpenAI sehen wir die Schaffung einer hochgradig universellen Intelligenz als unsere Kernmission. Wir setzen vorrangig auf die Entwicklung von KI - Systemen, die automatisiert Forschung betreiben können, anstatt die Technologie auf die Anwendung in bestimmten Bereichen zu beschränken. Zwar kann die Fokussierung auf bestimmte Bereiche schnell lokale Ergebnisse erzielen, aber im Laufe der technologischen Entwicklung sind die wirklich transformativen Entdeckungen und die technologischen Durchbrüche, die für den menschlichen Fortschritt am bedeutendsten sind, normalerweise auf universelle Intelligenzsysteme zurückzuführen.

Die Anwendung von KI - Technologie in verschiedenen Bereichen zeigt deutliche Unterschiede. Bereiche, die tiefe logische Schlussfolgerungen, enge Verbindung mit Fachwissen und intuitive Urteilsfähigkeit erfordern, eignen sich besser für die gegenwärtigen KI - Systeme.

Nehmen wir die Medizin als Beispiel. Wir haben bereits viele aufregende Ergebnisse erzielt. KI spielt in der medizinischen Bildanalyse, der Unterstützung bei der Krankheitsdiagnose und der Arzneimittelentwicklung eine immer wichtigere Rolle. Sie kann Ärzten helfen, Krankheiten genauer zu erkennen und individuelle Behandlungspläne zu entwickeln, was die Qualität und Effizienz der medizinischen Versorgung erheblich verbessert. Das macht uns optimistisch für die Zukunft von KI in der Medizin.

Als Spezialunternehmen für KI - Forschung überlegen wir, wie wir unsere eigene Forschung automatisieren können. Stellen Sie sich vor, wenn KI in der Lage wäre, selbstständig KI - Forschung zu betreiben, würde dies den Forschungsfortschritt enorm beschleunigen und unschätzbare Werte schaffen. Dies wäre zweifellos ein großer Sprung in der Entwicklung von KI.

Außerdem ist es von großer praktischer Bedeutung, zu untersuchen, wie man die automatische Forschung zur KI - Ausrichtung und - Sicherheit mittels KI - Technologie vorantreiben kann. Durch Automatisierung können wir die potenziellen Risiken von KI effizienter erkennen und vermeiden, sicherstellen, dass KI - Systeme mit menschlichen Werten übereinstimmen und in sicherer und zuverlässiger Richtung entwickeln, was eine solide Grundlage für die breite Anwendung von KI schafft.

Andrew Mayne: Die Ergebnisse des IMO sind offensichtlich beeindruckend. Ich möchte hinzufügen, dass wir vor einigen Jahren, als wir über den von Pachocki beteiligen IMO sprachen, noch an der Definition von AGI arbeiteten. Wir haben uns ein Kriterium überlegt, nämlich ob ein Modell alle Probleme des Mathematikolympiades lösen kann. Wir fanden dieses Kriterium geeignet, weil ein Modell mit so ausgezeichneter mathematischer Schlussfolgerungsfähigkeit viele mathematisch modellierbare Bereiche revolutionieren sollte.

Dieser Podcast bietet eine gute Gelegenheit, um einige interne Perspektiven zu teilen. Ich bin von der Entwicklungsgeschwindigkeit von KI geschockt. Manchmal lesen wir Berichte, die sagen, dass die Auswirkungen von KI auf die Wirtschaft nur 3 % oder 5 % betragen, und dann folgen Kommentare über die Verlangsamung der KI - Entwicklung und Übertreibungen. Wenn ich diese Berichte lese, denke ich an meine Erfahrungen mit der Verarbeitung natürlicher Sprache mittels Deep - Learning vor etwa zehn Jahren, als die technologischen Ergebnisse sehr schlecht waren. Ich erinnere mich, dass Pachocki einmal ein von uns entwickeltes System zur Sentiment - Analyse von Sätzen getestet hat. "Dieser Film ist schrecklich" wurde richtig als negativ klassifiziert; "Dieser Film ist gut" wurde richtig als positiv klassifiziert; aber "Dieser Film ist nicht schrecklich" wurde vom Modell als negativ eingeordnet.

Szymon Sidor: Das war vor zehn Jahren. Seitdem haben wir solche Aufgaben wie die Bestimmung, ob ein Wort ein Substantiv oder ein Verb ist, also das sogenannte "Sentiment - Neuron" - Phänomen, gelöst.

Dann kamen GPT - 1 und GPT - 2. Sie konnten sinnvolle Textpassagen generieren, was damals ein großer Durchbruch war, obwohl es heute einfach erscheint. Dann folgten GPT - 3 und GPT - 4. Für mich war der Zeitpunkt der Entstehung von GPT - 4 mein persönliches "AGI - Moment", weil es manchmal so überraschende Dinge sagte, dass ich mich fragte, ob dieses Modell wirklich Überraschungen bringen kann. Damals war ChatGPT für mich nur ein etwas besseres Tool als Google und nicht besonders wichtig. Aber plötzlich konnte es in der eingehenden Untersuchung genaue Antworten geben und nur selten falsche Informationen liefern, was es sehr nützlich machte.

Heute können unsere Modelle an Programmierwettbewerben teilnehmen. Dies ist für mich persönlich und für das gesamte Team ein hart erkämpftes Ergebnis. Aus der Perspektive der Menschen, die an dieser Technologie forschen, ist die Entwicklungsgeschwindigkeit erstaunlich. Also, wenn man die Zahl 3 % sieht, sollte man an vor zehn Jahren denken, als dieser Anteil vielleicht nur etwa 0,00001 % betragen würde. Diese Zahlen müssen im richtigen Kontext betrachtet werden. Es gibt keinen Grund, nicht zu glauben, dass dieser Anteil in einem Jahr 10 % und in zwei Jahren 20 % betragen wird, und so weiter.

3 Die Herausforderungen und die zukünftige Richtung von Benchmark - Tests

Andrew Mayne: Ich habe gehört, dass es schwierig ist, einen eindeutigen Wendepunkt für die Auswirkungen des Internets auf die Weltwirtschaft in den Globalen Wirtschaftsdiagram