Ohne es gäbe es Fei-Fei Lis ImageNet nicht... nun ist es nicht mehr da.

Eine Crowdworking-Plattform, bei der jede Aufgabe nur wenige Cent einbringt, die aber einst die gesamte Ära des Deep Learning getragen hat.

Nun wird sie geschlossen.

Amazon hat gerade angekündigt, dass seine Crowdsourcing-Plattform Mechanical Turk am 30. September dieses Jahres vollständig eingestellt wird.

In ihrer Spitzenzeit arbeiteten auf der Plattform über 500.000 Menschen online an einfachen Tätigkeiten: Bilder betrachten, klassifizieren und markieren – alle kleinen Aufgaben, die Computer zu dieser Zeit noch nicht erlernen konnten, wurden vollständig manuell erledigt, Aufgabe für Aufgabe.

Später beteiligte sich diese riesige „menschliche Rechenleistung“ direkt an der Erstellung des ImageNet-Datensatzes –

Ohne MTurk wäre die manuelle Markierung von Millionen von Bildern in ImageNet fast unmöglich gewesen.

Ohne ImageNet wäre Li Fei-Fei möglicherweise nicht über Nacht berühmt geworden.

Hinton und seine Schüler wären nicht auf einen Schlag berühmt geworden, und das Deep Learning wäre 2012 möglicherweise nicht plötzlich wiederbelebt worden.

21 Jahre später sind echte KI-Systeme zunehmend in der Lage, diese Aufgaben selbst zu erledigen.

Und die Gruppe von Menschen, die damals der KI zu „Intelligenz“ verhalfen, erlebt gemeinsam mit dieser Plattform die „Abschaltmitteilung“.

500.000 Menschen arbeiten online als Gelegenheitsarbeiter: MTurk holt echte Menschen als „Vertretung“

Mechanical Turk (MTurk) wurde 2005 eingeführt.

Eigentlich hatte Amazon anfangs überhaupt nicht vor, mit diesem Tool die Geschichte der KI neu zu schreiben.

MTurk löste damals ein sehr praktisches und überraschendes Problem: Einige Aufgaben sind für Computer extrem schwierig, für Menschen aber absurd einfach...

Also dachte sich Amazon eine sehr direkte Lösung aus: Wenn Programme es nicht schaffen, teilt man die Probleme einfach auf und verteilt sie an echte Menschen ~

Diese aufgeteilten kleinen Aufgaben wurden dann HIT genannt, also Human Intelligence Task.

Wenn ein Unternehmen beispielsweise 10.000 Bilder klassifizieren lassen wollte, wurden diese bei MTurk direkt in 10.000 unabhängige Aufgaben aufgeteilt und gleichzeitig auf der Plattform verteilt.

100 Menschen konnten gleichzeitig daran arbeiten, 1000 auch, und wenn Zehntausende gleichzeitig online gingen, ging es noch schneller.

Mit anderen Worten: MTurk sorgte nicht dafür, dass eine einzelne Person schneller arbeitete, sondern verwandelte eine anstehende, nur nacheinander erledigbare Schwerarbeit in eine Aufgabe, die „global parallel“ ausgeführt werden kann.

Wirklich ein menschlicher Daten-Flywheel...

Und der Name Mechanical Turk passt genau zu diesem Funktionsprinzip.

Im 18. Jahrhundert gab es in Europa den berühmten „Mechanischen Türken“, eine Maschine, die nach außen hin selbstständig Schach spielte und sogar gegen Napoleon antreten konnte.

Später stellte man fest: In der Maschine versteckte sich die ganze Zeit ein echter Schachspieler!? (Ich habe das total unterschätzt...)

Amazon übertrug diese Anekdote fast nahtlos auf das Internet: Oberflächlich scheinen die Programme automatisch zu arbeiten, aber die eigentliche Arbeit erledigen echte Menschen hinter dem Bildschirm.

Jeff Bezos prägte damals eine Aussage, die sich fast als Prophezeiung erfüllte:

Künstliche künstliche Intelligenz (artificial artificial intelligence).

Sobald diese Idee funktionierte, entwickelte sich MTurk schnell von einem internen Tool von Amazon zu einem globalen Crowdsourcing-Marktplatz.

Bis 2011 hatten sich auf MTurk bereits über 500.000 Arbeitnehmer aus 190 Ländern versammelt.

Mit der steigenden Zahl von Menschen wuchs auch das Spektrum der Aufgaben rasant: Bildauswahl, Sprachtranskription, Textklassifizierung, Datenbereinigung, Stimmungsanalyse, Inhaltsprüfung.

Jede Aufgabe, bei der „Maschinen leicht ins Straucheln geraten, Menschen aber innerhalb von Sekunden eine Entscheidung treffen können“, konnte hier eingestellt werden.

Und das ging 21 Jahre lang so.

Ohne MTurk gäbe es heute kein ImageNet und keine Deep-Learning-Revolution

Gehen wir zurück in die Zeit um 2006.

Li Fei-Fei, die gerade erst an die Princeton Universität berufen worden war, beschloss, etwas zu tun, was damals ziemlich gegen den Trend lag –

Eine ausreichend große visuelle Enzyklopädie für Maschinen zu erstellen.

Zu dieser Zeit enthielten die gängigen Datensätze für Computer Vision oft nur einige Tausend bis Zehntausend Bilder. Bei so wenigen Daten neigten Modelle dazu, nur die Trainingsdaten auswendig zu lernen: Sie merkten sich die Muster im Trainingssatz, konnten aber die unzähligen unterschiedlichen Objekte der realen Welt kaum wirklich verstehen.

Also beschloss das Team um Li Fei-Fei, etwas damals Verrücktes zu tun: Eine „ausreichend große“ visuelle Welt für Maschinen zu erschaffen.

Der ImageNet-Datensatz war geboren.

ImageNet baute auf WordNet auf, teilte die reale Welt in einzelne Konzepte auf und fügte jedem Konzept Hunderte oder Tausende von echten Bildern hinzu.

Hunde, Autos, Äpfel, Stühle, Vögel, Fische... alles, was man definieren konnte, wurde nach Möglichkeit aufgenommen.

Aber bald tauchte ein viel praktischeres Problem auf –

Bilder zu finden war nicht schwer, man konnte sie bei Google, Yahoo oder Flickr durchsuchen. Aber das eigentliche Problem war, dass die gefundenen Bilder oft gar nicht passten oder sogar völlig unzusammenhängend waren!!!

Nachdem Suchmaschinen die Bilder abgerufen hatten, musste also noch ein menschlicher Schritt folgen: Jedes einzelne Bild zu bestätigen.

Eine beeindruckende Zahl: Die Anzahl der Kandidatenbilder, die ImageNet später verarbeiten musste, überstieg 160 Millionen!!! Damit wurde das Personalproblem zu einem unauflösbaren Knoten...

Gerade als ImageNet von der riesigen Menge an manueller Bildprüfung aufgehalten zu werden drohte, wandte sich das Team um Li Fei-Fei an die kurz zuvor eingeführte Amazon Mechanical Turk.

Das ImageNet-Team begann die riesige Bildauswahlarbeit in Mikroaufgaben aufzuteilen und an die globalen Arbeitnehmer auf der MTurk-Plattform zu verteilen.

Eine großartige KI-Infrastruktur wurde so zu unzähligen ganz normalen „Mausklicks“ zersetzt.

In der 2009 veröffentlichten ImageNet-Arbeit wurde beschrieben, dass der Datensatz bereits 5247 Konzepte und 3,2 Millionen sortierte Bilder enthielt.

Die Zahl, die das ImageNet-Team später bei der Rückschau auf das Projekt nannte: 49.000 MTurk-Arbeiter aus 167 Ländern.

Mit anderen Worten: Hinter ImageNet stand eine globale temporäre Markierungsarmee, die dieses riesige Bildprüfungsprojekt überhaupt erst möglich machte.

Deshalb hätte ImageNet ohne MTurk damals möglicherweise nie erstellt werden können...

Nachdem ImageNet fertiggestellt war, beschleunigte sich die weitere Geschichte erst richtig.

2010 startete die ImageNet Challenge: Modelle aus der ganzen Welt wurden mit denselben Daten trainiert und traten dann auf derselben Rangliste gegeneinander an.

Zwei Jahre später tauchte die Kombination auf, die später immer wieder in die Geschichte der KI einging –

Geoffrey Hinton von der Universität Toronto und seine beiden Schüler Alex Krizhevsky und Ilya Sutskever.

Die drei nahmen mit einem tiefen Faltungsneuronalen Netzwerk an der ImageNet Large Scale Visual Recognition Challenge teil.

Sie drückten die Top-5-Fehlerrate der ImageNet Challenge 2012 direkt auf etwa 15 % und distanzierten sich damit deutlich von allen traditionellen Methoden.

Damit bekam die gesamte Computer-Vision-Gemeinde zum ersten Mal so direkt zu sehen, welche Sprungkraft entsteht, wenn riesige Datenmengen, GPU-Rechenleistung und tiefe neuronale Netze zusammenkommen.

Von links nach rechts: Ilya Sutskever, Geoffrey Hinton und Alex Krizhevsky

Seitdem ist der Name von Alex Krizhevsky untrennbar mit AlexNet verbunden.

Ilya ging später zu Google Brain, war Mitbegründer von OpenAI und deren Chefwissenschaftler, und gründete nach seinem Ausscheiden SSI.

Der alte Herr Hinton erhielt später den Turing-Preis und gilt als einer der anerkannten Väter des Deep Learning.

Li Fei-Fei kehrte an die Stanford Universität zurück, leitet dort gemeinsam das HAI-Institut und legte mit ImageNet den Grundstein für ihre Position in der Geschichte der modernen Computer Vision.

Danach folgten VGG, GoogLeNet und ResNet.

Die ImageNet-Rangliste wurde Jahr für Jahr nach unten korrigiert, das Deep Learning drang von der Bildverarbeitung in die Spracherkennung, dann in die Verarbeitung natürlicher Sprache und schließlich in die heutige Ära der großen Sprachmodelle vor.

Die Welt ist wirklich erstaunlich –

Das Team um Li Fei-Fei erstellte ImageNet mit Hilfe von MTurk; ImageNet machte Li Fei-Fei weithin berühmt; Hinton und seine Schüler wurden mit ImageNet auf einen Schlag berühmt; und das Deep Learning erlebte durch diesen Sieg seine Renaissance.

Fast 50.000 gewöhnliche Menschen aus 167 Ländern saßen vor ihren Computern und verwandelten Hunderte Millionen Kandidatenbilder Stück für Stück durch ihre Klicks in ImageNet.

Die KI kann die Arbeit endlich selbst erledigen – MTurk wird zuerst abgeschaltet

Genau deshalb wirkt die heutige Einstellung von Mechanical Turk wie der Abschluss eines ganzen Zeitalters.

Die offizielle Stellungnahme von Amazon ist zurückhaltend: Man prüfe fortlaufend die eigenen Produkte und Dienste und habe daher die Entscheidung getroffen, MTurk einzustellen.

CNBC berief sich zuvor auf Krista Pawloski von der Organisation für die Rechte von Datenarbeitern Turkopticon, die erklärte, dass MTurk seit Jahren an Bedeutung verliere, Amazon immer weniger Ressourcen dafür einsetze und neue Plattformen für Datenmarkierung stetig Arbeitnehmer und Kunden abziehen.

Aber der viel direktere Grund ist ganz einfach: Die Aufgaben, die einst am wertvollsten waren, können die KI heute zunehmend selbst erledigen...

Im Jahr 2005 war es noch ein echtes Problem, eine Maschine zu bitten, zu erkennen, ob ein Bild einen Hund enthält – heute ist das eine grundlegende Aufgabe, die multimodale Modelle nebenbei erledigen können.

Gleichzeitig hat sich der Bedarf der KI-Branche an „Menschen“ verändert.

Fortschrittliche Modelle brauchen zunehmend Fachkräfte wie Programmierer, Ärzte und Anwälte, um Code zu bewerten, Antworten zu prüfen, Schlussfolgerungen und Sicherheit zu testen.

Daher sind neue Plattformen wie Scale AI, Mercor und Prolific entstanden, die Fachkräfte auswählen und verwalten, um professionellere Trainings- und Bewertungsdaten bereitzustellen.

Im Vergleich dazu ist das Crowdsourcing-Modell von MTurk, bei dem „jede Person Aufgaben übernehmen kann und jede Aufgabe nur wenige Cent einbringt“, zunehmend nicht mehr zeitgemäß...

Noch absurder ist, dass sogar die MTurk-Arbeiter selbst KI einsetzen!!!

Eine Studie von Schweizer Forschern aus dem Jahr 2023 ergab, dass bis zu 46 % der befragten MTurk-Arbeiter KI-Modelle verwenden, um Textaufgaben zu erledigen.

Eigentlich zahlen die Kunden für die