Aus der Perspektive von Apples KI-Praxis auf die Synergie zwischen großen und kleinen Modellen: Wie kann Physical AI effizienter implementiert werden?

In letzter Zeit hat Apples Praxis rund um die Fähigkeiten und Bereitstellungsmethoden von KI-Modellen erneut die Aufmerksamkeit der Branche auf sich gezogen.

Während die KI von der technischen Erkundung zur praktischen Anwendung übergeht, taucht eine nachdenkenswerte Frage auf: Bedeutet die immer stärkere Leistungsfähigkeit der Modelle, dass alle Aufgaben an große Modelle übergeben werden sollten?

Die Antwort liegt offensichtlich auf der Hand: Nein.

Für KI-Systeme, die tatsächlich im betrieblichen Einsatz vor Ort eingesetzt werden müssen, ist die Modellfähigkeit zwar wichtig, aber Antwortgeschwindigkeit, Rechenressourcen, Betriebskosten und die tatsächlichen Anforderungen der Aufgaben bestimmen gleichermaßen, ob die Technologie im großen Maßstab eingeführt werden kann.

Das von Apple veröffentlichte dritte Grundmodellsystem deckt verschiedene Modelle auf Geräte- und Serverseite ab und passt die Rechenressourcen an Aufgaben unterschiedlicher Komplexität durch Modellarchitekturen und Parameteraktivierungsmechanismen an. Seine spezifische Implementierung unterscheidet sich nicht vollständig von den Modellsynergielösungen anderer Unternehmen, zeigt aber eine bemerkenswerte Branchenrichtung auf: KI-Anwendungen entwickeln sich von der bloßen Verfolgung der Modellgröße hin zu einer stärkeren Berücksichtigung der Übereinstimmung von Modellfähigkeiten und praktischen Aufgaben.

Dieser Gedanke gilt auch für visuelle KI-Szenarien im Offline-Einzelhandel.

Die von DeepVision Intelligence eingeführte XingXiang-Plattform für integriertes Training und Inferenz erforscht genau dieses Problem: Durch die Zusammenarbeit von großen Modellen, kleinen Modellen und Agenten wird die Modellerstellung, Szenarienvalidierung und betriebliche Anwendung effizienter gestaltet.

I. Warum müssen nicht alle Aufgaben bei der KI-Einführung mit großen Modellen erledigt werden?

Für Offline-Einzelhandelsunternehmen steht die visuelle KI nicht vor einem einzigen Problem, sondern vor einer großen Anzahl andauernder betrieblicher Aufgaben mit unterschiedlicher Komplexität.

Beispielsweise müssen Filialen ständig Kamerabilder analysieren, bestimmte Ziele erkennen, ungewöhnliches Verhalten feststellen und die tägliche Inspektion unterstützen. Diese Aufgaben erfordern sowohl, dass das Modell die Bilder genau versteht, als auch dass das System eine große Anzahl von Videoströmen in Echtzeit verarbeiten kann.

Wenn alle Bilder und alle Aufgaben an große Modelle übergeben werden, steht man unter erheblichem Ressourcendruck.

Große Modelle verfügen über starke Generalisierungsfähigkeiten und Kontextverständnis und können komplexe Informationen verarbeiten, benötigen aber in der Regel mehr Rechenressourcen. In Szenarien mit hochfrequenter Echtzeit-Videoverarbeitung sind sie nicht unbedingt die wirtschaftlichste Wahl.

Kleine Modelle sind anders. Sie werden in der Regel für eine bestimmte Art von klar definierter Aufgabe trainiert, beispielsweise zur Erkennung bestimmter Waren, zur Erkennung ungewöhnlichen Verhaltens oder zur Beurteilung eines bestimmten Szenariozustands. Nach gezieltem Training können kleine Modelle hochfrequente, wiederholte Erkennungsaufgaben mit geringen Rechenressourcen erledigen und eignen sich besser für den Dauerbetrieb auf Edge-Geräten mit begrenzter Rechenleistung.

Beide haben ihre eigenen Vorteile:

Großes Modell: Es ist gut darin, komplexe Anforderungen zu verstehen, Kontexte zu analysieren und neue Probleme zu lösen.

Kleines Modell: Es ist gut darin, Aufgaben mit klar definierten Grenzen auszuführen und eignet sich für hochfrequente Echtzeit-Erkennungsanforderungen.

Das ist vergleichbar mit dem Betriebsmanagement einer Filialkette: Komplexe Probleme müssen von erfahrenen Managern analysiert und beurteilt werden, während eine große Anzahl standardisierter, wiederholender Arbeiten von Stellen mit klarer Aufgabenverteilung dauerhaft erledigt werden kann.

Ein wirklich effizientes KI-System lässt nicht ein einziges Modell alle Arbeiten übernehmen, sondern lässt verschiedene Fähigkeiten ihre jeweiligen Aufgaben erfüllen.

II. Von der Modellerstellung zur kontinuierlichen Optimierung: Wie arbeiten große Modelle und Agenten zusammen?

Nachdem man die jeweiligen Vorteile von großen und kleinen Modellen verstanden hat, muss man noch ein praktischeres Problem lösen: Wie kann man schnell kleine Modelle erstellen, die für verschiedene betriebliche Szenarien geeignet sind?

Herkömmliche visuelle KI-Projekte durchlaufen oft Phasen wie Anforderungsanalyse, Datenerfassung, Datenmarkierung, Modelltraining, Effekttest und kontinuierliche Optimierung. Jedes neue Szenario kann eine große Menge an Wiederholungsarbeit mit sich bringen. Das ist auch ein häufiges Problem, auf das viele Unternehmen bei der Förderung von KI-Anwendungen stoßen: Die technische Machbarkeit muss validiert werden, aber die Validierung selbst erfordert Zeit, Personal und Kosten.

Die XingXiang-Plattform für integriertes Training und Inferenz von DeepVision Intelligence soll diesen Prozess durch die Zusammenarbeit von großen Modellen und Agenten effizienter gestalten.

Erster Schritt: Das große Modell versteht betriebliche Anforderungen und unterstützt die Modellerstellung.

Bei einer neuen visuellen KI-Anforderung kann das große Modell dabei helfen, betriebliche Ziele zu analysieren, Unterschiede zwischen Szenarien zu ordnen und zu beurteilen, welche Ziele das Modell erkennen muss und welche Mängel in den vorhandenen Daten noch bestehen.

In der Datenvorbereitungsphase kann es auch an der Stichprobenauswahl, Datengenerierung, automatischen Markierung und Fehleranalyse teilnehmen. Wenn der Kunde beispielsweise eine bestimmte Art von ungewöhnlichem Verhalten in der Filiale erkennen möchte, kann die Plattform bei der Analyse unterstützen, welche Daten vorbereitet werden müssen, ob die vorhandenen Stichproben typische Fälle abdecken und wo die Fehler, die bei Modelltests auftreten, hauptsächlich konzentriert sind. Ein Teil der Arbeiten, die früher von Ingenieuren einzeln erledigt werden mussten, kann jetzt mit Unterstützung des großen Modells abgeschlossen werden, um Wiederholungsarbeit zu reduzieren.

Zweiter Schritt: Der Agent organisiert den Aufgabenablauf und fördert die kontinuierliche Optimierung des Modells.

Nach Abschluss der Datenvorbereitung muss das Modell trainiert, seine Wirkung getestet und das Ergebnis ständig angepasst werden.

Ein Agent kann als intelligentes Wesen verstanden werden, das über Fähigkeiten zur Aufgabenplanung, Werkzeugaufruf und Ablauforganisation verfügt.

Auf der XingXiang-Plattform für integriertes Training und Inferenz kann der Agent je nach Aufgabenziel Abläufe wie Datenverarbeitung, Modelltraining, Testbewertung und Ergebnisvergleich organisieren. Wenn beispielsweise bei Modelltests festgestellt wird, dass die Erkennungswirkung einer bestimmten Art von Anomalie nicht zufriedenstellend ist, kann das System in Kombination mit Fehlerstichproben und historischen Experimenten dabei helfen, zu analysieren, ob Daten ergänzt, Tags korrigiert oder Trainingsparameter angepasst werden müssen, und dann eine neue Runde von Experimenten organisieren.

Das große Modell unterstützt die Analyse von Problemen und schlägt Optimierungsrichtungen vor, während der Agent diese Richtlinien in ausführbare Abläufe umwandelt und die kontinuierliche Iteration des Modells fördert. Wenn Datenverarbeitung, Trainingsbewertung und Optimierungsabläufe schrittweise standardisiert werden, können ausgereifte Erstellungsabläufe für ähnliche Szenarien wiederverwendet werden, um den Arbeitsaufwand für die Neuentwicklung von Grund auf zu reduzieren.

III. Nach der tatsächlichen Inbetriebnahme des Modells muss man auch lernen, es bedarfsgerecht aufzurufen

Der Abschluss des Modelltrainings bedeutet nicht, dass die Einführung der visuellen KI abgeschlossen ist.

In der realen Filialumgebung müssen Kameras dauerhaft betrieben werden, und die Situation in den Bildern ändert sich ständig. Wie man Erkennungswirkung, Antwortgeschwindigkeit und Rechenkosten in Einklang bringt, ist ein Problem, das in der Phase der Modellbereitstellung gelöst werden muss. Der Ansatz der XingXiang-Plattform für integriertes Training und Inferenz besteht darin, verschiedene Modelle entsprechend der Komplexität der jeweiligen Aufgabe mit den entsprechenden Arbeiten zu betrauen.

Nehmen wir die Anomalieerkennung in Filialen als Beispiel: Unter normalen Umständen kann das kleine Modell Videobilder kontinuierlich verarbeiten und klare Zielerkennungen sowie Anomalieerkennungen durchführen. Wenn ein verdächtiger Anomalie im Bild auftritt oder mehr Kontextinformationen für die Beurteilung benötigt werden, wird das große Modell nach vordefinierten Regeln zur weiteren Analyse aufgerufen. Wenn anschließend entsprechende Bearbeitungsschritte erforderlich sind, kann der Agent die zugehörigen Abläufe koordinieren.

In diesem Prozess übernimmt das kleine Modell hochfrequente, klare Wahrnehmungsaufgaben, das große Modell ist für komplexeres Verstehen und Analysieren zuständig, und der Agent organisiert die Zusammenarbeit zwischen verschiedenen Fähigkeiten.

Nicht jedes Bildframe erfordert den Aufruf eines großen Modells, und nicht jedes Problem erfordert den Neustart eines kompletten Entwicklungsablaufs von Grund auf.

Durch Anwendungsorchestrierung organisiert die XingXiang-Plattform für integriertes Training und Inferenz verschiedene Modell- und Intelligenzfähigkeiten zu konfigurierbaren, wiederverwendbaren betrieblichen Abläufen, sodass das KI-System Fähigkeiten je nach Szenarioanforderung flexibel kombinieren kann, um ein Gleichgewicht zwischen Erkennungswirkung, Antwortgeschwindigkeit und Betriebskosten zu finden.

IV. Von der einzelnen Modellentwicklung zu einem wiederverwendbaren visuellen KI-Produktionssystem

Von Apples KI-Praxis bis hin zu Szenarien im Offline-Einzelhandel lässt sich eine gemeinsame bemerkenswerte Richtung erkennen: Der Wettbewerb bei KI-Anwendungen liegt nicht nur darin, wie leistungsstark das Modell selbst ist, sondern auch darin, ob verschiedene Fähigkeiten organisiert werden können, sodass sie an geeigneten Stellen ihre Wirkung entfalten.

Für Filialketten ist dieser Punkt besonders wichtig.

Wenn ein KI-Szenario in einer Filiale erfolgreich getestet wurde, ist das erst der Beginn der betrieblichen Validierung. Wenn die Anwendung auf mehr Filialen, mehr Kameras und mehr betriebliche Anforderungen ausgeweitet werden muss, bestimmen die Modellerstellungseffizienz, die Bereitstellungskosten und die Fähigkeit zur kontinuierlichen Optimierung wirklich, ob die KI im großen Maßstab angewendet werden kann.

Die XingXiang-Plattform für integriertes Training und Inferenz von DeepVision Intelligence erforscht die Umwandlung der visuellen KI von der einmaligen Projektentwicklung in eine standardisiertere, konfigurierbarere Produktionsweise, indem große Modelle das Verständnis von Anforderungen und die Modellerstellung unterstützen, kleine Modelle spezifische visuelle Aufgaben ausführen, Agenten Trainings- und Optimierungsabläufe organisieren und Anwendungsorchestrierung für die Fähigkeitssteuerung und Wiederverwendung eingesetzt wird.

Für Unternehmen bedeutet das, dass bei der Validierung neuer Szenarien die wiederholte Entwicklung reduziert, die Zyklen einiger Modellerstellungs- und Iterationsphasen verkürzt werden können, und validierte Modelle und Abläufe lassen sich bequemer auf ähnliche Szenarien anwenden.

Natürlich unterscheiden sich das betriebliche Umfeld, die Datenqualität, die Gerätebedingungen und die Szenariokomplexität verschiedener Unternehmen voneinander, sodass die tatsächlichen Bereitstellungskosten und die Wirkung noch anhand spezifischer Anforderungen bewertet werden müssen.

Der Wert der KI liegt nicht nur darin, über ein leistungsstärkeres Modell zu verfügen, sondern darin, die richtigen Fähigkeiten zur richtigen Zeit einzusetzen, um echte betriebliche Probleme zu lösen.

Von der Modellfähigkeit zum betrieblichen Wert hofft DeepVision Intelligence, durch die XingXiang-Plattform für integriertes Training und Inferenz die Validierung visueller KI-Szenarien effizienter, die Modellerstellung flexibler und die großmaßstäbliche Anwendung nachhaltiger zu gestalten.

Lassen Konfigurationen die wiederholte Entwicklung ersetzen und lassen visuelle KI schneller in echten betrieblichen Einsatz vor Ort eintreten.