Amazon Agent All-in-One Bundle bekommt riesige Updates und setzt 9 neue Funktionen um, um sich als stärkste Agentenplattform zu positionieren.

Nachrichten von Zhidx aus Las Vegas vom 3. Dezember. Auf der jährlichen Cloud-Computing-Veranstaltung AWS re:Invent hielt Swami Sivasubramanian, Vizepräsident von AWS Agentic AI, einen Themenvortrag. In diesem Vortrag erläuterte er ausführlich, warum Amazon Web Services (AWS) die beste Wahl für das Bauen und Betreiben von Agenten ist, und stellte mehrere neue Tools für die Entwicklung von Agenten vor.

Das Strands Agents SDK, ein Framework für Agenten, hat nun die Unterstützung für TypeScript und Edge-Geräte hinzugefügt. Dies erleichtert das Bauen von Agenten und erweitert ihre Anwendbarkeit auf breitere Edge-Bereiche wie Automobile, Spiele und Roboter.

Das Amazon Bedrock AgentCore, eine Plattform für Agenten, hat mehrere Innovationen eingeführt: Die Policy-Funktion ermöglicht es Teams, Grenzen für die Nutzung von Tools durch Agenten festzulegen. Die Evaluationsfunktion hilft Teams, die Leistung von Agenten in realen Szenarien zu verstehen. Die Episodische Gedächtnisfunktion ermöglicht es Agenten, aus Erfahrungen zu lernen und kontinuierlich zu verbessern.

Das vollständig verwaltete AI-Framework Amazon Bedrock hat eine neue Reinforcement Fine-Tuning-Funktion hinzugefügt, die automatisierte Feinabstimmung ermöglicht. Das Amazon SageMaker AI-Framework hat eine neue Modell-Anpassungsfunktion hinzugefügt, die tiefe, grundlegende Anpassungen unterstützt und den Prozess des Bauens von effizienten KI-Systemen vereinfacht.

Die neue Checkpointless Training-Funktion von Amazon SageMaker HyperPod ermöglicht eine großangelegte, kostengünstige Modelltraining. Das Gesamtziel ist es, den Wert und die Rendite (ROI) dieser Workloads für Kunden in der Produktionsumgebung zu maximieren.

Darüber hinaus ist der Amazon Nova Act-Service, der für die Zuverlässigkeit von Agenten konzipiert ist, jetzt in seiner Vollversion vollständig verfügbar. Dies trägt dazu bei, die großangelegte Produktion und Bereitstellung von Agenten zu ermöglichen.

01. Zwei neue Funktionen im Strands Agents SDK: Unterstützung für TypeScript und Edge-Geräte

Das Strands Agents SDK ist ein quelloffenes, modellgetriebenes Framework für KI-Agenten, das eine modellgetriebene Orchestrierung bietet. Seit seiner Veröffentlichung wurden über 5,299 Millionen Downloads registriert.

Heute hat Amazon Web Services zwei neue Funktionen des Strands Agents SDK angekündigt:

Erstens die Unterstützung für TypeScript (Vorschauversion). TypeScript ist eine der beliebtesten Programmiersprachen weltweit. Dies wird das Bauen von Full-Stack-Agenten-Apps noch einfacher machen.

Strands Agents bietet uneingeschränkte Unterstützung für die Kernfunktionen von TypeScript, einschließlich Typsicherheit, async/await asynchroner Syntax und moderner JavaScript/TypeScript-Programmierungsparadigmen. Entwickler können das AWS CDK (Cloud Development Kit) nutzen, um den gesamten Agenten-Technologie-Stack mit TypeScript zu bauen.

Zweitens die Unterstützung für Edge-Geräte. Kunden können mit dem Strands Agents SDK autonome KI-Agenten bauen, die auf kleinen Geräten laufen können. Dies ermöglicht die Umsetzung von Agenten-Anwendungen in Bereichen wie Automobile, Spiele und Roboter und die Bereitstellung von intelligenten Diensten in der realen Welt.

02. Neue Policy-, Evaluations- und Episodische Gedächtnisfunktionen in Amazon Bedrock AgentCore: Unterstützung für die Entwicklung der nächsten Generation von Agenten

Das Einführen von Agenten in die Produktion ist mit vielen Schwierigkeiten verbunden. Es ist erforderlich, Agenten schnell zu skalieren, vergangene Interaktionen und Lernprozesse zu speichern, die Kontrolle über alle Agenten und Tools zu identifizieren und zugreifen zu können, die Nutzung von Agenten-Tools für die Ausführung komplexer Workflows zu beherrschen und schließlich Probleme zu beobachten und zu debuggen.

Die Komplexität bremst die Innovation. Wie können Kunden bei der großangelegten Entwicklung und Bereitstellung sicherer, produktionsreifer Agenten unterstützt werden? Dies ist der Kernwert von Amazon Bedrock AgentCore.

Amazon Bedrock AgentCore ist eine Plattform für Agenten, die speziell für die sichere und großangelegte Entwicklung und Bereitstellung von Agenten konzipiert ist. Sie ist kompatibel mit verschiedenen Frameworks und Modellen. Die Vorschauversion wurde im Juli auf der AWS New York Summit erstmals vorgestellt und hat sich seitdem schnell weiterentwickelt. Seit Oktober ist sie vollständig verfügbar.

Unternehmen, die Agenten von der Prototypenphase in die Produktionsumgebung bringen möchten, benötigen eine spezielle Infrastruktur, die sicher, zuverlässig, skalierbar und an die nichtdeterministischen Eigenschaften von Agenten angepasst ist. Agenten benötigen eine dynamisch skalierbare Basisunterstützung, die langlaufende Workloads unterstützen kann und den Kontextinformationen sofort und sicher speichern und abrufen kann.

Aktuell müssen die frühen Adopter jedoch große Ressourcen aufwenden, um diese Infrastruktur von Grund auf aufzubauen. Dieser Prozess ist zeitaufwändig und erschwert die Entwicklung.

Amazon Bedrock AgentCore löst dieses Problem, indem es eine vollständig verwaltete Dienstleistung bietet. Es umfasst eine Reihe von Schlüsselkomponenten, die alles bieten, was für das großangelegte Ausführen von produktionsreifen Agenten erforderlich ist, darunter:

Runtime: Serverlose, sichere und isolierte Rechenressourcen für die Laufzeit;

Observability: Tools zur Beobachtbarkeit (quelloffen und kompatibel mit dem OpenTelemetry-Protokoll), die es Kunden ermöglichen, den Laufzustand von Agenten zu verstehen;

Memory: Gedächtnisfunktion, die es Agenten ermöglicht, langfristig mit Benutzern zu interagieren und vergangene Interaktionen zu speichern, um so intelligente und individuelle Anwendungen zu bauen;

Code Interpreter: Code-Interpreter, der es Agenten ermöglicht, durch das Schreiben von Code auf bisher unzugängliche Tools zuzugreifen;

Gateway: Gateway-Funktion, die die Verbindung zu Systemen innerhalb und außerhalb von AWS ermöglicht;

Managed Browser und Identity: Netzwerk-Nutzungsrechte und Identitätsüberprüfungsfunktion, die die Identität von Agenten und die von ihnen vertretenen Personen klar definiert. Dies ist eng mit der Governance und Beobachtbarkeit verbunden.

Kunden können entweder Amazon Bedrock Agent nutzen, um Agenten zu bauen, oder es mit jedem quelloffenen Agenten-Entwicklungsframework kombinieren. Die Plattform wird bereits weit verbreitet eingesetzt, und bisher wurden von Entwicklern über 2 Millionen Downloads registriert.

Darüber hinaus hat Bedrock AgentCore zwei neue Funktionen hinzugefügt:

Erstens die Policy in AgentCore, eine Policy-Funktion, die klare Grenzen für die Aktionen von Agenten festlegt. Durch eine Echtzeit-Sicherheitskontrolle, die unabhängig vom Agenten-Code ist, werden unbefugte Aktionen von Agenten aktiv blockiert.

Unternehmen können einfach mit natürlicher Sprache Regeln beschreiben, um detaillierte Policies zu erstellen. Sie können Policies für Agenten definieren (z. B. zugängliche Tools und Daten, ausführbare Aktionen, Anwendungsbedingungen), wie beispielsweise die Regel: "Lehne alle Rückerstattungsanträge von Kunden ab, wenn der Rückerstattungsbetrag über 1.000 US-Dollar liegt".

Diese Policies werden vor der Ausführung von Agenten ausgewertet, um sicherzustellen, dass Agenten immer innerhalb der festgelegten Regeln agieren.

Zweitens die AgentCore Evaluation, eine Evaluationsfunktion, die es Entwicklern ermöglicht, die Qualität von Agenten anhand ihrer Verhaltensweisen kontinuierlich zu überprüfen und sicherzustellen, dass ihr Verhalten den Erwartungen entspricht.

Die AgentCore-Evaluationsfunktion erfordert keine Verwaltung komplexer Infrastrukturen und bietet 13 vordefinierte Evaluatoren, die gängige Qualitätsaspekte wie Korrektheit, Nützlichkeit, Genauigkeit der Toolauswahl, Sicherheit, Zielerreichungsrate und Kontextrelevanz abdecken. Entwickler können auch eigene Evaluatoren mit ihrem bevorzugten Large Language Model und Prompts schreiben.

Drittens die AgentCore Memory Episodic Functionality, eine episodische Gedächtnisfunktion, die wichtige Ereignisse und Zustände während der Interaktion automatisch speichert. Dies hilft Agenten, aus vergangenen Erfahrungen zu lernen und ihre Entscheidungsfindung zu verbessern.

Es umfasst kurzfristiges und langfristiges Gedächtnis. Das kurzfristige Gedächtnis wird verwendet, um den aktuellen Interaktionsprozess zu protokollieren und Agenten zu helfen, den aktuellen Interaktionszustand mit Benutzern oder Operators zu verstehen. Das langfristige Gedächtnis wird verwendet, um die langfristige Interaktionsgeschichte zu verfolgen. Das episodische Gedächtnis kann auf diesen Gedächtnissen basierend zusätzliche Kontextinformationen für bestimmte Interaktionsszenarien hinzufügen, sodass Agenten intelligenteres Feedback geben können.