VAST AgentEngine

Die AgentEngine stützt sich auf vier robuste Säulen, von denen jede darauf ausgerichtet ist, die einzigartigen Herausforderungen zu bewältigen und die immensen Möglichkeiten von KI-Agenten zu erschließen.

1. Eine dedizierte Bereitstellungs- und Laufzeitplattform für Agenten

Die AgentEngine bietet den wesentlichen operativen Rahmen für die Instanziierung von Agenten. Dies ist aufwändiger als die typische Anwendungsbereitstellung. Oft umfasst sie das Aufsetzen von Containern, aber auch das Laden von Modellen in den GPU-Speicher und die Überprüfung der zahlreichen Begleitwerkzeuge, die ein Agent benötigt, um effektiv zu funktionieren.

Zentrale Produktionsanforderungen wie HTTP-Zugang (mit Firewall, DNS und Lastausgleich), automatische Skalierung, Lebenszyklusverwaltung, robustes Identitätsmanagement und Laufzeitisolierung sind integrale Bestandteile. Darüber hinaus führt AgentEngine wichtige KI-native Funktionen ein. Dazu gehört die Sicherstellung der Ausfallsicherheit und Hochverfügbarkeit von Agenten durch Checkpointing für lang laufende Aufgaben.

Wenn Agenten für einen stunden- oder gar tagelangen Betrieb ausgelegt sind, ist die Aussicht, nach einem unerwarteten Ausfall von Grund auf neu starten zu müssen, schlichtweg untragbar. AgentEngine löst dieses Problem, indem es Agenten ermöglicht, ihren Speicher- und Denkstatus zu überprüfen. Dadurch ist eine nahtlose Wiederherstellung und Kontinuität gewährleistet und es wird sichergestellt, dass Fortschritte nicht verloren gehen und der Betrieb ohne Rückschritte fortgesetzt werden kann.

2. Das Studio als Drehscheibe für den Aufbau, die Verbindung und die Steuerung von Agenten.

Das Herzstück von AgentEngine ist das Studio, eine intuitive Umgebung, in der Entwickler genau definieren können, wie ihre Agenten mit einem Universum von Tools und Daten interagieren. Innerhalb dieses integrierten Arbeitsbereichs:

– werden Agenten mit ihren notwendigen Werkzeugen und verschiedenen Datenquellen verbunden.

– Funktionen können leicht in das ModelContextProtocol (MCP) umgewandelt werden. MCP ist ein neuer Standard für die Interaktion zwischen Modell und Tool oder Agent und Tool.

– Kritische Parameter wie Identität, Zugriffsregeln, Protokollierungsebenen und Quality-of-Service-(QoS)-Anforderungen werden klar und präzise konfiguriert.

Das Studio abstrahiert die zugrunde liegende, komplexe Infrastruktur. Dadurch können sich die Entwickler auf die Logik und das Verhalten der Agenten konzentrieren, während die vollständige Beobachtbarkeit und granulare Kontrolle erhalten bleibt. Es stellt auch die wichtigen Beziehungen her, die die dritte Säule antreiben: die Toolbox.

3. Die Toolbox als kuratiertes Verzeichnis intelligenter Tools

Die Toolbox dient als zentrales Repository für wiederverwendbare, produktionsreife Tools, die für den Agentenbetrieb unerlässlich sind. Diese Werkzeuge stellen ihre Funktionen über das weit verbreitete Standardprotokoll MCP zur Verfügung. MCP wurde speziell dafür entwickelt, dass Modelle auf Fähigkeiten mit inhärentem semantischem Bewusstsein und kontextbezogenem Verständnis zugreifen können.

VAST bietet ein umfassendes Paket kuratierter Tools, die für alle Operationen der Datenplattform entwickelt wurden. Diese reichen vom einfachen Lesen von Objekten bis hin zu komplexen Datentransformationen wie dem Chunking von Dokumenten für anspruchsvolle RAG-Pipelines. Darüber hinaus können Unternehmen die Toolbox mit ihren eigenen benutzerdefinierten Tools erweitern, einschließlich Verbindungen zu externen Systemen oder maßgeschneiderten internen Workflows. Die Tools können von mehreren Agenten gemeinsam genutzt oder je nach Bedarf privat gehalten werden. Sobald diese Tools registriert sind, werden sie sorgfältig überwacht, versioniert und über das Studio leicht auffindbar gemacht. Dadurch wird ein Ökosystem gemeinsamer Fähigkeiten gefördert und eine beschleunigte Entwicklung ermöglicht.

4. Beobachtbarkeit: Verfolgung von Agenten-Aktionen und Rückschlüsse auf Aktionspfade

Die AgentEngine bietet Entwicklern und Betreibern eine neue Dimension der Sichtbarkeit, die über bloße Systemleistungsmetriken hinausgeht und das komplizierte Denkverhalten der Agenten selbst umfasst. Agenten benötigen eine unterstützende Infrastruktur und Umgebung zur Protokollierung:

– Detaillierte Zugriffs- und Identitätsprotokolle.

– Umfassende Metriken zur Toolnutzung.

– eine vollständige Historie der Eingabeaufforderungen und Antworten.

– eine eingehende Verfolgung der Gedankenkette.

In Umgebungen, in denen KI-gesteuerte Entscheidungen erklärungsbedürftig sind, ist dieses Maß an Transparenz von größter Bedeutung – sei es, um die Einhaltung von Vorschriften zu gewährleisten, Debugging-Prozesse zu rationalisieren oder das Vertrauen der Benutzer aufzubauen und zu erhalten. Die Protokolle liefern einen klaren Prüfpfad, aus dem genau hervorgeht, auf welche Daten zugegriffen wurde, welche Identität die Operation durchgeführt hat und welchem spezifischen Argumentationspfad der Agent gefolgt ist, um zu seinen Schlussfolgerungen zu gelangen.

AgentEngine stellt die Umgebung und die Werkzeuge bereit, um diese Informationen so einfach aufzuzeichnen und abzurufen, wie es heute beim traditionellen Debugging von Programmen mit einem Stack-Trace möglich ist.

Einzigartig für KI-Agenten im Vergleich zu herkömmlichen cloudnativen Microservices ist auch das Konzept der Feedbackschleifen. In einer Produktionsumgebung ist es für Agenten von entscheidender Bedeutung, auf der Grundlage von Benutzersignalen kontinuierlich zu lernen und sich zu verbessern – sei es durch explizite Signale wie „Daumen hoch/runter”-Bewertungen und Eingabeaufforderungen oder durch implizite Belohnungshinweise. In komplexen, agentenbasierten Arbeitsabläufen können überwachende Agenten dieses Feedback generieren oder das Feedback der Endbenutzer an die Modellkette weitergeben. Die AgentEngine ist so konzipiert, dass sie dieses unschätzbare Feedback erfasst und sofort für dynamische Speicheraktualisierungen sowie für die künftige Modellabstimmung und -verfeinerung zur Verfügung stellt.

Die Anwendung von KI in der realen Welt

Die AgentEngine ist ein Eckpfeiler in der Vision von VAST für ein auf das Zeitalter der KI zugeschnittenes Betriebssystem. Sie bietet ein umfassendes Paket an Fähigkeiten, die erforderlich sind, um agentengestützte Prototypen experimenteller Konzepte in skalierbare, beobachtbare, wiederherstellbare und sich ständig verbessernde Anwendungen umzuwandeln – voll und ganz darauf vorbereitet, reale Herausforderungen zu bewältigen und neue Grenzen der Innovation zu erschließen.

In den nächsten 12 Monaten wird VAST jeden Monat einen Open-Source-Beispielagenten veröffentlichen. Diese Agenten werden die Bereiche Videobearbeitung, Verkaufsstrategie, wissenschaftliche Forschung, Datenverarbeitung, Finanzanalyse und mehr abdecken und Ihnen dabei helfen, die Zukunft zu gestalten.

Die VAST AgentEngine wird in der zweiten Hälfte des Jahres 2025 verfügbar sein.

AgentEngine is built upon four robust pillars, each engineered to address the unique challenges and unlock the immense opportunities presented by AI agents.

1. A Dedicated Deployment & Runtime Platform for Agents

AgentEngine provides the essential operational framework to instantiate agents. This is more involved than typical application deployment. It often encompasses spinning up containers like usual, but then also includes loading models into GPU memory and verifying the array of accompanying tools that an agent requires to function effectively.

While core production necessities such as HTTP access (complete with firewall, DNS, and load balancing), autoscaling, lifecycle managing, robust identity management, and runtime isolation are all integral components, AgentEngine introduces critical AI-native capabilities. These include ensuring agent resiliency and high availability through checkpointing for long-running tasks. When agents are designed to operate for hours or even days, the prospect of restarting from scratch after an unexpected failure is simply untenable. AgentEngine addresses this head-on by allowing agents to checkpoint their memory and reasoning state. This enables seamless recovery and continuity, ensuring that progress isn’t lost and operations can resume without regression.

2. The Studio: Hub for Building, Connecting, and Governing Agents

At the heart of AgentEngine lies the Studio, an intuitive environment where developers can meticulously define how their agents interact with a universe of tools and data. Within this integrated workspace:

• Agents are connected to their necessary tools and diverse data sources.
• Functions can be readily transformed into ModelContextProtocol (MCP) tools, a new standard for model-tool or agent-tool interaction.
• Critical parameters such as identity, access rules, audit logging levels, and Quality of Service (QoS) requirements are configured with clarity and precision.

The Studio is designed to abstract away the underlying infrastructure complexities, empowering developers to focus on agent logic and behavior while maintaining complete observability and granular control. It also forges the vital relationships that power the third pillar: the Toolbox.

3. The Toolbox: A Curated Registry of Intelligent Tools

The Toolbox serves as a central repository for reusable, production-ready tools that are vital for agent operation. These tools expose their functions through MCP, a widely adopted standard protocol engineered specifically to allow models to access capabilities with inherent semantic awareness and contextual understanding.

VAST provides a comprehensive suite of curated tools designed for all Data Platform operations. These range from simple object reads to complex data transformations, such as document chunking for sophisticated RAG pipelines. Furthermore, organizations possess the flexibility to extend the Toolbox with their own custom tools, including connectors to external systems or bespoke internal workflows. Tools can be shared across multiple agents or kept private as needed. Once registered, these tools are meticulously monitored, versioned, and made easily discoverable through the Studio, fostering an ecosystem of shared capabilities and accelerated development.

4. Unprecedented Observability: Tracking Agent Actions and Reasoning Action Paths

AgentEngine offers developers and operators a new dimension of visibility – one that extends beyond mere system performance metrics to encompass the intricate reasoning behavior of the agents themselves. Agents require the supporting infrastructure and environment to log:

• Detailed access and identity logs.
• Comprehensive tool usage metrics.
• A complete history of prompts and responses.
• In-depth chain-of-thought tracing.

This level of transparency is paramount in environments where AI-driven decisions demand explainability – whether for ensuring compliance, streamlining debugging processes, or building and maintaining user trust. The logs provide a clear audit trail, showing precisely which data was accessed, the identity that performed the operation, and the specific reasoning path the agent followed to arrive at its conclusions.

AgentEngine provides the environment and tools to record and retrieve this information as easy as doing a stack trace is today in traditional program debugging.

Also unique to AI agents in comparison to traditional cloud native microservices, is the concept of Feedback Loops. In a production setting, it’s crucial for agents to continuously learn and improve based on user signals – whether explicit, like thumbs-up/down ratings and prompt selections, or implicit reward cues. In complex agentic workflows, supervising agents can generate this feedback or relay feedback from the end user back up the chain of models. AgentEngine is engineered to capture this invaluable feedback, making it immediately available for dynamic memory updates and for future model tuning and refinement. So with no further ado, let’s see the agent engine in action:

Powering the Real-World Application of AI

AgentEngine is a cornerstone component in VAST’s vision for an Operating System tailored for the AI era. It provides the comprehensive suite of capabilities necessary to transform agentic prototypes from experimental concepts into scalable, observable, recoverable, and continuously improving applications – fully prepared to tackle real-world challenges and unlock new frontiers of innovation.

VAST will release one open-source example Agent every month for the next 12 months. These agents will span video editing, sales strategy, scientific research, data engineering, financial analysis, and more, helping you build the future.

The VAST AgentEngine will be available in the second half of 2025.