Fabrix.ai Agentic AI

Raju Datla, CEO von Fabrix.ai, erklärte auf der IT Press Tour: „In den letzten Jahren haben viele von uns generative KI-Schnittstellen und Co-Piloten eingesetzt, um unsere Kommunikation zu verbessern, Forschung zu betreiben und komplexe Informationen zusammenzufassen. KI-basierte Agenten sind digitale Einheiten, die aus Daten selbstständig Erkenntnisse gewinnen und Aktionen ausführen können. Agenten sind darauf ausgerichtet, ein bestimmtes Ergebnis zu erzielen, ohne dass ein ständiges menschliches Eingreifen erforderlich ist. Im Bereich des IT-Betriebs und der Beobachtbarkeit können diese Agenten riesige Datensätze durchsuchen und Aufgaben wie zusätzliche Datenerfassung, Problemvalidierung und Problembehebung durchführen“.

Fabrix.ai, früher bekannt als CloudFabrix, erweitert nun die Robotic Data Automation Fabric um Agentic AI-Funktionen.  Zu den Schlüsselkomponenten des Agentic AI Frameworks gehören:

– Agenten-Orchestrierung und Lebenszyklus-Management

– KI-Leitplanken

– Daten- und Berechtigungsmanagement für Agenten

– Transparenz und Beobachtbarkeit von Agenten

– Qualitätskontrolle und -sicherung von Agenten

– Schließende LLMs

Anhand des Anwendungsfalles Anomalieerkennung können Sie sehen, wie sich agentenbasierte KI vom ML-basierten Ansatz unterscheidet.

– ML-basierte Anomalie-Erkennung:

Verwendet Algorithmen des maschinellen Lernens, um Ausreißer in den Daten auf der Grundlage statistischer Muster oder vordefinierter Regeln zu erkennen. Benötigt große Mengen an Trainingsdaten. Konzentriert sich in erster Linie auf die Erkennung von Anomalien und überlässt die Interpretation und Reaktion menschlichen Bedienern oder der Integration mit anderen Systemen (z. B. AIOps). Ist nur begrenzt in der Lage, die Ursache von Anomalien zu erklären, ihre Auswirkungen zu bewerten oder Korrekturmaßnahmen vorzuschlagen. Erfordert häufig kontinuierliches Training, um sich an veränderte Datenmuster anzupassen.

– Agentenbasierte KI-gestützte Anomalieerkennung:

o Verwendet KI-Agenten zur Erkennung von Anomalien, oft mit geringerer Abhängigkeit von großen Datensätzen.Agenten können die Ursachen von Anomalien und ihre möglichen Auswirkungen auf das System erklären.können Korrekturmaßnahmen empfehlen oder selbstständig durchführen.passen sich an und lernen aus vergangenen Anomalien, indem sie ihre Reaktionsstrategien dynamisch anpassen.

o Bietet ein größeres Potenzial für Verantwortlichkeit und autonome Entscheidungsfindung als Reaktion auf Anomalien.

Agenten-Orchestrierung und Lebenszyklus-Management

Agentic AI innerhalb der Fabrix.ai Plattform ermöglicht es Benutzern, Agenten zu erstellen, indem sie entweder neue Aufgabenbeschreibungen definieren oder vordefinierte Vorlagen verwenden. Das Agentic AI Framework verwendet Large Language Models (LLMs), um diese Beschreibungen in ein Aufgabendiagramm zu übersetzen, das die Abfolge der Aufgaben, Abhängigkeiten und Bedingungen für den Agenten beschreibt.

Der Agentic AI Orchestrator führt das Aufgabendiagramm aus, während das Modul AI Guardrails sicherstellt, dass die KI bei der Aufgabe bleibt und nicht davon abweicht.  Das Aufgabendiagramm enthält typischerweise die folgenden Knotentypen

– Abfrage-Knoten: Führt Abfragen gegen die Data Fabric aus, um Daten oder Aggregationen abzurufen.

– Knoten zur Generierung: Verwendet LLMs, um Abfragen, Zusammenfassungen, Erkenntnisse und Handlungsempfehlungen zu generieren.

– Entscheidungs-Knoten: Verwendet LLMs, um Entscheidungen auf der Grundlage von Daten und Ergebnissen früherer Generationen zu treffen und die nächsten Schritte innerhalb des Graphen zu bestimmen.

– Aktionsknoten: Verwendet die Automation Fabric, um automatisierte Aktionen auszuführen, z. B. das Öffnen von Tickets, das Versenden von Benachrichtigungen, das Auslösen anderer Agenten oder das Ausführen von Datenabruf- und Fehlerbehebungsaufgaben.

Das Agenten-Lebenszyklus-Management umfasst die folgenden Aktionen

– Prüfen Ermöglicht es Benutzern, das Aufgabendiagramm zu überprüfen und zu verfeinern, um es an die Ziele anzupassen.

– Trockenübung: Ermöglicht es den Benutzern, Agentenaktionen zu simulieren, ohne sie tatsächlich auszuführen, um eine Vorschau auf die Ergebnisse zu erhalten.

– Testen: Ermöglicht die Ausführung von Agenten für eine begrenzte Zeit oder Iterationen auf bestimmten Testdaten, um die Ergebnisse zu überprüfen.

Verwaltung des Datenzugriffs für KI-Agenten

In unserer Data Fabric sind die Daten in Streams, Datensätzen und Graph DB-Sammlungen organisiert. Für KI-Agenten mit benutzerähnlichen Personas können Zugriffsbeschränkungen angewendet werden, um ihre Reichweite auf bestimmte Streams oder Datensätze zu beschränken. Zusätzlich kann eine granulare Kontrolle implementiert werden, um den Zugriff auf bestimmte Datenabschnitte innerhalb eines Streams zu beschränken.

Verwaltung von Aktionsberechtigungen für Agenten

Autonome Agenten können viele Aktionen ausführen. Daher ist es wichtig, ihre Berechtigungen zu verwalten und die Anzahl der Aktionen, die sie ausführen können, einzuschränken. Die Agentic AI-Plattform stellt sicher, dass diese Aktionsberechtigungen nicht von der KI selbst außer Kraft gesetzt werden können, um Kontrolle und Sicherheit zu gewährleisten.

Transparenz und Beobachtbarkeit der Agenten

Fabrix.ai Storyboards bieten Einblicke in den Betrieb und die Leistung von Agenten, indem sie die Arbeitsabläufe der Agenten visualisieren, den Fortschritt verfolgen und Engpässe oder Bereiche mit Optimierungsbedarf identifizieren. Diese verbesserte Sichtbarkeit ermöglicht ein besseres Management und eine bessere Koordination der Agentenaktivitäten, was letztendlich zu einer höheren Effizienz und Effektivität führt. Darüber hinaus werden die detaillierten Überlegungen des LLM in Storyboards festgehalten, die den Nutzern helfen, den Entscheidungsprozess der KI zu verstehen und zu verfeinern.

Qualitätskontrolle und -sicherung von Agenten

Die Qualitätskontrolle von Agenten ist entscheidend für die Aufrechterhaltung der Zuverlässigkeit und Konsistenz von KI-Agenten. Dieser Prozess umfasst die kontinuierliche Überwachung des Agentenverhaltens, die Identifizierung und Korrektur von Fehlern oder Leistungsproblemen sowie die Implementierung von Verbesserungen, um die Effektivität der Agenten zu optimieren und Betriebsunterbrechungen zu vermeiden.

Das Modul zur Qualitätskontrolle der Agenten verwendet große Sprachmodelle (Large Language Models, LLMs), um die Leistung der Agenten zu überwachen und sicherzustellen, dass sie erfolgreich die beabsichtigten Ergebnisse erzielen.

Darüber hinaus berücksichtigt das System das Feedback der Benutzer, sowohl zu den spezifischen Ausführungen der Agenten als auch zur Gesamtleistung der Agenten. Diese Feedbackschleife ermöglicht es dem Modul zur Qualitätskontrolle der Agenten, aufkommende Probleme bei neuen Ausführungen zu identifizieren und die Leistung der Agenten weiter zu verbessern.

Wie kann Fabrix.ai mir helfen, wenn ich bereits eine große Datenmenge in einer Datenplattform habe?

RDAF verfügt über Pipelines, die das Sammeln und Einlesen von Daten aus verschiedenen Datenquellen ermöglichen. Diese Daten können dann innerhalb von RDAF gespeichert oder an andere Datenplattformen weitergeleitet werden.

Wenn sich Ihre Daten jedoch bereits in Plattformen wie Splunk, Opensearch, Elasticsearch oder Arango DB (Graphdatenbank) befinden, kann Fabrix.ai diese Daten direkt für die Visualisierung und die Agentic AI-Funktionen nutzen, ohne sie erneut in RDAF einlesen zu müssen. Weitere Datenbanken, die wir nativ integrieren, finden Sie in unserer technischen Dokumentation. Wir fügen laufend weitere hinzu.

Um diese nahtlose Integration zu erreichen, fügen Sie einfach die API-Anmeldeinformationen für die von Ihnen gewählte Plattform (On-Premise oder Cloud) zu RDAF hinzu. Nach dem Hinzufügen dieser Anmeldedaten können Sie sofort mit der Nutzung der Daten von jeder dieser Plattformen beginnen

Raju Datla, CEO, Fabrix.ai stated at the IT Press Tour: „Over the past few years, many of us have been using generative AI interfaces and co-pilots to improve our communication, conduct research, and summarize complex information. AI-based agents are digital entities created to autonomously derive insights from data and execute actions. Agents are focused on achieving a specific outcome without the need for constant human intervention. In the realm of IT operations and observability, these agents can sift through massive data sets and perform tasks such as supplemental data collection, issue validation, and problem remediation.“

Fabrix.ai, formerly known as CloudFabrix, is now adding agentic AI capabilities to the Robotic Data Automation Fabric.  Key components of the Agentic AI framework include:

– Agent orchestration and lifecycle management

– AI guardrails

– Data and action permissions management for agents

– Agent visibility and observability

– Agent quality control and assurance

– Reasoning LLMs

Use case Anomaly Detection and see how Agentic AI differs from the ML-based approach.

– ML-based anomaly detection:

Uses machine learning algorithms to identify outliers in data based on statistical patterns or pre-established rules.Requires significant amounts of training data.Focuses primarily on identifying anomalies, leaving interpretation and response to human operators or integration with other systems (e.g., AIOps).Limited ability to explain the cause of anomalies, assess their impact, or suggest corrective actions. Often requires continuous retraining to adapt to changing data patterns.

– Agentic AI-based anomaly detection:

o Uses AI agents to detect anomalies, often with less reliance on large data sets.Agents can reason about the causes of anomalies and their potential impact on the system.Can autonomously recommend or execute corrective actions.Adapts and learns from past anomalies, dynamically adjusting its response strategies.

o Provides greater potential for accountability and autonomous decision making in response to anomalies.

Agent Orchestration & Lifecycle Management

Agentic AI within the Fabrix.ai platform enables users to create agents by either defining new task descriptions or using predefined templates. The Agentic AI framework uses Large Language Models (LLMs) to translate these descriptions into a task graph that outlines the sequence of tasks, dependencies, and conditions for the agent.

The Agentic AI Orchestrator executes the task graph, while the AI Guardrails module ensures that the AI stays on task and doesn’t deviate.  The task graph typically includes the following node types

– Query nodes: Executes queries against the Data Fabric to retrieve data or aggregations.

– Generation Nodes: Uses LLMs to generate queries, summaries, insights, and recommended actions.

– Decision Node: Uses LLMs to make decisions based on data and the results of previous generations, determining the next steps within the graph.

– Action Node: Leverages the Automation Fabric to perform automated actions such as opening tickets, sending notifications, triggering other agents, or performing data retrieval and remediation tasks.

Agent lifecycle management includes the following actions

– Review: Allows users to review and refine the task graph to align with goals.

– Dry Run: Allows users to simulate agent actions without actual execution to preview results.

– Test: Facilitates agent execution for a limited time or iterations on specified test data to verify results.

Managing Data Access for AI Agents

Within our Data Fabric, data is organized into streams, datasets, and Graph DB collections. AI agents, which have user-like personas, can have access restrictions applied to limit their reach to specific streams or datasets. Granular control can be further implemented to restrict access to specific slices of data within a stream.

Manage action permissions for agents

Autonomous agents will have the ability to perform many actions. Therefore, it is critical to manage their privileges and limit the set of actions they can perform. The Agentic AI platform ensures that these action privileges cannot be overridden by the AI itself, maintaining control and security.

Agent visibility and observability

Fabrix.ai storyboards provide insight into agent operations and performance by visualizing agent workflows, tracking progress, and identifying bottlenecks or areas for optimization. This enhanced visibility enables better management and coordination of agent activities, ultimately leading to improved efficiency and effectiveness. In addition, storyboards capture the detailed reasoning used by the LLM, helping users understand and refine the AI’s decision-making process.

Agent Quality Control and Assurance

Agent quality control is critical to maintaining the reliability and consistency of AI agents. This process involves continuously monitoring agent behavior, identifying and correcting errors or performance issues, and implementing improvements to optimize agent effectiveness and prevent operational disruptions.

The Agent Quality Control module uses Large Language Models (LLMs) to monitor agent performance and ensure that they are successfully achieving their intended outcomes.

In addition, the system incorporates user feedback on both specific agent executions and overall agent performance. This feedback loop allows the Agent Quality Control module to identify emerging issues in new executions and further improve agent performance.

How can Fabrix.ai help me if I already have a significant amount of data in a data platform?

The RDAF has pipelines that enable data collection and ingestion from various data sources. This data can then be stored within RDAF or passed to other data platforms.

However, if your data already resides in platforms such as Splunk, Opensearch, Elasticsearch, or Arango DB (graph database), Fabrix.ai can use that data directly for visualization and Agentic AI capabilities without having to ingest it back into RDAF. Please refer to our technical documentation for additional databases we natively integrate with. We are constantly adding more.

To achieve this seamless integration, simply add the API credentials for your chosen platform (whether on-premises or cloud-based) to RDAF. Once these credentials are added, you can immediately start using data from any of these platforms.