Wenn KI die Budgets sprengt, bekämpfen Nutzungslimits nur die Symptome. Vier gezielte Architekturansätze steigern die Effizienz von KI-Agenten und liefern verlässliche Ergebnisse.
Laut einer McKinsey-Umfrage überziehen 93 Prozent der Unternehmen ihre KI-Budgets – knapp die Hälfte davon um bis zu 30 Prozent. Nach aufgebrauchten Tokenpools reagieren Unternehmen häufig mit Nutzungslimits, Modell-Routing oder Kosten-Dashboards. Doch diese Maßnahmen behandeln lediglich Symptome. Wenn KI-Agenten durch unstrukturierte Datensilos irren, irrelevante Kontextdaten verarbeiten oder Aufgaben nach Unterbrechungen von vorn beginnen, steigen die Kosten drastisch. Das Phänomen des „Tokenmaxxing“ – der vermeintliche Gleichsatz von hohem Tokenverbrauch und Produktivität – bremst Systeme aus. Um Leistung zu steigern und Ausgaben nachhaltig zu senken, müssen Unternehmen die Architektur ihrer Systeme optimieren. Der Graph- und KI-Spezialist Neo4j zeigt vier zentrale Hebel in der Daten- und Kontextarchitektur auf.
Vier Architekturhebel für effizientere KI-Agenten
- Knowledge Layer: Die Ontologie als Wissenslandkarte Unternehmenswissen reicht weit über Handbücher hinaus; es ist tief in Prozessen und den Erfahrungen der Mitarbeitenden verankert. Eine Knowledge Layer bietet eine kontrollierte, gemeinsame Schicht, die Ontologie, Unternehmensdaten und Gedächtnis bündelt. Durch die Verknüpfung von Rohdaten mit Geschäftsbegriffen greifen Agenten gezielt auf eindeutig definierte Zuständigkeiten und Regeln zu.
- Context Graph: Navigationssystem für situative Entscheidungen Während die Knowledge Layer das „Was“ beantwortet, liefert der Context Graph – in Form eines Knowledge-Graphen – das „Warum“. Für mehrstufige autonome Aufgaben ruft der Agent dynamisch nur den jeweils relevanten Ausschnitt des Graphen ab. Dies reduziert die Datenmenge im Kontextfenster deutlich. Gleichzeitig dokumentiert der Context Graph Reasoning-Spuren und Entscheidungen nachvollziehbar, was für Audits im Rahmen des EU AI Acts essenziell ist.
- Agentengedächtnis: Arbeiten ohne unnötige Neustarts Da LLMs kein dauerhaftes Gedächtnis besitzen, verlieren sie bei langen Workflows leicht den Faden. Ein externes Agentengedächtnis (Agent Memory), das als persistente Speicherschicht außerhalb des LLM abgelegt ist, fungiert wie ein Fahrtenbuch. Über versionierte Checkpoints kann der Agent nach Unterbrechungen genau an der letzten bestätigten Stelle weiterarbeiten, anstatt den Prozess von vorn zu starten.
- Thin Agents: Mit leichtem Gepäck effizienter ans Ziel Auf dieser soliden Wissensbasis setzen schlanke „Thin Agents“ auf. Sie führen Regelwerke, Zugriffsrechte und Kontext nicht dauerhaft im Systemprompt mit, sondern rufen benötigte Daten punktuell ab. Laut einer Studie des National Innovation Centre for Data (NICD) erzielt ein solcher graphgestützter Ansatz im Vergleich zu rein vektorbasierten RAG-Systemen einen um 80 Prozent höheren Truthfulness-Score und erhöht die Lösungsquote von 29 auf über 65 Prozent.
Wie Dr. Jesús Barrasa, AI Field CTO bei Neo4j, betont, wird reine KI-Modellleistung zunehmend austauschbar. Der nachhaltige Wettbewerbsvorteil liegt in der sauberen Formalisierung des eigenen Unternehmenswissens.
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de