Wenn KI-Agenten an der Seite von Mitarbeitern arbeiten, stößt klassischer Schutz an Grenzen. Auf der it-sa erklärte Dr. Martin Krämer von KnowBe4, warum Mensch, E-Mail-Filter und Agenten-Überwachung gemeinsam abgesichert werden müssen.

Der rasante Einzug künstlicher Intelligenz verändert die Unternehmenslandschaft in beispiellosem Tempo. Weil KI-Agenten zunehmend Seite an Seite mit menschlichen Angestellten arbeiten, verschieben sich die Grenzen der IT-Sicherheit. Auf der IT-Sicherheitsmesse it-sa in Nürnberg erklärte Dr. Martin Krämer, CISO Advisor für Europa und den Mittleren Osten beim Sicherheitsspezialisten KnowBe4, warum traditionelle Schutzmechanismen bei autonom handelnder Software versagen.

Die KI-Debatte in der Wirtschaft drehte sich lange vor allem um Effizienz. Nun müssen Organisationen das versprochene Produktivitätsplus in einer hochdynamischen Bedrohungslage absichern. Krämers Ausgangspunkt: Die moderne Belegschaft besteht nicht mehr nur aus Menschen, sondern auch aus autonomen KI-Agenten. Um Unternehmen im KI-Zeitalter effektiv zu betreiben und Cybersicherheit als Enabler für das Geschäft zu gestalten, müsse die digitale Belegschaft als Ganzes befähigt, geschützt und eingebunden werden. „Es geht wirklich darum, Produktivität zu gewährleisten“, sagt Krämer.

Das schleichende Verschwinden des kritischen Denkens

Das Kernproblem liege nicht allein in wachsenden technischen Einfallstoren, sondern in einem psychologischen Effekt. Automatisierung und unkritisches Vertrauen in überzeugend formulierte KI-Ergebnisse führten dazu, dass das Hinterfragen im Arbeitsalltag verkümmere. Das Gehirn lagere kognitive Anstrengung an Algorithmen aus – ein riskanter Pfad, wenn es darum geht, Manipulation zu erkennen.

Zugleich hat KI dem Social Engineering eine neue Dimension verliehen. Klassischer E-Mail-Betrug verriet sich früher durch schlechte Grammatik oder auffällige Anhänge. Heute operieren Angreifer über viele parallele Kanäle: Deepfakes in Videokonferenzen, geklonte Stimmen am Telefon und gefälschte Nachrichten in Microsoft Teams oder Slack. Fachleute mögen darüber streiten, wie überzeugend KI-Fälschungen tatsächlich sind, doch die schiere Masse der Angriffe ist stark gestiegen. Selbst bei gleicher Qualität, so Krämer, werde die Quantität zum Qualitätsmerkmal.

Hinzu kommt der Plausibilitätseffekt. KI-generierte Bilder, die eine emotionale Notlage inszenieren oder politische Spannungen anheizen, wirken absolut glaubwürdig. Krämer nennt gefälschte Überflutungsbilder aus den USA, die kleine Mädchen mit ihren Hunden in einem Boot zeigen, versehen mit der Behauptung, die Regierung habe sie im Stich gelassen. Mitarbeiter müssen deshalb wieder lernen, vier Fragen zu stellen: Warum existiert diese Information? Wer hat sie erstellt? Welche Absicht steckt dahinter? Und welche Reaktion soll sie auslösen?

Drei Säulen für eine Sicherheitskultur

Compliance-Häkchen reichten nicht mehr aus, sagt Krämer. KnowBe4 beschreibt eine Plattform auf drei ineinandergreifenden Säulen.

Die erste ist Security-Awareness-Training kombiniert mit Angriffssimulation. Statt trockener Theorie setzt das Unternehmen auf narrative Formate wie „Inside Man“, eine preisgekrönte Dramaserie, die inzwischen in der siebten Staffel läuft. Laut Krämer schalten manche Kunden die Serie nach dem Pflichttraining frei und erreichen Schulungsquoten von nahezu 100 Prozent.

Die zweite Säule ist die Kommunikationssicherheit, allen voran Cloud-E-Mail-Security, die derzeit auf Teams und Slack ausgeweitet wird. Natural Language Processing und maschinelles Lernen erfassen typische Kommunikationsmuster, um Business Email Compromise oder Nachrichten zu erkennen, deren einzige Nutzlast eine Telefonnummer für Voice-Phishing ist. Krämer betont, dass es dabei nicht um die Überwachung von Mitarbeitern gehe. Nach seiner groben Schätzung filtert ein Secure Email Gateway rund 90 Prozent der Bedrohungen, integrierte Cloud-E-Mail-Security erwischt weitere 7 bis 9 Prozent. Das verbleibende Prozent, das kritischste, brauche geschulte Mitarbeiter als „Human-in-the-Loop“.

Wenn KI-Agenten zum „Insider Threat“ werden

Die dritte Säule umfasst das Management und die Überwachung von KI-Agenten, und sie verändert am meisten. Da Agenten ihre Schritte erst zur Laufzeit generieren, gibt es keine statischen Signaturen, die vorab geprüft werden könnten. Die Verantwortung bleibt zudem bei den Menschen: Leakt ein Agent Daten oder legt er Betriebsabläufe lahm, haften weiterhin Führungskräfte und die Mitarbeiter, die ihn entwickelt haben, nicht die Maschine. Fehlerhafte Systemanweisungen oder manipulative Eingaben können einen Agenten außer Kontrolle geraten lassen, sodass er wie ein digitaler Innentäter agiert.

Ein einmal bereitgestelltes Modell lasse sich nicht wie ein Mitarbeiter trainieren, daher bleibe nur die Verhaltensüberwachung zur Laufzeit, mit einem „Kill Switch“ als letztem Mittel. Der Governance-Prozess sei klar, sagt Krämer: Das Sicherheitsteam schaltet den Agenten ab und informiert den verantwortlichen Mitarbeiter, der die Anweisungen korrigiert. Nach erneuter Prüfung geht der Agent wieder ans Netz. KnowBe4 entwickelt ein Werkzeug, das KI mit KI überwacht; es befindet sich in der Tech Preview, die allgemeine Verfügbarkeit erwartet Krämer für Anfang nächsten Jahres.

Kultur entscheidet

Schatten-KI, Phishing-Wellen oder autonome Agenten: Am Ende entscheidet die Unternehmenskultur, ob eine Sicherheitsarchitektur funktioniert. Technik und Richtlinien setzen Leitplanken, doch nachhaltige Resilienz entsteht erst aus dem Zusammenspiel von fortschrittlicher Filtertechnik und einer kritisch denkenden Belegschaft. Unternehmen, die diesen Wandel als kontinuierlichen Verbesserungsprozess begreifen, können das Risiko Mensch in eine wirksame Verteidigungslinie verwandeln. Laut Krämer haben mehr als 60 Prozent aller Sicherheitsvorfälle mit dem Faktor Mensch zu tun. KnowBe4 gibt an, dass der KI-bezogene wiederkehrende Jahresumsatz 2026 um mehr als 35 Prozent gewachsen ist und mehr als 70.000 Kunden die Plattform nutzen.

Von Dietmar Müller

Dr. Dietmar Müller ist ein erfahrener IT-Fachjournalist und Chefredakteur von Beyond Buzzwords. Er verfügt über jahrzehntelange Expertise auf dem deutschen und internationalen IT-Markt sowie über fundierte Redaktionserfahrung in renommierten Verlags- und Medienhäusern wie Springer, IDG und CBS Interactive. Ob crossmediale Fachartikel, tiefgreifende Analysen oder fundierte Interviews, am Schreibtisch oder im direkten Austausch mit Branchengrößen: Dr. Dietmar Müller ist in der Enterprise-IT-Welt zu Hause. Seine Themenschwerpunkte umfassen Enterprise-IT- und OT-Architekturen, Cloud, ERP, MES, Datacenters, Cybersecurity und Compliance, industrielle Automation und KI-Governance u. a.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

WordPress Cookie Hinweis von Real Cookie Banner