KI verändert die Arbeitswelt – und erweitert die Angriffsfläche für Cyberkriminelle dramatisch. Proofpoint beleuchtet neue Risiken wie Prompt-Injections, KI-generierte Phishing-Angriffe und den Missbrauch von Vertrauensbeziehungen zwischen Mensch und Maschine.
Künstliche Intelligenz hat spätestens mit der Verfügbarkeit generativer KI Einzug in den Arbeitsalltag gehalten und führt zu sogenannten agentenbasierten Arbeitsplätzen, in denen Menschen gemeinsam mit KI-Agenten agieren, kommunizieren und Entscheidungen treffen. Laut dem aktuellen „AI and Human Risk Landscape Report“ von Proofpoint haben 87 % der Unternehmen KI-Assistenten bereits flächendeckend im Einsatz und 76 % führen autonome Agenten ein. Doch nur 48 % haben Sicherheitsaspekte von Beginn an in ihre KI-Strategie integriert. Diese neue Form der Zusammenarbeit birgt große Chancen für Produktivität und Effizienz, bietet Angreifern aber eine vergrößerte Angriffsfläche. Zudem ermöglichen es KI-gestützte Systeme Kriminellen, ihre Aktivitäten zu professionalisieren und in bisher unerreichter Geschwindigkeit und Qualität auszuführen.
Neue Angriffsflächen durch KI-Werkzeuge
Wo früher aufwändige manuelle Arbeit nötig war, um beispielsweise überzeugende Phishing-Mails zu erstellen, können heute generative KI-Werkzeuge innerhalb weniger Minuten täuschend echte Inhalte erzeugen. Diese sind sprachlich fehlerfrei, in Tonalität und Aufbau passgenau auf das Ziel zugeschnitten und oft mit originalgetreuen Marken-Elementen versehen. Ebenso lassen sich mit KI-Tools betrügerische Webseiten generieren, die Anmeldedaten abfangen oder sogar multifaktorbasierte Authentifizierungen täuschen. Die technologischen Hürden für solche Angriffe sinken drastisch. Selbst Personen ohne Programmierkenntnisse können, KI sei Dank, professionelle Phishing-Seiten erstellen. Proofpoint-Forscher beobachteten seit Februar 2025 allein über die KI-Plattform Lovable Hunderttausende schädlicher URLs pro Monat; die Zahl der Apps mit KI-Funktionalität stieg von 11.290 im Dezember 2024 auf 258.033 im November 2025, ein 22-facher Anstieg innerhalb eines Jahres.
Eine besonders perfide Angriffstechnik, die im Umfeld von KI-Arbeitsplätzen an Bedeutung gewinnt, ist das Einschleusen verdeckter Anweisungen in scheinbar harmlosen Content. Diese sogenannten Prompt-Injections werden in E-Mail-Texten oder Dokumenten verborgen und entfalten ihre Wirkung, wenn ein KI-Assistent, der mit dem Inhalt arbeitet, sie unkritisch ausführt. So können unbemerkt gefährliche Befehle ausgeführt, Schutzmechanismen ausgetrickst oder vertrauliche Unternehmensdaten gestohlen werden. Angreifer nutzen dabei gezielt das Vertrauen, das Mitarbeitende in die digitalen Werkzeuge setzen, mit denen sie täglich arbeiten – seien es E-Mail-Clients, Kollaborationsplattformen oder die neuen KI-Copiloten. 45,1 % der Sicherheitsverantwortlichen nennen KI-Manipulation durch Prompt Injection als eines ihrer größten Sicherheitsbedenken.
Das zentrale Risiko in agentenbasierten Arbeitsumgebungen besteht darin, dass Vertrauensbeziehungen selbst zur Angriffsoberfläche werden. Diese Beziehungen existieren zwischen Kollegen im Unternehmen, zu externen Partnern, Lieferanten und Kunden. Und nun zunehmend auch zwischen Mensch und Maschine. Missbrauchtes Vertrauen kann die Tür zu sensiblen Informationen und kritischen Systemen öffnen, ohne dass die Betroffenen zunächst etwas bemerken. Unternehmen müssen sich daher von punktuellen Sicherheitslösungen verabschieden und ihren Security-Ansatz neu ausrichten. Gefragt sind Systeme und Prozesse, die kanalübergreifend funktionieren und sowohl menschliche als auch maschinelle Interaktionen abdecken.
Komplexität moderner Kommunikationswege
Die Vielzahl an Kommunikationskanälen, die moderne Organisationen nutzen, macht ihren Schutz besonders komplex. Informationen bewegen sich heute nicht nur über E-Mails, sondern auch über Chat-Plattformen wie Slack oder Microsoft Teams, in Cloud-Diensten und branchenspezifischen SaaS-Anwendungen, und eben zunehmend über KI-gestützte Assistenten. Unternehmen, die bereits einen KI-bezogenen Vorfall erlebt haben, nannten in 67 % der Fälle E-Mail als Hauptursache, 57 % SaaS- oder Cloud-Anwendungen und 53 % KI-Assistenten oder Agenten. Angriffe vollziehen sich oft in mehreren Phasen und über verschiedene Kanäle hinweg. Um sie effektiv zu bekämpfen, ist ein Verständnis dieser komplexen Interaktionsnetze erforderlich und die Fähigkeit, Verbindungen zwischen einzelnen Kommunikationsereignissen zu visualisieren. So können Sicherheitsverantwortliche erkennen, wie sich eine Bedrohung ausbreitet, welche Wege sie nimmt und wo mögliche Schwachstellen liegen. Die Zusammenführung dieser Informationen zu einem konsistenten Lagebild verkürzt nicht nur die Reaktionszeit, sondern unterstützt auch die Priorisierung der Untersuchung. Derzeit sind 41 % der Unternehmen nicht in der Lage, Bedrohungen kanalübergreifend zu korrelieren.
Genauso wichtig wie die Analyse ist die frühzeitige Erkennung und Blockierung verdächtiger Inhalte, bevor sie den Nutzer erreichen. Dabei reicht die klassische Signaturerkennung längst nicht mehr aus. Systeme zur Absichtsanalyse – etwa durch den Einsatz moderner Sprachmodelle – können verdeckte Anweisungen identifizieren, die einen KI-Assistenten zu schädlichen Handlungen verleiten wollen. Parallel dazu sollte auch die Eingabe sensibler Zugangsdaten in nicht autorisierte Anwendungen oder Websites automatisch erkannt und unterbunden werden, um Kontoübernahmen zu verhindern. Eine unmittelbare Rückmeldung an den Mitarbeitenden, warum sein Verhalten riskant ist, fördert das Verständnis und die Bereitschaft, sichere Praktiken zu übernehmen.
Authentifizierung als Schutzmechanismus
Ein weiterer wesentlicher Baustein für Sicherheit des KI-Arbeitsplatzes ist die Authentifizierung aller Teilnehmer einer Interaktion. Cyberkriminelle ahmen gezielt einflussreiche Rollen nach – etwa als langjähriger Geschäftspartner, als Lieferant oder als kollegiale Kontaktperson. Werden diese falschen Identitäten nicht hinterfragt, haben Angreifer nahezu freies Spiel. 99 % der Unternehmen sind regelmäßigen Versuchen zur Kontoübernahme ausgesetzt, 80 % berichten von monatlichen Angriffen durch kompromittierte Lieferanten, und in 83 % der bestätigten Fälle nutzten Angreifer übernommene Konten anschließend für BEC-Angriffe und gezieltes Phishing über vertrauenswürdige Identitäten. Die Sicherstellung der Authentizität betrifft nicht nur Menschen, sondern ebenso Applikationen und KI-Agenten, die im Namen einer Organisation kommunizieren. Ein transparenter Abgleich, welche Systeme und Domains tatsächlich berechtigt sind, Nachrichten zu versenden oder Handlungen auszuführen, hilft, Missbrauch zu verhindern und das Risiko von Identitätstäuschungen zu verringern.
Trotz aller technischen Schutzmaßnahmen bleibt der Mensch der wichtigste Faktor in der Sicherheitsarchitektur – und zugleich der am häufigsten angegriffene. Social-Engineering-Strategien setzen darauf, psychologische Schwachstellen zu nutzen: Zeitdruck, Unsicherheit, Hilfsbereitschaft oder Autoritätshörigkeit. Damit Mitarbeitende solchen Angriffen standhalten, müssen Unternehmen ihre Belegschaft kontinuierlich schulen: 46,9 % der Unternehmen benennen mangelnde Schulung als eine der zentralen Sicherheitslücken im Betrieb. Erfolgreiche Programme setzen auf Rollen- und Risikoprofil-basiertes Training, das konkrete Angriffsszenarien für die jeweilige Arbeitsrealität darstellt. Besonders wirksam sind Simulationen, die aktuelle, real auftretende Attacken in eine sichere Übungsumgebung übertragen. Die direkte Konfrontation mit praxisnahen Beispielen fördert die Aufmerksamkeit und steigert die Fähigkeit, auch bislang unbekannte Gefahren zu erkennen. Ein enges Zusammenspiel von technischer Abwehr und menschlicher Resilienz ist entscheidend, um den Schutz nachhaltig zu verankern.
KI als Helfer in der Not
Die Integration von KI-Agenten birgt keineswegs nur Risiken, sondern bietet auch neue Chancen für die Verteidigung. KI-gestützte Assistenten können Sicherheits- und Awareness-Teams dabei unterstützen, große Mengen an Meldungen und Ereignissen schneller zu analysieren, Bedrohungen zu priorisieren und Antworten zu automatisieren. Indem Sicherheitsprozesse teilweise autonom ablaufen, gewinnen SOC-Teams Zeit und Kapazitäten für komplexe Fälle, die menschliche Expertise erfordern. Zudem können solche Agenten helfen, Schulungsinhalte zu individualisieren oder Simulationen für Mitarbeitende passgenau bereitzustellen. KI ist somit nicht nur ein Element der Infrastruktur, das es zu sichern gilt, sondern auch ein Werkzeug für deren Schutz.
Der Weg zu einer sicheren Symbiose zwischen Mensch und KI-Agent erfordert einen ganzheitlichen Ansatz, der technologische, organisatorische und kulturelle Komponenten gleichermaßen umfasst. Unternehmen müssen verstehen, dass die Angriffsfläche in KI-Arbeitsplätzen nicht statisch ist, sondern dynamisch wächst. Jede neue Integration, jede Erweiterung der Automatisierungsfunktionen kann potenziell missbraucht werden. Nur wer diese Dynamik antizipiert und ihr mit flexiblen, kanalübergreifenden Sicherheitsmechanismen begegnet, wird das Vertrauen in die Zusammenarbeit zwischen Mensch und Maschine langfristig aufrechterhalten können.
Die Fähigkeit zur sicheren Koordination von Menschen und KI-Agenten wird schon in Kürze zu einem entscheidenden Wettbewerbsfaktor werden. Organisationen, die jetzt in präventive Strategien investieren, die sowohl Angriffe auf die technische Infrastruktur als auch auf das menschliche Verhalten adressieren, schaffen damit die Grundlage für Effizienz ohne Risiko. Sicherheit besteht im Zeitalter künstlicher Intelligenz nicht allein aus Technik, sondern aus dem Zusammenspiel von nachvollziehbarer Kommunikation, konsequenter Authentifizierung und einer Belegschaft, die der Entwicklung immer einen Schritt voraus ist.
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de