Agentic AI Phishing

Neue agentenbasierte KI-Modelle, die selbstständig denken, planen und handeln können, werden die Taktiken von Cyberkriminellen weiter revolutionieren und Angriffe im Jahr 2025 skalierbarer und effizienter machen. Während Unternehmen beginnen, KI für Produktivität und Sicherheit zu nutzen, setzen Cyberkriminelle sie ein, um Phishing-Kampagnen zu verbessern, die Erkennung zu umgehen und Angriffe zu verfeinern.

Dies markiert einen Wendepunkt: Das Wettrüsten zwischen KI-gesteuerten Angreifern und KI-gestützten Cybersicherheitstools nimmt rapide zu und zwingt Unternehmen, ihre traditionellen Verteidigungsstrategien zu überdenken. Angesichts der rasanten Entwicklung von KI müssen Sicherheitsteams KI-gestützte Bedrohungserkennung und -abwehr integrieren, um mit der zunehmenden Geschwindigkeit und Raffinesse von KI-gestützten Cyberangriffen Schritt halten und ihnen begegnen zu können.

Agentenbasierte KI-Modelle sind eine spezielle Form der Künstlichen Intelligenz (KI), bei der die Modelle in Form vieler autonomer Einheiten – Agenten – operieren. Indem sie miteinander und mit ihrer Umgebung interagieren, können sie lernen und sich selbst optimieren, wodurch das Systemverhalten der KI stark dynamisiert wird. Um ihre vorgegebenen Ziele zu erreichen können sie selbständig Kontexte interpretieren, Optionen bewerten und Aktionen ausführen.

Cyberkriminelle werden durch sie in die Lage versetzt, ihre Angriffe deutlich auszuweiten – sowohl in quantitativer als auch in qualitativer Hinsicht. Denn: agentenbasierte KI-Modelle ermöglichen es ihnen, ihre Angriffe – die derzeit häufig noch einen hohen personellen Aufwand erfordern – im großen Stil zu automatisieren. Ihre Fähigkeit zur Selbstoptimierung, selbständig Angriffe zu planen, umzusetzen, auszuwerten und zu optimieren, wird die Attacken von Cyberkriminellen einfacher, skalierbarer und billiger machen – und außerdem: noch stärker zugeschnitten auf die individuellen Schwächen ihrer Opfer.

Auch und gerade im Angriffsvorfeld, bei der Aufspürung potenzieller Ziele, der Feststellung ihrer individuellen Schwachstellen und der Ausspähung, Hortung und Nutzbarmachung ihrer personenbezogenen Daten sowie ihrer Credentials werden sie zum Einsatz kommen. Phishing, Spear Phishing und Social Engineering – nach wie vor Ansatzpunkt Nr. 1 eines jeden erfolgreichen Cyberangriffs – werden so effektiver, effizienter und erfolgreicher zum Einsatz gebracht werden können.

Denn agentenbasierte KI-Modelle ermöglichen:

– die automatisierte Erstellung von Phishing-Nachrichten: KI-Agenten können eine große Stückzahl an personalisierten Phishing-E-Mails generieren und versenden. Diese Nachrichten können auf den Schreibstil und die Vorlieben des jeweiligen Opfers zugeschnitten werden.

– die Erstellung von Deepfakes: KI-Agenten können verwendet werden, um Deepfake-Video- oder -Audio-Nachrichten zu erstellen, die Personen imitieren, die den Opfern bekannt sind. Diese Deepfakes können dann in Phishing-Angriffen eingesetzt werden, um das Vertrauen der Opfer zu gewinnen und sie dazu zu bringen, sensible Informationen preiszugeben.

– Eine automatisierte Analyse von und Anpassung an ihre Opfer: KI-Agenten können Daten aus früheren Angriffen analysieren und ihre Strategien kontinuierlich anpassen, um effektiver zu werden. Sie können auch in Echtzeit auf Reaktionen ihre Opfer reagieren und ihre Taktiken entsprechend ändern.

Angesichts dieser ‚Angriffs-Revolution‘ werden IT-Sicherheitsverantwortliche noch einmal deutlich nachrüsten müssen: mit KI-gestützten IT-Sicherheitslösungen – auch und gerade im Bereich Anti-Phishing. Anders werden sich Cyberangriffe – vor allem diejenigen, die auf Schwachstellen im Human Risk Management setzen – immer seltener effektiv erkennen und abwehren lassen.

Lösungen hierzu stehen längst parat. Phishing-Trainings, -Schulungen und -Tests für Mitarbeiter lassen sich mittlerweile – KI sei Dank – personalisieren und zugeschnitten auf die spezifischen Schwachstellen des einzelnen Mitarbeiters automatisiert zum Einsatz bringen. Und moderne Anti-Phishing-E-Mail-Lösungen kombinieren KI mit Crowdsourcing, um selbst neueste Zero Day-Bedrohungen frühzeitig aufspüren und rechtzeitig abwehren zu können – so dass sie gar nicht erst in die Posteingänge der Mitarbeiter gelangen. Mit solchen und ähnlichen Lösungen wird es Unternehmen auch in Zukunft gelingen, ihre Human Risks im Griff zu behalten.

New agent-based AI models that can think, plan, and act autonomously will continue to revolutionize cybercriminal tactics, making attacks more scalable and efficient in 2025. As enterprises begin to leverage AI for productivity and security, cybercriminals are using it to improve phishing campaigns, evade detection, and refine attacks.

This marks a tipping point: the arms race between AI-driven attackers and AI-powered cybersecurity tools is heating up, forcing organizations to rethink traditional defense strategies. With the rapid evolution of AI, security teams must integrate AI-powered threat detection and defense to keep pace with and counter the increasing speed and sophistication of AI-powered cyberattacks.

Agent-based AI models are a specific form of artificial intelligence (AI) in which the models operate in the form of many autonomous units – agents. By interacting with each other and their environment, they can learn and optimize themselves, making the system behavior of the AI highly dynamic. They can independently interpret contexts, evaluate options, and take actions to achieve their specified goals.

They allow cybercriminals to significantly expand their attacks – both quantitatively and qualitatively. This is because agent-based AI models allow them to automate their attacks on a large scale, which currently often requires a high level of human effort. Their ability to self-optimize, independently plan, execute, evaluate and optimize attacks will make cybercriminals‘ attacks simpler, more scalable and cheaper – and even more tailored to the individual weaknesses of their victims.

They will also and especially be used in the field of attack to locate potential targets, identify their individual vulnerabilities, and spy on, harvest, and exploit their personal data and credentials. Phishing, spear-phishing and social engineering – still the primary starting point for any successful cyber attack – will be more effective, efficient and successful.

Agent-based AI models enable

– Automate the creation of phishing messages: AI agents can generate and send large numbers of personalized phishing emails. These messages can be tailored to each victim’s writing style and preferences.

– Deepfake creation: AI agents can be used to create deepfake video or audio messages that impersonate people known to the victims. These deepfakes can then be used in phishing attacks to gain victims‘ trust and trick them into revealing sensitive information.

– Automatically analyze and adapt to their victims: AI agents can analyze data from previous attacks and continuously adjust their strategies to become more effective. They can also react to their victims‘ reactions in real time and change their tactics accordingly.

In the face of this „attack revolution,“ IT security managers will need to significantly upgrade their IT security solutions with AI-enabled solutions, including and especially in the area of anti-phishing. Otherwise, cyber attacks – especially those that exploit weaknesses in human risk management – will become increasingly difficult to detect and defend against.

Solutions have been available for a long time. Thanks to AI, phishing training, courses, and tests for employees can now be personalized and automatically tailored to the specific vulnerabilities of individual employees. And advanced anti-phishing email solutions combine AI with crowdsourcing to detect and block even the latest zero-day threats before they even reach employees‘ inboxes. With these and similar solutions, organizations can continue to manage their human risks.