Deepfake Fraud

Mehr als 1.200 Befragte aus dem Finanz- und Zahlungsverkehrssektor in sieben Ländern, darunter auch Deutschland, gaben an, dass die Übernahme von Konten die häufigste Betrugsart ist, der ihre Kunden ausgesetzt sind, gefolgt von Kartenbetrug und Phishing.

Die Studie ist die erste, die sich auf KI-gesteuerten Identitätsbetrug konzentriert. Die Analysten heben hervor, dass die Deepfake-Technologie eine der drei häufigsten Arten von Identitätsbetrug im Finanz- und Zahlungsverkehrssektor in Europa geworden ist. Deepfakes nutzen künstliche Intelligenz, um äußerst realistische digitale Fälschungen zu erstellen. Ihre rasante Zunahme gibt Anlass zu dringenden Diskussionen über die Verbesserung der Betrugsprävention in den Unternehmen.

Deepfake-Betrug: Präsentation vs. Injektionsangriffe

Die sich entwickelnde Deepfake-Technologie hat zwei Haupttypen von Angriffen ermöglicht:

• Präsentationsangriffe: Dazu gehören Betrüger, die Masken und Make-up tragen, um eine andere Person vorzutäuschen, aber auch solche, bei denen die Kamera einen anderen Bildschirm filmt, der einen Deepfake in Echtzeit zeigt und auf Aktivitäten wie Kontoübernahmen oder betrügerische Kreditanträge abzielt.
• Injektionsangriffe: In diesen Fällen wird Malware oder nicht vertrauenswürdiger Input absichtlich in ein Programm eingefügt, um dessen Integrität oder Funktionalität zu beeinträchtigen, z. B. in Form von voraufgezeichneten Videos, häufig in Onboarding- oder KYC-Prozessen von Banken, Fintech-Unternehmen oder Telekommunikationsunternehmen.

 Evolution der Präsentation vs. Injektionsangriffe

Da diese Techniken immer ausgefeilter werden, haben herkömmliche Betrugserkennungssysteme möglicherweise Schwierigkeiten, mit dieser sich entwickelnden Bedrohung umzugehen.

Fälschungen: Ein wachsendes Problem in der Finanzbranche

Laut dem Bericht von Signicat sind 42,5 % der im Finanzsektor aufgedeckten Betrugsversuche inzwischen auf KI zurückzuführen. Vor drei Jahren gehörten Deepfakes noch nicht einmal zu den drei häufigsten Arten des digitalen Identitätsbetrugs, und heute sind sie die häufigste Art des digitalen Identitätsbetrugs, mit dem Unternehmen konfrontiert sind. Diese Fälschungen sind weit verbreitet und immer schwieriger zu erkennen, was zu ihrem Aufstieg als eine der wichtigsten Methoden des Identitätsbetrugs beigetragen hat.

Verzögerung bei der Entwicklung von Betrugserkennungsinstrumenten angesichts zunehmender Bedrohungen

Trotz der Zunahme von KI-gesteuerten Betrugsversuchen, einschließlich Deepfakes, haben nur 22 % der Finanzinstitute KI-basierte Tools zur Betrugsprävention implementiert. Diese Lücke macht viele Unternehmen anfällig für raffiniertere Angriffe.

„Vor drei Jahren machten Deepfake-Angriffe nur 0,1 % aller von uns aufgedeckten Betrugsversuche aus, heute sind es rund 6,5 %, also einer von 15 Fällen. Dies entspricht einem Anstieg von 2137 % in den letzten drei Jahren, was alarmierend ist. Die Betrüger nutzen KI-basierte Techniken, die von herkömmlichen Systemen nicht mehr vollständig erkannt werden können. Unternehmen sollten daher die fortschrittlichsten Erkennungssysteme in Betracht ziehen, die KI, Biometrie und Identitätsüberprüfung kombinieren, um sich vor diesen Bedrohungen zu schützen“, sagt Pinar Alpay, Chief Product & Marketing Officer bei Signicat. „Ein mehrfaches Erkennungssystem ist entscheidend. Durch die Kombination von frühzeitiger Risikobewertung, robuster Identitätsüberprüfung und Authentifizierungsmethoden auf der Basis von Gesichtsbiometrie sowie laufender Überwachung können Unternehmen sowohl sich selbst als auch ihre Kunden besser schützen“, fügt sie hinzu. „Die Orchestrierung dieser Tools in der optimalen Kombination ist die Essenz eines mehrschichtigen Schutzes“.

Der steile Anstieg des Deepfake-Betrugs ist Teil eines breiteren Trends des KI-gesteuerten Identitätsbetrugs, da Cyberkriminelle zunehmend neueste Technologien nutzen, um Finanzbetrug zu begehen. Der Bericht von Signicat ist ein dringender Aufruf an Finanzinstitute und Unternehmen gleichermaßen, ihre Cybersicherheitsmaßnahmen proaktiv zu verstärken.

Durch die Aktualisierung von Betrugserkennungssystemen, die Sensibilisierung von Mitarbeitern und Kunden und die Investition in KI-basierte Lösungen zur Betrugsprävention können Unternehmen diesen sich schnell entwickelnden Bedrohungen einen Schritt voraus sein und sowohl ihre Geschäfte als auch ihre Kunden schützen.

More than 1,200 respondents from the financial and payments sectors in seven countries, including Germany, said that account takeover is the most common type of fraud their customers are exposed to, followed by card fraud and phishing.

The study is the first to focus on AI-driven identity fraud. The analysts highlight that deepfake technology has become one of the top three types of identity fraud in the financial and payments sector in Europe. Deepfakes use artificial intelligence to create highly realistic digital forgeries. Their rapid growth is prompting urgent discussions on how to improve fraud prevention in organizations.

Deepfake fraud: presentation vs. injection attacks

The evolution of deepfake technology has enabled two main types of attacks:

– Presentation attacks: These include fraudsters wearing masks and makeup to pretend to be someone else, as well as those where the camera films another screen showing a deepfake in real time, targeting activities such as account takeovers or fraudulent loan applications.

– Injection attacks: In these cases, malware or untrusted input is intentionally inserted into a program to compromise its integrity or functionality, for example in the form of pre-recorded video, often in the onboarding or KYC processes of banks, fintech companies or telecoms.

Evolution of Presentation vs. Injection Attacks

As these techniques become more sophisticated, traditional fraud detection systems may struggle to keep up with this evolving threat.

Counterfeiting: A Growing Problem in the Financial Industry

According to the Signicat report, 42.5% of fraud detected in the financial sector is now attributable to AI. Three years ago, deepfakes were not even in the top three types of digital identity fraud, and today they are the most common type of digital identity fraud faced by organizations. These forgeries are widespread and increasingly difficult to detect, which has contributed to their rise as a major method of identity fraud.

Fraud detection tools lag in the face of growing threats

Despite the rise of AI-driven fraud attempts, including deepfakes, only 22% of financial institutions have implemented AI-based fraud prevention tools. This gap leaves many organizations vulnerable to more sophisticated attacks.

„Three years ago, deepfake attacks accounted for just 0.1% of all fraud attempts we detected, today it’s around 6.5%, or one in 15. That’s a 2137% increase over the last three years, which is alarming. Fraudsters are using AI-based techniques that traditional systems can no longer fully detect. Organizations should therefore consider the most advanced detection systems that combine AI, biometrics and identity verification to protect themselves from these threats,“ said Pinar Alpay, Chief Product & Marketing Officer at Signicat. „A multi-layered detection system is critical. By combining early risk assessment, robust identity verification and authentication methods based on facial biometrics, and continuous monitoring, organizations can better protect themselves and their customers,“ she adds. „Orchestrating these tools in the optimal combination is the essence of layered protection.“

The sharp rise in deepfake fraud is part of a broader trend of AI-driven identity fraud, as cybercriminals increasingly use the latest technologies to commit financial fraud. Signicat’s report is an urgent call for financial institutions and businesses alike to proactively strengthen their cybersecurity measures.

By updating fraud detection systems, increasing employee and customer awareness, and investing in AI-based fraud prevention solutions, organizations can stay ahead of these rapidly evolving threats.