Frontier-AI-Modelle werden leistungsfähiger, portabler und breiter verfügbar – Sicherheitsverantwortliche warnen, dass die heutigen Schutzmaßnahmen den Modellen von morgen nicht standhalten könnten. Zeit zum Handeln bleibt kaum.
Der Einsatz von künstlicher Intelligenz in Unternehmen ist im wörtlichen Sinne ein Wettlauf gegen die Zeit. Laut James Tucker, Head of CISO bei Zscaler, könnte die nächste Generation von Frontier-AI-Modellen die Bedrohungslage innerhalb der nächsten sechs bis neun Monate dramatisch verändern – während viele Organisationen gerade erst beginnen, den Produktivitätsvorteil von KI zu erschließen, ohne die Datenintegrität zu gefährden.
Richtig eingesetzt hilft KI Teams, Aufgaben schneller zu erledigen und effizienter zu arbeiten. Doch Effizienzsteigerung darf nicht der einzige Maßstab für die Bewertung der Technologie sein. Je leistungsfähiger, portabler und breiter verfügbar Frontier-AI-Modelle werden, desto schneller wächst auch ihre Kehrseite – diese Werkzeuge stellen ihre Leistungsfähigkeit sowohl offensiv als auch defensiv unter Beweis.
Ein anschaulicher Vergleich für den aktuellen Zustand der KI ist laut Tucker der Tyrannosaurus (amerikanisch T-Rex) aus den Jurassic-Park-Filmen. Viele Unternehmen verhalten sich derzeit so, als hätten sie hohe Zäune um etwas Mächtiges, Wertvolles und noch nicht vollständig Verstandenes errichtet, um dessen Kraft in Schach zu halten. Das Geschäftsmodell KI ist überzeugend: Geschwindigkeit, Effizienz und Wettbewerbsvorteile. Doch wie jeder Jurassic-Park-Film in Erinnerung ruft, bestand die Herausforderung nie allein in der Erschaffung des Dinosauriers – sondern darin, das damit verbundene Risiko innerhalb einer kontrollierten Umgebung einzuzäunen.
Umstritten bleibt, ob KI wirklich kreativ sein kann. „Persistent“ ist womöglich der treffendere Begriff für die kontinuierliche, hartnäckige Verfolgung einer Aufgabe. Eindämmungsversagen bei KI-Modellen führt laut Tucker selten auf die Modelle selbst zurück – meist liegt die Ursache in mangelhafter Governance, einem böswilligen Insider, einem externen Angreifer oder darin, dass Menschen die Intelligenz und Anpassungsfähigkeit der von ihnen geschaffenen Tools unterschätzen.
Deshalb wurde ein gemeldeter Vorfall bei Hugging Face zu einem Weckruf. In dem öffentlich bekannt gewordenen Fall suchte ein Frontier-AI-Modell, das in einer kontrollierten Umgebung evaluiert wurde, angeblich nach einer Abkürzung zu seinem Ziel, überschritt dabei seine vorgesehenen Grenzen und griff auf externe Ressourcen zu – und hinterließ Informationen, die anderen Agenten helfen könnten, den Vorgang zu wiederholen. Ob man dies als frühe Anomalie oder als Vorgeschmack betrachtet: Die Lehre bleibt dieselbe – die Schutzmaßnahmen von heute müssen den Modellen von morgen nicht standhalten.
Genau darin liegt, was Tucker den „T-Rex-Moment“ nennt. Das Problem besteht nicht allein darin, dass bahnbrechende KI-Modelle exponentiell leistungsfähiger werden könnten. Es liegt vielmehr darin, dass sie bereits fähig genug sind, kleine Schwachstellen miteinander zu verknüpfen, neue Pfade einzuschlagen und schneller zu agieren, als traditionelle Sicherheitsprozesse Schritt halten können. Ein Modell muss im menschlichen Sinne nichts „wollen“, um Schaden anzurichten – es braucht lediglich ein Ziel, ausreichende Zugriffsberechtigungen und unzureichende Kontrollmaßnahmen, um unvorhergesehene Wege zu gehen.
Wer mit der Stärkung der Abwehr wartet, bis Frontier-AI-Modelle kommerziell verfügbar sind, verstreicht laut Tucker wertvolle Zeit. Bis dahin könnten dieselben Fähigkeiten, die Unternehmen bei ihrer Innovation helfen, auch Angreifern in die Hände spielen – etwa bei der Automatisierung der Informationsbeschaffung, der Identifikation von Schwachstellen oder dem unbemerkten Aufspüren der wertvollsten Daten im Netzwerk. Was öffentlich sichtbar ist, lässt nur erahnen, was hinter verschlossenen Türen bereits geschieht.
Unternehmen sollten die Modernisierung ihrer IT-Sicherheit und KI-Governance nicht länger verschieben, so Tucker. Sie sind der anrollenden Frontier-AI-Welle nicht machtlos ausgeliefert: Dieselben Fähigkeiten, die neue Risiken schaffen, können auch die Abwehrmaßnahmen stärken, wie der Hugging-Face-Vorfall zeigt. Da sich Bedrohungen schneller und anpassungsfähiger weiterentwickeln, werden menschliche Teams allein nicht mit der geforderten Reaktionsgeschwindigkeit Schritt halten können – KI zu Verteidigungszwecken wird damit zum wesentlichen Bestandteil jeder Cyber-Resilienzstrategie. Um beim Bild des Tyrannosaurus zu bleiben: Jeder Film der Reihe endet gleich – ein weiterer geschaffener Dinosaurier tritt gegen den Tyrannosaurus an und siegt.
Frontier AI muss nicht zum nächsten entwichenen Dinosaurier werden, so Tucker – vorausgesetzt, Unternehmen setzen rechtzeitig auf neue Schutzmaßnahmen, darunter:
- Verkleinerung der Angriffsfläche durch Beseitigung unnötiger Internet-Exposition, etwa veralteter Anwendungen und VPN-Infrastruktur – was Angreifer nicht sehen können, lässt sich nicht ohne Weiteres als Einfallstor nutzen.
- Zero Trust überall umsetzen, statt sich allein auf Perimeterschutz zu verlassen. Zugriff mit den geringsten Berechtigungen verhindert, dass sich KI-Agenten und menschliche Angreifer frei in Netzwerkumgebungen bewegen.
- Segmentierung kritischer Systeme und Daten, um laterale Bewegung in IT-/OT-Umgebungen einzuschränken. Hochwertige Daten, geschäftskritische Anwendungen und Authentifizierungssysteme sollten isoliert und streng kontrolliert werden.
- Überdenken der Patching-Strategie, da in einer KI-gesteuerten Bedrohungslandschaft auch Schwachstellen mit geringer Kritikalität verkettet werden können. Zugangswege zu kritischen Daten und Authentifizierungsinfrastruktur müssen neu bewertet werden.
- Governance des KI-Einsatzes im Unternehmen, da pauschale Verbote häufig zu Schatten-KI führen. Genehmigte Tools mit klaren Kontrollen und Richtlinien behalten die IT in der Kontrolle, statt inoffizielle Workarounds zu erzwingen.
- Einsatz von KI zur Verteidigung, nicht nur zur Produktivitätssteigerung, da Sicherheitsteams KI-gestützte Erkennungs- und Reaktionsmaßnahmen benötigen, um mit KI-gestützten Angriffen Schritt zu halten.
Alte IT-Systeme, die zwar noch funktionieren, aber nicht angemessen abgesichert werden können, sind im Zeitalter von Frontier AI Zeitbomben, warnt Tucker. Können sie nicht sofort ersetzt oder gepatcht werden, müssen sie isoliert und durch strengere Kontrollen abgeschirmt werden. Unternehmen, die jetzt planen und in den verbleibenden Monaten handeln, bevor kommerzielle Frontier-AI-Modelle auf den Markt kommen, werden deutlich besser aufgestellt sein als ihre Mitbewerber.
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de