Bei einer Sicherheitsanalyse erlangten KI-Modelle von Anthropic aus einer Testumgebung Zugriff auf Echtdaten produktiver Systeme. Der Vorfall zeigt nach Einschätzung von Experten, dass nicht die KI-Modelle selbst, sondern unzureichend kontrollierte nicht-menschliche Identitäten ein zentrales Sicherheitsrisiko darstellen.
Ein Sicherheitsvorfall bei dem KI-Anbieter Anthropic hat die Diskussion über die Verwaltung nicht-menschlicher Identitäten neu entfacht. Im Rahmen einer internen Sicherheitsanalyse erlangten KI-Modelle aus einer Testumgebung unautorisierten Zugriff auf Echtdaten realer Systeme von Organisationen. Ermöglicht wurde dies nach den vorliegenden Informationen über unzureichend abgesicherte Identitäten, die Zugriffe von der Test- in die Produktionsumgebung zuließen.
Der Fall ist deshalb beachtenswert, weil er einen Anbieter betrifft, dem eine hohe Expertise im Umgang mit KI-Risiken zugeschrieben wird. Er verdeutlicht, dass das Risiko weniger im Modell selbst liegt als in den Identitäten und Berechtigungen, über die Modelle und automatisierte Prozesse agieren. Sind diese nicht eindeutig erfasst, geprüft und restriktiv konfiguriert, entstehen Pfade, die eigentlich getrennte Umgebungen miteinander verbinden.
Elmar Eperiesi-Beck, CEO des Identity- und Access-Management-Anbieters Bare.ID aus Wiesbaden, ordnet den Vorfall in einen breiteren Trend ein. Noch vor wenigen Jahren hätten Unternehmen darauf geachtet, schwer abzusichernde Systeme wie IoT-Geräte nicht direkt mit dem Unternehmensnetzwerk und erst recht nicht mit dem Internet zu verbinden. Mit der schnellen Verbreitung von KI-Anwendungen und automatisierten Agenten werde dieses Prinzip zunehmend aufgeweicht. Die Zahl nicht-menschlicher Identitäten – etwa Service-Accounts, API-Schlüssel, Workload-Identitäten, Tokens und maschinelle Agenten – wachse deutlich schneller als die Zahl menschlicher Nutzerkonten.
Das Grundprinzip der Absicherung bleibe jedoch unverändert, so Eperiesi-Beck: Jede digitale Identität müsse identifiziert, ihre Notwendigkeit geprüft und ihre Berechtigung auf das erforderliche Minimum reduziert werden. Liege keine eindeutige Zuordnung oder kein klarer Zweck vor, müsse der Zugriff konsequent unterbunden werden. Die manuelle Erfassung und Verwaltung stoße angesichts des Volumens an Identitäten an praktische Grenzen.
Für das Identity- und Access-Management bedeutet dies eine Verlagerung des Schwerpunkts. Neben der Verwaltung von Mitarbeitenden-, Kunden- und Partnerkonten rückt die Kontrolle nicht-menschlicher Identitäten in den Vordergrund. Aufgabe eines zentralen IAM ist es, alle Identitäten in einer Umgebung sichtbar zu machen, ihren Lebenszyklus zu steuern und Berechtigungen fortlaufend zu überprüfen. Dazu zählen die Erfassung bisher unbekannter Konten, die Durchsetzung von Least-Privilege-Prinzipien, die regelmäßige Rotation von Geheimnissen und die Sperrung riskanter Zugriffspfade.
Hinzu kommt die konsequente Trennung von Umgebungen. Test- und Produktionssysteme müssen nicht nur logisch, sondern auch auf Ebene der Identitäten und Netzwerke separiert sein. Zugriffe durch nicht-menschliche Identitäten sollten protokolliert, überwacht und auf Anomalien geprüft werden. Bestehende Standards für das Management von Maschinenidentitäten sowie für den sicheren Betrieb von IoT- und KI-Systemen seien verfügbar, würden aber nicht durchgängig angewendet.
Der Vorfall bei Anthropic verdeutlicht, dass Sicherheitskonzepte nicht erst auf der Ebene des KI-Modells beginnen. Sie beginnen bei der Identität, die einem System, einem Service oder einem Agenten zugewiesen wird. Wenn selbst spezialisierte Anbieter von dieser Problematik betroffen sind, gilt dies in besonderem Maße für Organisationen, deren Kerngeschäft nicht die Entwicklung von KI ist. Für sie wird die systematische Erfassung und restriktive Verwaltung aller – menschlicher wie nicht-menschlicher – Identitäten zu einer Voraussetzung für den sicheren Einsatz von KI.
Der Fall zeigt, wie aus unkontrollierten Identitäten Zugriffe von Test- auf Produktivsysteme entstehen können. Für Unternehmen wächst damit die Notwendigkeit, nicht-menschliche Identitäten systematisch zu erfassen und nach Least-Privilege-Grundsätzen zu verwalten.
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de