Laut Dell Technologies endet KI-Sicherheit nicht beim Modell. Das Unternehmen nennt Infrastruktur, Daten, Agentenrechte, Audit-Trails und getestete Recovery als Kontrollbereiche.
Künstliche Intelligenz eröffnet Unternehmen neue Möglichkeiten, vergrößert aber zugleich die Angriffsfläche. Laut Dell Technologies lässt sich Sicherheit nicht auf den Schutz eines einzelnen Modells oder einer einzelnen Komponente reduzieren. Je stärker die Technologie in Geschäftsprozesse eingebunden ist, desto gravierender sind die Folgen einer manipulierten Eingabe, eines kompromittierten Accounts oder eines fehlerhaft arbeitenden Agenten. Das Unternehmen hat zusammengefasst, worauf Organisationen beim Aufbau sicherer KI-Umgebungen achten sollten.
Einige der Unternehmen, die leistungsfähige KI entwickeln, warnen selbst zunehmend vor den Risiken ihrer Technologie und verweisen auf einen möglichen Kontrollverlust. Ob dahinter echte Sorge oder strategisches Kalkül steht, ist umstritten. Dell Technologies geht von einem nüchternen Befund aus: Autonome KI schafft eine neue Klasse von Sicherheitsrisiken, auch im alltäglichen Unternehmenseinsatz.
Security by Design und Zero Trust
Sicherheit und Datenschutz sollten laut Dell Technologies von der ersten Planung an Teil der KI-Entwicklung sein und nicht nachträglich ergänzt werden. Als grundlegende Standards nennt das Unternehmen vertrauenswürdige Systeme und Firmware, abgesicherte Entwicklungs- und Bereitstellungsprozesse, Schutz vor Manipulationen in der Lieferkette sowie eine konsequente Trennung von Entwicklungs-, Test- und Produktionsumgebungen. Hinzu kommen Zero-Trust-Prinzipien: Zugriffe gelten nicht allein aufgrund von Netzwerkstandort oder Systemzugehörigkeit als vertrauenswürdig, sondern werden anhand von Identität, Kontext und erforderlichen Berechtigungen geprüft.
Agentische KI verändert die Risikolage
Das Unternehmen unterscheidet zwischen Sprachmodellen und KI-Agenten. Ein Sprachmodell erzeugt Text oder andere Inhalte. Ein Agent ruft dagegen Daten ab, greift auf Anwendungen zu und löst Workflows aus, sodass aus einem Modellfehler ein operatives Risiko werden kann. Ein manipulierter Prompt, ein kompromittierter Kontext oder zu weitreichende Berechtigungen können einen Agenten zu Handlungen veranlassen, für die er nicht vorgesehen ist.
Die Sicherheitsarchitektur muss deshalb den Handlungsspielraum begrenzen, so Dell. Jeder Agent benötigt eine klar definierte Identität, festgelegte Zuständigkeiten und möglichst wenige Rechte. Berechtigungen sollten granular nach Aufgabe, Identität, Kontext und Zeitpunkt vergeben und kontinuierlich überprüft werden. Ein Agent für Kundenanfragen braucht andere Zugriffsrechte als ein Agent, der einen Produktionsprozess unterstützt.
Datenqualität und Herkunft
KI-Ergebnisse sind nur so verlässlich wie die Daten, auf die sie zugreifen. Sicherheitsverantwortliche müssen daher nicht nur prüfen, was Agenten tun dürfen, sondern auch die Qualität der zugrunde liegenden Daten. Dafür müssen sie nachvollziehen können, woher die Daten stammen und wie sie bereitgestellt werden. Dell Technologies nennt Verschlüsselung bei Übertragung und Speicherung, Integritätsprüfungen und die Überwachung von Datenflüssen. Besonders relevant sei das bei RAG-Architekturen, in denen externe Wissensbestände in die Generierung einfließen: Ein Modell sollte nur auf Informationen zugreifen können, die kontrolliert und damit sicher sind.
Nachvollziehbarkeit und Stoppmechanismus
Je autonomer KI arbeitet, desto wichtiger wird ihre Kontrollierbarkeit. Unternehmen müssen im Ernstfall rekonstruieren können, welche Daten ein Agent abgerufen, welche Entscheidungen er getroffen, welche Tools er genutzt und welche Änderungen er vorgenommen hat. Ohne diese Informationen lassen sich Fehlverhalten oder Manipulationen schwer erkennen und noch schwerer korrigieren. Dell Technologies empfiehlt durchgängige Audit-Trails, Aktivitätsmonitoring und Policy Enforcement sowie Eskalationsmechanismen und einen technischen Stoppmechanismus. Führt ein Agent unerwartete Aktionen aus, sollte das Unternehmen ihn jederzeit anhalten, seine Berechtigungen einschränken und den betroffenen Workflow stoppen können.
Endpoints und Resilienz
KI reicht laut Dell Technologies über Rechenzentren und Cloud-Umgebungen hinaus bis an den digitalen Arbeitsplatz. Rechner, Anwendungen und mobile Endpoints werden damit zu Schnittstellen zwischen Mitarbeitern, KI-Systemen und Unternehmensdaten. Ein kompromittierter Endpoint kann Zugriff auf sensible Daten ermöglichen oder als Ausgangspunkt für die Manipulation von KI-Workflows dienen. Gerätezustand, Identität, Zugriffskontrollen, Patch- und Konfigurationsmanagement sowie der Schutz lokaler und übertragener Daten gehören daher zur Sicherheitsarchitektur.
Zudem trennt das Unternehmen Cyberschutz und Resilienz. Organisationen sollten davon ausgehen, dass Schutzmechanismen versagen können, zumal KI Angriffe beschleunigt und automatisiert und damit die Hürden für Kriminelle senkt. Erkennung, Eindämmung und Wiederherstellung gehören von Beginn an ins Sicherheitskonzept. Dazu zählen getrennte, geschützte Recovery-Umgebungen, unveränderbare oder manipulationsgeschützte Sicherungen und definierte Wiederanlaufverfahren. Neben Anwendungen müssen auch Modelle, Konfigurationen, Daten, Berechtigungen und Agenten-Workflows in einen vertrauenswürdigen Zustand zurückgeführt werden können. Recovery-Prozesse sollten regelmäßig getestet werden.
„Mit der zunehmenden Autonomie von KI verschiebt sich die Bedrohungslage. Entscheidend ist die Kontrollierbarkeit des gesamten Systems – von der Infrastruktur über Daten und Identitäten bis hin zu den Aktionen eines Agenten und der Fähigkeit, einen kompromittierten Zustand zuverlässig zu beenden und den ursprünglichen wiederherzustellen“, sagt Christian Scharrer, Lead Architect und CTO Ambassador bei Dell Technologies Deutschland. Erst wenn abgesicherte Infrastruktur, vertrauenswürdige Daten, eindeutig zugeordnete Identitäten, kontrollierte Aktionen und belastbare Recovery-Prozesse zusammenspielen, lasse sich KI in geschäftskritischen Umgebungen kontrolliert betreiben.
Carolina Heyder ist Journalistin und Moderatorin. Sie verfügt über langjährige Expertise über den deutschen und internationalen IT-Markt sowie über langjährige Erfahrung in renommierten Verlagshäusern wie WEKA-Fachmedien, Springer und Aspencore. Ob Text fürs Web oder Print, Audio oder Video. Am Laptop, vor dem Mikrofon oder der Kamera. Ob in Deutsch, Englisch oder Spanisch, Carolina Heyder ist in der IT-Welt Zuhause. Ihre Themenschwerpunkte sind Cybersecurity, Digitale Transformation, Nachhaltigkeit, Storage u. a.
Kontakt – Contact via Mail: carolina.heyder@security-storage-und-channel-germany.com