Mit einem gemeinsamen Rahmenprogramm wollen die TÜV-Organisationen die unabhängige Prüfung von KI-Systemen etablieren. Drei Zertifizierungsstufen sollen je nach Anwendung und Risiko unterschiedliche Prüfungen ermöglichen. Erste Verfahren werden derzeit mit Pilotpartnern erprobt, die Einführung ist für Ende 2026 vorgesehen.
Der Technische Überwachungsverein (TÜV) kann auf 160 Jahre Geschichte zurückblicken und ist in Deutschland vor allem für die Qualitätssicherung von Kraftfahrzeugen bekannt. Künstliche Intelligenz wird in Unternehmen und im Alltag zunehmend eingesetzt. Gleichzeitig wächst die Aufmerksamkeit für fehlerhafte Ergebnisse, Verzerrungen und andere Risiken. Nach einer Studie des TÜV-Verbands fürchten 79 Prozent der Bundesbürger unkalkulierbare Risiken durch KI. Auch unter den Nutzern entsprechender Anwendungen ist das Vertrauen in die Ergebnisse begrenzt: 53 Prozent gehen laut der Studie davon aus, dass Antworten und Ergebnisse korrekt sind.
Für Unternehmen stellt sich damit neben der technischen Leistungsfähigkeit die Frage, wie sich Qualität, Sicherheit und der Umgang mit Risiken gegenüber Kunden und Geschäftspartnern nachvollziehbar belegen lassen. Die TÜV-Organisationen wollen hierfür ein gemeinsames Zertifizierungsprogramm entwickeln. Hersteller und Anbieter von KI-Systemen sollen damit künftig unabhängig überprüfen lassen können, ob definierte Anforderungen an Qualität und Sicherheit erfüllt werden.
Marc Fliehe, Fachbereichsleiter Digitalisierung und KI beim TÜV-Verband, sieht Vertrauen als einen wichtigen Faktor für die weitere Verbreitung der Technologie. Unternehmen müssten nachweisen können, dass ihre KI-Systeme zuverlässig und sicher funktionieren. Die Zertifizierung soll hierfür einen unabhängigen und nachvollziehbaren Nachweis liefern.
Prüfung je nach Einsatz und Risiko
Der Bedarf an solchen Prüfungen ergibt sich auch aus den unterschiedlichen Einsatzfeldern von KI. Systeme kommen beispielsweise in industriellen Produktionsprozessen, bei medizinischen Diagnosen, in Fahrassistenzsystemen oder in Recruiting-Software zum Einsatz. Fehler können dort unterschiedliche Folgen für Menschen, Unternehmen oder technische Prozesse haben.
Hinzu kommen spezifische Risiken KI-basierter Systeme. Ergebnisse können etwa bestimmte Gruppen systematisch benachteiligen. Ebenso können Anwendungen in Situationen, die bei der Entwicklung nicht ausreichend berücksichtigt wurden, unerwartete oder unzuverlässige Resultate liefern.
Parallel dazu schafft der europäische AI Act einen verbindlichen regulatorischen Rahmen für künstliche Intelligenz. Nach Angaben des TÜV-Verbands besteht daneben ein Bedarf an unabhängigen Prüfungen, mit denen Unternehmen die Qualität und Sicherheit ihrer Systeme zusätzlich dokumentieren können. Eine Zertifizierung könne Kunden und Geschäftspartnern dabei eine zusätzliche Orientierung geben.
Drei Zertifizierungen mit unterschiedlicher Prüftiefe
Das geplante Rahmenprogramm sieht drei Zertifizierungen vor. Sie unterscheiden sich hinsichtlich Umfang, Prüftiefe und Methodik. Welche Variante angewendet wird, soll vom jeweiligen Anwendungsfall und von der gewünschten Aussagekraft der Prüfung abhängen.
Die erste Zertifizierung richtet sich an KI-Systeme, die formal nicht in die Hochrisiko-Kategorie des europäischen AI Acts fallen. Im Mittelpunkt stehen grundlegende Anforderungen an Qualität und Sicherheit.
Die zweite Zertifizierung ist für KI-Systeme grundsätzlich offen. Sie beinhaltet eine strukturierte, auf KI zugeschnittene Risikobewertung. Dabei wird anhand der Dokumentation und bei Prüfungen vor Ort beim Hersteller untersucht, wie die jeweiligen Anforderungen umgesetzt werden.
Bei der dritten Zertifizierung kommen zusätzlich unabhängige technische Tests ausgewählter Eigenschaften des KI-Systems hinzu. Damit soll eine vertiefte Bewertung von Leistungsfähigkeit und Zuverlässigkeit möglich werden.
Dr. Christoph Poetsch, Head of AI Quality and Ethics beim TÜV AI.Lab, begründet die Differenzierung mit den unterschiedlichen Anforderungen der Systeme. Sowohl eigenständige KI-Anwendungen als auch KI-Komponenten technischer Produkte sollen abhängig von ihrem jeweiligen Einsatz und Risiko geprüft werden.
Pilotphase vor der Einführung
Entwickelt wird das Rahmenprogramm vom TÜV-Verband gemeinsam mit dem TÜV AI.Lab und den TÜV-Organisationen. Der TÜV-Verband übernimmt die Koordination des Vorhabens. Das TÜV AI.Lab erarbeitet unter anderem die fachlichen Grundlagen, Prüfanforderungen und Prüfkataloge. Experten der beteiligten TÜV-Unternehmen steuern Erfahrungen aus Prüfung, Zertifizierung und der praktischen Bewertung von KI-Systemen bei.
Die vorgesehenen Zertifizierungen werden derzeit mit Pilotpartnern unter realen Einsatzbedingungen erprobt. Dabei soll sich zeigen, wie sich Prüfanforderungen und Verfahren in der Praxis bewähren. Die Ergebnisse der Pilotphase sollen anschließend in die Weiterentwicklung des Programms einfließen.
Nach Angaben des TÜV-Verbands ist die schrittweise Einführung der KI-Zertifizierungen für Ende 2026 vorgesehen. Das Programm soll mit den Anforderungen des europäischen AI Acts kompatibel sein und diese um risikobasierte sowie technische Prüfaspekte ergänzen.
Damit entsteht neben den gesetzlichen Vorgaben ein zusätzliches Instrument zur Bewertung von KI-Systemen. Wie relevant die einzelnen Zertifizierungsstufen für Unternehmen werden, dürfte insbesondere davon abhängen, welche Anforderungen Kunden, Geschäftspartner und Anwender künftig an den Nachweis von Sicherheit, Qualität und Zuverlässigkeit stellen.
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de