Las organizaciones TÜV están desarrollando un marco conjunto para la evaluación independiente de sistemas de inteligencia artificial. Tres niveles de certificación permitirán adaptar las pruebas a la aplicación y al perfil de riesgo. Los primeros procedimientos se están probando con socios piloto y la introducción está prevista para finales de 2026.
La Asociación de Inspección Técnica (TÜV) cuenta con 160 años de historia y es conocida en Alemania sobre todo por el control de calidad de los vehículos de motor. La inteligencia artificial se está incorporando cada vez más a las empresas y a la vida cotidiana. Al mismo tiempo, aumentan las preocupaciones por los resultados incorrectos, los sesgos y otros riesgos asociados a los sistemas de IA. Según un estudio de la Asociación TÜV, el 79 por ciento de los ciudadanos alemanes teme riesgos imprevisibles derivados de la IA. Incluso entre los usuarios de aplicaciones de IA, la confianza es limitada: solo el 53 por ciento considera correctos los resultados y respuestas generados por estas aplicaciones.
Para las empresas, esto plantea la necesidad de demostrar no solo las capacidades técnicas de sus sistemas de IA, sino también su calidad, seguridad y capacidad para gestionar riesgos. Las organizaciones TÜV pretenden abordar esta cuestión mediante un marco conjunto de certificación. En el futuro, fabricantes y proveedores de sistemas de IA podrán obtener una evaluación independiente que determine si sus sistemas cumplen determinados requisitos de calidad y seguridad.
Marc Fliehe, responsable de Digitalización e IA de la Asociación TÜV, considera la confianza un factor importante para la futura expansión de la inteligencia artificial. Las empresas deben poder demostrar ante clientes, socios comerciales y usuarios que sus sistemas funcionan de forma fiable y segura. La certificación propuesta pretende ofrecer para ello una evidencia independiente y verificable.
Evaluación según la aplicación y el riesgo
La necesidad de realizar evaluaciones independientes también está relacionada con la diversidad de aplicaciones de la IA. Estos sistemas ya se utilizan en procesos industriales de producción, diagnósticos médicos, sistemas de asistencia a la conducción y software de selección de personal. Dependiendo del ámbito de aplicación, los errores pueden tener consecuencias para personas, empresas o procesos técnicos.
Los sistemas de IA presentan además riesgos específicos. Por ejemplo, sus resultados pueden perjudicar de forma sistemática a determinados grupos. También pueden reaccionar de manera poco fiable cuando se enfrentan a situaciones que no fueron suficientemente consideradas durante su desarrollo.
Al mismo tiempo, la Unión Europea está estableciendo con el AI Act un marco regulatorio vinculante para la inteligencia artificial. Según la Asociación TÜV, las empresas también necesitan mecanismos que permitan demostrar de forma independiente la calidad y seguridad de sus sistemas. Una certificación puede ofrecer a clientes y socios comerciales información adicional para valorar estas aplicaciones.
Tres niveles de certificación
El marco previsto contempla tres certificaciones de IA que se diferencian por su alcance, profundidad y metodología de evaluación. La certificación adecuada dependerá de la aplicación concreta y del nivel de evidencia que se pretenda obtener.
La primera certificación está dirigida a sistemas de IA que formalmente no pertenecen a la categoría de alto riesgo establecida por el AI Act europeo. Se centra en requisitos básicos de calidad y seguridad.
La segunda certificación está abierta a los sistemas de IA en general. Incluye una evaluación estructurada de riesgos específica para la inteligencia artificial. La aplicación de los requisitos se comprueba mediante la documentación disponible y mediante evaluaciones presenciales en las instalaciones del fabricante.
La tercera certificación incorpora además pruebas técnicas independientes de determinadas características del sistema. Esto permite realizar una evaluación más detallada de su rendimiento y fiabilidad.
Dr. Christoph Poetsch, responsable de AI Quality and Ethics en TÜV AI.Lab, explica que el enfoque diferenciado responde a las distintas necesidades de los sistemas de IA. Tanto las aplicaciones independientes como la IA integrada en productos técnicos deberán evaluarse de acuerdo con su aplicación y perfil de riesgo.
La fase piloto ya está en marcha
El marco está siendo desarrollado por la Asociación TÜV junto con TÜV AI.Lab y las organizaciones TÜV. La Asociación TÜV coordina el proyecto. TÜV AI.Lab desarrolla las bases técnicas, incluidos los requisitos y catálogos de evaluación. Los expertos de las organizaciones TÜV aportan experiencia en inspección, certificación y evaluación práctica de sistemas de IA.
Las certificaciones previstas se están probando actualmente con socios piloto en condiciones reales. La fase piloto debe mostrar cómo funcionan en la práctica los requisitos y procedimientos de evaluación. Los resultados obtenidos se incorporarán al desarrollo posterior del programa.
La Asociación TÜV prevé una introducción gradual de las certificaciones de IA a finales de 2026. El marco será compatible con los requisitos del AI Act europeo y pretende complementarlos mediante aspectos técnicos y evaluaciones basadas en el riesgo.
De este modo, el modelo de certificación propuesto complementaría los requisitos legales con un mecanismo adicional para evaluar sistemas de inteligencia artificial. Su importancia para las empresas dependerá, entre otros factores, de hasta qué punto clientes, socios comerciales y usuarios exijan en el futuro evidencias independientes sobre la calidad, seguridad y fiabilidad de los sistemas de IA.
El Dr. Jakob Jung es redactor jefe de Security Storage y Channel Germany. Lleva más de 20 años trabajando en el periodismo especializado en TI. A lo largo de su carrera ha colaborado con Computer Reseller News, Heise Resale, Informationweek, Techtarget (almacenamiento y centros de datos) y ChannelBiz. Además, colabora como freelance con numerosas publicaciones del sector de las TI, entre las que se incluyen Computerwoche, Channelpartner, IT-Business, Storage-Insider y ZDnet. Sus temas principales son el canal, el almacenamiento, la seguridad, los centros de datos, los sistemas ERP y CRM.
Contacto – Contacto por correo electrónico: jakob.jung@security-storage-und-channel-germany.de