Durante un análisis de seguridad, modelos de IA de Anthropic obtuvieron acceso no autorizado a datos reales de sistemas productivos desde un entorno de pruebas. Según expertos, el incidente demuestra que el riesgo central no son los modelos de IA, sino las identidades no humanas insuficientemente controladas.
Un incidente de seguridad en el proveedor de IA Anthropic ha reavivado el debate sobre la gestión de las identidades no humanas. Durante un análisis interno de seguridad, modelos de IA que operaban desde un entorno de prueba habrían obtenido acceso no autorizado a datos reales en sistemas productivos de organizaciones. Según la información disponible, esto fue posible gracias a identidades insuficientemente protegidas que permitían el acceso desde entornos de prueba a entornos de producción.
El caso es relevante porque afecta a un proveedor al que se le atribuye una alta experiencia en riesgos de IA. Ilustra que el riesgo no reside tanto en el modelo en sí, sino en las identidades y permisos a través de los cuales operan los modelos y los procesos automatizados. Si estas identidades no están claramente inventariadas, verificadas y configuradas de forma restrictiva, surgen vías que conectan entornos que deberían permanecer separados.
Elmar Eperiesi-Beck, CEO del proveedor de gestión de identidades y accesos Bare.ID, sitúa el incidente en un contexto más amplio. Hace solo unos años, señala, las organizaciones evitaban conectar sistemas difíciles de asegurar, como dispositivos IoT, directamente a la red corporativa y, mucho menos, a internet. Con la rápida adopción de aplicaciones de IA y agentes automatizados, ese principio se está erosionando. El número de identidades no humanas – incluidas cuentas de servicio, claves API, identidades de carga de trabajo, tokens y agentes máquina – crece significativamente más rápido que el de cuentas humanas.
El principio básico de seguridad, sin embargo, permanece inalterado, según Eperiesi-Beck: cada identidad digital debe ser identificada, su necesidad verificada y sus privilegios reducidos al mínimo necesario. Cuando no existe una asignación clara o un propósito definido, el acceso debe bloquearse de forma sistemática. La gestión manual alcanza sus límites ante el volumen actual de identidades.
Para la gestión de identidades y accesos, esto implica un cambio de enfoque. Además de gestionar cuentas de empleados, clientes y socios, el control de las identidades no humanas pasa a primer plano. La tarea de un sistema IAM central es visibilizar todas las identidades de un entorno, gestionar su ciclo de vida y revisar continuamente los permisos. Esto incluye descubrir cuentas previamente desconocidas, aplicar el principio de privilegio mínimo, rotar secretos de forma regular y bloquear rutas de acceso de riesgo.
También exige una separación estricta de entornos. Los sistemas de prueba y producción deben separarse no solo a nivel lógico, sino también a nivel de identidades y redes. Los accesos realizados por identidades no humanas deben registrarse, supervisarse y analizarse en busca de anomalías. Existen estándares para la gestión de identidades máquina y para la operación segura de sistemas IoT e IA, pero no se aplican de manera consistente.
El incidente de Anthropic demuestra que los conceptos de seguridad no empiezan en la capa del modelo de IA. Empiezan con la identidad asignada a un sistema, servicio o agente. Si incluso proveedores especializados se ven afectados por este problema, esto se aplica aún más a organizaciones cuyo negocio principal no es el desarrollo de IA. Para ellas, inventariar y gestionar de forma restrictiva todas las identidades – humanas y no humanas – se está convirtiendo en un requisito previo para una adopción segura de la IA.
El Dr. Jakob Jung es redactor jefe de Security Storage y Channel Germany. Lleva más de 20 años trabajando en el periodismo especializado en TI. A lo largo de su carrera ha colaborado con Computer Reseller News, Heise Resale, Informationweek, Techtarget (almacenamiento y centros de datos) y ChannelBiz. Además, colabora como freelance con numerosas publicaciones del sector de las TI, entre las que se incluyen Computerwoche, Channelpartner, IT-Business, Storage-Insider y ZDnet. Sus temas principales son el canal, el almacenamiento, la seguridad, los centros de datos, los sistemas ERP y CRM.
Contacto – Contacto por correo electrónico: jakob.jung@security-storage-und-channel-germany.de