Cuando los agentes de IA trabajan junto a los empleados, la protección clásica llega a su límite. En it-sa, Martin Krämer, de KnowBe4, explica por qué hay que proteger a la vez a las personas, los filtros de correo y la supervisión de agentes.

La rápida irrupción de la inteligencia artificial está transformando el panorama empresarial a un ritmo sin precedentes. A medida que los agentes de IA trabajan cada vez más codo con codo con los empleados, los límites de la seguridad informática se desplazan. En la feria de ciberseguridad it-sa, celebrada en Núremberg, el Dr. Martin Krämer, CISO Advisor para Europa y Oriente Medio en la empresa de seguridad KnowBe4, explicó por qué los mecanismos de protección tradicionales fallan ante el software que actúa de forma autónoma.

Durante años, el debate sobre la IA en las empresas se ha centrado en la eficiencia. Ahora las organizaciones deben asegurar esa productividad prometida en un panorama de amenazas muy dinámico. El punto de partida de Krämer es que la plantilla moderna ya no se compone solo de personas, sino también de agentes de IA autónomos. Para operar con eficacia en la era de la IA y convertir la ciberseguridad en un facilitador del negocio, afirma, hay que capacitar, proteger e integrar a la plantilla digital en su conjunto. «De lo que se trata realmente es de garantizar la productividad», dice Krämer.

El pensamiento crítico se desvanece poco a poco

El problema de fondo, sostiene, no reside solo en el aumento de las puertas de entrada técnicas, sino en un efecto psicológico. La automatización y la confianza acrítica en resultados de IA redactados de forma convincente hacen que el hábito de cuestionar se atrofie en el trabajo diario. El cerebro delega el esfuerzo cognitivo en los algoritmos, un camino arriesgado cuando se trata de detectar manipulaciones.

La IA ha dado además una nueva dimensión a la ingeniería social. El fraude clásico por correo electrónico solía delatarse por una gramática deficiente o por adjuntos llamativos. Hoy los atacantes operan a través de muchos canales en paralelo: deepfakes en videoconferencias, voces clonadas por teléfono (vishing) y mensajes falsificados en Microsoft Teams o Slack. Los expertos pueden discutir cuán convincentes son realmente las falsificaciones de IA, pero el volumen de ataques ha aumentado de forma notable. Incluso con la misma calidad, afirma Krämer, la cantidad se convierte en un rasgo de calidad.

A esto se suma el efecto de plausibilidad. Las imágenes generadas por IA que escenifican una emergencia emocional o avivan tensiones políticas resultan del todo creíbles. Krämer menciona imágenes falsas de inundaciones en Estados Unidos que mostraban a unas niñas en una barca con sus perros, acompañadas de un texto que afirmaba que el Gobierno las había abandonado. Por eso hay que volver a formar a los empleados para que se hagan cuatro preguntas: ¿Por qué existe esta información? ¿Quién la ha creado? ¿Qué intención tiene? ¿Y qué reacción pretende provocar?

Tres pilares para una cultura de seguridad

Marcar casillas de cumplimiento ya no basta, dice Krämer. KnowBe4 describe una plataforma construida sobre tres pilares interconectados.

El primero es la formación en concienciación sobre seguridad combinada con simulación de ataques. En lugar de teoría árida, la empresa apuesta por formatos narrativos como «Inside Man», una serie dramática premiada que va por su séptima temporada. Según Krämer, algunos clientes desbloquean la serie tras la formación obligatoria y alcanzan tasas de formación cercanas al 100 %.

El segundo pilar es la seguridad de las comunicaciones, sobre todo la seguridad del correo en la nube, que ahora se amplía a Teams y Slack. El procesamiento del lenguaje natural y el aprendizaje automático captan los patrones de comunicación habituales para detectar el compromiso del correo empresarial (BEC) o mensajes cuya única carga útil es un número de teléfono para vishing. Krämer subraya que no se trata de vigilar a los empleados. Según su estimación aproximada, una pasarela segura de correo filtra en torno al 90 % de las amenazas y la seguridad integrada del correo en la nube detecta otro 7 a 9 %. El 1 % restante, el más crítico, requiere empleados formados como «human in the loop».

Cuando los agentes de IA se convierten en amenaza interna

El tercer pilar abarca la gestión y supervisión de los agentes de IA, y es el que más cambia. Como los agentes generan sus pasos en tiempo de ejecución, no existen firmas estáticas que revisar de antemano. La responsabilidad, además, sigue recayendo en las personas: si un agente filtra datos o paraliza operaciones, responden los directivos y los empleados que lo desarrollaron, no la máquina. Instrucciones de sistema defectuosas o entradas manipuladoras pueden hacer que un agente pierda el control y actúe como un infiltrado digital.

Un modelo ya desplegado no puede entrenarse como un empleado, así que solo queda la supervisión del comportamiento en tiempo de ejecución, con un «kill switch» como último recurso. El proceso de gobernanza es claro, afirma Krämer: el equipo de seguridad desconecta al agente e informa al empleado responsable, que corrige las instrucciones. Tras una nueva revisión, el agente vuelve a conectarse. KnowBe4 desarrolla una herramienta para supervisar la IA con IA; está en vista previa técnica y Krämer espera su disponibilidad general a principios del próximo año.

La cultura decide

IA en la sombra, oleadas de phishing o agentes autónomos: al final, la cultura empresarial decide si una arquitectura de seguridad funciona. La tecnología y las políticas ofrecen barreras de protección, pero la resiliencia duradera solo surge de combinar un filtrado avanzado con una plantilla capaz de pensar con espíritu crítico. Las empresas que entienden este cambio como un proceso de mejora continua pueden convertir el factor humano de riesgo en una línea de defensa eficaz. Según Krämer, más del 60 % de los incidentes de seguridad tienen que ver con el factor humano. KnowBe4 indica que sus ingresos recurrentes anuales ligados a la IA crecieron más de un 35 % en 2026 y que más de 70.000 clientes usan su plataforma.

Por Dietmar Müller

El Dr. Dietmar Müller es un experimentado periodista especializado en TI y redactor jefe de Beyond Buzzwords. Cuenta con décadas de experiencia en el mercado alemán e internacional de las tecnologías de la información, así como con una sólida trayectoria editorial en prestigiosas editoriales y medios de comunicación como Springer, IDG y CBS Interactive. Ya se trate de artículos especializados en distintos medios, análisis en profundidad o entrevistas bien documentadas, ya sea desde su escritorio o en contacto directo con figuras destacadas del sector: el Dr. Dietmar Müller se mueve con total soltura en el mundo de las tecnologías de la información empresariales. Sus áreas temáticas principales abarcan las arquitecturas de TI y OT empresariales, la nube, los sistemas ERP y MES, los centros de datos, la ciberseguridad y el cumplimiento normativo, la automatización industrial y la gobernanza de la IA, entre otras.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Aviso sobre Cookies en WordPress por Real Cookie Banner