¿Cómo proteger la colaboración entre humanos y agentes de IA? Con IA generativa, la superficie de ataque crece rápidamente: prompt injections, phishing hiperrealista y abuso de relaciones de confianza. Proofpoint presenta por qué los enfoques tradicionales de seguridad ya no bastan y cómo las organizaciones pueden proteger tanto a las personas como a los sistemas de IA mediante visibilidad multicanal, autenticación robusta y formación continua.
La inteligencia artificial ha entrado de lleno en la vida laboral diaria con la disponibilidad de IA generativa, dando lugar a puestos de trabajo basados en agentes donde humanos y agentes de IA colaboran, se comunican y toman decisiones juntos. Según el reciente “AI and Human Risk Landscape Report” de Proofpoint, el 87 % de las empresas ya utilizan asistentes de IA a gran escala y el 76 % está introduciendo agentes autónomos. Sin embargo, solo el 48 % ha integrado aspectos de seguridad desde el principio en su estrategia de IA. Esta nueva forma de colaboración ofrece enormes oportunidades de productividad y eficiencia, pero también amplía significativamente la superficie de ataque para los ciberdelincuentes. Además, los sistemas impulsados por IA permiten a los criminales profesionalizar sus actividades y ejecutarlas a una velocidad y calidad sin precedentes.
Nuevas Superficies de Ataque a Través de Herramientas de IA
Donde antes se requería un trabajo manual arduo para crear correos de phishing convincentes, hoy las herramientas de IA generativa pueden producir contenido engañosamente real en pocos minutos. Estos son lingüísticamente perfectos, adaptados en tono y estructura al objetivo y a menudo incluyen elementos de marca auténticos. También se pueden generar sitios web fraudulentos que roban credenciales o incluso burlan la autenticación multifactor. Las barreras tecnológicas para tales ataques caen drásticamente. Gracias a la IA, incluso personas sin conocimientos de programación pueden crear sitios de phishing profesionales. Los investigadores de Proofpoint observaron cientos de miles de URLs maliciosas por mes solo en la plataforma de IA Lovable desde febrero de 2025; el número de apps con funcionalidad de IA aumentó de 11.290 en diciembre de 2024 a 258.033 en noviembre de 2025, un aumento de 22 veces en un año.
El Dr. Jakob Jung es redactor jefe de Security Storage y Channel Germany. Lleva más de 20 años trabajando en el periodismo especializado en TI. A lo largo de su carrera ha colaborado con Computer Reseller News, Heise Resale, Informationweek, Techtarget (almacenamiento y centros de datos) y ChannelBiz. Además, colabora como freelance con numerosas publicaciones del sector de las TI, entre las que se incluyen Computerwoche, Channelpartner, IT-Business, Storage-Insider y ZDnet. Sus temas principales son el canal, el almacenamiento, la seguridad, los centros de datos, los sistemas ERP y CRM.
Contacto – Contacto por correo electrónico: jakob.jung@security-storage-und-channel-germany.de