La irrupción de los sistemas de inteligencia artificial (IA) autónomos está revolucionando la gestión del riesgo tecnológico, situando al factor humano como el eje central de las defensas. En este contexto, Román Orús, co-fundador y director científico de Multiverse Computing, ha subrayado la urgencia de redefinir este enfoque. Según Orús, «los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano».
A partir de 2026, la integración de la IA agéntica, con sistemas avanzados capaces de recibir objetivos, planificar su ejecución, actuar y ajustar estrategias de forma autónoma, supondrá un desafío considerable. Esta evolución implica que las organizaciones y los individuos se enfrenten a problemas de seguridad inéditos, ya que estos sistemas pueden tomar decisiones sin instrucciones detalladas, abriendo la puerta a acciones imprevistas.
Recientemente, en un encuentro organizado por TIER8, empresa española especializada en neurociencia y ciberseguridad inmersiva, junto con ISMS Forum, expertos de diferentes instituciones debatieron las implicaciones del vertiginoso avance de la IA. La capacidad de estos sistemas para identificar vulnerabilidades y adaptarse aumenta la brecha entre las capacidades de ofensiva y la habilidad de respuesta eficaz de las organizaciones.
Orús destacó que la velocidad de desarrollo de la IA supera la capacidad de nuestra sociedad para asimilar estos cambios, requiriendo nuevas capas de control y gobernanza. Sergio Padilla, de ISMS Forum, señaló la necesidad de anticipar y gestionar futuros riesgos de manera proactiva, más allá de simplemente reaccionar a incidentes.
El desafío no es solo técnico, ya que el factor humano es igualmente crucial. El debate se centra en cuánto permitiremos que los sistemas autónomos interpreten la realidad y tomen decisiones por nosotros. Orús enfatiza la importancia de cultivar un pensamiento crítico que utilice la IA como herramienta de apoyo y no como un sustituto de la decisión humana.
La introducción de agentes de IA también altera la percepción del riesgo humano en ciberseguridad. Ya no enfrentamos solo amenazas estándar, sino ataques más personalizados y persistentes. TIER8 recalca la necesidad de preparar a los usuarios para mantener el control sobre las decisiones en escenarios cada vez más complejos.
En resumen, la llegada de la IA agéntica requiere repensar la ciberseguridad desde una nueva perspectiva técnica y humana. La formulación de una estrategia que combine defensa mediante inteligencia artificial y un entrenamiento adecuado para los usuarios será clave en un futuro donde la detección del engaño se convertirá en un reto cada vez mayor.