La llegada de sistemas de inteligencia artificial (IA) autónomos está transformando la manera en que gestionamos el riesgo tecnológico, colocando el factor humano en el centro de las defensas. Según Román Orús, Co-Fundador y Director Científico de Multiverse Computing, es necesario redefinir este enfoque, indicando que «los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano».

La IA ha dejado de ser solo una herramienta para responder preguntas o generar contenido. A partir de 2026, con la introducción de la IA agéntica, los sistemas avanzados podrán recibir un objetivo y planificar cómo alcanzarlo, actuar y adaptar su estrategia de forma autónoma. Este avance supone un reto significativo en términos de seguridad, tanto para las organizaciones como para los individuos, ya que estos sistemas operan sin necesidad de instrucciones detalladas, permitiéndoles tomar decisiones imprevistas.

Un reciente encuentro organizado por TIER8, una empresa española especializada en neurociencia y ciberseguridad inmersiva, junto con ISMS Forum, reunió a expertos de diversas instituciones para debatir sobre las implicaciones de la rápida evolución de la IA. Esta nueva tecnología, con su capacidad de identificar vulnerabilidades y adaptarse constantemente, está generando una creciente brecha entre las capacidades de ataque y la habilidad de las organizaciones para responder de manera eficaz.

Román Orús destaca que la IA se desarrolla a una velocidad superior a nuestra capacidad de asimilación, lo que requiere la implementación de nuevas capas de control y gobernanza. Sergio Padilla, miembro de la Junta Directiva de ISMS Forum, subraya la urgencia de no solo reaccionar rápidamente ante incidentes, sino también de anticipar y gestionar futuros riesgos de manera más proactiva.

El riesgo técnico, aunque significativo, es solo parte del problema, ya que el factor humano representa un desafío igual de importante. La discusión ahora se centra en hasta qué punto estamos dispuestos a permitir que estos sistemas autónomos interpreten la realidad y tomen decisiones por nosotros. Orús insta a fomentar un pensamiento crítico en la sociedad, resaltando la importancia de que la IA sea utilizada como una herramienta de apoyo y no como un reemplazo de la toma de decisiones humanas.

Además, la introducción de agentes de IA transforma la percepción del riesgo humano en ciberseguridad. Ya no se trata solo de amenazas estandarizadas, sino de ataques personalizados y persistentes. TIER8 destaca la necesidad de anticiparse a estos nuevos escenarios, subrayando la importancia de entrenar a los usuarios en un entorno donde mantener el control sobre las decisiones será cada vez más crucial.

En definitiva, la aparición de la IA agéntica requiere un cambio significativo en la forma en que concebimos la ciberseguridad, tanto a nivel técnico como humano. La clave radica en desarrollar una estrategia que combine la capacidad defensiva de la inteligencia artificial con un entrenamiento adecuado para los usuarios, en un mundo donde la capacidad de reconocer el engaño se convierta en un desafío cada vez más complejo.