Los Agentes de IA y el impacto en el mundo de la ciberseguridad: ESET

Las claves para comprender el impacto de estos programas que se valen de modelos de IA para tomar decisiones potenciarán al cibercrimen, pero también a la defensa de los ataques.

Martina López, security researcher del equipo de laboratorio de ESET LATAM. Foto: LinkedIn. Portal ERP LATAM.

“Se avecinan ciberataques por parte de agentes de IA”. La frase, que titula un artículo reciente del MIT, advierte sobre un escenario factible e invita a profundizar sobre una temática que podrá cambiarlo todo en el futuro cercano.

Por ello, ESET comparte un análisis sobre los agentes de IA, cómo pueden ser útiles para potenciar los ataques de los cibercriminales, de qué manera pueden cambiar la ciberseguridad, y también qué tipos de pruebas y análisis se realizan en la actualidad, y así entender cómo detectarlos en un futuro que se vislumbra cada vez más cercano.

Un agente de inteligencia artificial es un programa capaz de percibir su entorno y tomar decisiones de manera independiente utilizando modelos de inteligencia artificial.  Son sistemas autónomos capaces de razonar y tomar decisiones para alcanzar ciertos objetivos. De hecho, entre sus principales capacidades se destacan el aprendizaje automático y actuar de manera independiente.

Y si bien pueden ejecutar tareas cotidianas como programar reuniones y hacer pedidos de comestibles, podrían utilizarse muy fácilmente para tareas maliciosas como identificar objetivos vulnerables, secuestrar sistemas y hasta robar datos de sus víctimas.

Según han analizado especialistas del MIT, los agentes de IA podrían representar un rol clave en el mundo de la ciberseguridad, en el corto o mediano plazo. Y si bien no cambiarán la propia naturaleza de los ataques ya existentes, sí podrán funcionar como un gran acelerador de las técnicas actuales.

Uno de los argumentos es que estos agentes podrían simplificar el compromiso de sistemas a gran escala. ¿Cómo? Empleándolos en la identificación de aquellos objetivos vulnerables, como también en el acceso a los sistemas y el posterior robo de datos de las víctimas. Además, ofrecen la posibilidad de ser mucho más económicos, comparándolos con el gasto que supone contratar a un equipo de profesionales para hacer este trabajo.

Esta realidad está mucho más cerca de lo que pensamos: investigadores de la empresa Anthropic, dedicada a desarrollar modelos de IA seguros, pudo comprobar cómo estos agentes fueron capaces de replicar un ataque destinado a robar información confidencial.

Para reafirmar esto, Gartner indica que los agentes de IA reducirán a la mitad el tiempo necesario para explotar las exposiciones de las cuentas de cara al 2027, y además desempeñarán un rol clave en la automatización de la ingeniería social basada en voces deepfake hasta los abusos de credenciales de usuario.

“A diferencia del uso malicioso de la IA actual, que es una herramienta más dentro del arsenal de los ciberatacantes, los agentes utilizados con fines criminales podrían llevarnos a ataques automatizados y que aprenden de sus propios errores o falencias. Por ejemplo, podríamos enfrentarnos a una campaña de phishing que aprenda qué anzuelo es más efectivo basándose en la cantidad de víctimas que cae en uno u otro engaño”, indica Martina López, Security Researcher del equipo de Laboratorio de ESET Latinoamérica.

Sucede que estos agentes basados ??en IA no solo son capaces de analizar grandes cantidades de datos, sino que también pueden identificar qué cuentas están expuestas, y a partir de ello, recopilar credenciales y explotar vulnerabilidades.