La presencia de la Inteligencia Artificial en la era moderna se ha convertido en una rutina indispensable para algunos sectores de la humanidad, sin embargo, las ventajas de la herramienta tecnológica encuentran otro obstáculo aparte de la contaminación generada por sus centros de datos, según lo reportó Google en el informe AI Threat Tracker, elaborado por un grupo de personas expertas de la empresa.
En este documento, la multinacional advierte del uso masivo de la IA por parte de grupos criminales para optimizar operaciones maliciosas como el espionaje, robo de credenciales y el desarrollo de vulnerabilidades en los sistemas que buscan atacar, planeando ciberataques a través de este proceso cada vez más autónomo y veloz.
Google advierte que la IA es un “multiplicador de fuerza” en la ciberdelincuencia
Un grupo de personas expertas de la empresa estadounidense realizaron el informe AI Threat Tracker (’Rastreador de Amenazas con IA’), en el cual expusieron que los casos de uso de ‘agentes’ avanzados de IA dejaron detrás la etapa experimental, es decir, ya no se limitan a la detección de vulnerabilidades, sino que se han convertido en objetivos de ataques como la manipulación —alteración de instrucciones— y uso indebido para el robo de información, lo que ha afectado significativamente sectores de tecnología, entretenimiento y de medios de comunicación en Norteamérica y Europa.
El ejemplo más reciente es la paralización del modelo Astra de OpenAI, después de que la compañía de Inteligencia Artificial concluyera que la edición alcanzaba un nivel “crítico” en ciberseguridad al ser capaz de identificar y desarrollar vulnerabilidades, además de planear ciberataques de forma autónoma.
De acuerdo con el informe, regiones como Rusia, China, Irán y Corea del Norte se han visto afectadas por grupos criminales de ciberdelincuencia que utilizan estas herramientas tecnológicas para automatizar el robo de credenciales, la creación de códigos maliciosos e incluso reportan casos de espionaje industrial.
Al convertirse también en un objetivo, estos modelos enfrentan el robo de propiedad intelectual de IA debido a que los grupos de ciberdelincuencia han comenzado a secuestrar recursos en la nube para ejecutar sus propias herramientas de Inteligencia Artificial.
Por lo tanto, expertos y expertas de Google que desarrollaron el informe, concluyen que la IA se ha convertido en un “multiplicador de fuerza” que permite a cibercriminales del mundo ejecutar ataques complejos en cuestión de pocas horas, vulnerando áreas más allá del sector tecnológico de forma masiva y automática.
¿Cuáles han sido los casos de ciberdelincuencia descritos por Google en el informe AI Threat Tracker?
El documento Rastreador de Amenazas con IA desarrollado por personas expertas de Google desglosa una serie de casos que ayudan a ejemplificar el uso masivo de la Inteligencia Artificial en ciberatatques de gran alcance en diversas partes del mundo.
Uno de ellos es que del grupo de ciberespionaje Basin Castle (vinculado a China), el cual utiliza modelos de lenguaje como apoyo en operaciones de investigación de objetivos y resolución de errores en una intrusión. A su vez, en esta región, se detectó que un grupo de ciberdelincuencia intentó utilizar Gemini para construir un marco de pruebas de penetración automatizado que fuera capaz de ejecutar las fases iniciales de dicha intrusión.
Otro de los casos fue el de DPRK, grupo de informáticos vinculados a Corea del Norte que fueron descubiertos al robar cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a herramientas de IA; con este proceso, el grupo ciberdelincuente logró multiplicar la velocidad y alcance de sus ataques cobernéticos.
También, el informe detalló la detección de una campaña masiva de robo de credenciales a través de una “arquitectura multiagente”, la cual fue desplegada en infraestructura robada. Este proceso comprometió de forma autónoma miles de credenciales en tan sólo seis horas.
En el informe, las personas analistas expresaron su preocupación ante las vulnerabilidades del sistema, especialmente al tratarse del crecimiento de un adversario cada día más rápido, evolucionado y a mayor escala, a disposición de la ciberdelincuencia.
“Podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas”, declaró John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).