Open AI, creadora de unos de los programas de inteligencia artificial más usados en el mundo, anunció el pasado martes que uno de sus sistemas, que trabajan de forma autónoma, encontró la forma de salir de su entorno controlado.
Al encontrar algunas vulnerabilidades en la seguridad en plataformas donde estaba siendo evaluado, logró tener acceso a conversaciones de empleados de la empresa y a un foro de discusión general.
Aunque esta intrusión no afectó al código fuente principal, ni datos personales de usuarios, el modelo de IA sí obtuvo datos sobre los diseños y funcionamientos de la tecnología.
¿Qué empresa fue vulnerada por la AI?
La empresa informó que sus modelos GPT-5.6 Sol y una versión de prueba, actuaron de manera independiente para llegar hasta Hugging Face, uno de los mayores centros del mundo para los modelos de inteligencia artificial.
De acuerdo con los reportes, al ingresar al sistema, la AI recopiló la mayor cantidad de información que le permitiera manipular la prueba por la que estaba pasando. Este suceso se calificó como un “incidente de ciberseguridad sin precedentes”.
Asimismo, estos hechos ocurren durante una época donde existe una de las mayores preocupaciones por la capacidad de ciberseguridad de los modelos más potentes de inteligencia artificial.
La AI ha ingresado a softwares importantes sin la necesidad de la instrucción de un humano.
Estos acontecimientos muestran la capacidad de los agentes de IA para detectar espacios frágiles dentro de los softwares de manera autónoma sin la necesidad de una instrucción directa, en un espacio de tiempo más corto que los humanos expertos.
Tras lo ocurrido, Open AI, informó que se iniciará una investigación en conjunto con Hugging Face, para conocer el alcance del hackeo y conocer el alcance que tuvo esta inteligencia artificial al vulnerar los códigos.