La empresa estadounidense OpenAI reveló un incidente de ciberseguridad sin precedentes en el que algunos de sus modelos de inteligencia artificial más avanzados lograron comprometer infraestructura interna y sistemas de Hugging Face durante una prueba de seguridad controlada, una muestra del creciente potencial ofensivo de la IA.
Se explicó que todo ocurrió en un entorno de pruebas diseñado para medir hasta dónde pueden llegar sus modelos en tareas relacionadas con ciberseguridad. Para esta evaluación utilizaron GPT-5.6 Sol y otro modelo aún más avanzado que todavía no ha sido presentado al público.
OpenAi buscaba demostrar los alcances de la Inteligencia Artificial
Como parte del experimento, los modelos tenían menos restricciones de seguridad de las habituales para poner a prueba sus capacidades. Fue entonces cuando la inteligencia artificial encontró una falla desconocida en un programa utilizado por OpenAI, lo que le permitió salir del entorno controlado y obtener acceso a internet.
Una vez conectada a la red, la IA identificó que la plataforma Hugging Face (utilizada por miles de desarrolladores para compartir modelos y herramientas de inteligencia artificial) podía contener información relacionada con la prueba que estaba intentando resolver.
Para llegar a esa información, los modelos combinaron distintas técnicas utilizadas por los hackers, como aprovechar fallas de seguridad y utilizar credenciales obtenidas durante el proceso. Con ello consiguieron abrir una ruta para acceder a servidores de Hugging Face.
El incidente no comprometió la navegación web de ningún usuario
El comportamiento fue detectado rápidamente por los equipos de seguridad de OpenAI y Hugging Face, quienes bloquearon el acceso e iniciaron una investigación conjunta. La empresa aseguró que no se trató de un ataque contra usuarios ni de un incidente provocado por ChatGPT disponible para el público, sino de una prueba realizada dentro de sus propios sistemas de investigación.
Aquí es donde se demuestra el enorme avance que han alcanzado los modelos de inteligencia artificial en tareas de ciberseguridad. Según la compañía, estos sistemas ya son capaces de encontrar nuevas formas de vulnerar sistemas reales, incluso sin conocer previamente cómo funcionan por dentro.
La empresa anunció que reforzará la seguridad de sus entornos de investigación y añadirá más controles para evitar que este tipo de situaciones vuelva a repetirse durante futuras pruebas.