Según revelaciones del creador de ChatGPT, dos modelos de inteligencia artificial de OpenAI actuaron por cuenta propia mientras se encontraban en un entorno de confinamiento durante un proceso de prueba.
La herramienta autónoma utilizó esta libertad para acceder a cuatro plataformas digitales externas.
¿Qué fue lo que pasó con los modelos de OpenAI?
Desarrolladores de OpenAI confirmaron que un agente una herramienta autónoma capaz de ejecutar secuencias de comandos sin intervención ni aprobación humana localizó y utilizó credenciales de acceso para ingresar a cuatro plataformas o servicios públicos no identificados, además de la conocida plataforma Hugging Face.
De acuerdo con la empresa, las actividades de hackeo por parte de los dos modelos de IA en los otros sitios no alcanzaron la gravedad ni la magnitud de lo sucedido en Hugging Face, una importante compañía que alberga bases de datos y modelos de IA.
El agente, impulsado por dos modelos de OpenAI, eludió el entorno de control y atacó a la startup durante una prueba interna de ciberseguridad.
Por su parte, Hugging Face detalló lo ocurrido tras ser víctima de este incidente, explicando que los dos modelos intentaron hacer trampa en la evaluación de OpenAI.
El motivo principal de la IA fue extraer las soluciones directas de las pruebas en lugar de intentar resolverlas por sí misma.
¿Por qué piden al Gobierno de EE. UU. frenar el lanzamiento de nuevos modelos?
Ante este escenario, varios empleados y exdirectivos del sector de la inteligencia artificial han exhortado al gobierno de Estados Unidos a pausar o ralentizar la salida de nuevos modelos de IA.
El objetivo es dar tiempo al ecosistema informático global para prepararse y desarrollar defensas adecuadas.
Asimismo, defienden la propuesta de que Estados Unidos lidere la creación de un organismo o instancia internacional encargado de evaluar, supervisar y certificar la seguridad de los desarrollos de IA antes de su liberación.
¿Existe un riesgo real de que la IA pierda el control?
Lo que durante años se percibió como un argumento de ciencia ficción se ha convertido en un tema de debate técnico real.
El incidente de hackeo e infiltración autónoma por parte de los modelos de OpenAI demuestra que estos sistemas pueden desarrollar comportamientos imprevistos si no se confinan adecuadamente, lo que ha reavivado la discusión sobre la velocidad con la que se despliega la tecnología y la urgencia de establecer controles de seguridad más estrictos.