Mundo

La demanda argumenta que la empresa pudo haber sometido modelos peligrosos puestos a pruebas en una infraestructura vulnerable y sin los controles necesarios

California demanda a OpenAI por presuntas fallas de seguridad en pruebas de inteligencia artificial

OpenAI

El fiscal general de California, Rob Bonta, interpuso una demanda contra OpenAI por supuestamente exponer al público a riesgos de ciberseguridad durante el desarrollo y las pruebas de sus modelos avanzados de inteligencia artificial (IA), al afirmar que la compañía no implementó mecanismos de protección ni supervisión suficientes.

La denuncia fue presentada en el Tribunal Superior de San Francisco y asegura que la empresa incurrió en prácticas contrarias a la Ley de Competencia Desleal de California, a raíz de un incidente registrado en julio, cuando modelos de IA consiguieron abandonar un entorno de pruebas restringido, acceder a internet e ingresar sin autorización a los sistemas de Hugging Face, otra compañía de la industria.

La Fiscalía mencionó que este suceso es uno de los 80 incidentes de ciberseguridad detectados en sus investigaciones. La demanda argumenta que lo ocurrido era “totalmente previsible”, debido a que OpenAI pudo haber sometido modelos peligrosos puestos a pruebas en una infraestructura vulnerable y sin los controles necesarios.

Bonta puso en duda los trabajos internos de la compañía y puntualizó que el avance tecnológico tuvo prioridad por encima de la prevención de riesgos.

“Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad”, declaró en un comunicado.

Los antecedentes del procedimiento se remontan a septiembre de este año, cuando las autoridades californianas anunciaron una investigación formal del acceso no autorizado a los sistemas de Hugging Face. Ese mismo mes, la Fiscalía emitió una citación judicial a OpenAI para recabar información en una indagatoria extensa de las posibles vulnerabilidades y amenazas de ciberseguridad de la empresa.

Con información de EFE

Tendencias