El Estado de Florida demanda a OpenAI, la compañía de inteligencia artificial creadora de ChatGPT, por instigar tiroteos, crear adicción en menores de edad y entorpecer a sus usuarios. Es la primera demanda que un estado de EE. UU. ha hecho contra una compañía de IA.
¿Por qué Florida demanda a OpenAI?
Se le acusa a la compañía de lanzar y comercializar un producto del cual minimizaban u ocultaban los riesgos. Esto a través de prácticas engañosas, negligencia y violación de leyes de responsabilidad por productos. Específicamente, la empresa enfrenta los siguientes cargos.
- 4 cargos de prácticas comerciales engañosas y desleales
- 2 cargos de negligencia
- 2 cargos de violación de las leyes de responsabilidad por productos defectuosos
- 1 cargo de tergiversación fraudulenta
- 1 cargo de causar una molestia pública.
El fiscal general de Florida, James Uthmeier, ya había abierto una investigación criminal contra la compañía hace algunas semanas, en relación al tiroteo que ocurrido el año pasado en la Universidad Estatal de Florida (FSU) que resultó en dos muertos. El culpable utilizaba ChatGPT para obtener consejos sobre las posibles armas que podía ocupar.
La demanda no pide que los dueños de OpenIA pasen tiempo en prisión, pero sí solicita sanciones y e indemnizaciones. Además, pide al jefe ejecutivo de la compañía, Sam Altman, responsabilizarse personalmente. «Florida solicita una indemnización en nombre de sus ciudadanos y el cese de las prácticas engañosas y peligrosas descritas en la querella», expresó la fiscalía.
¿Qué dice OpenAI de la demanda?
La empresa ha estado enfrentando varias demandas tanto individuales como colectivas por personas que alegan casos similares, en los que la herramienta de IA lleva a usuarios a cometer actos de violencia contra sí mismos y contra otros.
OpenIA no se ha pronunciado con respecto a las acusaciones del estado de Florida aún. Sin embargo, en relación a la investigación criminal por lo ocurrido en FSU, la empresa afirmó que la herramienta sólo proporcionó información objetiva que puede ser encontrada en diversas fuentes de internet. Igualmente, ha defendido de manera reiterada que su programa está diseñado pensando en la salud y seguridad de los usuarios.