El importante diario francés, Le Figaro sentencia: Google Gemini crea soldados nazis negros y padres fundadores estadunidenses asiáticos, la Inteligencia Artificial pretendía evitar los estereotipos y ha acabado en una polémica donde muchos tildan a la herramienta de racista.

Por ello, Google Gemini tuvo que suspender la generación de imágenes humanas alteradas y no está claro cuál será su futuro. En México la aplicación de pequeñas dosis de inteligencia artificial llegó hasta el colmo. Las dos principales instituciones de educación superior del país se han presentado casos de alumnos que toman clandestinamente fotos de sus compañeras y las desnudan digitalmente. Lo increíble es que en el caso Diego, detonado el año pasado en el Politécnico Nacional, el muchacho suponía que no estaba cometiendo una falta porque elegía patrones de alteración de la imagen con las que, insistía, la foto dejaba de ser de la jovencita agraviada.

Es impresionante esta visión de un chaval universitario y más si se piensa que desde 2018 se empezó a legislar en la Ciudad de México sobre el delito de fotografiar y difundir imágenes de mujeres sin su consentimiento. La primera pena legislada fue de hasta tres años. Si bien la ley se pensó para casos de desnudos, ahora la AI está trayendo el desnudo artificial a escena.

En la Universidad Nacional ya no es un secreto que hay chats cuyo único propósito es intercambiar fotos de mujeres. Si poblaciones con pocas posibilidades de escuela y trabajo están llevando a sus jóvenes al narco, en las universidades estar incluido en esos chats da cierto prestigia macho (o patriarcal). Daniel tenía uno de esos chats en curso en el IPN, sólo que sabía más de tecnologías y de IA.

El caso internacional (finalmente Google Gemini sólo estaba plenamente disponible en Estados Unidos) y el caso mexicano muestran dos aristas de la discusión que ya está en curso. Por un lado, difícilmente se puede hablar de delitos si Hitler es reformado para que sea de origen mongol, pero es claro que se desataría un verdadero pandemónium si es reformado para que sea de origen judío.

Google Gemini fue diseñado para evitar estereotipos, de allí que una petición que no entiende cabalmene (“crea imágenes de soldados nazis”), sea respondida con imágenes de personas que entre las que están no sólo arios, sino minoría que no tendrían por qué estar allí.

Si Google Gemini pretendía acabar con estereotipos, el uso indiscriminado de la tecnología abre la posibilidad del uso contrario (voluntariamente o no). Nuevamente la tecnología no resuelve los problemas humanos a pesar de nuestra aspiración a que eso ocurra.

En el caso mexicano, donde sí hay delitos de por medio, la libertad del uso de la AI queda claramente descartada cuando invade territorios (violencia contra la mujer o la infancia, menoscabo de la dignidad de la persona, difamación) que ya habían sido abordados por las leyes mexicanas sin contemplar las nuevas tecnologías.

Por lo pronto, Google anunció que está ocupándose del problema Gemini y, por ahora al menos, no está claro cuál será su futuro.