La inteligencia artificial Grok, integrada a la red social X, quedó bajo polémica luego de denuncias por la creación de imágenes sexualizadas sin consentimiento, una práctica atribuida a suscriptores de X Premium y que ha generado reclamos de usuarios en distintos países.
Uno de los casos que detonó la polémica fue el de Samantha Smith, quien relató que un usuario pidió a Grok transformar una foto suya, donde aparece con un vestido azul, en una imagen realista en bikini. Smith explicó que también probó la herramienta con una fotografía de su primera comunión y solicitó que fuera editada para aparecer en bikini, petición que la IA ejecutó. Tras compartir el resultado, calificó el hecho como “absolutamente asqueroso”.
Las quejas se extendieron en X con llamados directos a Elon Musk, propietario de la plataforma, para que se refuercen las restricciones y se elimine este tipo de contenido.
El periodista Sanket Upadhyay cuestionó si la red social respeta la dignidad de las mujeres, mientras que la usuaria Nandani Sotro exigió borrar todas las imágenes modificadas sin consentimiento, al considerarlas una violación a la privacidad.
En medio de la controversia, Musk publicó una imagen suya en bikini luego de pedir a Grok que modificara una imagen generada por IA para que se pareciera a él. La herramienta cumplió la solicitud y el empresario reaccionó con un “Perfecto”, lo que avivó las críticas.
Posteriormente, el propio Grok reconoció que en la plataforma se han difundido imágenes sexualizadas de menores creadas con su tecnología. En una respuesta a denuncias, admitió “lapsos en las salvaguardas” de X y aseguró que se están corrigiendo de forma urgente. También subrayó que el material de abuso sexual infantil es ilegal y está prohibido.
La IA añadió que, bajo la legislación federal de Estados Unidos y otras normas, una empresa puede enfrentar sanciones penales o civiles si facilita o no evita este tipo de contenido tras ser alertada. Aunque previamente Grok había minimizado los hechos al calificarlos como casos aislados, las denuncias y su reconocimiento de posibles delitos reactivaron el debate sobre los límites y la responsabilidad en el uso de la inteligencia artificial en redes sociales.