Imagina despertar y ver en redes sociales un video tuyo haciendo o diciendo cosas que jamás hiciste ni pensarías hacer…la voz es tuya, el rostro es tuyo, pero el contenido es falso. Esto no es ciencia ficción… es la realidad de los deepfakes.
Ahora bien, ¿qué son y por qué preocupan los deepfakes?, la respuesta más sencilla es, que son videos, imágenes y/o audios manipulados con inteligencia artificial que a su vez sustituyen la cara, voz y gestos de una persona para crear contenidos falsos que parecen reales, aunque muchas veces se hacen por diversión, en otras ocasiones se convierten en herramientas para difamar, extorsionar o dañar la reputación de alguien.
Lo más inquietante es que cualquiera podría ser víctima ya que no se trata solo de celebridades o políticos, sino que la tecnología está al alcance de cualquiera y un celular basta para viralizar un video falso en segundos… la pregunta es: ¿cómo demuestras que lo que aparece en ese video no eres tú?, esa angustia, esa impotencia de tener que probar tu inocencia frente a algo falso es uno de los grandes vacíos que hoy deja la ley.
En los últimos años, han surgido casos que van desde celebridades en videos falsos hasta personas comunes cuyas caras fueron insertadas en material íntimo sin su consentimiento, el daño no solamente llega a ser emocional, sino también puede tener consecuencias laborales, familiares y legales.
En el caso de México, aunque no existe una ley específica que regule los deepfakes como tal, existen herramientas jurídicas que pueden usarse para combatirlos, como lo son la Ley Olimpia, que sanciona la difusión de contenido íntimo sin consentimiento, incluso si es alterado digitalmente, asimismo está el Código Civil que protege el derecho a la imagen, incluso el Código Penal, que contempla delitos que van desde una suplantación de identidad hasta un fraude. Sin embargo, el vacío legal es evidente, no siempre es claro qué se puede hacer cuando el contenido no es íntimo pero sí está manipulado.
Como abogada, me preocupa que seguimos reaccionando después del daño en vez lugar de prevenirlo. Una víctima no debería cargar con la responsabilidad de rastrear enlaces, hacer capturas y además de explicar a las autoridades qué es un deepfake, al contrario, es el sistema el que tendría que estar preparado para reconocerlo y sancionarlo de inmediato. Mientras eso no ocurra, la justicia seguirá llegando tarde… si es que llega.
Si comparamos las legislaciones en otros lugares para contrastar México, en países como Estados Unidos, algunos estados como Michigan que penalizan la creación y distribución del contenido sexual explícito, también Washington y Pennsylvania que cuentan con leyes que criminalizan los deepfakes mal intencionados, en ese mismo contexto, en la Unión Europea, existe el “AI Act” el cual es vigente desde agosto de 2024, el cual pone reglas sobre el contenido sintético y obliga a su etiquetado como tal para así evitar confusiones y daños.
Lo que me preocupa es que estas discusiones ni siquiera están en la agenda legislativa mexicana; mientras afuera se debate sobre campañas políticas y etiquetado obligatorio de uso de IA, aquí apenas hablamos del tema cuando hay un escándalo en redes.
Cuando comparo lo que está pasando en México con lo que ya ocurre en los países mencionados, me queda claro que vamos muy atrás, y no porque no tengamos leyes, sino porque no hay voluntad para poner el tema en la mesa; esperamos a que un caso grave llegue a los titulares para entonces reaccionar. Y así, la ciudadanía sigue expuesta.
Lo cierto es que pensar que alguien pueda apropiarse de tu rostro, de tu voz y de tus gestos para usarlos en tu contra, es una de las formas más invasivas de violencia moderna, te quita control sobre lo más íntimo que tienes que es tu identidad. Y si el Derecho no logra estar a la altura, lo falso va a seguir teniendo más poder que la verdad.
No se trata de temerle a la tecnología, sino de exigir que el Derecho la acompañe. Porque la innovación sin regulación se convierte en un arma, y quienes terminan pagando el precio son siempre las personas comunes.
La tecnología avanza más rápido que la ley, pero eso no debería de significar que estemos indefensos; proteger nuestra imagen en la era digital es tan importante como salvaguardar nuestro nombre o patrimonio, pues en un mundo donde lo falso puede parecer real, el Derecho debe ser un escudo que garantice nuestra identidad.
Desde Derecho en Perspectiva, insistimos en que tu imagen es tuya, incluso en internet. Defenderla es defender tu historia, tu reputación, y en última instancia, tu libertad.