Aumentan casos de violencia digital por uso de Inteligencia Artificial en CDMX
La IA puede ser empleada en ciberataques y actividades delictivas
Ciberseguridad
Mujer sufriendo violencia a través de un dispositivo móvil
La Policía Cibernética informó que se ha identificado una creciente incidencia de violencia digital en la que se hace uso de la Inteligencia Artificial (IA) como una herramienta para perjudicar la reputación y la seguridad de las personas.
La herramienta de IA emplea tecnología con algoritmos de aprendizaje automático que se utilizan para crear imágenes de alta calidad de personas cuya apariencia se quiere imitar o suplantar, replicando con precisión sus rasgos y voz. Además, se aplican técnicas de edición y procesamiento para hacer que sea aún más convincente.
Esta tendencia también se refleja en la utilización de modelos de síntesis de voz basados en IA para crear audios que imitan a la persona objetivo. Una vez que se ha creado la nota falsa, esta puede ser publicada en línea o difundida en plataformas de redes sociales, sitios web o aplicaciones de mensajería, perpetuando sesgos y discriminación si no se utiliza de manera ética. Además, la IA puede ser empleada en ciberataques y actividades delictivas.
FGJCMDX detiene a Diego “N”, el joven que vendía fotos sexuales creadas con IA
En lo que va de este año, se ha registrado un aumento en incidentes cibernéticos sin IA, principalmente por extorsión, acoso y amenazas, seguidos de suplantación de identidad y sexting.
Estos reportes están relacionados con el modo de operar de los ciberdelincuentes que utilizan herramientas de IA para realizar otros ciberdelitos, como ciberacoso, creación de noticias ofensivas, ataques de ingeniería social avanzados, suplantación de identidad mejorada, robo de identidad digital y manipulación de reputación en línea.
Lanzan recomendaciones preventivas
La Unidad de Policía Cibernética emitió las siguientes recomendaciones para prevenir la violencia digital:
- Limitar la cantidad de información personal compartida en línea.
- No confiar en cuentas desconocidas y evitar entablar conversaciones con remitentes no solicitados.
- Verificar la autenticidad de perfiles en línea y buscar señales de perfiles falsos o bots.
- Nunca compartir contraseñas, números de seguridad social u otra información confidencial en línea.
- Mantener sistemas operativos y aplicaciones actualizados.
- Crear contraseñas seguras y habilitar la autenticación en dos pasos.
- Evitar hacer clic en enlaces o descargar archivos adjuntos de remitentes desconocidos.
- Realizar búsquedas regulares en línea para verificar la difusión de contenidos perjudiciales.
- En caso de ser víctima de violencia digital, buscar apoyo, asesoría profesional y denunciar cualquier incidente a las autoridades correspondientes.
Deepfakes: Un peligro para la seguridad y privacidad ciudadana
De acuerdo a la Secretaría de Seguridad Ciudadana (SSC), se han detectado aplicaciones móviles y sitios web que utilizan algoritmos de inteligencia artificial para crear o modificar contenidos multimedia, conocidos como "deepfakes", que pueden afectar la reputación, la privacidad y la seguridad de las víctimas.
La Policía Cibernética señaló que este tipo de violencia digital puede constituir un delito tipificado en el Código Penal de la Ciudad de México, que sanciona con prisión de tres a seis años y multa de 500 a mil días de salario mínimo a quien difunda, comparta o publique imágenes, audios o videos de contenido sexual de una persona sin su autorización.
Asimismo, la SSC recomendó a la ciudadanía tomar medidas preventivas para evitar ser víctimas de este fenómeno, como no compartir información personal o íntima con desconocidos, revisar los permisos que se otorgan a las aplicaciones móviles, utilizar contraseñas seguras y activar la verificación en dos pasos en las redes sociales.
Te recomendamos
