Vicente Morell-Mengual, Universitat de València

No es necesario ser una persona experta en informática para crear un contenido sexual falso mediante herramientas de inteligencia artificial. Actualmente sólo hay que realizar una búsqueda sencilla en redes sociales o en cualquier motor de búsqueda para encontrar aplicaciones y tutoriales donde se explica, paso a paso y con todo lujo de detalles, como crear imágenes, vídeos o audios sexuales falsos.

La popularización de la inteligencia artificial ha convertido lo que antes era una práctica marginal en un fenómeno cada vez más extendido. Los contenidos sexuales falsificados no sólo dañan la reputación y privacidad de las personas afectadas, sino que suscitan interrogantes sobre el control de la propia imagen, las nuevas formas de violencia digital y los límites éticos del uso de esta tecnología.

Tipo de falsificaciones sexuales

Los deepfakes sexuales, también conocidos como ultrafalsificaciones sexuales, son imágenes, vídeos o audios manipulados con herramientas de inteligencia artificial que muestran a una persona en situaciones eróticas o sexuales que nunca han ocurrido. Su gran capacidad para imitar la realidad hace que, a simple vista, resulten difíciles de distinguir de un contenido auténtico, aunque la persona representada nunca ha participado en estas escenas ni ha autorizado su creación.

Los deepfakes sexuales no son todos iguales. Algunas manipulaciones son tan sutiles que pasan inadvertidas para la mayoría de las personas, mientras que otras recrean escenas sexuales extremadamente explícitas. No existe una clasificación universalmente aceptada por tratarse de un fenómeno emergente y en constante evolución. Sin embargo, los informes especializados distinguen varios tipos de deepfakes sexuales:

1. Imágenes sugerentes o sexualizadas: alteraciones digitales que buscan sexualizar la imagen de una persona sin llegar necesariamente a mostrar un desnudo explícito.
2. Besos falsos: vídeos que hacen creer que dos personas se besan en la boca cuando, en realidad, esta situación nunca ha ocurrido.
3. Audios sexuales falsos (deepvoices): grabaciones generadas o manipuladas mediante inteligencia artificial que imitan la voz de una persona para atribuirle comentarios de carácter sexual que nunca ha realizado.
4. Desnudos artificiales (deepnudes): imágenes sexuales que se crean a partir de fotografías ordinarias. La inteligencia artificial predice cómo sería el cuerpo desnudo de la persona representada y genera una imagen completamente ficticia.
5. Intercambio de rostros en contenidos sexuales (face swap): superponer el rostro de una persona (obtenido de una fotografía ordinaria) sobre el cuerpo de otra que aparece en imágenes o vídeos sexuales preexistentes.
6. Escenas sexuales creadas por inteligencia artificial: creación de vídeos sexuales desde cero. En estos casos, no se parte necesariamente de una fotografía concreta de la víctima, sino que la inteligencia artificial genera una persona o una escena completa a partir de grandes volúmenes de datos de entrenamiento.

¿Qué sabemos sobre su trascendencia y prevalencia?

Indicar con exactitud cuántas personas han sido víctimas o cuántos deepfakes sexuales circulan en Internet no es tarea sencilla. Gran parte de estos contenidos se difunden en canales privados o plataformas difíciles de rastrear y, además, muchas víctimas nunca llegan a oficializar una denuncia ante las autoridades competentes.

Aún así, algunas investigaciones especializadas concluyen que los deepfakes sexuales están aumentando de forma exponencial. Un informe de Security Hero estimó que el 98% de los vídeos deepfake que circulan en Internet tienen carácter sexual y afectan principalmente a mujeres.

En España también comienzan a conocerse datos relativamente alarmantes. Un estudio del Centro Reina Sofía y FAD Joventut, realizado con jóvenes entre 16 y 29 años, reveló que alrededor de una de cada diez personas encuestadas reconocía haber creado o compartido un deepfake sexual de una persona famosa o de alguna persona de su entorno inmediato.

Uno de los errores más frecuentes es pensar que, al tratarse de imágenes o vídeos falsos, el perjuicio es prácticamente inexistente. Sin embargo, el impacto no depende de la autenticidad del contenido en sí, sino de la vulneración que implica utilizar un rostro para recrear una escena sexual sin el consentimiento explícito de la persona representada.

La difusión de estos contenidos puede derivar en situaciones de aislamiento y convertir a la víctima en objeto de bromas, rumores o acoso.

Abordarlo en la escuela: más allá del “no envíéis fotos”

La rapidez con la que evoluciona la inteligencia artificial hace necesario impulsar acciones educativas desde edades tempranas. Sin embargo, preparar al alumnado no es suficiente si el profesorado no dispone de los conocimientos y herramientas necesarios para afrontar este fenómeno.

Aún hoy, muchos docentes manifiestan inseguridad ante la posibilidad de abordar los deepfakes sexuales en el aula, bien porque consideran que no tienen formación suficiente, bien porque temen generar controversia con las familias o despertar el interés del alumnado por estas prácticas. Sin embargo, los deepfakes sexuales no pueden abordarse únicamente con consignas como “no envíéis fotos” o “utilizad menos el móvil”. Estas recomendaciones resultan completamente insuficientes. El reto educativo es mucho más profundo y exige desarrollar competencias relacionadas con la empatía, el consentimiento, la privacidad digital y la responsabilidad.

En esta línea, desde el equipo de investigación DIGITALSEX de la Universitat de València, estamos desarrollando y evaluando la efectividad de un programa formativo diseñado en el marco de un proyecto de innovación educativa y dirigido al futuro profesorado de Educación Primaria. La experiencia acumulada nos permite realizar algunas recomendaciones: 

• Ayudar al alumnado a comprender las consecuencias que puede tener manipular la imagen de otra persona. Actividades como la creación de campañas de sensibilización o el análisis de casos reales, como el de Almendralejo, permiten reflexionar sobre por qué crear o difundir contenidos sexuales falsos no es una broma, sino una forma de violencia digital. 
• Trabajar la empatía. En nuestro programa utilizamos dinámicas en las que el alumnado imagina cómo se sentiría si alguien modificara su imagen para ridiculizarlo. Estas actividades ayudan a comprender emociones como la vergüenza o la humillación, facilitando que los estudiantes identifiquen el daño que pueden causar estas prácticas. 
• Actuar sobre los observadores. Muchos episodios de victimización se mantienen porque quienes presencian los hechos callan, se ríen o redistribuyen su contenido. Actividades de análisis de casos inspirados en situaciones reales (un estudiante que recibe por WhatsApp una imagen manipulada de una compañera o alumna que observa cómo circulan montajes dentro de un grupo de mensajería) sirven como punto de partida para debatir qué acciones contribuyen a aumentar el perjuicio y cuáles ayudan a proteger a la víctima.

Legislar sin educar no es la respuesta

La rápida expansión de los deepfakes sexuales ha suscitado un gran debate social sobre la necesidad de adaptar la legislación a una realidad tecnológica que, normalmente, avanza mucho más rápido que las leyes vigentes. Disponer de un marco jurídico adecuado es indispensable para proteger a las víctimas y delimitar las responsabilidades de aquellos que crean o difunden estos contenidos.

Sin embargo, confiar únicamente en la respuesta penal constituye un gran error. La experiencia demuestra que prohibir una conducta no es suficiente para evitar que ocurra. Un ejemplo comparable es el consumo de alcohol entre menores porque, aunque su venta está prohibida, muchos siguen siendo consumidores habituales. Reducir esta problemática ha requerido una combinación de medidas legales, campañas de sensibilización y sobre todo programas educativos orientados a promover conductas más responsables.

Con los deepfakes sexuales ocurre una cuestión semejante. Muchos niños, niñas y adolescentes disponen de herramientas que pueden generar imágenes o vídeos sexuales falsos con sólo unos clics, pero pocos reflexionan sobre las consecuencias sociales y legales asociadas a su uso. De esta problemática surge la necesidad de explorar nuevas vías de concienciación en la escuela también desde la ciencia.

Vicente Morell-Mengual, Profesor Titular. Departamento de Psicología Evolutiva i de la Educación, Universitat de València

Este artículo se publició originalmente en The Conversation. Lea el original.