La inteligencia artificial permite crear en pocos segundos una imagen sexual aparentemente real de una persona que nunca se ha desnudado, posado ni participado en esa escena.
Puede utilizarse una fotografía publicada en Instagram, una imagen obtenida de internet o incluso el rostro de una persona para generar un desnudo falso o incorporarlo a una imagen o vídeo sexual.
Son los denominados deepfakes sexuales.
Pero ¿es delito crear una imagen sexual falsa de otra persona mediante inteligencia artificial? ¿Qué ocurre si nunca se publica? ¿Y si se comparte por WhatsApp o se sube a una red social?
Desde el punto de vista penal, no existe una única respuesta para todos los deepfakes sexuales.
Habrá que analizar cómo se ha creado el contenido, qué material se ha utilizado, qué se ha hecho posteriormente con él y qué derechos de la persona representada han resultado afectados.
¿Qué es un deepfake sexual?
Un deepfake es un contenido audiovisual manipulado o generado mediante herramientas tecnológicas para representar de forma aparentemente realista algo que no ocurrió.
Cuando hablamos de deepfakes sexuales nos referimos a imágenes o vídeos en los que una persona identificable aparece falsamente:
desnuda;
mostrando partes íntimas;
realizando actos sexuales;
o participando en una escena sexual que nunca existió.
La inteligencia artificial generativa ha facilitado enormemente la creación de este tipo de contenido.
Ya no son necesarios conocimientos técnicos avanzados.
Existen herramientas capaces de transformar una fotografía convencional en una imagen sexual aparentemente realista en cuestión de segundos.
¿Es delito crear un deepfake sexual con inteligencia artificial?
No puede afirmarse que todo deepfake sexual constituya automáticamente un delito concreto por el mero hecho de haber sido creado mediante inteligencia artificial.
El Código Penal español no contiene actualmente un delito general denominado “deepfake sexual”.
La posible responsabilidad penal dependerá de las circunstancias concretas.
Entre otras cuestiones habrá que analizar:
qué imágenes originales se utilizaron;
cómo se obtuvieron;
si se utilizaron datos o archivos privados;
qué contenido se generó;
si la persona representada puede ser identificada;
si el contenido se difundió;
a quién se envió;
con qué finalidad se creó o difundió;
y si la persona representada es menor de edad.
Por tanto, la utilización de inteligencia artificial es el instrumento mediante el que se genera el contenido, pero no determina por sí sola la calificación penal.
¿Es lo mismo crear el deepfake que difundirlo?
No.
Esta distinción es fundamental.
Una cosa es generar una imagen sexual falsa mediante inteligencia artificial.
Otra diferente es difundirla posteriormente a terceras personas.
La difusión puede multiplicar considerablemente la afectación de los derechos de la persona representada y puede abrir la puerta a la aplicación de diferentes figuras jurídicas dependiendo de las circunstancias.
Por eso, ante un deepfake sexual siempre debemos separar al menos dos preguntas:
¿Cómo se creó la imagen?
y
¿Qué se hizo posteriormente con ella?
¿El artículo 197.7 del Código Penal se aplica automáticamente a los deepfakes sexuales?
No.
El artículo 197.7 del Código Penal castiga determinadas formas de difusión no consentida de imágenes o grabaciones audiovisuales que habían sido obtenidas inicialmente con la anuencia de la persona afectada en las circunstancias previstas por el propio artículo.
Por tanto, no deberíamos trasladar automáticamente este precepto a cualquier imagen completamente artificial.
Un deepfake puede representar una escena sexual que nunca existió y, precisamente por eso, no estamos necesariamente ante la difusión de una imagen íntima real que hubiera sido obtenida previamente con el consentimiento de la persona afectada.
Esto diferencia los deepfakes sexuales de muchos supuestos tradicionales de sexting.
En Difundir fotos íntimas sin consentimiento: sexting, revenge porn y delito explico específicamente el supuesto en el que existe una imagen o grabación íntima y esta termina siendo difundida sin autorización.
¿Qué ocurre si para crear el deepfake se utilizan fotografías privadas?
Entonces habrá que analizar también cómo se obtuvieron esas fotografías.
No es lo mismo utilizar una fotografía que una persona había publicado abiertamente que acceder sin autorización a su teléfono, correo electrónico, nube o archivos privados para conseguir imágenes.
El artículo 197 del Código Penal contiene diferentes delitos relacionados con el descubrimiento y revelación de secretos y con el acceso o utilización no autorizada de determinados datos.
Por tanto, la posible responsabilidad penal puede comenzar incluso antes de la creación del deepfake si para producirlo se han obtenido ilícitamente fotografías, vídeos o datos privados de la persona.
¿Qué ocurre si se utiliza una fotografía pública de Instagram?
Que la fotografía original sea pública no significa que exista autorización para cualquier utilización posterior.
Sin embargo, desde el punto de vista estrictamente penal, utilizar una fotografía pública para generar un contenido falso plantea un problema diferente del supuesto en el que previamente se ha accedido ilícitamente a información privada.
Habrá que analizar qué conducta se ha realizado posteriormente y qué derechos han resultado afectados.
Además de la posible respuesta penal, pueden existir otras vías jurídicas relacionadas con el derecho al honor, a la intimidad y a la propia imagen.
Por tanto, que una fotografía estuviera disponible públicamente no convierte automáticamente en lícita cualquier manipulación posterior.
¿Es delito “desnudar” a una persona con inteligencia artificial?
La respuesta dependerá de las circunstancias.
Las aplicaciones conocidas como nudify o undress AI permiten generar imágenes en las que una persona aparentemente aparece desnuda partiendo de una fotografía convencional.
Desde una perspectiva penal, no deberíamos afirmar que utilizar una de estas aplicaciones constituye automáticamente un delito en todos los casos.
Será necesario analizar qué imagen se utilizó, quién aparece en ella, cómo se obtuvo, qué resultado se generó y qué se hizo con ese contenido.
La situación será especialmente diferente cuando la persona representada sea menor de edad.
¿Qué ocurre si el deepfake sexual se comparte por WhatsApp?
La difusión introduce un elemento adicional que debe analizarse.
Una imagen sexual falsa puede enviarse a:
una sola persona;
un grupo de WhatsApp;
compañeros de trabajo;
compañeros de clase;
familiares;
seguidores de una red social;
o miles de personas a través de internet.
Dependiendo de las circunstancias, la difusión puede afectar gravemente al honor, la intimidad, la propia imagen o la integridad moral de la persona representada.
Por tanto, no debemos analizar únicamente quién creó el contenido.
También es necesario determinar quién lo difundió posteriormente.
¿Y si quien comparte el deepfake no fue quien lo creó?
La autoría de la creación y la autoría de la difusión pueden corresponder a personas diferentes.
Una persona puede generar el contenido y enviárselo a otra.
La segunda puede reenviarlo.
Una tercera puede publicarlo en una red social.
Desde el punto de vista jurídico habrá que individualizar la conducta de cada una de ellas.
No puede atribuirse automáticamente a todos los participantes exactamente la misma responsabilidad.
¿Puede existir un delito contra la integridad moral?
Dependiendo de las circunstancias, habrá que valorar también si la utilización o difusión del contenido puede tener relevancia desde la perspectiva de los delitos contra la integridad moral.
El artículo 173.1 del Código Penal castiga a quien inflige a otra persona un trato degradante que menoscabe gravemente su integridad moral.
No significa que cualquier deepfake sexual encaje automáticamente en este delito.
La gravedad de la conducta, su contexto, la humillación provocada, su reiteración, alcance y demás circunstancias deberán analizarse en el caso concreto.
¿Qué ocurre si se utiliza el deepfake para acosar o humillar?
El contexto puede modificar sustancialmente el análisis jurídico.
No es lo mismo generar una imagen que desarrollar una conducta reiterada de hostigamiento contra una persona utilizando imágenes sexuales falsas.
Por ejemplo, pueden existir:
publicaciones reiteradas;
envío del contenido a familiares;
difusión entre compañeros de trabajo;
creación continuada de perfiles falsos;
mensajes humillantes;
amenazas;
persecución digital;
o utilización de las imágenes para provocar un grave deterioro de la vida cotidiana de la víctima.
Dependiendo de las circunstancias, pueden entrar en juego otras figuras delictivas además de las relacionadas directamente con la intimidad.
¿Qué ocurre si amenazan con publicar un deepfake sexual?
No es necesario que la imagen llegue efectivamente a publicarse para que determinadas conductas puedan tener relevancia penal.
Si una persona amenaza a otra con difundir imágenes sexuales falsas para conseguir que haga o deje de hacer algo, entregue dinero o se someta a determinadas exigencias, habrá que analizar también los posibles delitos de amenazas o las figuras que correspondan según las circunstancias.
Las conversaciones en las que se realizan estas exigencias pueden convertirse en una prueba fundamental.
¿Y si piden dinero para no publicar la imagen?
El supuesto puede adquirir una gravedad adicional.
Utilizar un deepfake sexual para exigir dinero a cambio de no publicarlo puede plantear responsabilidades penales diferentes de las derivadas de la propia creación de la imagen.
Será necesario analizar exactamente qué se exige, cómo se formula la amenaza y qué finalidad persigue el autor.
Este fenómeno puede formar parte de conductas conocidas como sextorsión.
¿Qué pasa si la imagen sexual falsa es de un menor?
Aquí el análisis cambia sustancialmente.
El artículo 189 del Código Penal contiene una definición de pornografía infantil que no se limita a fotografías sexuales reales de menores.
Incluye, entre otros supuestos, determinadas imágenes realistas de un menor participando en una conducta sexualmente explícita y determinadas imágenes realistas de sus órganos sexuales con fines principalmente sexuales.
También contempla determinados materiales que representan visualmente a una persona que parece ser menor.
Por tanto, que una imagen sexual de un menor haya sido creada artificialmente no significa que quede automáticamente fuera de los delitos relacionados con pornografía infantil.
En ¿Es delito usar inteligencia artificial para desnudar a menores? explico específicamente el tratamiento penal de las imágenes sexuales de menores creadas mediante inteligencia artificial.
¿Qué diferencia existe entre un deepfake sexual de un adulto y uno de un menor?
La diferencia es fundamental.
Cuando hablamos de una persona adulta, habrá que estudiar las circunstancias concretas para determinar qué figura penal puede resultar aplicable.
En cambio, cuando la imagen representa a un menor, puede entrar directamente en juego la regulación específica de la pornografía infantil si el material reúne los requisitos del artículo 189.
Esto puede afectar no solo a quien genera las imágenes.
También puede tener consecuencias respecto de su posesión, distribución o acceso consciente.
Por eso no debemos trasladar las reglas aplicables a imágenes de adultos a los deepfakes sexuales de menores.
¿Es delito guardar un deepfake sexual?
Si hablamos de una persona adulta, no puede afirmarse con carácter general que la mera posesión privada de cualquier deepfake sexual constituya por sí sola un delito específico.
Habrá que analizar el origen del material y las demás circunstancias.
La situación cambia radicalmente cuando estamos ante material que puede tener la consideración de pornografía infantil.
El artículo 189 castiga determinadas formas de adquisición, posesión y acceso consciente a pornografía infantil.
En Posesión, producción y distribución de pornografía infantil: diferencias y penas explico las diferencias entre estas conductas.
¿Qué pruebas pueden existir en un procedimiento por deepfakes sexuales?
La prueba digital puede resultar especialmente importante.
Dependiendo del caso, pueden analizarse:
imágenes originales;
archivos generados;
metadatos;
conversaciones;
cuentas utilizadas;
publicaciones;
dispositivos;
aplicaciones de inteligencia artificial;
historial de navegación;
archivos almacenados;
mensajes enviados;
personas que recibieron las imágenes;
y cualquier elemento que permita reconstruir la creación y difusión del contenido.
Una cuestión especialmente importante será determinar quién creó realmente la imagen y quién participó posteriormente en su difusión.
¿Cómo demostrar que una imagen sexual es falsa?
Puede ser necesaria una pericial informática o un análisis especializado del archivo.
Sin embargo, la prueba no tiene por qué limitarse exclusivamente al examen técnico de la imagen.
También pueden existir:
archivos originales;
conversaciones en las que se reconoce la manipulación;
búsquedas;
aplicaciones utilizadas;
versiones anteriores del contenido;
publicaciones;
testigos;
o información obtenida de los dispositivos.
La estrategia probatoria dependerá de cómo se haya creado y difundido el deepfake.
¿Qué hacer si han creado un deepfake sexual mío?
Si descubres una imagen o vídeo sexual falso en el que apareces representado, es importante conservar las pruebas antes de que desaparezcan.
Puede ser útil conservar:
capturas de pantalla;
enlaces;
perfiles;
nombres de usuario;
mensajes;
fechas;
personas que hayan recibido el contenido;
y cualquier información que permita identificar su origen y difusión.
También puede ser conveniente solicitar la retirada del contenido a las plataformas en las que se encuentre publicado.
A partir de ahí, habrá que analizar las circunstancias concretas para determinar qué acciones jurídicas pueden ejercitarse.
¿Qué ocurre si estoy siendo investigado por crear o difundir un deepfake sexual?
La primera cuestión será determinar exactamente qué conducta se atribuye.
No es suficiente con afirmar genéricamente que una persona “hizo un deepfake”.
Habrá que determinar:
qué contenido se creó;
qué herramientas se utilizaron;
de dónde procedían las imágenes originales;
quién aparece representado;
si se difundió;
quién realizó la difusión;
a quién se envió;
y qué consecuencias produjo.
A partir de estos elementos podrá estudiarse si los hechos encajan en algún tipo penal y qué pruebas existen para atribuirlos a la persona investigada.
Deepfakes sexuales e inteligencia artificial: no todos los casos son iguales
La inteligencia artificial ha permitido crear imágenes sexuales falsas cada vez más realistas y accesibles.
Sin embargo, desde el punto de vista penal, no debemos simplificar el problema afirmando que existe un único “delito de deepfake sexual”.
La posible responsabilidad dependerá de cómo se obtuvieron las imágenes originales, qué contenido se generó, si se difundió, qué finalidad tuvo la conducta y quién aparece representado.
Y existe una diferencia especialmente importante:
si la persona representada es menor de edad, puede entrar en juego la regulación específica de la pornografía infantil aunque la imagen haya sido creada artificialmente.
Por eso cada supuesto debe analizarse atendiendo a sus circunstancias concretas.
Abogada penalista en procedimientos relacionados con deepfakes sexuales
Los procedimientos relacionados con imágenes sexuales creadas mediante inteligencia artificial pueden combinar cuestiones de Derecho penal con una prueba digital especialmente compleja.
Determinar el origen de las fotografías, cómo se generó el contenido, quién lo creó, quién lo difundió y qué evidencias existen en los dispositivos puede resultar fundamental.
Si han creado o difundido un deepfake sexual en el que apareces representado, puedo analizar las circunstancias y valorar las posibles acciones legales.
Y si estás siendo investigado por la creación o difusión de imágenes sexuales falsas mediante inteligencia artificial, puedo estudiar las actuaciones y la evidencia digital para valorar la estrategia de defensa adecuada.
Publicaciones relacionadas con delitos sexuales
