Entrevista a Naroa Lizarraga Goikoetxea, premiada por Euskaltel Fundazioa en el Programa Experto en Derecho Digital

Basta una foto pública. Una imagen cotidiana, subida sin segundas intenciones, puede convertirse hoy en la materia prima de un contenido sexual falso pero verosímil. Y cuando la persona que aparece en esa imagen es un menor, el daño no se mide solo por lo que ocurre el primer día, sino por todas las veces que ese contenido vuelve a circular.

De eso trata «La protección jurídica de los menores frente a los deepfakes sexuales en el entorno digital», el trabajo con el que Naroa Lizarraga Goikoetxea ha recibido uno de los premios que Euskaltel Fundazioa impulsa dentro del Programa Experto en Derecho Digital de la Universidad de Deusto. La ceremonia de reconocimiento se celebró en el Bizkaia Euskaltel Digital Center, en pleno centro de Bilbao.

Estos premios nacen con una idea clara: reconocer el talento, la investigación y el compromiso de quienes se están enfrentando a los grandes retos jurídicos de la transformación digital. Retos que, como demuestra el trabajo de Naroa, no son teóricos ni lejanos: afectan a la vida diaria de miles de menores conectados.

Hablamos con ella sobre vacíos legales, revictimización, prevención y sobre lo que cada uno de nosotros puede hacer distinto a partir de mañana.

¿Qué es exactamente un deepfake y por qué supone un riesgo para los menores?

Un deepfake es un contenido audiovisual generado o alterado con inteligencia artificial para hacer parecer que una persona real dijo o hizo algo que nunca ocurrió, con un nivel de realismo que puede engañar a cualquiera. 

En el caso de los menores, el riesgo es especialmente grave porque no hace falta que hayan participado en absoluto: basta con una foto pública para generar contenido sexual falso pero verosímil. Una vez subido a internet se puede reenviar, descargar y volver a subir de forma indefinida, lo que provoca un daño que no es puntual sino continuado en el tiempo, lo que en mi trabajo denomino revictimización.

¿Qué fue lo que más te sorprendió durante la investigación?

Lo que más me sorprendió es que en España todavía no existe un delito específico de «deepfake sexual». Cuando se detecta un caso, hay que encajarlo en tipos penales que no se pensaron para esto, como la difusión de imágenes íntimas o la pornografía infantil, y eso genera muchas dudas jurídicas, porque en un deepfake la víctima ni siquiera ha participado en la creación del contenido: es una imagen completamente fabricada. También me sorprendió lo importante que es el rol de cada persona en estos casos: no es lo mismo quien crea el contenido que quien simplemente lo reenvía, y la respuesta legal tiene que ser distinta según ese papel.

Este trabajo es un reflejo claro de la carrera a contrarreloj que está viviendo la legislación frente a los avances tecnológicos. Para cuando una norma consigue regular un problema, la tecnología ya ha cambiado, por eso, ahora mismo hay varias leyes en marcha a la vez intentando llenar ese vacío.

«En España todavía no existe un delito específico de deepfake sexual»

¿Qué cambios pueden notar las personas en su día a día con esta nueva regulación?

Con el Proyecto de ley que está tramitándose, lo más notable es que crear o difundir un deepfake sexual de un menor pasaría a ser delito de forma explícita, sin depender de si se encaja o no en figuras pensadas para otra cosa. Además, se espera mayor exigencia a las plataformas para retirar este tipo de contenido con rapidez, gracias también al Reglamento Europeo de Servicios Digitales.

¿Cuál dirías que es el mayor reto de la protección de datos en la era de la inteligencia artificial?

Como he mencionado anteriormente, la tecnología avanza mucho más rápido que la capacidad del legislador para regularla. Con la IA, cualquier imagen pública puede convertirse en materia prima para crear contenido falso y dañino, y el marco jurídico actual no siempre está pensado para eso. El reto no es solo legislar más, sino legislar con criterios claros que permitan aplicar la ley con seguridad jurídica, sin caer ni en la impunidad ni en interpretaciones forzadas de delitos que no se pensaron para la IA.

¿Qué haces tú ahora de forma diferente en Internet?

He cambiado la forma en que gestiono mis datos. Ahora sé que tengo derecho a pedir a las empresas que eliminen mi información una vez que ya han cumplido la función para la que se la di, algo en lo que antes ni se me pasaba por la cabeza. Con las cookies me pasa algo parecido: antes aceptaba todo sin pensar, y ahora reviso un poco qué estoy aceptando y rechazo lo que no es necesario. Con las fotos y los vídeos, soy mucho más cuidadosa. Después de todo lo que he investigado para el trabajo, sé que cualquier imagen que subes, aunque parezca totalmente inocente, puede acabar usándose para cosas que no controlas. Así que ahora me lo pienso dos veces antes de subir algo.

«Después de todo lo que he investigado para el trabajo, sé que cualquier imagen que subes, aunque parezca totalmente inocente, puede acabar usándose para cosas que no controlas»

Si pudieras cambiar una sola cosa para proteger mejor a los menores en Internet, ¿cuál sería?

Respecto al plano legal, añadiría el delito específico para el deepfake sexual y el deepfake sexual en menores. Ahora mismo hay que encajar estos casos en delitos pensados para otras situaciones, y eso genera mucha inseguridad jurídica. Un tipo penal claro, centrado en la creación o difusión de contenido sexual falso que permita identificar al menor, sin exigir que haya existido participación real de la víctima, daría mucha más seguridad tanto a las víctimas como a quienes tienen que aplicar la ley.

Pero, más allá de lo legal, creo que la prevención es igual de importante. Creo que la concienciación sobre estos peligros debería trabajarse desde distintos ámbitos diarios que nos rodean, no solo cuando ya ha pasado algo. Cada vez los menores acceden antes a internet, exponiéndose a estos riesgos antes de tener la madurez para entenderlos o protegerse de ellos. La ley puede castigar cuando el daño ya se ha producido, pero la prevención es lo único que puede evitar que ese daño llegue a existir.

Describe tu proyecto en una sola palabra.

Proporcionalidad.

Proporcionalidad. Una sola palabra para resumir un trabajo que pide algo aparentemente sencillo: que la respuesta jurídica esté a la altura del daño real y que distinga entre quien fabrica un contenido y quien lo reenvía sin pensar. Nada más, pero nada menos.

La conversación con Naroa deja también una idea que va más allá del Código Penal. La ley llega cuando el daño ya está hecho; la prevención es lo único que puede impedir que llegue a existir. Y esa prevención no se juega solo en los despachos ni en el Boletín Oficial del Estado: se juega en las aulas, en las casas, en las conversaciones que tenemos con quienes están creciendo con un móvil en la mano.

Por eso en Euskaltel Fundazioa impulsamos estos premios junto a la Universidad de Deusto. Porque el derecho digital no es una especialidad más: es una de las herramientas que tenemos para construir un entorno digital más justo y más seguro.