Deepfakes vs derecho a la imagen y la voz

Artículo cortesía de las autoras:

Lia Angela Alvarado Sánchez  ( LinkedIn )

Ana Patricia Bolivar Rastrelli  ( LinkedIn )

1. Contexto

Con la irrupción de las generative IA¹ en la sociedad, la imagen y la voz de las personas han sido objeto de un uso indiscriminado por parte de los usuarios de estas IA². El problema principal se encuentra en los “deepfakes” o “ultrasuplantaciones”, que según el artículo 3.60 del Reglamento (UE) 2024/1689 de normas armonizadas en materia de inteligencia artificial (en adelante, “AI Act”), se tratan de “un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos”³.

Este fenómeno ha sido objeto de una regulación mediante el artículo 50.4 párrafo 1 del AI Act, en el cual se impone una obligación de transparencia a los prestadores de sistemas de IA consistente en advertir que el contenido ha sido generado o manipulado por IA⁴ . En esa misma línea, otras legislaciones —tales como China⁵ y Reino Unido⁶— se han propuesto hacer frente a este fenómeno también mediante obligaciones de etiquetado (“generados por IA”) de los outputs con el fin de permitirle al público identificar si una información, escrita visual o audiovisual, ha sido creada por una persona o por un sistema de IA.

Por otro lado, la Oficina de Derechos de Autor de Estados Unidos⁷ abordó el conflicto entre el derecho a la imagen y la voz, y los outputs, concluyendo que su marco jurídico vigente debería contener como mínimo un derecho federal que proteja a los individuos durante toda su vida frente a la distribución no autorizada de réplicas digitales.

Siguiendo esta misma corriente de regulaciones, este año 2026, el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes de España ha sometido a consulta pública⁸ su Anteproyecto de Ley Orgánica de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen (en adelante, “Anteproyecto”) que pretende actualizar y adaptar la mencionada ley a los cambios tanto legislativos como tecnológicos de los últimos 20 años transcurridos desde la última modificación de la misma; en particular, establece como uno de sus objetivos dar respuesta al fenómeno de las “ultrasuplantaciones”.

2. Anteproyecto

El Anteproyecto está compuesto por catorce artículos contenidos en tres capítulos, dos disposiciones transitorias, una disposición derogatoria y cuatro disposiciones finales. De los que, se observa que los art. 7 y 8 regulan explícitamente el supuesto de “ultrasuplantaciones”.

Por un lado, el art. 7 contiene los supuestos de intromisión ilegítima agregando como nuevo supuesto “la utilización o difusión de la imagen o la voz de una persona que haya sido creada, simulada o manipulada tecnológicamente para dotarla de una apariencia extremadamente realista” (literal “f”) y “la utilización del nombre, de la voz o de la imagen de una persona para fines publicitarios, comerciales o de naturaleza análoga, aunque la voz o la imagen hubieran sido simuladas o manipuladas“(literal “g”).

A su vez, el art. 8 prevé como excepción a los supuestos de intromisión ilegítima que “no afecta al derecho a la propia imagen la utilización de imágenes o voces extremadamente realistas de personas que ejerzan un cargo público o una profesión de notoriedad o proyección pública, generadas o manipuladas tecnológicamente, cuando este contenido forme parte de una obra o programa manifiestamente creativos, satíricos, artísticos, de ficción o análogos, y el responsable de su divulgación haga pública la existencia de dicho contenido generado o manipulado artificialmente de una manera adecuada que no dificulte la exhibición o el disfrute de la obra” (numeral 3, literal “c”).

Asimismo, el Anteproyecto propone una modificación de la Ley 1/2000, de 7 de enero, de Enjuiciamiento Civil (“LEC”) mediante la Disposición final primera. Dicha modificación concierne el artículo 727 sobre medidas cautelares específicas, de forma tal que su actual párrafo 11.ª pase a numerarse como 12.ª, con el objetivo de introducir una nueva medida cautelar específica como 11.ª consistente en “la retirada de las imágenes o voces de personas, ya sean reales, manipuladas o simuladas, cuando puedan afectar a su honor, a su intimidad personal o familiar o a su propia imagen”.

3. Consideración final

En primer lugar, la eventual aprobación del Anteproyecto por las Cortes Generales, supondría un avance relevante en la tutela de los derechos fundamentales al honor, a la propia imagen y, en su caso, la voz frente a las “ultrasuplantaciones”, dotando a los ciudadanos españoles de un mecanismo específico de protección.

Asimismo, es interesante resaltar el artículo 6 del Anteproyecto en la medida en que extiende esta protección al ámbito sucesorio. En particular, permitiría al causante hacer respetar su última voluntad a fin de que su imagen o voz no sea objeto de manipulación tecnológica, en contra de lo que hubiere dispuesto.

Respecto de la excepción contenida en el artículo 8, consideramos que puede generar conflictos interpretativos sobre dónde termina la libertad de expresión y empieza la intromisión ilegítima. Dicha excepción contempla fines de interés general, científicos y culturales, lo que plantea interrogantes sobre la delimitación concreta de tales intereses. Previsiblemente, de aprobarse el Anteproyecto, esta cuestión deberá resolverse caso por caso, atendiendo a las circunstancias específicas de cada supuesto. Tras el reconocimiento de estos nuevos supuestos de intromisión ilegítima al derecho fundamental objeto de análisis, es posible que surjan debates que versen sobre una potencial responsabilidad de plataformas digitales que alojan o difunden estas “ultrasuplantaciones”. Lo expuesto, podría a su vez resultar en potenciales obligaciones de estas plataformas para incorporar sistemas de trazabilidad y etiquetado de los outputs.

Finalmente, otra consecuencia que podría traer consigo la aprobación de este Anteproyecto es la revisión de los contratos de cesión de imagen a fin de que en sus cláusulas se contemple la inclusión expresa del uso de réplicas digitales y contenidos generados por IA; por ende, la potencial negativa de la parte a dicho uso.