Madrid, 15 de octubre de 2026

El uso de las herramientas de inteligencia artificial generativa (IAGen) está cada vez más presente en las producciones, pero esta tecnología no es neutra. Muchos creadores suelen poner de manifiesto que numerosas herramientas de generación audiovisual rechazan escenas con sangre, heridas, cadáveres o episodios históricos delicados, aunque el propósito no sea glorificar la violencia, sino contarla, como, por ejemplo, ocurre en un documental

 Como hace poco me comentó un gran creador de documentales históricos mediante IA, quien intente reconstruir una batalla histórica con miles de heridos y fallecidos descubrirá que el modelo se resiste a mostrar la realidad que se quiere representar. La historia, mal que nos pese, obliga en muchas ocasiones a contar hechos violentos. Y lo que no se puede representar acaba contándose de otra manera o, sencillamente, no se cuenta. Esa es la censura que viene de serie con el modelo de IAGen, la cual no corta la obra terminada, sino que sencillamente impide que llegue a generarse.

No es solo una intuición o una impresión de quienes usan estas herramientas, sino que es algo que está escrito en sus condiciones de uso. Runway prohíbe en su política de uso la violencia gráfica y el gore, con mención expresa a mutilaciones y huesos expuestos. Midjourney se presenta como un servicio apto para mayores de trece años y, por defecto, bloquea automáticamente determinadas peticiones. Google, propietaria de Veo y Flow, prevé posibles excepciones por razones educativas, documentales, científicas o artísticas, pero tampoco ofrece una vía clara ni automática para llevarlas a cabo. En 2024, usuarios documentaron que su modelo Gemini llegó a negarse a ilustrar la masacre de Tiananmén por tratarse de «violencia del mundo real». 

Aunque Google llegó a reconocer que Gemini se había vuelto mucho más cauteloso y que por ello rechazaba peticiones perfectamente legítimas, no se refirió expresamente a este caso. Otras veces el filtro no prohíbe, sino que busca edulcorar la creación, y la guerra se convierte en un puñado de soldados derribando edificios vacíos.

Partamos de la premisa de que la censura ha existido siempre, pero nunca de esta manera. Hasta ahora, el autor creaba primero, porque crear es muchas veces un gesto de valentía, y luego, con la obra ya terminada, llegaba el censor con las tijeras. Pero por burda que fuera aquella censura, esta siempre llegaba después de la creación, y había una obra, un censor al que señalar y un debate público. 

Con los filtros actuales, ese debate jamás se habría producido, porque la película no habría llegado a nacer, al menos tal como la concibió su creador. Hemos pasado de una censura pública, a veces ridícula, a otra privada, previa y automatizada, además de opaca y prácticamente irrecurrible. Vemos como no se trata en una censura que no procede del poder público, pero que si opera como una censura de facto que decide antes de que la obra exista qué puede contarse y qué debe quedar excluida. 

En las herramientas de IAGen no hay expediente administrativo ni censor, tan solo un mensaje de error genérico que, en muchas ocasiones, no permite ni siquiera conocer qué palabra de la instrucción o prompt del creador ha activado el bloqueo. Una vez más, las grandes tecnológicas se colocan por encima del sistema normativo. El artículo 20.1.b) de la Constitución reconoce la libertad de producción y creación artística, y el artículo 20.2 prohíbe restringirla «mediante ningún tipo de censura previa». 

Sin embargo, este mandato fue concebido para los poderes públicos. Nuestro Tribunal Constitucional ha admitido cierta eficacia de los derechos fundamentales entre particulares, pero de forma mediata y a través del juez (STC 18/1984), una vía de difícil recorrido, pues ningún creador demandará a una gran tecnológica porque no le deje generar una escena. 

El Tribunal Europeo de Derechos Humanos, en Müller c. Suiza (1988), considera que la libertad de expresión ampara la creación artística, incluida aquella que ofende, escandaliza o inquieta, y en Vereinigung Bildender Künstler c. Austria (2007) recordó que la sátira aspira por naturaleza a provocar. Todas estas garantías se pensaron para proteger al creador frente al Estado, no frente a unas condiciones de uso. El Derecho de la Unión tampoco ataja el problema. 

El artículo 14.4 del Reglamento de Servicios Digitales obliga a aplicar las condiciones generales de forma diligente, objetiva y proporcionada, teniendo en cuenta los derechos fundamentales, entre los que se encuentra la libertad de expresión. Pero esta norma solo se refiere a los servicios intermediarios, por lo que un sistema de IAGen que crea contenido a partir de prompts o instrucciones pudiera encajar mal en esa categoría. 

En otras palabras, la norma protege frente a la moderación arbitraria del contenido creado que se pretende publicar, pero no a quien intenta crearlo. Tampoco el Reglamento de Inteligencia Artificial resuelve la cuestión, ya que su artículo 50.4 se limita a mencionar la obra artística, creativa, satírica o de ficción y la obligación de etiquetar los deepfakes, pero en ningún momento garantiza el derecho a su generación. La solución puede estar más cerca de lo que pensamos. 

La Directiva 2019/790 impuso a las plataformas una serie de obligaciones frente a la piratería. Ahora bien, su art. 17.7 actuó como balanza, exigiendo que los filtros requeridos no obstaculizaran el contenido legítimo y protegiendo expresamente la cita, la crítica, la caricatura, la parodia y el pastiche. Y su artículo 17.9 exige mecanismos de reclamación ágiles, con decisiones sometidas a revisión humana. Es decir, el filtro debe convivir con las excepciones y con una vía real de reclamación. 

Por tanto, bastaría con trasladar esa lógica a la IAGen, enumerando excepciones para el uso documental, educativo y artístico, bloqueos motivados y, sobre todo, la posibilidad de que una persona revise la decisión antes de que la creación quede coartada. 

 Como vemos, no se trata de permitir cualquier cosa y los filtros son más que necesarios para el propio sector cultural, pues protegen, por ejemplo, a actores y actrices frente a la clonación no consentida de su imagen y su voz. Pero un filtro incapaz de distinguir la apología de la violencia de un documental que la retrata no protege a nadie, y solamente nos quita la posibilidad de recordar lo que pasó y, con ella, la de evitar que vuelva a ocurrir. 

 Hoy son muy amplías las posibilidades de hacer una película o componer una canción, como ya ocurrió cuando las cámaras de vídeo domésticas abrieron la puerta a un cine de bajo presupuesto al que, a falta de medios, le sobraba imaginación. Sería un mal negocio que esta “democratización” se pagara con la libertad creativa. La cultura ha peleado demasiado por esa libertad como para aceptar ahora que las herramientas lleguen con la censura de serie.

ABEL MARTÍN VILLAREJO 

Director general de AISGE

Secretario General de Latin Artis