Seguro que te ha pasado. Estás haciendo scroll infinito en Twitter —o X, como prefieran llamarlo ahora— y de repente ves una imagen de un político diciendo algo que te hace arquear una ceja. O peor, un vídeo de una celebridad anunciando una inversión en criptomonedas que huele a estafa desde lejos. La verdad es que, hasta hace nada, vivíamos en una especie de Lejano Oeste digital donde cualquiera con una tarjeta gráfica medio decente y un poco de tiempo libre podía poner patas arriba la reputación de alguien. Pero en Bruselas se han cansado de mirar hacia otro lado.
La Unión Europea ha decidido que ya está bien de jugar a las adivinanzas con la realidad. No es solo una cuestión de «fake news» de esas que comentamos en la cena de Navidad; estamos hablando de algo mucho más turbio. Imágenes ilícitas, pornografía no consentida generada por algoritmos y manipulaciones que pueden alterar el resultado de unas elecciones. Vaya, que la cosa se ha puesto seria. Y es que, si mal no recuerdo, hace apenas un año las herramientas para crear estos deepfakes eran cosa de cuatro expertos, pero hoy cualquier chaval con una app gratuita puede liar una buena.
Lo que la UE ha puesto sobre la mesa no es un simple tirón de orejas. Es un despliegue legislativo que busca poner puertas al campo, o al menos, ponerle un GPS a cada oveja. La idea es clara: si usas IA para crear contenido que parece real pero no lo es, vas a tener que decirlo bien clarito. Nada de letras pequeñas escondidas en un rincón. Transparencia pura y dura.
La Ley de IA: El escudo europeo contra el engaño
La famosa AI Act o Ley de Inteligencia Artificial de la UE es el pilar de todo esto. No es un texto ligero, precisamente. Si te pones a leerlo, te hace falta un par de cafés cargados para no perderte entre artículos y considerandos. Pero, para que nos entendamos, lo que hace es clasificar la tecnología según el riesgo que supone para nosotros, los ciudadanos de a pie. Y los deepfakes han caído de lleno en la categoría de «riesgo de transparencia».
¿Qué significa esto en la práctica? Pues que las plataformas y los creadores tienen la obligación legal de etiquetar ese contenido. Si ves un vídeo de un actor famoso recomendando un champú, y ese vídeo ha sido generado por una IA, tiene que aparecer una marca de agua o un aviso que diga: «Ojo, esto no es real». Parece algo obvio, pero hasta ahora era una recomendación amable. Ahora, si no lo haces, las multas pueden hacer que a más de una empresa tecnológica se le atragante el presupuesto anual.
Además, la ley no solo mira a los deepfakes graciosos. Se mete de lleno en el barro de las imágenes ilícitas. La generación de contenido de abuso sexual infantil o la creación de desnudos no consentidos (lo que se conoce como deepfake porn) pasa de ser una zona gris ética a ser un objetivo prioritario de las autoridades. La verdad es que ya era hora, porque el daño psicológico que estas herramientas pueden causar es real, aunque los píxeles sean inventados.
¿Cómo nos afecta esto en España?
Aquí en España no somos ajenos a esto. De hecho, somos uno de los países que más está empujando para que estas regulaciones se apliquen con mano de hierro. Tenemos la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que tiene su sede en A Coruña, y que va a ser la encargada de vigilar que estas normas no se queden en papel mojado. Es curioso, porque a veces pensamos que estas cosas de la tecnología solo pasan en Silicon Valley, pero la realidad es que el impacto en el mercado local es brutal.
Imagina una pequeña empresa de publicidad en Madrid que decide usar modelos generados por IA para ahorrarse los costes de una sesión de fotos. Con la nueva normativa, tendrán que ser extremadamente cuidadosos con cómo presentan ese material. No se trata de prohibir la innovación —que a todos nos gusta que las cosas sean más eficientes—, sino de no engañar al consumidor. Al final del día, la confianza es lo único que mantiene en pie el comercio digital.
El problema técnico: ¿Cómo pillamos al mentiroso?
Aquí es donde la cosa se pone interesante y un poco técnica, pero prometo no aburrirte con código infumable. Detectar un deepfake es como una carrera armamentística. Por un lado, tenemos las GAN (Redes Generativas Antagónicas), donde una IA intenta crear una imagen y otra intenta detectar si es falsa. Con el tiempo, la que crea se vuelve tan buena que la que detecta ya no sabe qué decir.
La UE está impulsando estándares de marcas de agua digitales que son invisibles al ojo humano pero que cualquier software puede leer. Es como un ADN digital que se inserta en el archivo. Si intentas manipularlo, la firma se rompe. Para los que os gusta el cacharreo, esto se parece un poco a los metadatos EXIF de las fotos de toda la vida, pero con esteroides y criptografía de por medio.
// Un ejemplo muy simplificado de cómo se vería una verificación de integridad
function verificarContenidoIA(archivo) {
const metadatos = archivo.getMetadata();
if (metadatos.contieneIA && !metadatos.etiquetaVisible) {
console.warn("Alerta: Este contenido infringe la normativa de transparencia.");
return false;
}
return true;
}
Vaya, que no es tan fácil como parece. El problema es que los malos siempre van un paso por delante. Por eso, la UE no solo pide tecnología, pide responsabilidad a las plataformas. Si X o Facebook permiten que un deepfake dañino se vuelva viral sin ningún tipo de control, ellos también van a recibir su parte del castigo. Es lo que se conoce como la Ley de Servicios Digitales (DSA), que trabaja mano a mano con la Ley de IA.
Imágenes ilícitas: La tolerancia cero
Si hablamos de imágenes ilícitas, el tono cambia por completo. Aquí ya no hablamos de «etiquetar», hablamos de eliminar y perseguir. La capacidad de la IA para generar contenido de abuso es aterradora porque, técnicamente, no hay una víctima física en el momento de la creación (ya que la imagen es sintética), pero el impacto social y la normalización de esa violencia son devastadores.
La Comisión Europea ha sido muy tajante: las empresas tecnológicas deben implementar sistemas de detección proactiva. Ya no vale eso de «nosotros solo somos el canal». Si tu tecnología permite crear estas barbaridades, eres responsable de ponerle freno. Y ojo, que esto incluye también los famosos bots de Telegram que desnudan a personas a partir de una foto normal. La UE quiere que estos servicios sean bloqueados a nivel de infraestructura. Es una medida drástica, sí, pero es que el problema se nos ha ido de las manos.
El papel de las empresas españolas en la detección
Lo bueno es que en España tenemos talento a raudales trabajando en esto. Hay startups en Barcelona y Valencia que están desarrollando algoritmos de visión artificial capaces de detectar inconsistencias en la iluminación o en el parpadeo de los ojos que delatan a una IA. Porque, aunque nos parezcan perfectos, los deepfakes suelen tener «fallos» sutiles. A veces las sombras no coinciden o los bordes de las orejas se ven un poco difusos. Esos pequeños errores son los que aprovechan los sistemas de seguridad para levantar la bandera roja.
La verdad es que es una batalla constante. Y es que, para que nos entendamos, no podemos confiar solo en la tecnología para protegernos de la tecnología. Hace falta educación. La UE también va a invertir una millonada en programas de alfabetización digital. Porque la mejor defensa contra un deepfake es un usuario que sabe que no debe creerse todo lo que ve en una pantalla de seis pulgadas.
¿Qué pasa con la libertad de expresión?
Este es el melón que nadie quiere abrir, pero que hay que tocar. ¿Dónde termina la sátira y empieza la desinformación? Si alguien hace un vídeo de humor usando la cara de un político, ¿debe ser censurado? La normativa europea intenta hacer equilibrismo en este punto. Se permite el uso de IA para fines artísticos, satíricos o paródicos, siempre y cuando no induzca a error al público sobre la autenticidad del contenido.
Es decir, puedes hacer un vídeo de broma, pero tienes que dejar claro que es una broma. El problema es que la línea es muy fina. Lo que para uno es una parodia genial, para otro es un ataque personal que daña su honor. Los tribunales españoles van a tener mucho trabajo en los próximos años interpretando estos matices. La verdad es que no me gustaría estar en la piel de un juez que tiene que decidir si un meme generado por IA es libertad de expresión o un delito de injurias.
- Transparencia: Obligación de etiquetar contenido sintético.
- Seguridad: Prohibición estricta de generar contenido de abuso o imágenes ilícitas.
- Responsabilidad: Las plataformas deben actuar rápido para retirar contenido dañino.
- Sanciones: Multas que pueden llegar al 7% de la facturación global de las empresas.
El impacto en el día a día del usuario
A partir de ahora, tu experiencia en internet va a cambiar un poco. Es probable que empieces a ver etiquetas de «Generado por IA» en más sitios de los que imaginas. Al principio nos resultará raro, como cuando empezaron a aparecer los avisos de cookies en todas las webs (que, seamos sinceros, son un poco pesados), pero con el tiempo lo normalizaremos.
La idea es que recuperemos un poco de esa soberanía sobre lo que consumimos. Que si vemos una imagen impactante, tengamos la herramienta para saber si es un hecho histórico capturado por un fotógrafo o un conjunto de píxeles calculados por un servidor en algún lugar de Irlanda. La verdad es que, en un mundo donde la verdad es cada vez más líquida, estas leyes son como un ancla que nos mantiene pegados a la realidad.
Y ojo con esto: no solo se trata de protegernos de los grandes ataques. También se trata de proteger nuestra privacidad. La UE quiere evitar que se utilicen sistemas de identificación biométrica en tiempo real en espacios públicos, salvo en casos muy específicos de seguridad nacional. Esto está muy relacionado con los deepfakes, porque la misma tecnología que se usa para poner tu cara en otro cuerpo es la que se usa para reconocerte en una cámara de seguridad sin tu permiso.
Un vistazo al futuro próximo
¿Va a solucionar esto todos los problemas? Probablemente no. La tecnología siempre va más rápido que la ley. Pero es un paso de gigante. La conclusión que saco de todo esto es que Europa ha decidido liderar el camino de la ética en la IA. Mientras en otros lugares se prioriza el crecimiento a toda costa, aquí hemos decidido que los derechos de las personas están por encima de los algoritmos.
Para los que trabajamos en tecnología, esto supone un reto. Tenemos que diseñar sistemas que sean «cumplidores por diseño» (compliance by design). No vale con lanzar una herramienta y luego ver qué pasa. Hay que pensar en las consecuencias desde la primera línea de código. Y eso, aunque parezca un freno, a la larga nos va a dar una ventaja competitiva: la confianza del usuario.
Vaya, que se avecinan tiempos moviditos. Pero prefiero mil veces vivir en un entorno regulado que en uno donde no pueda distinguir si el que me habla por videollamada es mi jefe o un bot que intenta robarme las claves del banco. La verdad es que la IA es una herramienta maravillosa, pero como cualquier herramienta potente, necesita un manual de instrucciones y unas cuantas normas de seguridad. Y la UE acaba de publicar el manual más completo del mundo.
Al final del día, lo que buscamos es que internet siga siendo un lugar donde podamos aprender, compartir y divertirnos sin tener que estar constantemente en guardia. No va a ser fácil, y seguro que habrá errores en el camino —porque nada es perfecto, y menos cuando hablamos de leyes y tecnología—, pero es un comienzo necesario. Así que, la próxima vez que veas algo demasiado increíble para ser cierto en tu muro de Facebook, recuerda que pronto habrá una etiqueta que te saque de dudas. O al menos, eso es lo que esperamos todos.
Deja una respuesta