Imagen sintética creada con IA (Gemini AI)

Los deep fakes y la IA avanzan rápido, pero ¿sabes cómo te afectará la nueva normativa europea? Descubre los riesgos de las imágenes sintéticas y las leyes que regularán su uso.

26 de Julio.- Hace más o menos dos años, empezamos a poder jugar con vídeos y fotos generados mediante inteligencia artificial. Máquinas entrenadas con todo el contenido de internet -no es exageración- empezaron a producir películas de algunos segundos de duración. Eran (son) bastante feas, dulzonas y estaban llenas de errores. Un test permitió medir el progreso de estos artefactos. Se le pedía a la máquina que generase un video de Will Smith comiendo espaguetis. Los primeros, eran un horror, pero a día de hoy, como aquel que dice en un suspiro, los vídeos son tan realistas que podrían engañar a cualquiera que no sepa que están hechos a máquina.

Por supuesto, una tecnología en cuyo ADN está el engaño (o sea, el producir una apariencia de verdad) es muy peligrosa. Tomemos por ejemplo un uso lúdico: los famosos “resucitados” para anunciar las bondades de cualquier producto. En España, por ejemplo, tuvimos un anuncio muy bonito con Lola Flores, pero en México se “desenterró” a Cantinflas. Hace un año y pico una operación así estaba al alcance solo de profesionales con una estructura técnica avanzada y dinero para financiar las horas de grabación que hacían falta para entrenar a la máquina. Hoy en día bastan unos minutos de video para que la máquina pueda producir una imitación bastante convincente de cualquiera de nosotros.

Imagine el lector, con la cantidad de horas que hay por ahí de mi voz y mi imagen, que alguien decida producir un video para sacarle los cuartos a mi familia -o a los lectores de Viena Directo-. O uno en el que el presidente de un partido político diga disparates a propósito de la competencia o de un país extranjero o en el que anime a sus seguidores, en una situación especialmente crispada, a atacar a un colectivo de personas (por ejemplo, vídeos así están produciendo en Sudáfrica auténticos linchamientos de personas inocentes).

En la Unión Europea, nuestro Parlamento ha aprobado la llamada Digital Services Act (DSA). Se trata de un conglomerado de normas que regirán en el futuro no solo la inteligencia artificial en suelo europeo, sino que también contiene normas de protección del consumidor de cara a las aplicaciones que usamos todos los días (se calcula que un ochenta por ciento de los austriacos tiene cuenta en una red social).

La DSA entrará en vigor por secciones -la presión de las grandes compañías tecnológicas americanas (Big Tech) ha sido brutal, porque la DSA ataca a fundamentos de su negocio, como los mecanismos que hacen adictivas las redes sociales y su interferencia con los derechos a la intimidad y al honor.

La parte correspondiente a la inteligencia artificial y a las imágenes sintéticas ultrarrealistas, los llamados Deep Fakes, será de aplicación a partir de agosto y obligará a que, dentro de la Unión Europea, todos los contenidos generados artificialmente estén claramente señalizados. Ya sean fotos, anuncios publicitarios, o conversaciones con los llamados “asistentes virtuales” (o sea, esas voces que nos contestan cuando llamamos a un servicio de atención al cliente).

El objetivo es que el espectador o usuario esté siempre al corriente de que se enfrenta a una máquina.

A pesar de que la normativa comunitaria entrará en vigor en Agosto, en Austria aún no hay un organismo público cuyo trabajo sea aplicar esta regulación.

Esta Pequeña República no es el único sitio en el que esto sucede, sin embargo Austria se encuentra bastante retrasada en la tarea.

El Secretario de Estado competente dice que el Gobierno “está en ello” pero no parece que vayan a llegar a tiempo.

La normativa europea clasifica los usos de la IA según su nivel de riesgo para las personas y las instituciones. La normativa para las IAs de alto riesgo deberá entrar en vigor, a más tardar y tras sucesivas moratorias fruto de la presión de las Big Tech, a más tardar en diciembre de 2027.

Mientras tanto, los lectores de Viena Directo pueden estar seguros de una cosa: este texto ha sido escrito por una persona (o sea, yo) y seguirá siendo así. Los contenidos hechos por IA (por ejemplo los pequeños resúmenes que he empezado a incluir en los artículos) están claramente rotulados siempre y en los pies de foto siempre hay un aviso.

Por si no tienes tiempo de leerlo todo (*)

El texto reflexiona sobre el rápido avance de la inteligencia artificial en la creación de imágenes y vídeos ultra realistas (deep fakes), alertando sobre el peligro inherente de estas tecnologías para suplantar identidades, estafar o manipular a la opinión pública. Ante este riesgo, la Unión Europea aplicará normativas para obligar a etiquetar claramente todo contenido generado por IA. Sin embargo, el autor señala que países como Austria van con retraso en la creación de organismos para aplicar estas leyes, y concluye reafirmando su compromiso de mantener sus textos escritos por humanos y transparentar cualquier uso de IA.

Tres ideas principales

1. Evolución acelerada y peligro de los deep fakes: La IA ha pasado en muy poco tiempo de generar contenidos de baja calidad a producir imitación de voz e imagen de hiperrealistas, facilitando desinformación, manipulación política y estafas.

2. Regulación europea (DSA y etiquetado obligatorio): La Unión Europea exige que a partir de agosto todo contenido, anuncio o interacción generado sintéticamente esté claramente señalizado para que el usuario siempre sepa que interactúa con una máquina.

3. Retrasos en la aplicación local: A pesar de la urgencia de las normativas europeas, algunos países como Austria van retrasados en la creación de las instituciones públicas necesarias para supervisar y hacer cumplir estas leyes.

(*) resumen obtenido con IA