Los alcaldes de tres grandes ciudades europeas fueron víctimas de un falso Vitali Klitschko. Parece que se trata de un deep fake.
25 de Junio.- La noticia parece sacada de un capítulo de Black Mirror, pero tiene muchos visos de ser verdad.
Según parece, durante esta última semana, los alcaldes de Viena, Michael Ludwig, de Madrid, Luis Martínez-Almeida, y de Berlín, Franziska Giffey, fueron objeto de un fraude. Ellos creyeron estar hablando con el alcalde de Kiev, el ex boxeador Vitali Klitschko, cuando en realidad estaban hablando con un avatar tecnológico, un deep fake.
Ni Ludwig ni Martínez-Almeida notaron, en principio, nada extraño. Sin embargo, su homóloga berlinesa, debido a las preguntas extrañas y a determinadas incongruencias de la conversación, sospechó y la conversación fue abortada antes de tiempo.
En el caso del alcalde de Viena, no ha trascendido el fondo de lo que se dijo.
Eso sí, cuando se terminó, el alcalde de Viena publicó una serie de mensajes en las redes sociales que han sido borrados.
El nombre de la técnica Deep Fake, que se supone que se utilizó para crear al falso Klitschko, viene de Deep Learning o aprendizaje profundo y Fake, falsificación, y ya se ha utilizado con éxito en la publicidad, al objeto de “revivir” a personajes famosos que llevan muertos durante mucho tiempo.
Así, resucitaron Lola Flores o Cantiflas para sendos anuncios.
Básicamente, en su versión más compleja, consiste en que se alimenta a un cerebro virtual (una red neuronal) con todo el metraje en vídeo que se pueda de la persona en cuestión, hasta que la máquina crea un modelo con el mayor número posible de puntos de anclaje (los ojos, la punta de la nariz, etc). Ese modelo “se acopla” sobre la cara de una persona viva que se mueve y actúa y cuyos movimientos van siendo transferidos al modelo.
Hace tan solo dos años, no se podía hacer esto en tiempo real. O sea, había que suministrar a la máquina horas de vídeo y luego superponer el vídeo a una grabación, pero hoy se puede hacer con un equipo perfectamente al alcance de cualquiera. Asimismo, se puede animar un solo fotograma y el resultado, si no se hacen demasiadas virguerías (los programas más corrientes tienen problemas para, por ejemplo, clonar los movimientos de cabeza) funciona bastante bien en tiempo real.
El problema, naturalmente, es que si bien las fotos manipuladas con Photoshop, por ejemplo, son perfectamente detectables para un ojo mínimamente educado, va a llegar un momento en el que será casi imposible detectar un Deep Fake. Por la propia naturaleza del procedimiento, la máquina “aprende” a detectar las incongruencias y a eliminarlas, de manera que las falsificaciones son solo perceptibles por aspectos externos a la imagen, como el contenido de la conversación.
Como pasa con todas estas cosas, estas tecnologías se prueban, primero, en el campo del entretenimiento y, cuando se perfeccionan, pasamos al campo de la criminalidad.
Todos hemos visto esos vídeos de Facebook en donde un famoso (Chris Rock, por ejemplo, o Tom Cruise, piden clicks en directo y ofrecen premios opíparos).
Todos, pero todos todos, podemos ser víctima de estos fraudes.
A los tres alcaldes les ha timado Klitschko, pero dentro de poco, los malos podrán timarnos a todos diciendo que son personas de nuestro banco o un pariente nuestro víctima, por ejemplo, de un secuestro exprés.
También, cómo no, potencias extranjeras (Rusia, en este caso) utilizarán Deep Fakes al objeto de desestabilizar nuestros Gobiernos, robar las elecciones o sembrar la desconfianza entre la población.
La única vacuna, de momento, es la desconfianza. Desconfianza de todos aquellos mensajes que apelen a nuestra emoción, desconfianza de todos los mensajes que digan exactamente lo que nosotros queremos oir, desconfianza de todos aquellos mensajes que apelen a nuestro miedo.
Ciberpiensamal y ciberacertarás.
Deja una respuesta