Deepfakes: ¿qué son y cuál es su impacto?

Por Joan Cwaik (*)

El vertiginoso avance de la tecnología es algo a lo que ya estamos acostumbrados, todo tiende a la inmediatez, estamos en un delivery virtual de todo lo que necesitamos, y que sea ahora. Este avance tan rápido hace que el desarrollo de software crezca a pasos agigantados, y si comparamos la velocidad del software que usamos en nuestras computadoras o smartphones con los dispositivos de hace 20 años, veremos para lo que antes se necesitaba invertir miles o millones de dólares ahora está al alcance de nuestras manos: desde hablar por teléfono, realizar una videollamada, descargar una película en minutos, y hace relativamente poco le agreguemos la edición audiovisual.

Todo avanza y esa tecnología fue llegando a las PCs e incluso a los celulares de la mano del aprendizaje de las máquinas de bajo costo o incluso gratuito, y llegamos al punto que cualquier persona con un poco de conocimiento puede hacer un video gracioso, o uno ofensivo, en muy poco tiempo.

Los filtros de Instagram, por ejemplo, reemplazan nuestros ojos, boca, nariz o cara completa de forma instantánea. Ya hay filtros incluso que reemplazan nuestra cara por otros rostros, más caricaturescos seguro, pero, ¿qué pasa si esos filtros siguen subiendo su calidad?

Los llamados deep fakes son videos que en sus comienzos eran en su mayoría pornográficos, reemplazando las caras de actrices porno por celebridades: Ema Watson, Gal Gadot, Emily Clarke y la lista sigue, basta con hacer una simple búsqueda en Internet y tendremos más de 500.000 resultados.

Si te avisan que el video que miras es un deepfake, tu percepción no es la misma que si no lo supieras, tus ojos ven algo muy real, pero tu cerebro sabe que no lo es.

Y así lo que se hizo conocido como una edición de videos porno, ahora se han volcado al terreno de las fake news, era algo que se esperaba sabiendo los intereses y fanatismo que mueve la política.

El software de inteligencia artificial necesita de mucha información para poder funcionar correctamente, toma puntos de referencia del rostro a replicar y los proyecta sobre otro que es el que hace el movimiento, replica esos puntos de referencia y con eso ya tenemos el primer tramo listo, luego vendrá una edición más fina de luces, sombras y detalles que se necesitan si se busca un video mas real. Es por eso que actores y políticos son presa fácil de este sistema.

Todo esto no significa que estamos indefensos ante la información falsa, el software todavía tiene sus fallas o detalles que podemos tener en cuenta para saber detectar un video real de uno falso (y es probable que si lees esta nota en unos meses ya este punto haya sido superado).

Estar atento a su parpadeo (deepfakes parpadean mucho menos que un humano), comparar su cara con su cuello, color de piel, proporciones, si el audio está bien sincronizado con sus labios, si el interior de la boca y dientes no es nítido son algunas pistas que podemos tener para su detección, así como también la duración del video, por lo general estos videos son de unos pocos segundos o minutos.

En la serie Years and Years la politóloga Vivienne Rook (maravillosamente interpretada por Emma Thompson) aprovecha un deepfake de su contrincante político a favor de su carrera política, a pesar que los ciudadanos saben que el video no es real, ella sabe como convencerlos de que su opositor está muy en línea con el contenido del video.

A medida que la tecnología avance, detectar un deepfake va a ser cada vez más complicado, leyes modernas es lo primero que se necesita para regularlos, la manipulación con fines políticos tiene graves consecuencias, sumar un elemento más como los videos (el formato que más credibilidad, interacción y distribución tiene en las rede sociales).

Esto no significa necesariamente que estemos ante el umbral del fin de la verdad. Como con cualquier avance tecnológico, tendremos que ser escépticos y más atentos, y que no sea sólo la inteligencia artificial la que mejore, sino también la nuestra.

(*) Docente de la Fundación UADE. Conferencista y especialista en tecnologías emergentes.