En el popular y mil veces citado libro 1984, escrito por George Orwell a mediados del siglo XX, un gobierno totalitarista controla las vidas de todos los ciudadanos a través de diversos medios. Esta sociedad, aparentemente estructurada y normal, prohíbe a los ciudadanos el pensar por sí mismos, a través de diferentes técnicas de manipulación. El control llega a tal punto que incluso se les impide tener relaciones no consentidas por el propio partido. El amor también es castrado, como lo es el sexo, dos instintos humanos que llevarían a la sublevación. La manipulación es a veces más explícita y otras mucho más sibilina, trabajando a esos dos niveles, para ser más efectiva. Toda la información pasa a través del filtro del partido dominante, para controlarla, para manipularla a favor de sus intereses. Una situación que, por desgracia, no dista mucho de la sociedad actual que tenemos, y que cada vez es más preocupante. ¿Hasta dónde llega la manipulación que sufrimos a través de los medios de comunicación supuestamente libres? ¿Está alguien verdaderamente comprometido con la imparcialidad? ¿Marcan demasiado nuestros prejuicios aquellas decisiones que tomamos, aun sin ser conscientes de ello?

Este tipo de cuestiones han sido atendidas por autores desde hace siglos, pero estamos viviendo un momento único en la Humanidad, gracias al avance de las nuevas tecnologías. Internet ha supuesto un salto tan grande en nuestra sociedad que solo puede ser comparado con la invención de la imprenta. El efecto de aquel invento tardó un par de siglos en hacerse realmente patente. Internet, sin embargo, ha cambiado por completo el mundo en apenas un par de décadas, y todo se está acelerando mucho más con las nuevas tecnologías. La Inteligencia Artificial, un sector en desarrollo desde hace décadas, parece estar ya a un nivel lo suficientemente avanzado como para cambiar por completo nuestra sociedad. Tenemos programas que escriben música, libros, artículos, o que pueden darnos consejos como si fueran expertos en psicología o medicina. Con información obtenida a través de Internet y segmentada a nuestro entero gusto. Esa es la parte positiva, pero las IAs también tienen una parte oscura, como la que atañe al deepfaking.  

¿Qué es el deepfake?

Se llama deepfake a los montajes realizados a través de programas que utilizan algoritmos de Inteligencia Artificial para dotar de realismo una escena que cuenta con efectos especiales. Lo habitual es encontrarnos con un vídeo en el que el rostro de un personaje ha sido cambiado por el de otra persona, o ha sido rejuvenecido de manera artificial. Los deepfakes llevan años pululando por Internet, pero es ahora cuando la tecnología está logrando perfeccionar tanto estos montajes que algunos son indistinguibles de las escenas reales.

Hay deepfakes en forma de fotos, vídeos o incluso audios, tan realistas que podemos encontrar a una difunta Lola Flores protagonizando un anuncio de cerveza. Sin embargo, esta tecnología también está siendo utilizada para crear manipulaciones sobre políticas o personas influyentes, que pueden desestabilizar por completo la imagen que se tiene de ellos.  

La tecnología, utilizada para manipular

No es la primera vez que la tecnología se ha utilizado con fines de manipulación, ni mucho menos. Los medios de comunicación ya siguen este sistema desde hace décadas, aunque este tipo de montajes eran mucho más complejos de realizar en el pasado. Ahora, la tecnología de Inteligencia artificial ha llegado a tal punto de perfeccionamiento que cualquier usuario con un nivel medio puede crear estos montajes. Uno en el que aparezca ese líder político que tanto detesta realizando unas declaraciones homófobas por las que será indudablemente cancelado. Uno en el que esa actriz tan de moda aparece teniendo sexo delante de las cámaras, al cambiar el rostro de una actriz porno por el suyo con increíble precisión. Y no es necesario tener un equipo de miles de dólares o muchos conocimientos, porque las IAs ya se encargan de lo “complicado”.

El problema con esto es que cada vez están más extendidos los montajes con deepfaking, y por desgracia, son más complicados de detectar. Este tecnología se ha perfeccionado tanto que muchos de estos vídeos o audios ya han sido considerados como reales incluso por medios de comunicación supuestamente serios. Y esto desentraña un grave problema: ya no vamos a poder estar seguros de prácticamente nada de lo que escuchemos o veamos por las redes. Internet se está convirtiendo en un vertedero de deepfakes y fake news que enturbian por completo el flujo de noticias reales y auténticas. Vivimos en la Era de la Información, por tener acceso a toda la que necesitemos, pero es complicado acceder a la que realmente nos va a ser útil. Como ya nos ha explicado tantas veces la serie británica Black Mirror, la tecnología puede ser un arma valiosa, o muy peligrosa.  

Discursos falsos, vídeos sexuales…

Recientemente, una streamer llamada QTCinderella se sumó, para su desgracia, al grupo de personajes públicos que han sido víctimas de un deepfake. En su caso, sus seguidores le advirtieron de que había varios vídeos suyos en plataformas pornográficos. Vídeos en los que se la veía manteniendo relaciones sexuales ante la cámara, y se la reconocía perfectamente por su rostro. La joven streamer negó tajantemente que ella hubiera realizado dichas escenas, y señaló que había sido víctima de un montaje pornográfico. Este tipo de vídeos son cada vez más habituales en las páginas porno, donde además tienen cierto tirón. Los usuarios cambian el rostro de una actriz pornográfica por el de otra persona, sea célebre o no.

Los resultados pueden ser sorprendentemente realistas. Los personajes públicos están siempre en el punto de mira de los creadores de estos deepfakes, ya que lo que se busca es que los vídeos se viralicen y lleguen muy lejos. Discursos políticos manipulados, declaraciones de jugadores o cantantes que jamás sucedieron, pero que parecen cien por cien reales… La tecnología deepfaking se ha utilizado también en producciones audiovisuales como parte de los efectos especiales, para rejuvenecer a Mark Hamill en su cameo en The Mandalorian, por ejemplo. Sin embargo, al ser una tecnología tan extendida, su uso puede ser también pernicioso si cae en malas manos. Y a pesar de ser vídeomontajes, no reales, el impacto que pueden llegar a tener es absolutamente brutal.  

¿Cómo luchar contra el deepfake?

Estar preparados para evitar ser manipulados con estos montajes es la única solución viable para no caer en sus redes. Sin embargo, la dificultad para discernir lo que es real y lo que no en un vídeo de Internet cada vez es mayor. A tal punto está llegando este problema que incluso algunos expertos tienden a dudar sobre muchos vídeos.

Lo único que podemos hacer es buscar más información sobre ese tema y no dejarnos llevar solo por un vídeo de unos pocos segundos. Si hay un vídeo porno de calidad de una supuesta célebre actriz, nuestro propio sentido común nos dirá que es poco probable que esa chica grabase esa escena, por todo lo que implicaría. Utilizar la navaja de Ockham y elegir siempre la opción más sencilla también nos puede ayudar.