"Vaticino que mañana compraré por completo la compañía Meta. Facebook e Instagram también serán míos". Son palabras que suenan de la boca de Elon Musk. ¿O no es él? Estamos, realmente, ante un deepfake, es decir, un vídeo que emplea el rostro y la voz de una persona para que parezca que está diciendo cosas que nunca dijo.
En este caso, basta con acceder al perfil de quien subió el montaje a TikTok para descubrir que se trata de una cuenta que promociona una app para hacer vídeos falsos. Pero lo inquietante es que, por lo que se ve en los comentarios, muchos usuarios han asumido que es real.
Aunque los deepfakes de vídeo y de audio no son algo nuevo, la popularización de las herramientas de inteligencia artificial ha hecho que esta tecnología esté al alcance de más personas. Y esta democratización ha venido, también, de la mano de otro aspecto: hay usuarios a los que ha dejado de preocuparles la veracidad de estos contenidos.
No es real, pero ¿podría serlo?
Sencillamente, hay usuarios a los que no les molesta que los vídeos sean fake y los comparten igualmente, siempre y cuando refrenden sus ideas. Ryan Broderick, periodista tecnológico autor de la newsletter Garbage Day, lo explica apoyándose en un ejemplo representativo: un deepfake en el que el presidente de EE.UU., Joe Biden, anuncia el reclutamiento forzoso de jóvenes para la guerra de Ucrania. Al final del vídeo, el activista conservador Jack Posobiec —responsable de difundir el clip en Twitter— aparece en pantalla diciendo que esto es en realidad un “avance” de lo que podría pasar en el futuro.
“La mayoría de los usuarios que lo compartían parecían tener muy claro que era falso y no les importaba. Para ellos, era simplemente algo cierto que aún no había sucedido”, explicaba Broderick. Para el periodista, “la mayor parte de la gente ya se ha adentrado lo suficiente en el mundo online como para buscar activamente contenidos, reales o falsos, que les hagan sentirse bien, les entretengan y reafirmen su visión del mundo”.
Estas reacciones viscerales son, precisamente, las alentadas por las redes sociales. Lo sabe bien Facebook, que estuvo en el ojo del huracán por dejar que su algoritmo promoviera la desinformación y los contenidos sensacionalistas porque eran los que generaban más interacciones.
Tecnología de doble filo
Hoy en día, parte de los deepfakes se crean con fines humorísticos o comerciales y no tienen más consecuencias que los conflictos éticos que pueden desencadenar: el anuncio que “resucitaba” a Lola Flores o los audios de Biden, Barack Obama y Donald Trump jugando a Minecraft son prueba de ello.
Las dificultades llegan cuando las intenciones de los usuarios no son tan buenas; un problema que se acentúa a medida que las herramientas de IA se hacen más accesibles. Hace unas semanas, la empresa ElevenLabs abrió al público la versión beta de su plataforma para clonar voces y reconoció haber identificado casos de uso “indebidos”, como un audio con la voz de Emma Watson leyendo el Mein Kampf -Mi lucha, el libro de Adolf Hitler.
El paso acelerado de la tecnología hace pensar que el verdadero potencial fraudulento de los deepfake está aún por despertar. Por eso, la próxima vez que te encuentres con un vídeo o un audio demasiado extraño para ser verdad, recuerda que tiene muchas papeletas para no serlo.
