Entre más avanza la tecnología, también avanzan las diferentes amenazas que afectan a la sociedad de alguna u otra forma. Tal es el caso del Deepfake que se está desarrollando para desinformar a la sociedad o generar contenido comprometedor (porno deepfake), entre otros usos negativos.
La Inteligencia Artificial (IA) se creó con el fin de automatizar procesos, optimizar recursos, y hacer tareas específicas que el ser humano no puede hacer. Además, analiza grandes cantidades de información, hace la vida más fácil y muchas otras ventajas que genera su desarrollo.
Al utilizar la IA en el desarrollo de deepfake puede ser en muchos casos positivo o puede ser negativo, dependiendo el uso que se le dé; pero, empecemos por comprender su terminología y su desarrollo.
¿A que se refiere este término?
El deepfake es utilizado para definir las técnicas de Inteligencia Artificial y Deep Learning (DL); se usa para alterar los medios digitales mediante el desarrollo de videos, audios e imágenes.
Mediante Redes Generativas Atónicas (RGAs), también conocidas como GANs en inglés, que son una clase de algoritmos de Deep Learning (Aprendizaje Profundo).
Con ello se aprende de una serie de información, imágenes, videos y audios, capaces de desarrollar deepfakes que son inapreciables a simple vista y oídos.
Deefake es un acrónimo del inglés formado por las palabras fake (falsificación), y deep learning. En los últimos meses se han visto en la web diferentes videos donde reemplazan caras y voces de diferentes personas.
Desafortunadamente las herramientas para el desarrollo de este tema son cada vez más y se pueden acceder a ellas de manera fácil y rápida; aunque su objetivo principal fue ofrecer entretenimiento, risas y diversión inofensivas.
El riesgo del deepfake
El contenido de este tipo de desarrollo no regularizado puede ser utilizado para manipular a la sociedad y tergiversar la información; se fomenta la desconfianza de las personas que, al no conocer de estos desarrollos, pueden ser influenciados fácilmente.
Diversas aplicaciones como Snapchat y Tiktok la emplean para que sus usuarios la usen, para desarrollar contenido de manera entretenida, generando diversión entre su comunidad.
Sin embargo, al no estar regulada dicha tecnología, puede ser un riesgo para la sociedad cuando se usa para difamar, persuadir o polarizar discursos. Por el momento ni los medios digitales ni las plataformas sociales pueden diferenciar entre noticias reales o falsas y detectar manipulaciones de deepfake.
Actualmente ya existen algunas plataformas para detectar estos problemas, pero se sigue produciendo desarrollo tecnológico que permite detectar con mayor precisión la veracidad del contenido.
Consecuencias del deepfake
Durante el 2020 se identificaron 145,227 videos falsos, según el último estudio de Sentinel, consultoría que trabaja en la defensa contra este problema.
Aproximadamente hubo 5 Billones de visitas únicas a videos deepakes en YouTube desde el 2017, y 65 millones en TikTok, según Sentinel. 250 Millones es la estimación de Forrester del coste del fraude en 2020 por el uso malicioso de este tema; incluso se pueden viralizar 6 veces más rápidas que las noticias reales.
Tom Burt, vicepresidente corporativo de seguridad y confianza del cliente y Eric Horvitz, director científico en Microsoft.
Si bien, los deepfakes han recibido una enorme atención por sus posibles peligros políticos, la gran mayoría de ellos se utiliza para atacar a las mujeres.
Sensity AI, una empresa de investigación ha rastreado videos de este tipo en la web desde diciembre de 2018, donde ha encontrado constantemente pornografía no consensual, generando un problema de violencia contra las mujeres.
¿Qué se puede hacer con esta tecnología?
Actualmente el museo de Salvador Dalí de Florida ha utilizado el deepfake y la Inteligencia Artificial de manera positiva para revivir al artista y convertirlo en un guía del museo, generando entre sus asistentes una mejor experiencia.
Las instalaciones y el desarrollo se crearon en el 30 aniversario de la muerte del artista y consta de una serie de pantallas que los visitantes pueden contemplar y aprender del mismo Dalí.
Los responsables de revivir a Dalí, fue la agencia Goodby, Silverstein & Partners, y quienes utilizaron la tecnología del deepfake para extraer contenido de millones de fotogramas de entrevistas con el artista y posteriormente colocar el rostro de Dalí en el rostro de un actor usando una máscara digital.
Así como Salvador Dalí, muchas empresas de entretenimiento están empezando a usar la Inteligencia Artificial para revivir actores o cantantes que han fallecido, para poder integrarlos en películas o conciertos haciendo dúos o algún performance.
Los Deepfakes más populares
- Channel 4 lanzó su propia versión del discurso de Navidad de la reina de Inglaterra, haciendo bromas sobre los miembros de la familia real.
- Los artistas británicos Bill Posters y Daniel Howe hicieron un montaje protagonizado por Mark Suckerberg, en el que realiza una declaración inspirada por Spectre el villano de James Bond.
Aunque se siguen desarrollando herramientas para detectar deepfake, aún no se cuenta con una regulación que penalice el desarrollo de este tipo de contenido que no sea de carácter de entretenimiento.
Contando con una regulación pronta se podrá prevenir la desinformación, los fraudes y robos de identidad. Pues La Inteligencia Artificial está pensada para apoyar el ser humano, no para destruirlo.
