La inquietante perfección del deepfake app

ilustración-imagenes-de-deepfake

Un grupo de investigadores publicó un estudio que habla sobre el deepfake y el avanzado desarrollo de esta tecnología. Una herramienta que ha llegado a un inquietante nivel de madurez que es casi imposible diferenciar un rostro real con uno ‘tecnológicamente creado’. Llegando a un punto peligroso. Capaz de generar imágenes que propaguen la desinformación, actividades fraudulentas o la extorción.

Una tecnología que nació para entretener y divertir a las personas, se ha convertido en un peligro instrumento dado el nivel de hiperrealismo con el que cuenta. Un arma de doble filo cuyo impacto se relaciona a las intenciones detrás de cada individuo que la utiliza. Si bien, las recreaciones en 3D que vemos en videojuegos sobre personas reales, estas imágenes, aun no poseen un nivel tan fiable. Lo que nos permite diferenciar rápidamente un rostro real de una recreación. Algo llamado el valle inquietante. Que hace referencia al límite que existen entre una persona real y una creada en 3D.

Este es uno de los tantos ejemplos de deepfake que podemos encontrar en la web. Como es apreciable en las imágenes, la similitud con el ostro real es realmente asombrosa.

La realización del estudio

Para descubrir qué tan fácil podemos ser engañados por esta tecnología, los investigadores mostraron a un grupo de personas imágenes de rostros reales y digitales. Para crear estas últimas, se apoyaron de dos redes neuronales adversariales. Mientras una red generadora desempeñaba la tarea de crear una serie de rostros sintéticos basándose de los primeros bocetos hasta las imágenes finales, la otra red, conocida como discriminatoria, se entrenó viendo imágenes reales para después calificar los resultados de la red generadora, comparándolos con los rostros reales.

En el ejercicio, se utilizaron rostros de hombre y mujeres de raza negra, asiática y caucásica. Recopilando un total de 400 imágenes reales y 400 digitales. Una vez obtenidos, se convocó a los participantes del experimento.

Formando tres grupos de personas. El primero, con 315 personas encargadas de distinguir de entre 128 imágenes, la real y la digital. El segundo, de 219 participantes, recibió formación y soporte por parte de investigadores para facilitarles la tarea de identificar imágenes falsas. Por último, el tercer grupo, formado por 223 personas, con el fin de valorar en una escala de uno a siete (muy fiable) la fiabilidad de 128 imágenes.

Un ejemplo más de deepfake en la comunidad de TikTok. La asombrosa recreación de Tom Cruise es sencillamente inquietante.

Los resultados del estudio

Una vez efectuadas las pruebas, los investigadores se dieron a la tarea de recopilar e interpretar los datos obtenidos. De forma que, el primer grupo, obtuvo una media del 48,2% de aciertos al momento de distinguir entre imágenes verdaderas y falas. El segundo grupo, contó con un 59% de acierto. Mientras que el tercer y último grupo dio un puntaje medio del 4,82% a los rostros falsos, por encima del 4,48% obtenido de los rostros verdaderos.

Ante dichos resultados, Sophia Nightingale, profesora de psicología en la Universidad de Lancaster, en el Reino Unido, dice que con el estudio no están diciendo que todas las imágenes generadas deban, necesariamente ser indistinguibles un rostro real. Sin embargo, un número significativo lo es. La profesora, también fue co-autora del estudio publicado en la revista Proceedings of the National Academy of Sciences de EE UU.

Para concluir el estudio, los investigadores alertan sobre el peligro que suponen estas tecnologías con enorme potencial para provocar que las imágenes falsas sean percibidas como verdaderas. Un riesgo que puede potenciarse debido a que no se requieren conocimientos en complejas herramientas de edición de imágenes.

No obstante, los investigares también admiten que mucha de esta tecnología se encuentra en fase de desarrollo. Po lo que convertirse en una herramienta tan alarmantemente creíble como estiman, aún necesita un tiempo. Una postura apoyada por la doctora Nightingale y su equipo. Quienes animan a la comunidad de gráficos y visión en desarrollar directrices para la creación y distribución de estas tecnologías, incorporando pautas éticas tanto para investigadores, editores y distribuidores de medios. Considerando los riesgos asociados son mayores que los beneficios.

- Anuncio -