El deepfake: la IA y el algoritmo que entran en fase peligrosa

El deepfake: el sofisticado algoritmo con Inteligencia Artificial

Tan solo un par de años, presenciamos la llegada de una aplicación bastante futurista, resultado de la combinación de Inteligencia Artificial y un sofisticado algoritmo. Encargada de poner a todos los usuarios con móviles, la oportunidad de montar escenas deepfakes, o ultra falsas.

Aunque al principio nació como un proyecto divertido. Invitando a los usuarios a recrear escenas y poner sus rostros en las grandes producciones de Hollywood, bastó un par de meses para descubrir el peligro que conlleva.

Esto a causa del uso indebido y poco consciente que hacen los usuarios al utilizar esta sofisticada tecnología. resultado de IA y un potente algoritmo que pone a temblar a cualquiera.

La madurez del deepfake gracias a la Inteligencia Artificial

Según han señalado algunos expertos, el deepfake cuenta con una madurez tal, que incluso resulta difícil a los espectadores poder discernir entre videos auténticos con aquellos que han sido alterados. Y es que, entre más se usa la aplicación, mejor se entrena el algoritmo y más precisa se vuelve la IA.

A esto le sumamos que esta tecnología está al alcance de cualquier persona que tenga un móvil a la mano. Sin discriminar edades o intenciones detrás.

Ante esta situación, un gran grupo de activistas de la seguridad en línea, investigadores, así como desarrolladores de software, han afirmado que la clave en reducir esta avanzada tecnología está en garantizar el consentimiento de quienes son simulados. Un acto que, evidentemente, es difícil de ejecutar.

La prevención ante el sofisticado algoritmo

Aunque hay una gran cantidad de personas interesadas en la creciente industria del software del intercambio de rostros, existe un conjunto de aplicaciones que están tomando medidas de seguridad. Con el fin de evitar abusos por parte de usuarios.

Por ejemplo, hay aplicaciones que solo permiten el deepfake con un banco de escenas ya pre-seleccionadas. Así como algunas que exigen la verificación de la identidad de las personas que se intercambia. O algunas otras que emplean la Inteligencia Artificial para detectar cargas de contenido no apropiado para menores.

No obstante, en la mayoría de las veces, estas medidas pierden efectividad. Debido a las estrategias o trucos de los que se valen los usuarios para evadirlas.

El autor, el único responsable

Con el objetivo de moderar la usabilidad y resguardar la integridad de las personas, se ha buscado establecer un conjunto de estrategias que faciliten el trabajo. No obstante, en algunos casos, estas regulaciones se enfrentan a grandes obstáculos tanto técnicos como éticos.

Por ejemplo, algunas de las jurisdicciones establecidas en países como China, Corea del Sur o California, han promulgado un conjunto de leyes específicamente para combatir estos abusos en línea de los deepfakes. En donde las intenciones maliciosas de sus usuarios, pueden hacerlas acreedoras de multas de alrededor de US$150.000.

La Inteligencia Artificial puede ser nuestro gran aliado como un temible enemigo. Todo depende del uso que se le dé y la persona o grupos de personas que estén detrás del desarrollo de su algoritmo. Cuéntennos que piensan de esta tecnología, ¿alguna vez la han usado?

- Anuncio -
Artículo anteriorLa Navidad llega a WhatsApp
Artículo siguienteMinecraft: la vulnerabilidad que pone en llamas al internet
Somos el medio para el talento del mañana.