close
Recibe noticias a través de nuestro newsletter
¡Gracias! Desde ahora recibirás un correo diario con las noticias más relevantes.
sync
¿La mentira… como verdad?
Hoy, gracias a una serie de software libre, se acumulan fotografías y audios del presidente del país que usted elija, y los algoritmos son capaces de construir un video de una supuesta reunión privada en la que pide a legisladores de su partido estudiar una ruta constitucional hacia la prolongación de su mandato.
Por Jorge Camargo
21 de marzo, 2019
Comparte

Una amenaza se cierne sobre nuestra democracia y su impacto será frontal para las personas que utilizan las redes sociales para informarse de la vida.  Se trata de entrar en contacto con verdades que, en realidad, son mentiras. Se les conoce en el mundo como las “deepfakes” y son tan sofisticadas que incluso los departamentos de defensa de varios países, incluido el de Estados Unidos, han debido crear algoritmos para descubrirlos.

Es oportuno lanzar esta alerta justo en la trama que vivimos en estos días en los que se acusa a un grupo de intelectuales –que han negado cualquier participación– de promover el uso de contenidos falsos para desprestigiar al entonces candidato de Juntos Haremos Historia. Si aislamos el tema, en el centro queda el uso de ambas partes de mensajes o noticias falsas.

Sin embargo, a lo que nos enfrentaremos no tiene absolutamente nada que ver con esto, digamos que quedaremos como principiantes.

Usemos el siguiente ejemplo. Hoy, gracias a una serie de software libre, se acumulan fotografías y audios del presidente del país que usted elija, y los algoritmos son capaces de construir un video de una supuesta reunión privada en la que pide a legisladores de su partido estudiar una ruta constitucional hacia la prolongación de su mandato.

Este video se postea en todas las redes sociales nacionales, pero es enviado a través de servidores alojados en el extranjero. De pronto se convierte en viral. La gente lo comparte, la oposición se enciende y se convoca a la movilización.

El presidente sale a calificar de falso ese video. Pero su intento es fallido. La gente vio su cara y escuchó su voz diciéndolo. Argumenta que se trata de un burdo montaje, pero no tiene la tecnología para demostrarlo.

Aquí sobreviene otro problema. Una es la gente que consume noticias y escuchó el desmentido presidencial y otro el sector que también vio el video en las redes y lo dio por cierto. Este último no consume noticias y lo valida por un principio psicológico básico: nadie pone en duda lo que vieron sus ojos y escucharon sus oídos.

Con este ejemplo podemos claramente constatar que es posible despojar al ser humano de su libre albedrío, como lo planteamos en una entrega anterior.  

¿Podemos atisbar el riesgo que se asoma tras la puerta? Esto es incluso un asunto de seguridad nacional, porque permitir la manipulación -que al final es lo que se persigue- de los votantes en elecciones formales o consultas ciudadanas, atenta contra la certeza jurídica y el derecho a la verdad.

También nos plantea otras interrogantes. ¿Ha construido el derecho, o la Suprema Corte, una doctrina para enfrentar estos casos? ¿Incluso más allá del tema del daño moral? Sí y sólo si se logra por métodos forenses comprobar que el video es falso.

Hagamos un pequeño desvío. El gancho que el común de las personas desconoce de las redes sociales es que están diseñadas, intencionalmente, para generar en los usuarios estímulos que producen un neurotransmisor llamado dopamina, hormona que según los últimos estudios es la responsable de llevarnos a repetir las experiencias placenteras.

Ese mecanismo es usado intencionalmente para producir una adicción a las redes sociales, es una manipulación de la mente de los usuarios. Si esto se utiliza con fines políticos o de odio racial u homofobia, los casos de violencia se generarán en cualquier lugar del planeta.    

La forma como uno puede saber si está enganchado con las redes es reconocer los enojos y rabietas que hacemos cuando un tuitero nos da una lección en Twitter o nos insulta;  o si estamos pendientes de cuantos “likes” o retuits tuvo nuestro comentario o su equivalente en Facebook. Si nuestros estados de ánimo varían y la pasamos muy mal tras una sesión de horas en las redes, habrá mucho que reflexionar al respecto.

Volviendo al tema, los primeros usos que se dieron a este software de suplantación de identidad, por darle un nombre en español, se detectaron en el 2018 cuando diversas actrices famosas denunciaron que circulaban videos pornográficos en los que se había montado su rostro.

Hoy existen desarrolladas técnicas de aprendizaje de computadoras por medio de las cuales se enseña a éstas, a través del bigdata, comportamientos de personas y animales, es decir, aprenden de los datos sin requerir de algoritmos. En esto se sustentan las predicciones de comportamiento de las personas en las redes sociales, por ejemplo, y más si se trata de votantes.

Oscar Schwartz, en el londinense The Guardian, documentó que en 2014 un estudiante logró crear lo que se conoce como GAN (generative adversarial network), un algoritmo que podía tomar diversas fotografías de Barack Obama y producir una nueva, pero no exactamente iguales a las reproducidas, así como construir un tono de voz muy cercano al del expresidente, y hacerlo decir cosas que normalmente no expresaría.

Esa herramienta es de uso libre hoy en día. Y puede ser fácilmente utilizable. Hoy podríamos tomar una foto del momento y mostrar que hicimos pelear a dos grupos de personas –a veces matarse, como en África- sin que ninguna se diera cuenta de que su verdad… era mentira.

* Jorge Camargo es experto en comunicación política y manejo de crisis en el sector público y privado. Imparte clases de comunicación estratégica y crisis para gobiernos en México y en el extranjero. Ha sido consultor,  vocero en el Ejecutivo Federal y la Suprema Corte de Justicia de la Nación. Ha ejercido el periodismo.

 

Lo que hacemos en Animal Político requiere de periodistas profesionales, trabajo en equipo, mantener diálogo con los lectores y algo muy importante: independencia. Tú puedes ayudarnos a seguir. Sé parte del equipo. Suscríbete a Animal Político, recibe beneficios y apoya el periodismo libre.

#YoSoyAnimal
Comparte

¡Muchas gracias!


Estamos procesando tu membresía, por favor sé paciente, este proceso puede tomar hasta dos minutos.

No cierres esta ventana.