Qué son los deepfakes y por qué se están convirtiendo en el nuevo porno de la venganza
close
Recibe noticias a través de nuestro newsletter
¡Gracias! Desde ahora recibirás un correo diario con las noticias más relevantes.
sync
Getty/BBC

Qué son los deepfakes y por qué se están convirtiendo en el nuevo porno de la venganza

Los famosos son sus principales víctimas, pero ahora, debido a los desarrollos tecnológicos cualquiera puede serlo. Los "deepfakes" pueden arruinar carreras y relaciones.
Getty/BBC
Por BBC Mundo
3 de mayo, 2018
Comparte

“Emma Watson” está desnuda, de rodillas en un sofá. Cerca, “Maisie Williams” está sentada con las piernas separadas. “Gal Gadot” está vestida de vaquera, realizando actos sexuales.

¿Dónde estamos? No en las oscuras profundidades de la fantasía de un adolescente, sino en el sitio web PornHub, donde las únicas diferencias entre la actriz de Hollywood Emma Watson y la falsa estrella del porno “Emma Watson” son unos pocos pixeles, varias capas de ropa y una falta total de consentimiento.

Bienvenidos al mundo de los deepfakes: un nuevo tipo de robo de identidad con clasificación X.

Los deepfakes son videos porno modificados utilizando tecnología de intercambio de caras a través de inteligencia artificial, por lo que el rostro del protagonista se reemplaza por la de otra persona.

Hace apenas seis meses, esto requería una codificación extremadamente compleja y un montón de tiempo libre.

Pero, ahora, una búsqueda en internet de “deepfake porn” arroja al menos 700.000 resultados. La tecnología explotó tan rápido —y ya es tan fácil de usar— que prácticamente cualquiera puede crear pornografía personalizada en unas 12 horas.

Las celebridades son las víctimas más populares de los deepfakes. De hecho, este tipo de falsificación de caras empezó en Hollywood.

Imagen de un videomontaje de Emma Watson.

BBC
Emma Watson es una de las actrices cuyo rostro su usó en el cuerpo de una actriz porno, como se ve en esta imagen.

“La tecnología para superponer caras de famosos en otras personas lleva años disponible para los efectos especiales”, dice Evgeny Chereshnev, director ejecutivo de la compañía de tecnología seguridad BiolinkTech.

Las fotos modificadas, por lo tanto, no son nada nuevo, pero la disponibilidad y nivel de realismo de los modernos deepfakes sí lo son.

Al alcance de cualquiera

Los deepfakes toman su nombre de un usuario de Reddit. El año pasado, “deepfakes” perfeccionó un algoritmo complejo para crear espeluznantes videos que parecen mostrar a las actrices Gal Gadot, Taylor Swift y Scarlett Johansson realizando actos pornográficos.

Aunque tu cerebro sabe que ninguna de ellas es la persona que hace eso, tus ojos sí parecen muy convencidos.

Después, en enero pasado, otro usuario de Reddit creó una app gratuita, llamada FakeApp, con un algoritmo incorporado que hace el intercambio de caras por ti.

Solo necesitarías una computadora potente (como las que se usan para trabajar con video), una unidad de procesamiento gráfico y suficientes imágenes de tu objetivo —lo que, gracias a las redes sociales, YouTube o incluso Linkedln no es demasiado complicado—, pero teóricamente cualquiera puede transformar a una estrella del porno en cualquier otra persona.

Actualmente, hay versiones básicas disponibles para cualquiera: por menos de US$30, Adobe puede proveer las herramientas para crear una copia digital de alguien, aunque se necesitaría un costoso software profesional para llegar al siguiente nivel.

Adobe VoCo, una especie de Photoshop para audio, permite incluso al usuario recrear la voz de alguien solo 20 minutos después de escucharla. Todavía está en etapa de investigación, pero otras compañías como Lyre Bird tienen software más básico ya disponible para su uso.

Ahora cualquiera puede reemplazar las caras de los actores porno con las de su amor platónico, por ejemplo. O tal vez alguien quiera vengarse de un ex y lo hace para acabar con su carrera o su nueva relación. O, de hecho, sabotear la carrera o relación de cualquier persona con la que en ese momento se está enojado.

Así que, de repente, no son solo las celebridades (con su ejército de poderosos abogados) las que se pueden encontrar a sí mismas en las computadoras de alguien más. Puedes ser tú.

Porno de la venganza

La abogada Ann Olivarius, quien ha trabajado con víctimas del “porno de la venganza” dice que recibe llamadas de clientes que fueron víctimas del deepfaking.

“Es una gran preocupación para nosotros”, dice Olivarius. “Es realmente devastador para esas mujeres porque con nueva tecnología, puede parecer algo real. Lo que hay detrás es siempre un intento de herir y degradar“.

La abogada cree que el deepfaking forma parte del problema del porno de la venganza.

“Hay varios tipos de porno de la venganza ahí afuera”, dice. “Es un problema creciente, y se manifiesta en nuevas maneras”.

Deepfakes

Getty/BBC Three
Las celebridades tienen un ejército de abogados que las pueden ayudar a en temas como esta.

Mientras las celebridades pueden contar con abogados caros, y pueden, potencialmente, usar la ley de difamación para perseguir a los deepfakers (siempre y cuando puedan probar que la imagen causó, o puede causar, un daño grave a su reputación), para la gente común puede ser mucho más difícil emprender una acción.

En enero, un hombre australiano fue sentenciado a 12 meses de cárcel por usar Photoshop para superponer una imagen de la cara de su hijastra adolescente sobre imágenes de mujeres realizando actos sexuales, y ha habido casos similares en Reino Unido.

Para Luke Patel, un especialista en derecho a la intimidad, “el rápido ritmo de desarrollo de la tecnología hace que sea muy difícil que las leyes se mantengan al día y apoyar adecuadamente a las víctimas”.

En Europa, la implementación del Reglamento general de protección de datos, que entrará en vigor el 25 de mayo, incluye dos nuevas herramientas: el derecho a solicitar la eliminación de datos y el derecho al olvido.

Luke cree que podrían ayudar “a permitir que un individuo solicite la eliminación o eliminación permanente de sus datos personales (incluyendo imágenes) cuando no hay una buena razón para su publicación continua”, aunque cada caso se decidirá de forma individual.

“No es un derecho absoluto, pero el caso es más sólido si la imagen no está justificada y causa un sufrimiento considerable”. Aunque, continúa, “todavía son solo herramientas que pueden desplegarse cuando el daño ya está hecho“. No impedirán que suceda.

Teléfono móvil con imagen de mujer semidesnuda.

Getty Images
El desarrollo rápido de la tecnología difícil proteger adecuadamente a las víctimas.

¿Cómo detenerlo?

Una opción es que las plataformas de internet dejen de albergar deepfakes.

Reddit ya los prohibió, calificándolos como una forma inaceptable de “pornografía involuntaria”.

Pornhub afirmó en febrero que seguiría el ejemplo, pero si buscas ‘porno’ y ‘deepfakes’, los mejores resultados están en Pornhub.

BBC Three se puso en contacto con Pornhub para obtener una explicación, y recibió esta declaración de su vicepresidente, Corey Price: “El contenido no consensual no está permitido en nuestra plataforma, ya que infringe nuestros Términos de servicio”.

Sin embargo, se pueden contar al menos 20 videos, incluidos varios con celebridades, que claramente podemos asumir que no fueron consensuales.

Pornhub respondió que tienen una página de eliminación de contenido, donde las personas pueden “solicitar la eliminación de material no consensual. Tan pronto como se hace una solicitud, trabajamos para eliminar el contenido inmediatamente. También dependemos de nuestra comunidad y/o propietarios de contenido para marcar el contenido inapropiado”.

Crear deepfakes se está volviendo tan fácil que podría convertirse en un juego: trae fotos, bebidas y, en lugar de ver videos de YouTube, siéntate y crea pornografía robada.

“En un par de años, podrías ir a una tienda de aplicaciones pornográficas y comprar experiencias sexuales en realidad virtual con quien quieras”, dice Evgeny Chereshnev, de BiolinkTech.

Ya se pueden comprar muñecas sexuales increíblemente realistas. “Pronto —dice Evgeny— la tecnología podría permitirle a alguien robar tu identidad y pedir una muñeca sexual con tu cara”.

La idea de un futuro donde “tú” podrías existir en la computadora portátil de alguien, o donde se podrían crear imágenes “tuyas” para ser distribuidas maliciosamente es profundamente inquietante. Pero puede que ese futuro ya esté aquí.

Este artículo fue publicado originalmente en inglés en BBC Three


Ahora puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.

Lo que hacemos en Animal Político requiere de periodistas profesionales, trabajo en equipo, mantener diálogo con los lectores y algo muy importante: independencia. Tú puedes ayudarnos a seguir. Sé parte del equipo. Suscríbete a Animal Político, recibe beneficios y apoya el periodismo libre.

#YoSoyAnimal
Cuartoscuro

AMLO legaliza intervención militar en 12 tareas policiales; ONG acusan falta de plazos y controles

El acuerdo oficializa participación de fuerzas armadas en seguridad pública que se contempló hace un año en la reforma de Guardia Nacional, pero organizaciones y experto advierten falta de límites, de plazos y de controles civiles.
Cuartoscuro
Por Arturo Ángel y Alberto Pradilla
12 de mayo, 2020
Comparte

A partir de hoy los elementos del Ejército y la Marina podrán ejecutar legalmente doce funciones de seguridad pública que por definición eran competencia exclusiva de los policías civiles en México, y que van desde la posibilidad de hacer detenciones por cuenta propia, hasta supervisar cruces migratorios o participar en operativos para “reestablecer el orden”.

Lo anterior gracias a una orden del presidente Andrés Manuel López Obrador dada a conocer ayer a través de un acuerdo publicado por la Secretaría de la Defensa Nacional (Sedena) en el Diario Oficial de la Federación.

Dicha orden se sustenta en una reforma constitucional aprobada el año pasado con motivo de la creación de la Guardia Nacional, la cual habilitaba al presidente a echar mano durante los próximos cinco años de las fuerzas miliares convencionales para funciones policiales.

En el papel se trata, según dicha reforma, de un apoyo solo para situaciones “extraordinarias” y subordinada a un mando civil, mientras se terminaba de conformar y desplegar a la referida Guardia Nacional.

Lee: Opacidad, simulación y dudosa eficacia: La Guardia Nacional a un año de su creación

Sin embargo, especialistas y organizaciones civiles consultadas por Animal Político advirtieron que el acuerdo presidencial no respeta dichas condiciones y por el contrario abre la puerta a una intervención amplia de los militares en la seguridad, sin fijar plazos claros, sin subordinación civil y sin controles externos.

El Colectivo Seguridad Sin Guerra emitió por la noche un posicionamiento en el que acusa que el acuerdo no regula la intervención militar sino, por el contrario le “quita la máscara” al militarismo de la seguridad en el país.

“Un gobierno que esté verdaderamente comprometido con la desmilitarización del país y la construcción de paz, no debería emitir un acuerdo de este tipo, sino reglas claras, objetivos precisos y un sistema de fiscalización y rendición de cuentas mientras continúen en las calles”, señaló el colectivo que agrupa a mas de 30 organizaciones.

La orden: detener, vigilar, asegurar

La orden presidencial publicada faculta a las fuerzas armadas a intervenir y apoyar a en doce acciones distintas de seguridad pública contempladas en el artículo 9 de la Ley de la Guardia Nacional.

Las acciones van desde la implementación de estrategias y operativos para la prevención del delito en general, hasta participar activamente en el resguardo y vigilancia de aduanas, zonas fronterizas, aeropuertos, carreteras federales, puntos migratorios, parques nacionales, instalaciones federales, medios de transporte, entre otros.

También se faculta a soldados y marinos a realizar detenciones o asegurar bienes posiblemente relacionados con algún hecho delictivo, así como preservar lugares relacionados con crímenes y recolectar evidencia en estos. En síntesis, intervenir por su cuenta en caso de que se cometa un delito.

El acuerdo publicado también faculta a las fuerzas armadas permanentes a colaborar con autoridades estatales y municipales en acciones encaminadas a preservar el “orden público” y “reestablecer la paz”.

Control y mando, todo militar

Aunque la reforma constitucional del año pasado establece que la participación de los militares estará subordinada a un mando civil y bajo una estricta fiscalización y control, en realidad el acuerdo publicado ayer no detalla como sería esto.

Lo que se señala es que dicha intervención será “subordinada y complementaria” a la Guardia Nacional, fuerza que aunque por definición es una policía civil en realidad opera bajo un mando operativo totalmente castrense, con más de 80 por ciento de sus elementos adscritos y reclutados por el Ejército, como se documenta en el reportaje Crimen y Violencia en México: la Guerra que no Acaba.

En el punto cuarto del mismo acuerdo se instruye al secretario de Seguridad y Protección Ciudadana a coordinarse con los titulares de la Defensa y Marina para operar la participación militar, pero no señala ni contempla que él se encuentre al mando de esta colaboración.

En cuanto al tema de la fiscalización de la actuación de las fuerzas armadas, el acuerdo solo señala en su punto quinto que la supervisión y control dependerá de los órganos interno del control de la dependencia que corresponda, es decir de la propia secretaría de la Defensa o Marina. Se trata entonces de un control interno militar.

No es regulación, es cheque en blanco

Expertos en temas de seguridad, fuerzas armadas y derechos humanos criticaron el acuerdo publicado ayer pues sostienen que en lugar de regular con límites, plazos y controles el apoyo del Ejército en seguridad durante los próximos cinco años, legaliza una amplia intervención en tareas que constitucionalmente son ajenas a las fuerzas armadas.

“El transitorio de la reforma del año pasado decía que este apoyo tenía que ser fiscalizado, subordinado y regulado, pero en el acuerdo no hay nada de eso. Esto no es una regulación es un cheque en blanco al Ejército. Es un fraude en la ley y en la práctica”, dijo a este medio Catalina Pérez Correa, doctora en Derecho por la Universidad de Stanford e investigadora del CIDE.

Pérez Correa cuestionó además el hecho de que no se haya contemplado una fiscalización independiente o civil, como ordenaba la reforma, y que se permita a las fuerzas armadas supervisarse así mismas para tareas de seguridad pública que no son de su naturaleza.

En ese sentido Alejandro Hope, experto en temas de seguridad, cuestionó que el acuerdo haya ignorado el tema de la participación “extraordinaria, regulada y subordinada” del Ejército en labores de seguridad pública, pues dijo que no se trata de una simple redacción ni ocurrencia, sino de los límites que establece la Comisión Interamericana de Derechos Humanos (CIDH) para el uso de militares en labores policiales.

Tanto Correa como Hope criticaron además en que el acuerdo contemple simplemente la intervención militar durante el resto del sexenio sin explicar las condiciones o contexto que obligan a echar mano de ellas. Esto se agrava porque ni siquiera se conoce realmente en que grado de avance se encuentra la conformación de la Guardia Nacional, hecho al que supuestamente está condicionada la participación militar.

“Lo que sí es claro es que en realidad todo queda en manos del Ejército. El desarrollo de la Guardia Nacional depende hoy del Ejército y francamente no veo ningún incentivo para que eso cambie”, añadió.

Ayer el Colectivo Seguridad Sin Guerra, y organizaciones como México Unido contra la Delincuencia también emitieron posicionamientos de rechazo a la orden presidencial por la ausencia de controles, de plazos, y en general de todos los límites que deberían ponérsele a un apoyo que en esencia es excepcional, no permanente.

Las organizaciones coincidieron en que se trata de un paso que en cambio profundiza la militarización de la seguridad que desde hace dos sexenios se ha venido impulsando en tareas de seguridad, en menoscabo del desarrollo de las policías en México.

“Expresamos nuestro rechazo a este nuevo golpe. La situación actual derivada de la pandemia no puede ser una cortina de humo para aprobar leyes que menoscaban nuestro sistema constitucional de frenos y contrapesos o para avanzar el militarismo en el país. Este gobierno se ha quitado la máscara”, dijo Seguridad Sin Guerra.

Es una “tomada de pelo”: activistas

José Guevara, director ejecutivo de la Comisión Mexicana de Defensa y Promoción de los Derechos Humanos (CMDPDH), coincidió con los otros expertos en que el acuerdo del presidente no acota ni regula la intervención militar conforme a los parámetros de la CIDH. En el mejor de los casos legaliza lo que ya ocurría.

“De extraordinario no tiene nada, porque lo ordena. Regulada no es, porque no dice qué puede ni qué no puede hacer, ni objetivos ni tareas. La fiscalización es una tomada de pelo, ya que hemos visto que Sedena no se fiscaliza a sí misma y Marina y Guardia Nacional tampoco. Lo de subordinada es tomada de pelo mayor. Le instruye a Secretaría de Seguridad Pública para coordinarse con secretarios de Defensa y Marina y definir actividades en la que complementarán a la Guardia Nacional. Lo que dice el transitorio es que deben estar subordinados a la autoridad civil, pero aquí les dicen que se pongan de acuerdo”, señala.

“Se perfecciona la política de militarización de la seguridad publicad de López Obrador”, considera Guevara. Reconoce que esto “viene de años atrás” y establece una línea del tiempo desde Calderón, que sacó al ejército a las calles con medidas “inconstitucionales”, Enrique Peña Nieto, que creó una ley de seguridad interior que fue rechazada por la Corte Suprema de Justicia y el actual gobierno. “Fue más allá. Constitucionalizó la militarización de la seguridad pública, en contra de la propia Constitución, de los tratados internacionales y las recomendaciones internacionales”, dice.

Guevara recordó que la historia ya ha mostrado que la intervención militar sin control ha abierto la puerta a la tortura, la desaparición forzada y graves violaciones a los derechos humanos.

Por su parte, Luis Tapia, coordinador del área jurídica del Centro Pro, indicó que “si lo vemos desde una primera lectura política, el acuerdo viene en un mal momento. El ejército ha ido ganando terreno en varias decisiones del gobierno: encargándose de construir un aeropuerto, trasladando combustible…”

En su opinión, uno de los puntos relevantes es que habilita al ejército para ser el primero en llegar a escenas del crimen. Se trata de algo que ya ocurría, como en la matanza de Tlatlaya, donde, según recuerda Tapia, la CNDH determinó que los militares movieron cuerpos y armas.

“Desde Calderón, cuando se profundiza en la militarización, empieza a ser habitual que el ejército llegue el primero a escena del crimen”, explica.

Coincide con Guevara al considerar que el acuerdo presidencial rompe con principios del artículo transicional, que decía que la actuación de esta fuerza armada debía ser “subordinada y complementaria” a la de la Guardia Nacional.

“Si actúa motu propio sin participación de ninguna fuerza policial civil pierde estos principios”, dice.

“Otra cosa es el hecho de remitir a los órganos de control interno la fiscalización. Está bien documentada por trabajo de organizaciones que los órganos de control interno han servido de tapadera, que no cumple con el deber de fiscalización”, señala.

Lo que hacemos en Animal Político requiere de periodistas profesionales, trabajo en equipo, mantener diálogo con los lectores y algo muy importante: independencia. Tú puedes ayudarnos a seguir. Sé parte del equipo. Suscríbete a Animal Político, recibe beneficios y apoya el periodismo libre.

#YoSoyAnimal
close
¡Muchas gracias!

Estamos procesando tu membresía, por favor sé paciente, este proceso puede tomar hasta dos minutos.

No cierres esta ventana.