“Usaron mi foto de la playa y con Inteligencia Artificial ‘me quitaron la ropa’”, publicó la periodista Johanna Villalobos en Twitter. “Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni te conozco”, tuiteó la cantante Rosalía. Ambas mujeres levantaron la voz y acusaron que fueron víctimas de fake porn o porno falso.
También puedes leer: La noche ‘motomami’: con C de ‘chingona’ y M de la Rosalía más ‘mexicana’
Villalobos nos relató su testimonio desde Costa Rica y, además, consultamos a especialistas que nos explicaron mejor sobre este tipo de violencia digital que ha afectado, sobre todo, a las mujeres.
“Esto es un tipo de violencia digital, es el uso no consensuado de tu imagen. Creo que por eso es muy pertinente hablar de Inteligencia Artificial con perspectiva de género”, afirma Monserrat López, especialista en derechos digitales en México.
¿Cómo ocurre el fake porn?
Ya lo dijo Rosalía en su canción, amix: “A ningún hombre consiento que dicte mi sentencia”. Por eso, vayamos paso a paso en este tema:
Imagina que es Semana Santa, vas de vacaciones a la playa y subes una fotografía en bikini a tu Instagram. En las siguientes semanas notas más interacciones en esa imagen que compartiste y luego, una chica te manda un mensaje para avisarte que esa foto está circulando en chats de WhatsApp y otras redes sociales, pero ¡apareces completamente desnuda!
Eso le pasó a Johanna Villalobos con esta foto que publicó en su Instagram:
Ver esta publicación en Instagram
“Yo veo la foto y digo: ¿pero qué es esto? Esta no soy yo, ¿verdad? Y le preguntaba ¿quién hizo esta foto? Entonces ella me cuenta que hay un grupo de personas que está haciendo fotografías con Inteligencia Artificial. Mi primera reacción fue sentirme en shock”, nos cuenta la periodista.
Mientras que en el caso de la motomami, el rapero español JC Reyes subió a sus historias de Instagram una imagen de Rosalía mostrando sus pechos, y él los cubrió con dos emojis.
Después aclaró: “A las mujeres estas que me estáis poniendo «qué haces», «qué asco das»… A la chavala sólo se le ve el escote. Respetad, eh. Es Photoshop… Photoshoped”.
Ir a buscar clout faltando el respeto y sexualizando a alguien es un tipo d violencia y da asco pero hacerlo por 4 plays de + lo q da es pena
— R O S A L Í A (@rosalia) May 23, 2023
Para más info, consulta: México es muy Motomami🔥: Somos el país que más escucha a Rosalía en YouTube
Ni Johanna ni Rosalía son las únicas que han sido víctimas de fake porn.
En febrero de 2023, Brandon Ewing, blogger de Twitch, hizo una transmisión en vivo donde se veía que estaba abierta una página de porno falso.
“Por cada persona que dice que no es para tanto, no sabes lo que se siente ver una foto tuya haciendo cosas que nunca has hecho enviada a tu familia”, reaccionó al respecto la streamer QTCinderella en un video.
“¡Es mi cara, pero no es mi cuerpo!”
¿Cómo es que un término como Inteligencia Artificial tiene tanto auge ahora? La clave está en la velocidad con la que está avanzando el desarrollo de esta tecnología, que tiene como objetivo realizar actividades que normalmente requerirían de inteligencia humana para automatizar ciertos procesos.
“Hay distintos tipos de algoritmos de Inteligencia Artificial y uno de esos son los que se conocen como deepfakes: fotografías o videos manipulados para sustituir personalidades”, nos explica Monserrat López, co-host del pódcast Hijas de Internet.
Basta recordar el video en el que Johanna Villalobos insistía en que no era ella quien aparecía desnuda en la imagen.
“Claramente no soy yo, la Inteligencia Artificial no puede reemplazar a una persona real. Se me ve todo pero no es mi cuerpo, es mi cara, pero no es mi cuerpo”, expresó.
El informe The State of Deepfakes: landscape, threats and impact publicado por Deeptrace Labs en 2019 ya advertía de la pornografía deepfake como un fenómeno mundial que daña, sobre todo, a las mujeres porque la gran mayoría de contenidos son acerca de ellas.
“La pornografía deepfake es el tipo de deepfake que más se crea y circula en la actualidad. Los efectos nocivos de la pornografía deepfake ya han afectado a un número significativo de mujeres, incluidas celebridades y particulares”, menciona el documento.
“El cuerpo de una mujer no es una mercancía”
Aunque los algoritmos deepfake también existen desde hace años, el auge de la Inteligencia Artificial ha facilitado la creación de contenidos pornográficos (ya sea actos sexuales explícitos o eróticos, como los desnudos) “profundamente falsos”, muchas veces con la intención de perjudicar… o de beneficiarse de esto.
“Se busca generar este contenido íntimo de una persona porque sigue existiendo estos prejuicios alrededor de la exposición de los cuerpos de las mujeres, porque quieres dañar su reputación, generar un tema de dinero o extorsionar”, enlista Angie Contreras, integrante de la asociación civil feminista Cultivando Género.
Contreras insiste en la importancia de dejar claro que estas imágenes que aluden al contenido íntimo son falsas, porque las personas que aparecen en ellas no son reales, y las fotografías fueron creadas con los fines que ya te mencionamos.
En una transmisión en vivo, JC Reyes dio a entender que la cantante española había sido quien le envió la fotografía, pero en realidad fue un montaje de una publicación que la intérprete de “Bizcochito” hizo en marzo de 2023.
Además, el rapero también adelantó que su próxima canción se llamará “Rosalía”.
Ver esta publicación en Instagram
“El cuerpo de una mujer no es propiedad pública, no es una mercancía para tu estrategia de marketing”, respondió la cantante afectada en Twitter.
El cuerpo d una mujer n es propiedad pública, no es una mercancía xa tu estrategia d marketing. Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni t conozco. Existe algo llamado consentimiento y todos a los q os pareció gracioso o plausible espero de…
— R O S A L Í A (@rosalia) May 24, 2023
En el caso de la costarricense Johanna Villalobos, cuando dejó de pensar en cuántos chats de WhatsApp y redes sociales estuvo su fotografía manipulada, se preocupó por limpiar su imagen.
“He tratado durante 10 años de carrera que tengo acá en Costa Rica, de hacerme una credibilidad, ¿verdad? Como periodista profesional me cuido muchísimo con estas cosas. Aparte me sentí muy avergonzada”, nos dice.
Casos de Rosalía y Johanna sientan un precedente
Tanto Monserrat López y Angie Contreras coinciden en que los casos de Johanna y Rosalía sientan un precedente para iniciar la conversación y tomar acciones.
“Creo que son discusiones desde la ética de la Inteligencia Artificial que ni siquiera hemos tenido y, ahora que se están violentando cuerpos, pareciera que también vamos para allá. No queremos hablar del tema y lo necesitamos porque ¿qué vamos a hacer cuando acompañemos estos casos?”, menciona Contreras, consultora en temas de comunicación con perspectiva de género y tecnología.
Parte de esa conversación es la regulación y la responsabilidad que tienen las propias plataformas ante el fake porn, a pesar de que estén en pleno desarrollo. Asimismo, determinar cómo este tipo de violencia digital puede tratarse de un delito y mirar más allá de lo punitivo: la reparación del daño, la no repetición y la capacitación para el uso de herramientas tecnológicas.
“Lo que sí pediría es que de ahora en adelante busquen regular esta situación, porque no voy a ser ni la primera ni la última chica a la que esto le va a pasar”, solicita Johanna en entrevista.
Antes de irte, checa: Así nos educa la pornografía: entre la fantasía y la realidad
Relacionado
Las escuelas segregadas para niños de ascendencia mexicana existieron en suroeste de EE.UU. durante décadas. En una de ellas, en la pequeña ciudad texana de Marfa, celebraron un día una peculiar ceremonia.
“Ya habíamos asistido a funerales de familiares antes, así que entendimos que allí se estaba celebrando un entierro. Lo que no sabíamos era por qué”… Ni de quién.
Así recuerda Jessi Silva aquella mañana de 1954 en la que se encontró en el patio de su escuela, rodeada de otros alumnos, observando un hoyo recién cavado.
Allí estaba también Maggie Marquez, quien por aquel entonces cursaba cuarto grado. Nada más entrar a clase, se había percatado de que el día no iba a ser como cualquier otro.
“Cuando llegué al salón la maestra nos dio pedazos de papel y nos pidió que escribiéramos en ellos: ‘No hablaré español ni en la escuela ni durante el receso’”, le contó décadas después a StoryCorps, una organización estadounidense sin ánimo de lucro cuyo objetivo es registrar, preservar y compartir historias.
Obedientes, siguieron las instrucciones al pie de la letra. La profesora agarró todos los papelitos, los dobló y los metió en una caja de cigarros, tal como lo habían hecho el resto de los docentes del centro.
A aquello le siguió una procesión al patio, donde introdujeron el estuche en el agujero cavado junto a un asta en el que ondeaba la bandera estadounidense.
Burial of Mr. Spanish, llamaron a la ceremonia, “El entierro del señor español”.
A partir de aquel momento el idioma de sus ancestros, la lengua materna de estas dos mujeres, que tienen hoy 76 y 80 años, quedaba prohibida en las instalaciones.
Marquez, sin embargo, recuerda que se rebeló ante el entierro simbólico del español.
De vuelta al aula, le dijo a sus compañeras: “Nadie me va a hacer que deje de hablar en español”.
“Lo que no sabía es que tenía a la maestra detrás, y me llevó a la oficina del director”, contó.
La jornada acabó con unos azotes.
Ocurrió en la Escuela Primaria Blackwell, en Marfa, un desértico pueblo de Texas situado a unos 95 kilómetros de la frontera con México.
Pero bien pudo haber pasado en cualquiera de las otras escuelas exclusivas para niños con ascendencia mexicana que existieron en el suroeste de Estados Unidos desde inicios del siglo hasta entrada la década de los 60, como parte de una segregación de facto cuyas consecuencias —según apuntan expertos e investigaciones varias— se sienten aún hoy.
Separados pero… ¿iguales?
A diferencia de la discriminación sufrida por los afroestadounidenses, sobre todo en los estados sureños, donde primaba el lema “separados pero iguales”, la aplicada contra los mexicano-estadounidenses no era por mandato legal sino una práctica común.
Los distritos escolares decidían si separaban o no a los estudiantes de ascendencia mexicana o a los latinos de otros orígenes, y muchos así lo hicieron en Arizona, California, Nuevo México, Texas.
En este último estado, para la década de 1940, existían las llamadas Mexican Schools (“Escuelas mexicanas”) en más de 120 ciudades que se mantuvieron hasta 1965, cuando se logró la integración.
Por la Escuela Primaria Blackwell, fundada en 1889, pasaron miles de estudiantes de entre primer y octavo grado; alumnos de origen mexicano que estudiaron con menos recursos que sus pares blancos, con materiales descartados por estos, en aulas con mobiliario de segunda mano.
Y el entierro del español no fue el único recuerdo de discriminación.
Otro día una alumna fue obligada a bañar a otra de piel más oscura por considerársela “sucia”.
En los años 50, los futbolistas de Blackwell eran considerados lo suficientemente buenos como para conformar equipo con menores anglos, pero no tanto como para que compartieran vestuarios.
“En Marfa aprendí lo que era el racismo”, le dijo Jesusita Williams Silva, quien empezó a estudiar en Blackwell en 1956, a Texas Monthly. “(Lo aprendí) Al ver a mi madre siendo rechazada en la tienda porque era hispana, al ver que mi padre no cobraba lo suficiente por ser hispano, al ver a la gente humillar a mis padres frente a sus hijos”.
En aquel entonces, en la puerta de algunos restaurantes había carteles que decían “Ni perros ni mexicanos”. En los cines, solo se podían sentar en los balcones superiores y bañarse solo los lunes, cuando el agua estaba más sucia, en las piscinas municipales.
La inevitable asimilación
En las escuelas segregadas, junto a la política que obligaba a comunicarse solo en inglés, justificada sobre la base de que era necesaria para brindarles a unos alumnos con “deficiencias lingüísticas” una formación efectiva, los educadores usaron prácticas pedagógicas y promovieron actividades que imponían valores e ideales blancos y de clase media.
El objetivo era que fueran lo más “estadounidenses posible”, escribió en su libro Culture, language, and the Americanization of Mexican children (“Cultura, lenguaje y la americanización de niños mexicanos”) Gilbert G. González, profesor de la Universidad de California y pionero de la disciplina de los Estudios Latinos y Chicanos.
La asimilación fue, en muchos casos, inevitable.
“No quería hablar español, no quería vestir como mexicana”, le contó Janie Martínez, quien asistió a una de esas escuelas, a Lilliana P. Saldaña, investigadora de la Universidad de Texas-San Antonio.
Saldaña incluyó su caso en un ensayo que aborda los traumas sufridos por una serie de mexicano-estadounidenses en el sistema educativo segregado y cómo eso los llevó a formarse como maestros.
“Durante sus años universitarios hizo todo lo posible por deshacerse de todo lo que la caracterizaba como mexicana y, cuando se graduó, pidió que su diploma dijera ‘Janie’ en lugar de ‘Juanita’. Tampoco les enseñó español a sus hijos, una decisión de la que hoy se arrepiente”, escribe Saldaña.
“Cómo los trataban los maestros y maestras, cómo el sistema escolar les cambió el nombre o hizo que se lo cambiaran, cómo los hizo sentirse avergonzados de ser pobres y mexicanos, del barrio… Eso fueron razones por las que tomaron la decisión muy consciente de ser docentes en su propia comunidad y de impulsar el bilingüismo”, le dice Saldaña a BBC Mundo.
También hubo reacciones más generalizadas, como la creación de las llamadas “escuelitas”.
“Fueron comunes en muchas comunidades fronterizas. Las familias mexicano-estadounidenses las establecían, a veces en alguna de las casas, tras recolectar fondos entre ellas mismas”, explica Saldaña.
“Eran independientes, gerenciadas por las propias familias, no estaban bajo el control estatal, y reclutaban a las maestras en México, que hablaban español pero que también tenían experiencia como educadoras”, prosigue.
La segregación y la consiguiente asimilación también tuvo costos a distintos niveles, consecuencias que siguen sintiéndose hoy y que varios estudios han tratado de retratar.
De acuerdo a un estudio del Pew Research Center publicado el año pasado, el 75% de los latinos de EE.UU. aseguran que pueden mantener una conservación en un español bueno o muy bueno. Pero entre los de tercera generación, son menos de un tercio los que son capaces de ello.
La integración y el desentierro
En un fallo conocido como Brown contra el Consejo de Educación de Topeka, la Corte Suprema de EE.UU. dictaminó en 1954 que las leyes estatales que establecían la segregación racial en las escuelas públicas eran inconstitucionales.
Aunque la integración tardó años en alcanzar todos los rincones del país, y en muchos casos requirió de la intervención federal.
A Marfa llegó en 1965, con la apertura de una nueva escuela primaria que acogió tanto a los alumnos del antiguo colegio para niños de ascendencia anglosajona como a los de Blackwell.
Esta última sigue hoy en pie, uno de los pocos ejemplos de escuelas segregadas que no han sido demolidas.
Aunque en su día constaba de varios edificios, hoy luce sola, blanca y discreta, en el sector sur de la pequeña ciudad y rodeada de modestas casas de adobe, un bloque de viviendas sociales y la sede de la Patrulla Fronteriza del sector.
Tras años de trabajo de un grupo de exalumnos y miembros de la comunidad, agrupados bajo la Alianza de la Escuela Blackwell, el 17 de octubre de 2022 fue designada Sitio Histórico Nacional, y ahora alberga un museo y centro comunitario con fotografías, objetos varios y la recreación de un aula.
“En el catálogo de los Sitios Históricos Nacionales hay pocos sitios que hablan de la historia mexicano-estadounidense moderna. Así que Blackwell está realmente a la vanguardia para empezar a contar esas historias nunca contadas”, le dice Daniel O. Hernandez, el presidente de la Alianza, a BBC Mundo.
“No podemos entender la dinámica racial y étnica de Estados Unidos hoy sin conocer lo que sucedió antes, cómo se trató a la gente, cómo la sociedad anglosajona justificó ese trato y qué consecuencias tuvo”, escribió su antecesora, Gretel Enck.
Quienes estudiaron en Blackwell tienen hoy 60, 70, incluso más años.
En 2007, un grupo de ellos se reunió en la antigua escuela, para un evento inspirado en el entierro de “Mr. Spanish”.
En el centro estaba Maggie Márquez, quien de un pequeño ataúd de madera contrachapada que había sido enterrado específicamente para la ceremonia, sacó un diccionario español.
Entre vítores, lo alzó y exclamó: “¡Yo tengo el español!”.
Haz clic aquí para leer más historias de BBC News Mundo.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp, donde encontrarás noticias de última hora y nuestro mejor contenido.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
