‘Las máquinas aprenden’: Inteligencia Artificial evoluciona y puede usarse para engañar, pero no todo está perdido
Para entender mejor
El avance tecnológico ha logrado poner al alcance de cualquier persona con acceso a internet herramientas de Inteligencia Artificial (IA) tan sofisticadas que son capaces de idear un nuevo negocio de emprendimiento, mejorar diagnósticos médicos y hasta mantener una conversación sobre el amor.
Pero: ¿qué pasa cuándo la IA puede crear imágenes tan realistas que parecen fotografías y pueden hacernos creer que son reales? Ya vimos ejemplos como el de las imágenes de Trump encarcelado o las del papa Francisco y un abrigo blanco con mucho ‘flow’.
Platicamos al respecto con Pablo Fernández, director ejecutivo y periodístico de Chequeado, y con Tomás Rudich, coordinador de verificación de bulos en Newtral, quienes nos contaron que, aunque la Inteligencia Artificial es un campo muy cambiante que sigue en desarrollo y que representa nuevos retos, aún hay herramientas para combatir la desinformación.
Y mejor aún: el aprendizaje y el ojo humano.
Desinformación con IA
En las últimas semanas, el equipo de Animal Político ha verificado al menos seis imágenes creadas con IA que fueron utilizadas para desinformar: primero nos quisieron hacer creer que existía una especie de Serpens Cattus o gato serpiente, también que el expresidente Donald Trump fue perseguido por la policía de New York, y que la fotografía del activista Julian Assange encarcelado y demacrado era real.
Alguien también uso una herramienta de IA para crear la imagen del papa Francisco portando tenis y una chamarra voluminosa, y otra del presidente Putin de rodillas frente al presidente de China.
Pero el uso de imágenes ficticias no es la única forma de desinformar con IA; también hemos detectado el uso de avatares con aspecto humano para intentar dar credibilidad a información engañosa sobre política, vender productos milagro para bajar de peso, y de paso para hacer campaña a favor de López Obrador y de Morena en redes sociales.
Estas desinformaciones tienen en común que se usó IA para generarlas, pero también para verificarlas. Empecemos por saber a qué nos referimos cuando hablamos de Inteligencia Artificial.
¿Qué es la Inteligencia Artificial?
La empresa Google lo define como “un campo de la ciencia relacionado con la creación de computadoras y máquinas que pueden razonar, aprender y actuar de una manera que normalmente requeriría inteligencia humana o que involucre datos cuya escala exceda lo que los humanos pueden analizar”.
En otras palabras, tecnología que con algoritmos y sistemas administra y procesa una gran cantidad de datos, con lo que pueden realizar tareas que antes solo concebíamos como una posibilidad humana.
Una de las técnicas que la IA emplea es el machine learning (ML), que se centra en la creación de sistemas que mejoran en función de los datos que consumen. Tal como lo hace ChatGPT cada vez que alguien mantiene una “conversación” con dicha aplicación.
Pero la aplicación de IA en las herramientas digitales no es algo tan nuevo como pensamos, por ejemplo, el buscador de Google o los programas de asistencia virtual como Alexa usan este tipo de tecnología.
Pero últimamente ha pasado de todo, como que el diario El Mundo utilizara IA para ilustrar su portada. Y para dar un ejemplo de la magnitud del tema, incluso Elon Musk y cientos de expertos pidieron pausar avances en Inteligencia Artificial. Aunque poco después el mismo Musk aseguró en una entrevista que buscará desarrollar TruthGPT, “una IA que busque la verdad absoluta e intente comprender la naturaleza del universo”.
Herramientas contra la desinformación generada con IA
Olga Papadopoulou, miembro del Grupo de Análisis, Verificación y Recuperación de Medios (MeVer) y directora general del proyecto de vera.ai, explicó en un seminario sobre tecnología de datos que la desinformación visual plantea mayores riesgos porque puede ser más persuasiva que el texto, llama más la atención, es más tentador compartirla, y además puede cruzar fácilmente las fronteras.
En este sentido, comenzaron a popularizarse los deepfake que son un video, una imagen o un audio creado con tecnología y que imita la apariencia y el sonido de una persona.
Hasta ahora ya hay varias aplicaciones que intentan ayudar a identificar este tipo de productos que crean confusión y desinformación.
Por ejemplo, la herramienta de detección de DeepFake. Evalúa la probabilidad de manipulaciones faciales falsas profundas en imágenes y videos. En el caso del video, la herramienta segmenta el video en tomas, detecta los rostros representados en cada toma y estima la probabilidad de manipulación facial falsa en cada rostro.
Hugging Face y Mayachitra son otras plataformas de acceso abierto que suelen indicar si alguna imagen se generó con IA.
Pero, a decir de Tomás Rudich, coordinador de verificación de bulos en Newtral, “hay que tomar con pinzas estas herramientas porque te indican una probabilidad pero no puedes estar 100% seguro; además, la IA va evolucionando”.
También existen otras herramientas que pueden ayudar a identificar desinformación visual.
El proyecto vera.ai, por ejemplo, colabora en el desarrollo aplicaciones para herramientas de verificación. Por ejemplo, el asistente de verificación de imágenes que resalta las áreas de una imagen que han sido manipuladas digitalmente.
WeVerify e InVID también tienen herramientas muy útiles para revisar si una imagen ha sido alterada digitalmente.
De hecho, Tomás Rudich destaca que las principales herramientas para combatir la desinformación generada con IA son las que ya conocemos como la búsqueda inversa de la imagen en Google para rastrear en dónde ha circulado, o encontrar marcas de agua y sellos que nos permitan llegar a la persona que ha generado esta imagen.
Si quieres saber más al respecto, en este video te contamos cómo usar las herramientas de búsqueda inversa.
El aprendizaje no para
Pablo Fernández, director ejecutivo y periodístico de Chequeado, señala que “quienes generan desinformación tienen muchos recursos y herramientas y nosotros no nos podemos quedar atrás, para no perder esa batalla”.
Así que invita a los verificadores a usar elementos de IA y seguir aprendiendo sobre nuevas herramientas y metodologías de verificación.
Pero no solo se trata de saber cómo identificarlas, sino también cómo pueden generarse. “Si logramos resolver esto y seguir en la vanguardia y actualizados en cómo se generan estas piezas de Inteligencia Artificial, va a seguir siendo súper interesante el trabajo de nosotros y de nuestro colegas porque va a ser vital para la gente”, señala Fernández.
“Eso no lo hacemos tanto con máquinas sino con nuestro ojo”, destaca. Además, advierte que si bien todavía se pueden encontrar errores que quizá cualquiera pueda ver, es muy probable que muy pronto la IA aprenda a evitarlos y sea más difícil verificar.
De hecho, advierte que esto ya ha pasado, como él mismo lo comprobó, cuando en diciembre pasado ChatGPT le arrojó respuestas incorrectas, pero el error se corrigió al mes siguiente.
Error en la matrix
Hasta ahora, Midjourney y otras aplicaciones de IA que son usadas para generar imágenes que desinforman tienen dificultades para generar manos y eso se ha convertido en una pieza clave de la verificación. Aunque eso podría cambiar muy pronto.
Uno de los problemas que supone la desinformación creada con IA es que es algo que se actualiza de manera constante, lo que hace más difícil su verificación.
“Es un campo que está muy en evolución y muy cambiante y hay determinadas cuestiones que pueden servir hoy y más adelante pueden no servir”, advierte Tomás Rudich.
“Era un elemento muy identificable pero ya ha evolucionado la IA y ya no salen tan mal los dedos como antes”, dice Rudich, quien de momento sugiere poner atención y buscar anomalías como rostros difuminados o proporciones anómalas.
Pablo Fernández coincide: “Esto es muy dinámico y esto puede cambiar mañana. Hoy las imágenes estáticas tienen errores grandes en las manos, a veces en los ojos. Pero justamente se basa en un aprendizaje, las máquinas aprenden y esto seguramente se solucionará pronto”.
“No hay una solución mágica, es una combinación de todo esto: observación atenta, tratar de rastrear el original, buscar marcas de agua, ponerse en contacto con quien las ha generado y comparar con imágenes reales”, señala el especialista en verificación de Newtral.
Rudich recuerda que si no tenemos seguridad de la veracidad de la imagen lo mejor es no compartirla. Consejo que aplica para cualquier imagen, aun si no se sospecha de haber sido generada con IA.
Herramientas de IA contra la desinformación
Pero la IA no solo genera desinformación, también herramientas para combatirla, y un ejemplo de ello es el Chequeabot del proyecto argentino de verificación Chequeado.
Desde 2016, el chequeabot funciona con Inteligencia Artificial de Machine Learning, según nos compartió Pablo Fernández. Esta herramienta ayuda a encontrar frases a verificar, por ejemplo, dentro de un discurso político muy largo.
Otra herramienta que usa Inteligencia Artificial y que es usada para combatir la desinformación es ClaimHunter, un desarrollo de los verificadores de Newtral.es en España. Tomás Rudich nos contó que ayuda a los verificadores a detectar afirmaciones verificables de políticos en Twitter.
También desarrollaron la herramienta Claim Check, que permite detectar cuando una afirmación que desinforma se repite de manera constante por los personajes políticos.
Relacionado
Se espera que la ceremonia del sorteo incluya la entrega de un nuevo Premio Nobel de la Paz de la FIFA, y que Trump sea el galardonado.
A solo kilómetro y medio de la Casa Blanca, el sorteo del Mundial el viernes tendrá un marcado carácter político.
La deslumbrante ceremonia tendrá lugar en el Kennedy Center, el famoso centro artístico de Washington que ahora es presidido por el mandatario estadounidense, Donald Trump, tras la renovación de su junta directiva este año.
Junto a estrellas del fútbol, el deporte estadounidense y el mundo del espectáculo, Trump estará presente, al igual que los líderes de los otros dos países anfitriones: la presidenta de México, Claudia Sheinbaum, y el primer ministro de Canadá, Mark Carney.
Sin embargo, el proceso parece haber sido planeado teniendo al mandatario estadounidense muy presente.
El grupo de los años setenta Village People fue contratado para tocar YMCA, una de las canciones favoritas de Trump que se escucha con frecuencia en sus mítines de campaña.
Además, rompiendo con la tradición, la ceremonia del sorteo incluirá la entrega de un nuevo Premio Nobel de la Paz de la FIFA, y se espera que Trump sea el galardonado.
Estos gestos no harán más que subrayar la alianza forjada entre Trump y el presidente de la FIFA, Gianni Infantino, quien anunció el reconocimiento el mes pasado tras afirmar que Trump merecía ganar el Premio Nobel de la Paz por su contribución al alto el fuego entre Israel y Gaza, y elogiar con entusiasmo sus políticas.
Para los críticos, estas medidas amenazan el compromiso de la FIFA con la neutralidad política, consagrado en sus estatutos, e imponen el riesgo de que el sorteo, y el propio torneo, se conviertan en herramientas de propaganda.
Los detractores consideran que Infantino y Trump tienen una relación demasiado estrecha, lo cual envía el mensaje de que el organismo rector del fútbol mundial se está alineando con el movimiento Make America Great Again (MAGA), y que respalda lo que muchos ven como una administración que fomenta la división.
Se preguntan si es sensato que la FIFA se asocie tan estrechamente con un hombre que esta misma semana hizo comentarios despectivos sobre los migrantes somalíes, describiéndolos como “basura”.
Al ser consultado sobre el premio, en medio de informes que indican que el Consejo de la FIFA no tenía conocimiento al respecto, un alto funcionario del organismo rector declaró a BBC Sport: “¿Por qué no puede ser más importante que el Premio Nobel de la Paz? El fútbol cuenta con un enorme apoyo mundial, por lo que es justo que reconozca los esfuerzos extraordinarios por lograr la paz cada año”.
Señaló que en 2019 no hubo tanta controversia cuando la FIFA otorgó al presidente de Argentina un premio en honor a su contribución al fútbol, y afirmó que la organización merece elogios por defender la paz en un mundo dividido.
Una relación especial
El presidente Bill Clinton decidió no asistir al sorteo del Mundial de 1994, cuando Estados Unidos fue la última sede del evento. Pero no sorprende que Trump haya optado por desempeñar un papel destacado, dada la plataforma global que le ofrece el Mundial.
Como indicio de las escenas que podrían aguardar en el evento del próximo año, Trump apareció en la final del Mundial de Clubes este año, donde optó por permanecer en el podio mientras el Chelsea celebraba la victoria, disfrutando claramente de ser el centro de atención tras entregarles el trofeo.
Más recientemente, saludó a Cristiano Ronaldo en una cena en la Casa Blanca en honor al príncipe heredero saudí. Apenas unos días después, la FIFA le concedió un indulto sorpresa al delantero, luego de eliminar una sanción en su contra en dos de tres partidos, tras ser expulsado por propinarle un codazo a Dara O’Shea en la derrota ante la República de Irlanda, lo que le aseguró su disponibilidad para los primeros partidos de Portugal en el Mundial.
También está la regularidad con la que Trump e Infantino han aparecido juntos en los últimos años, incluso en eventos fuera del ámbito deportivo.
Desde su primera visita al Despacho Oval en 2018, durante el primer mandato de Trump, Infantino ha sido visto con el presidente en el Foro Económico de Davos, en la firma en Washington de los Acuerdos de Abraham (un pacto entre Israel y algunos países árabes del Medio Oriente en 2020), e incluso como invitado en la segunda investidura de Trump en enero.
La FIFA celebró formalmente la estrecha amistad entre ambos tras ese evento, y el propio Infantino insistió en que era lógico, dada la importancia de que Estados Unidos acogiera tanto la Copa del Mundial de Clubes ampliada como el Mundial.
La FIFA también afirmó que Infantino tenía el deber de desarrollar y promover el fútbol a nivel mundial, y que también mantenía reuniones periódicas con otros líderes mundiales.
Las amistades de Infantino
Si bien Infantino parecía tener una relación menos estrecha con el expresidente Joe Biden durante su etapa en la Casa Blanca, sí la ha mantenido con otros jefes de estado.
Desde que reemplazó a su predecesor Sepp Blatter hace casi una década, después de prometer que restauraría la reputación y las finanzas de la FIFA tras un enorme escándalo de corrupción, Infantino ha aparecido cerca del presidente ruso Vladimir Putin, quien le otorgó una medalla de la Orden de la Amistad de Rusia en 2019, junto con los gobernantes de otros dos anfitriones de la Copa del Mundo en Qatar y Arabia Saudita.
La proximidad de Infantino con estos líderes inevitablemente genera controversia y críticas, pero es su relación con Trump la que ha provocado la mayor reacción negativa en el fútbol.
A principios de este año, los delegados de la UEFA, el organismo rector del fútbol europeo, abandonaron el Congreso de la FIFA en Paraguay cuando Infantino llegó horas tarde tras unirse a Trump en una gira por el Medio Oriente, acusándolo de priorizar “intereses políticos privados”, lo cual “no le hace ningún favor al fútbol”.
En 2018, el propio Infantino declaró: “Está muy claro que la política debe mantenerse al margen del fútbol y el fútbol debe mantenerse al margen de la política”.
Sin embargo, defendió el viaje con Trump, insistiendo en que había sido crucial, ya que le permitió “representar al fútbol” en “importantes debates” con “líderes mundiales de la política y la economía”.
Pero el episodio solo intensificó el escrutinio sobre la relación, al igual que la decisión de la FIFA de establecer una nueva oficina en la Torre Trump de Nueva York. Infantino también apareció por sorpresa en una cumbre en Egipto en octubre, donde Trump y otros líderes mundiales firmaron una declaración para instaurar la paz en Gaza.
Infantino, el único líder deportivo presente, afirmó que el fútbol podría contribuir a los esfuerzos de paz y afirmó que la FIFA ayudaría a reconstruir las instalaciones en Gaza, pero su presencia volvió a generar controversia.
¿Un Mundial acogedor?
Entre tanta diplomacia futbolística, hay preocupación por el impacto que algunas políticas y declaraciones de Trump podrían tener en el Mundial. También existe incertidumbre sobre la acogida que recibirán en EE.UU. los visitantes de algunos países.
En junio, la Casa Blanca impuso a 19 países, principalmente de África, Medio Oriente y el Caribe, restricciones migratorias totales o parciales, haciendo referencia a la necesidad de gestionar las amenazas de seguridad.
En medio de sugerencias de que la lista pueda ampliarse a 30 países, tras la identificación de un hombre afgano como sospechoso del reciente tiroteo de dos soldados de la Guardia Nacional cerca de la Casa Blanca, la FIFA se comprometió a organizar un torneo acogedor y unificador.
Sin embargo, Irán y Haití, cuyos equipos clasificaron para el Mundial, se encuentran entre los países afectados por la prohibición. La semana pasada, Irán anunció que planeaba boicotear el sorteo debido al número limitado de visas para su delegación.
La orden ejecutiva de junio exime de las restricciones de viaje a los atletas y al cuerpo técnico de las selecciones que participarán en el Mundial, pero los aficionados podrían verse afectados.
“Queremos asegurarnos de ser lo más acogedores posible”, declaró el miércoles Andrew Giuliani, director ejecutivo del Grupo de Trabajo de la Copa Mundial de la Casa Blanca.
Giuliani elogió un programa diseñado para acortar los tiempos de espera para las entrevistas de visas de visitante para quienes tengan boletos, pero no descartó las redadas del Servicio de Inmigración y Control de Aduanas (ICE), dirigidas contra migrantes indocumentados en las sedes de la Copa Mundial.
El vocero insistió en que las autoridades querían garantizar que los visitantes ingresaran legalmente a Estados Unidos, para priorizar la seguridad de los estadounidenses.
Esta posición preocupa a los defensores de las libertades civiles.
Human Rights Watch (HRW) afirma que el sorteo se llevará a cabo en “un contexto de detenciones violentas de inmigrantes, despliegues de la Guardia Nacional en ciudades estadounidenses y la servil cancelación de las campañas antirracistas y antidiscriminatorias de la propia FIFA”.
HRW forma parte de un grupo de organizaciones que el miércoles afirmó que la Copa Mundial corría un creciente peligro de ser utilizada como arma para fines autoritarios.
“Todavía hay tiempo para cumplir las promesas de la FIFA de una Copa Mundial libre de abusos contra los derechos humanos, pero el tiempo avanza”, afirmó HRW.
Tras elogiar a Infantino como “uno de los grandes hombres del deporte” durante una reunión en el Despacho Oval el mes pasado, Trump sugirió que incluso podría retirar partidos de las ciudades anfitrionas gobernadas por los demócratas si le preocupaba la seguridad.
Aunque no está claro si el presidente tomará, o si puede tomar, una medida que causaría importantes trastornos logísticos y legales, sus palabras aumentaron la incertidumbre sobre el torneo.
En la misma reunión, Trump sugirió que podría lanzar “ataques” contra México si con ello se detenía el tráfico de drogas a Estados Unidos.
Tras las fricciones que ya generaron las políticas comerciales de Trump con México y Canadá, esto no hizo más que reforzar las preocupaciones sobre el nivel de cooperación entre los tres anfitriones del Mundial en cuestiones como la seguridad del torneo.
Infantino podría afirmar que, dada la imprevisibilidad de algunas declaraciones de Trump, mantener una relación estrecha con él es aún más crucial.
Pero otros argumentarían que también corre el riesgo de obstaculizar su capacidad para confrontar al presidente de Estados Unidos.
Imagen, elecciones e ingresos
Para Trump, el Mundial ha sido un tema central de su segunda presidencia. Le brinda la oportunidad ideal para proyectar su imagen a nivel mundial, junto con las celebraciones del 250 aniversario de la independencia de Estados Unidos el próximo año.
Al elogiar el evento como una “oportunidad económica increíblemente significativa” para Estados Unidos, Trump también espera que suponga un impulso bienvenido para el turismo, luego de un año de baja actividad para el sector en el país.
La FIFA afirma que generará cerca de US$30.000 millones para la economía y creará casi 200.000 empleos. El torneo también es una oportunidad para que el país demuestre que puede organizar un megaevento exitoso, antes de que Los Ángeles albergue los Juegos Olímpicos y Paralímpicos de 2028.
Para Infantino, el evento deportivo más lucrativo jamás organizado también es una fuente de ingresos muy útil. Esto le permite cumplir su compromiso de impulsar el fútbol en Estados Unidos, alimentar los ingresos comerciales de la FIFA y aumentar los pagos a las federaciones nacionales de fútbol, sin perjudicar sus posibilidades de una tercera reelección como presidente en 2027.
Un mercado desregulado en Estados Unidos le permite a la FIFA gestionar una plataforma oficial de reventa de entradas para la competencia que le reportará una comisión sin precedentes del 30% en cada transacción.
Los representantes de la afición condenan la medida, al alegar que corren el riesgo de ser explotados por un modelo de precios que no refleja el espíritu del Mundial. Sin embargo, esto también ayuda a explicar por qué la FIFA espera recaudar la cifra récord de más de US$13.000 millones en su ciclo 2023-2026.
La verdadera fortaleza de la relación entre Trump e Infantino podría verse puesta a prueba en los próximos meses. Sin embargo, ambos consideran claramente que su alianza es mutuamente beneficiosa.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
