‘Las máquinas aprenden’: Inteligencia Artificial evoluciona y puede usarse para engañar, pero no todo está perdido
Para entender mejor
El avance tecnológico ha logrado poner al alcance de cualquier persona con acceso a internet herramientas de Inteligencia Artificial (IA) tan sofisticadas que son capaces de idear un nuevo negocio de emprendimiento, mejorar diagnósticos médicos y hasta mantener una conversación sobre el amor.
Pero: ¿qué pasa cuándo la IA puede crear imágenes tan realistas que parecen fotografías y pueden hacernos creer que son reales? Ya vimos ejemplos como el de las imágenes de Trump encarcelado o las del papa Francisco y un abrigo blanco con mucho ‘flow’.
Platicamos al respecto con Pablo Fernández, director ejecutivo y periodístico de Chequeado, y con Tomás Rudich, coordinador de verificación de bulos en Newtral, quienes nos contaron que, aunque la Inteligencia Artificial es un campo muy cambiante que sigue en desarrollo y que representa nuevos retos, aún hay herramientas para combatir la desinformación.
Y mejor aún: el aprendizaje y el ojo humano.
Desinformación con IA
En las últimas semanas, el equipo de Animal Político ha verificado al menos seis imágenes creadas con IA que fueron utilizadas para desinformar: primero nos quisieron hacer creer que existía una especie de Serpens Cattus o gato serpiente, también que el expresidente Donald Trump fue perseguido por la policía de New York, y que la fotografía del activista Julian Assange encarcelado y demacrado era real.
Alguien también uso una herramienta de IA para crear la imagen del papa Francisco portando tenis y una chamarra voluminosa, y otra del presidente Putin de rodillas frente al presidente de China.
Pero el uso de imágenes ficticias no es la única forma de desinformar con IA; también hemos detectado el uso de avatares con aspecto humano para intentar dar credibilidad a información engañosa sobre política, vender productos milagro para bajar de peso, y de paso para hacer campaña a favor de López Obrador y de Morena en redes sociales.
Estas desinformaciones tienen en común que se usó IA para generarlas, pero también para verificarlas. Empecemos por saber a qué nos referimos cuando hablamos de Inteligencia Artificial.
¿Qué es la Inteligencia Artificial?
La empresa Google lo define como “un campo de la ciencia relacionado con la creación de computadoras y máquinas que pueden razonar, aprender y actuar de una manera que normalmente requeriría inteligencia humana o que involucre datos cuya escala exceda lo que los humanos pueden analizar”.
En otras palabras, tecnología que con algoritmos y sistemas administra y procesa una gran cantidad de datos, con lo que pueden realizar tareas que antes solo concebíamos como una posibilidad humana.
Una de las técnicas que la IA emplea es el machine learning (ML), que se centra en la creación de sistemas que mejoran en función de los datos que consumen. Tal como lo hace ChatGPT cada vez que alguien mantiene una “conversación” con dicha aplicación.
Pero la aplicación de IA en las herramientas digitales no es algo tan nuevo como pensamos, por ejemplo, el buscador de Google o los programas de asistencia virtual como Alexa usan este tipo de tecnología.
Pero últimamente ha pasado de todo, como que el diario El Mundo utilizara IA para ilustrar su portada. Y para dar un ejemplo de la magnitud del tema, incluso Elon Musk y cientos de expertos pidieron pausar avances en Inteligencia Artificial. Aunque poco después el mismo Musk aseguró en una entrevista que buscará desarrollar TruthGPT, “una IA que busque la verdad absoluta e intente comprender la naturaleza del universo”.
Herramientas contra la desinformación generada con IA
Olga Papadopoulou, miembro del Grupo de Análisis, Verificación y Recuperación de Medios (MeVer) y directora general del proyecto de vera.ai, explicó en un seminario sobre tecnología de datos que la desinformación visual plantea mayores riesgos porque puede ser más persuasiva que el texto, llama más la atención, es más tentador compartirla, y además puede cruzar fácilmente las fronteras.
En este sentido, comenzaron a popularizarse los deepfake que son un video, una imagen o un audio creado con tecnología y que imita la apariencia y el sonido de una persona.
Hasta ahora ya hay varias aplicaciones que intentan ayudar a identificar este tipo de productos que crean confusión y desinformación.
Por ejemplo, la herramienta de detección de DeepFake. Evalúa la probabilidad de manipulaciones faciales falsas profundas en imágenes y videos. En el caso del video, la herramienta segmenta el video en tomas, detecta los rostros representados en cada toma y estima la probabilidad de manipulación facial falsa en cada rostro.
Hugging Face y Mayachitra son otras plataformas de acceso abierto que suelen indicar si alguna imagen se generó con IA.
Pero, a decir de Tomás Rudich, coordinador de verificación de bulos en Newtral, “hay que tomar con pinzas estas herramientas porque te indican una probabilidad pero no puedes estar 100% seguro; además, la IA va evolucionando”.
También existen otras herramientas que pueden ayudar a identificar desinformación visual.
El proyecto vera.ai, por ejemplo, colabora en el desarrollo aplicaciones para herramientas de verificación. Por ejemplo, el asistente de verificación de imágenes que resalta las áreas de una imagen que han sido manipuladas digitalmente.
WeVerify e InVID también tienen herramientas muy útiles para revisar si una imagen ha sido alterada digitalmente.
De hecho, Tomás Rudich destaca que las principales herramientas para combatir la desinformación generada con IA son las que ya conocemos como la búsqueda inversa de la imagen en Google para rastrear en dónde ha circulado, o encontrar marcas de agua y sellos que nos permitan llegar a la persona que ha generado esta imagen.
Si quieres saber más al respecto, en este video te contamos cómo usar las herramientas de búsqueda inversa.
El aprendizaje no para
Pablo Fernández, director ejecutivo y periodístico de Chequeado, señala que “quienes generan desinformación tienen muchos recursos y herramientas y nosotros no nos podemos quedar atrás, para no perder esa batalla”.
Así que invita a los verificadores a usar elementos de IA y seguir aprendiendo sobre nuevas herramientas y metodologías de verificación.
Pero no solo se trata de saber cómo identificarlas, sino también cómo pueden generarse. “Si logramos resolver esto y seguir en la vanguardia y actualizados en cómo se generan estas piezas de Inteligencia Artificial, va a seguir siendo súper interesante el trabajo de nosotros y de nuestro colegas porque va a ser vital para la gente”, señala Fernández.
“Eso no lo hacemos tanto con máquinas sino con nuestro ojo”, destaca. Además, advierte que si bien todavía se pueden encontrar errores que quizá cualquiera pueda ver, es muy probable que muy pronto la IA aprenda a evitarlos y sea más difícil verificar.
De hecho, advierte que esto ya ha pasado, como él mismo lo comprobó, cuando en diciembre pasado ChatGPT le arrojó respuestas incorrectas, pero el error se corrigió al mes siguiente.
Error en la matrix
Hasta ahora, Midjourney y otras aplicaciones de IA que son usadas para generar imágenes que desinforman tienen dificultades para generar manos y eso se ha convertido en una pieza clave de la verificación. Aunque eso podría cambiar muy pronto.
Uno de los problemas que supone la desinformación creada con IA es que es algo que se actualiza de manera constante, lo que hace más difícil su verificación.
“Es un campo que está muy en evolución y muy cambiante y hay determinadas cuestiones que pueden servir hoy y más adelante pueden no servir”, advierte Tomás Rudich.
“Era un elemento muy identificable pero ya ha evolucionado la IA y ya no salen tan mal los dedos como antes”, dice Rudich, quien de momento sugiere poner atención y buscar anomalías como rostros difuminados o proporciones anómalas.
Pablo Fernández coincide: “Esto es muy dinámico y esto puede cambiar mañana. Hoy las imágenes estáticas tienen errores grandes en las manos, a veces en los ojos. Pero justamente se basa en un aprendizaje, las máquinas aprenden y esto seguramente se solucionará pronto”.
“No hay una solución mágica, es una combinación de todo esto: observación atenta, tratar de rastrear el original, buscar marcas de agua, ponerse en contacto con quien las ha generado y comparar con imágenes reales”, señala el especialista en verificación de Newtral.
Rudich recuerda que si no tenemos seguridad de la veracidad de la imagen lo mejor es no compartirla. Consejo que aplica para cualquier imagen, aun si no se sospecha de haber sido generada con IA.
Herramientas de IA contra la desinformación
Pero la IA no solo genera desinformación, también herramientas para combatirla, y un ejemplo de ello es el Chequeabot del proyecto argentino de verificación Chequeado.
Desde 2016, el chequeabot funciona con Inteligencia Artificial de Machine Learning, según nos compartió Pablo Fernández. Esta herramienta ayuda a encontrar frases a verificar, por ejemplo, dentro de un discurso político muy largo.
Otra herramienta que usa Inteligencia Artificial y que es usada para combatir la desinformación es ClaimHunter, un desarrollo de los verificadores de Newtral.es en España. Tomás Rudich nos contó que ayuda a los verificadores a detectar afirmaciones verificables de políticos en Twitter.
También desarrollaron la herramienta Claim Check, que permite detectar cuando una afirmación que desinforma se repite de manera constante por los personajes políticos.
Relacionado
Una combinación de factores internos y externos permitieron a las fuerzas opositoras poner fin, en cuestión de días, a un régimen que tenía más de cinco décadas en el poder.
No muchos esperaban los rápidos acontecimientos que se han vivido Siria en los últimos días, desde que la oposición armada, liderada por Hayat Tahrir al Sham (HTS, Organización para la Liberación del Levante), con sede en la provincia de Idlib, en el noroeste del país, anunció el inicio de su campaña definitiva en contra de las fuerzas gubernamentales.
La noticia de la caída del régimen de Bashar al-Assad, que había amenazado hace una semana con “aplastar a los terroristas”, sorprendió a la mayoría de los observadores de los asuntos sirios.
Estos acontecimientos han suscitado muchas preguntas, especialmente aquellas relacionadas con las razones del colapso del ejército sirio, el cual se ha producido con una velocidad asombrosa.
¿Qué factores contribuyeron al desmoronamiento de las fuerzas armadas sirias y a su retiro de una batalla tras otra? BBC presenta algunas explicaciones.
Fuerte, pero no tanto
Siria ocupa el sexto lugar en el mundo árabe y 60 a nivel internacional en términos de fuerza militar, según el Índice Global de Potencia de Fuego de 2024, que evalúa a 145 países.
El reporte tiene en cuenta una serie de factores, entre ellos el número de efectivos de las fuerzas armadas, su equipamiento y factores logísticos.
El ejército sirio está formado por un gran número de soldados apoyados por fuerzas paramilitares y milicias, y en su arsenal hay una mezcla de equipo soviético en ruinas y otro más moderno procedente de aliados como Rusia.
El ejército tiene más de 1.500 tanques y 3.000 vehículos blindados, así como artillería y sistemas de misiles, según el Índice Global de Potencia de Fuego.
En términos de poder aéreo, Siria tiene cazas, helicópteros y aviones de entrenamiento, y cuenta con una modesta flota naval, así como varios aeropuertos y puertos vitales como Latakia y Tartus.
La posición del ejército sirio puede parecer buena en teoría, pero hay muchos factores que la han debilitado.
Perdió una gran proporción de su personal, estimado en 300.000 soldados, en los primeros años de la guerra.
Algunas estimaciones sostienen que el ejército perdió la mitad de sus uniformados, ya sea debido a los combates o porque algunos huyeron o se unieron a grupos de la oposición.
La fuerza aérea también sufrió grandes pérdidas debido a la guerra civil y los ataques aéreos estadounidenses.
El salario de la tropa “no alcanza para tres días”
A pesar de las importantes reservas de petróleo y gas de Siria, su capacidad para explotarlas se ha visto gravemente limitada por la guerra.
Las condiciones económicas también se han deteriorado aún más, especialmente en las zonas controladas por el gobierno de Al Assad, debido a la “Ley César” que aprobó en diciembre de 2019 el Congreso estadounidense y entró en vigor en junio de 2020.
El texto impuso sanciones económicas a cualquier agencia gubernamental o individuo que trate con el gobierno sirio.
Numerosos informes han indicado que los salarios de los soldados del ejército de Al Assad son bajos y que equivalen a unos US$ 15 a 17 dólares, lo que es una cantidad muy pequeña que “no alcanza ni para tres días”, según un ciudadano sirio.
Fawaz Gerges, profesor de relaciones internacionales en la Universidad de Londres, aseguró que la situación en Siria ha cambiado drásticamente en los últimos tres años, y que una de las razones de esto son “las sanciones estadounidenses que han empobrecido al pueblo sirio y a los oficiales del ejército”.
“Según algunos informes, los soldados no reciben suficiente comida, lo que significa que se encuentran en un estado psicológico difícil y están al borde de la inanición”, apuntó.
El miércoles pasado, Assad decretó un aumento salarial de un 50% para los soldados, informó la agencia de noticias estatal siria, una medida que aparentemente tenía como objetivo levantar la moral en medio del avance de las fuerzas de la oposición.
Sin embargo, la decisión parece haber llegado demasiado tarde.
Abandonado por los aliados
Las noticias que daban cuenta de la deserción de los soldados y oficiales, lo cual facilitó el rápido avance rebelde desde Alepo hasta Damasco, pasando por Hama y Homs, sorprendieron a más de uno.
La corresponsal de la BBC en Damasco, Barbara Belt Usher, informó que algunos efectivos en Damasco abandonaron sus vehículos, armamento y hasta sus uniformes y se vistieron con ropa civil.
“El colapso del ejército sirio se debe casi en su totalidad a las políticas y prácticas implementadas por Al Assad desde que obtuvo una relativa superioridad sobre la oposición en 2016, lo que ha socavado los pilares fundamentales que lo mantenían en el poder”, afirmó Yezid Sayigh, del Centro Carnegie para Oriente Medio en Beirut.
“Estas políticas han afectado al ejército, donde decenas de miles de miembros han sido despedidos, junto con el terrible deterioro de los niveles de vida, la corrupción galopante y la escasez de alimentos incluso dentro de las propias fuerzas armadas, que han alejado a la comunidad alauita que domina los rangos superiores del estamento militar”, agregó el investigador.
“La moral del ejército también se ha visto gravemente reducida por la pérdida de la ayuda militar directa de Irán, de Hezbolá y de Rusia, que ya no pueden intervenir adecuadamente o incluso intervenir de alguna manera”, prosiguió.
Sayinh remató que “sin la esperanza de ayuda externa urgente, el ejército perdió la voluntad de luchar”.
Por su parte, el experto militar británico Michael Clarke, profesor del Departamento de Estudios de Guerra del King’s College de Londres, dijo a la BBC que la enorme ayuda militar extranjera que recibió el gobierno de Al Assad lo hizo dependiente de ella y descuidó a su ejército.
“Su entrenamiento se deterioró significativamente y el desempeño de liderazgo de sus oficiales se volvió mediocre”, explicó.
Y acto seguido agregó: “Cuando sus unidades enfrentaron ataques de Hayat Tahrir al-Sham, muchos oficiales aparentemente se retiraron y algunos huyeron. Cuando los oficiales no pueden demostrar habilidades de liderazgo efectivas, no es de extrañar que los soldados huyan“.
Sayegh, por su parte, descartó que la retirada del apoyo militar de Irán, Hezbolá y Rusia fuera deliberada.
“En el pasado, Siria dependía en gran medida de Hezbolá para el apoyo sobre el terreno, pero después de las pérdidas que sufrió el partido-milicia en el Líbano, ya no pudo proporcionar ese apoyo“, apuntó.
“También hubo una disminución constante de oficiales y asesores iraníes en Siria como resultado de los ataques israelíes durante la última década, y ya no pudo enviar grandes refuerzos ni por tierra ni por aire, dado que Israel y Estados Unidos controlan la mayor parte del espacio aéreo sirio”, agregó.
“Al mismo tiempo, el gobierno iraquí y las milicias proiraníes decidieron mantenerse al margen de los combates, lo que puede deberse en parte a que Irán se dio cuenta de que salvar a Al Assad se había vuelto imposible“.
Por su parte, Rusia retiró una gran cantidad de sus aviones y fuerzas de su base en Latakia debido a la invasión en Ucrania, que comenzó en febrero de 2022.
Gerges coincidió en que la retirada del apoyo militar por parte de Irán, Hezbolá y Rusia “fue una de las razones fundamentales que llevaron a la caída tan rápida de las ciudades sirias”.
“El ejército sirio no luchó ni defendió al régimen esta vez, y decidió retirarse de las batallas y dejar las armas. Esto indica que el apoyo ruso e iraní y la doctrina de combate de Hezbolá fueron un factor importante para ayudar a Al Assad a permanecer en el poder, especialmente después de 2015″, zanjó.
Una oposición fortalecida
En paralelo a la frágil situación del ejército sirio, muchos observadores achacan lo ocurrido en los últimos días a la unificación de las facciones armadas de la oposición bajo un puesto de mando único, así como a su buena preparación para esta batalla y el desarrollo de sus capacidades militares.
El discurso de los rebeldes, especialmente los mensajes tranquilizadores que enviaron a los civiles sobre el respeto de las creencias y las promesas de libertades religiosas, ayudó a lograr rápidos avances sobre las fuerzas del gobierno de Al Assad, aseguraron los expertos.
Todos los datos anteriores aparentemente contribuyeron al rápido colapso del ejército sirio y a la posterior caída del régimen de Al-Assad, de una manera que Fawaz Gerges ve “muy similar al colapso del régimen del Sha en Irán en 1979”.
“La oposición siria, con sus alas islamistas y nacionalistas, fue capaz de destruir el régimen sirio en menos de dos semanas… El régimen de Assad estaba viviendo en tiempo extra y cuando el ataque de la oposición llegó por sorpresa, el ejército se derrumbó y el régimen se derrumbó como si fuera una casa de cristal”, agregó Gerges.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- 4 claves para entender la crisis en Siria que llevó a los rebeldes a tomar Damasco y al fin del gobierno de Bashar al Assad
- Por qué la caída de Al Assad en Siria es un duro golpe para el prestigio de Putin y de Rusia
- Celebraciones, caos y saqueos en Damasco: qué pasó en la capital siria tras la caída de Bashar al Assad
