¿Qué es un deepfake? Las amenazas de los videos falsos y cómo identificarlos
Seguro tú también usaste la app reface para ver cómo te verías como Shakira en el video de Waka Waka o protagonizando tu serie favorita. Aunque las risas nunca faltan con estos deepfake, estos también se usan para amenazar, chantajear y difundir mensajes falsos.
Aunque parezcan inofensivos, los deepfake pueden ser usados para prácticas negativas y no solo las celebridades pueden ser víctima de ellos, sino cualquiera. Así que ahí te va una guía básica del tema.
¿Qué es deepfake?
El término se compone por “deep” de “deep learning” (o aprendizaje profundo) y “fake” que significa falso. Aunque normalmente hace referencia a videos, deepfake es cualquier material multimedia (videos, fotos, audios) que son aparentemente realistas, pero en realidad son falsos.
Un deepfake es creado a partir de material ya existente; sin embargo, es modificado con herramientas de redes neuronales (método de inteligencia artificial) para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Como mencionamos arriba, muchos deepfake son usados como entretenimiento. Ahí está la popular cuenta @deeptomcruise en TikTok que tal cual sube videos falsos de Tom Cruise utilizando un doble de cuerpo.
Existen cuentas parecidas con videos falsos de Keanu Reeves, Margot Robbie y Jason Statham. Y sí, de vistazo se ven muuuuy realistas, pero tras unos segundos tu cerebro empieza a cuestionarlos.
También hay quienes demuestran sus grande habilidades para “mejorar” series y películas y luego terminan trabajando en Lucasfilm.
Sin embargo, aquí nos enfocamos en el lado oscuro de los deepfake y para eso en Animal MX platicamos con Eduardo Chavarro, especialista en Respuesta a Incidentes del Equipo Global de Respuesta a Emergencias en Kaspersky.
Nos recuerda que lejos del entretenimiento, “hay ocasiones en las que se busca cambiar el discurso de las personas, utilizarlos como chantaje, o hasta como fraude”, explica.
Tipos de deepfake y la amenaza que representan
Así es como existen distintos tipos de deepfake dependiendo de con qué fin se crea. Tristemente, el más antiguo y común de todos es el fake porn o deepfake pornográfico.
“Consiste básciamente en tomar un producto multimedia pornográfico y poner el rostro de cualquier persona allí, por supuesto afectando a la persona de distintas formas”, explica Eduardo Chavarro.
Recientemente tuvimos el caso de Rosalía y la periodista Johanna Villalobos, quienes reclamaron que fotografías que publicaron en Instagram fueron manipuladas para crear porno falso.
Aunque las celebridades son el mayor blanco de este tipo de videos, también le puede pasar a cualquier persona y en este caso muchas veces es para chantajearlas con dinero para no publicar el video.
La empresa Kaspersky también pone como otro tipo los deepfake enfocados a fraude financiero. Tal cual consiste en crear videos o audios falsos de celebridades, políticos o empresarios para robar dinero a las personas.
Uno de esos casos es cómo se usó un deepfake de Elon Musk para promocionar un negocio de criptimonedas falso. El contenido se volvió viral y muchas personas perdieron su dinero.
Igualmente están los deepfake enfocados a estafas empresariales, generando material falso de altos empresarios o directivos para atacar empresas mediante extorsión, chantaje o hasta espionaje industrial.
¿Cómo identificar un deepfake?
Eduardo Chavarro de Kaspersky nos explica que junto con el avance de la IA y la tecnología, cada vez es más difícil de identificar un deepfake.
Quizás antes los movimientos y voces se sentían robotizadas y torpes, pero cada vez son más fluidas. También la calidad de estos videos sigue aumentando.
Su principal recomendación es revisar la fuente de información. Por ejemplo, si te llegara un video de Tom Holland diciendo que se retira de la actuación, pero no lo ves en sus redes sociales oficiales ni lo traen medios de confianza, entonces cuestiónate si es real o se trata de un deepfake.
Sin embargo, nos da un par de consejos más técnicos. El primero es analizar el mensaje; “muchas veces conocemos cómo hablan las personas”, entonces sugiere clavarnos en lo qué y cómo se están diciendo las cosas.
También sugiere “prestar atención a los detalles como los difuminados alrededor de las caras”. Y es que a veces la unión entre el cuello y el rostro o las orejas es medio difuso o la piel cambia de tono.
Chris Ume, creador de los deepfake de Tom Cruise, da en este video otras recomendaciones de cómo identificar un deepfake que nos parecen valiosas. Por ejemplo, revisar que los ojos estén alineados, pues puede que en algún momento no vean hacia el mismo lado (se vean bizcos).
Ume también menciona que el perfil de las personas también es un punto débil de los deepfake, deformando la nariz/barbilla.
Te dejamos otros consejos de nuestras amix de El Sabueso para identificar imágenes creadas con inteligencia artificial.
¿Cómo evitar ser víctima de deepfake?
Es alarmante, pero repetimos: cualquiera puede ser víctima de deepfake; sin embargo pareciera que todo es cuestión de suerte.
Eduardo Chavarro está consiente de que lo ideal sería no subir fotos/videos a redes sociales, pero tomando en cuenta lo acostumbradas que estamos a ellas, sabe que eso es imposible.
Sin embargo, considera que hay estrategias que nos pueden ayudar a intentar que nuestra información no quede tan expuesta.
Entre las sugerencias están crear perfiles privados, ser más selectivos con cuántas fotos/videos que subimos (no subir toooodo lo que hacemos), compartir exclusivamente con las personas que nos interesa (como los Close Friends), “y por supuesto, estar atento a qué se dice de nostros o ver si hay algún intento de suplantación”.
¿Perder la chamba por la IA? Los peligros y ventajas (¡sí hay!) de usar esta tecnología en el mercado laboral
¿Y si descubro que soy víctima de deep fake?
Si de todas formas alguien usó alguna imagen o video tuyo para crear un deepfake, Eduardo Chavarro nos dice que “es muy importante no silenciarnos frente a este tipo de actividades” y recomienda que lo primero es hacer un reporte.
Primero, en la red o plataforma donde se publicó y se está masificando. “Reportar que es un contenido falso y reportar a quienes la están originando para que se produzcan los bloqueos en la plataforma”.
Comenta que de alguna u otra forma, esos reportes “bloquean el contenido y empiezan a identificar quiénes lo están produciendo para que cuando se produzca una investigación mucho más amplia, ya tengan los recursos de denuncia que puedan sumarse a la investigación”.
Igualmente notifica a tus conocidos para que también denuncien y el contenido se bloquee más rápido.
También si ves que alguien de tus amix está compartiendo un deepfake como algo real, señálale que es falso para así evitar propagar la desinformación y que se genere el reporte.
Relacionado
Aunque estas palabras estén incluidas en el diccionario de la Real Academia Española, eso no significa que pertenezcan a la norma culta.
Si necesitas saber lo que es una azotehuela, parrillar, un pósnet, rapear, un sérum, tutti frutti o yuyu, desde diciembre pasado lo puedes consultar en el Diccionario de la Lengua Española de la Real Academia y de la Asociación de Academias de Lengua Española.
Más sorprendente puede ser descubrir que también están en el diccionario palabras como “almóndiga”, “toballa” o “murciégalo”.
Desde que existe una versión electrónica del DLE (como se conoce el diccionario), cada año se publican nuevas incorporaciones. En 2024, se llegó a la actualización 23.8 o, lo que es lo mismo, la octava actualización de la vigésima tercera edición, publicada en 2014.
Estas actualizaciones afectan tanto a nuevas palabras, como a la incorporación o revisión de acepciones, etimologías… sin que haya un número exacto estipulado. En la última edición supuso más de cuatro mil novedades (entre incorporaciones, modificaciones y supresiones); el número de entradas en el diccionario asciende a 94 mil.
Cómo se decide cuáles entran y cuáles no
El Diccionario de la Lengua Española es un diccionario de uso: para determinar si un término está asentado y podría incorporarse, existen bancos de datos que proporcionan sus datos exactos, como es el caso del CORPES XXI. Esto permite hacerse una idea de si está extendido el término.
En ese caso, al comprobar que una voz está suficientemente implantada al aparecer en el corpus con un número significativo de casos, ya sea en una zona geográfica, o en un estilo concreto, se incluye en el diccionario. Pero no siempre lo más documentado es lo más culto.
La Real Academia justifica la inclusión de los términos con el siguiente criterio de uso:
“El diccionario es una herramienta para entender el significado de las palabras y expresiones que se emplean en textos actuales y antiguos de las numerosas áreas hispanohablantes y de los distintos registros”.
¿Por qué, entonces, pueden preguntarse los lectores, no se incluyen neologismos como “juernes” (voz coloquial usada en España procedente de un cruce entre jueves y viernes, en la que se aplica al día jueves la característica del viernes de ser víspera de festivo) o “brillibrilli” (objeto con un brillo especial)?
De nuevo, lo amplio de su uso es el criterio esgrimido por la Academia:
“Trata el diccionario de recoger exclusivamente las palabras y acepciones de nueva creación que se consideran extendidas y asentadas en el uso de los hablantes. De ahí que muchos neologismos de creación muy reciente no generalizados deban esperar para poder incorporarse al diccionario”.
Vulgarismos en el DLE
Lo que más suele llamar la atención de las voces registradas en el diccionario son aquellas vulgares o coloquiales, entendiendo por estas los usos ajenos a la norma culta, porque puede parecer que no son adecuadas a este tipo de obras.
El hecho de ser un diccionario de uso hace que en él tengan cabida voces que son incorrectas o se consideran “vulgarismos”. Pero incluirse en el diccionario no significa que deje de ser vulgar: es importante distinguir entre “estar incluido en el diccionario” (cualquier voz que aparezca en él) y “pertenecer a la norma culta” (uso perteneciente a un estilo cuidado).
Abreviaturas, como vulg. (vulgar) o coloq. (coloquial) nos informan del estilo al que corresponde su uso.
Muchos de los vulgarismos incluidos se mantienen porque fueron incluidos en el pasado:
“En general, solo se pueden encontrar en el diccionario algunos de los vulgarismos que se incluyeron en siglos pasados y que hoy, como mucho, siguen usándose en niveles de lengua bajos. Así, almóndiga entró en la primera edición del diccionario (en 1726), donde ya se consideraba una variante corrupta y sin fundamento de albóndiga”.
Otros, en cambio, son más recientes, como la palabra “conchudo”, que se introdujo en 1992 con esta definición: “2. adj. coloq. Am. Sinvergüenza, caradura”.
Cómo saber si es una palabra vulgar o incorrecta
Por esta razón, la entrada para almóndiga es la siguiente:
almóndiga 1. f. desus. albóndiga. U. c. vulg. .
Se marca que es femenino (f.), pero también vulgar (vulg.) y en desuso (desus.), es decir, no pertenece a la norma culta, la misma indicación hecha en el Diccionario panhispánico de dudas:
“No debe usarse la forma almóndiga, propia del habla popular de algunas zonas”.
Aun así, tanto ha corrido el rumor de que estaba “admitido”, que la RAE se pronunció al respecto para aclarar que ni se ha incluido en el diccionario en época reciente, ni pertenece al lenguaje culto.
Por su parte, la palabra “cocreta” nunca se ha integrado en los diccionarios académicos, salvo en el Diccionario panhispánico, aunque advirtiendo de que “Es errónea la forma cocreta, usada a veces en la lengua popular”.
Tampoco ha estado en los diccionarios académicos fragoneta, que no está documentada en el CORPES XXI.
Otro ejemplo interesante es murciégalo, forma que “entró ya en 1734 como variante válida e incluso preferida de murciélago (…) y fue solo en ediciones posteriores cuando adquirió la marca de vulgar y desusada, según fue cayendo en desuso en la lengua culta general”.
Algo similar ocurrió con asín, también vulgar, de la edición de 1770 o toballa, en desuso.
Almóndiga, murciégalo, toballa o asín están en el diccionario aunque no pertenecen a la norma culta. Tampoco lo están brillibrilli o juernes, por no hallarse todavía suficientemente documentados. Si algún día se incluyeran, probablemente lo harían como coloquialismos, por lo que no pertenecerían a la norma culta, es decir, no estarán aceptados, aunque estén registrados.
*Amalia Pedrero González es profesora titular de lengua española de la Universidad CEU San Pablo, España.
Este artículo fue publicado en The Converation y reproducido aquí bajo la licencia Creative Commons. Haz clic aquí para leer la versión original.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
