La UE abre una investigación contra la red social X por desnudos generados con su IA Grok
La Comisión Europea anunció este lunes una nueva investigación contra la red social X, propiedad de Elon Musk, por las imágenes de menores y mujeres desnudas generadas por Grok, su asistente de inteligencia artificial.
Europa no “tolerará comportamientos insensatos” de las plataformas digitales, como “las imágenes falsas de desnudos de mujeres y niños”, afirmó la presidenta de la Comisión Europea, Ursula von der Leyen, en declaraciones a AFP.
“Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas para que los vulneren y los moneticen“, aseguró la jefa del Ejecutivo europeo.
Von der Leyen agregó que aunque ya existen medidas de protección, “debemos hacer más para proteger a los ciudadanos, tanto en línea como fuera de línea”.
Esta nueva investigación tiene por objeto verificar si X (antes Twitter), ha infringido las estrictas normas europeas sobre el entorno digital, que le obligan a proteger a los usuarios de contenidos ilegales.
El Ejecutivo comunitario decidió además ampliar el alcance de una primera investigación abierta en diciembre de 2023 contra X, también en el marco de su legislación sobre servicios digitales, la Ley de Servicios Digitales (DSA).
Grok tiene una función que permite a los usuarios crear imágenes falsas de desnudos a partir de fotografías reales de menores de edad o de mujeres.
Varios países, entre ellos Francia y el Reino Unido, han iniciado procedimientos legales y algunos incluso han suspendido o bloqueado el acceso a X.
Tras limitar inicialmente el acceso a esta función, la red anunció a mediados de enero que solo restringiría su uso en los países donde es ilegal crear este tipo de imágenes sexuales.
Millones de imágenes sexualizadas
Según un estudio publicado por el Center for Countering Digital Hate, una oenegé que denuncia las prácticas de X, Grok generó cerca de tres millones de imágenes sexualizadas de mujeres y niños en un periodo de solo 11 días, una media de 190 imágenes por minuto.
Otro análisis, realizado por AI Forensics, mostró que más de la mitad de las más de 20 mil imágenes generadas por Grok representan a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.
En paralelo a la investigación anunciada este lunes, la Comisión Europea decidió ampliar la que había abierto en 2023 contra X, que ya derivó en una multa de 120 millones de euros (142 millones de dólares) para la red social.
Este mismo lunes, la UE también anunció que el sistema de mensajería Whatsapp (de propiedad de la gigante Meta) pasaría a ser objeto de mayores controles a raíz de su tamaño.
De acuerdo con la UE, la sección de Canales de Whatsapp superó los 45 millones de usuarios al mes, y por eso la empresa pasa a ser objeto de controles reforzados sobre mitigación de riesgos, protección de la libertad de expresión y bloqueo a la desinformación.
Whatsapp tiene ahora hasta el mes de mayo para ajustarse a las nuevas exigencias.
Antes de irte: ¿Qué significa que el algoritmo de X será de código abierto?
Con este nuevo procedimiento contra X y los controles sobre Whatsapp, los europeos se arriesgan a provocar nuevas represalias del presidente estadounidense, Donald Trump, que acusa a Bruselas de atacar a los gigantes tecnológicos estadounidenses.
En diciembre, la administración estadounidense impuso sanciones al excomisario Thierry Breton, artífice de la DSA, así como a otras cuatro personas implicadas en la regulación del sector tecnológico y la lucha contra la desinformación.
Relacionado
Donald Trump dijo que el organismo será “una de las organizaciones más relevantes jamás creadas”. Pero hasta el momento no se sabe con certeza cómo o dónde funcionará.
“El Estatuto ha entrado en vigor y la Junta de Paz ya es una organización internacional oficial”.
Así se anunció la creación del organismo establecido por Donald Trump que, según él mismo, será “una de las organizaciones más relevantes jamás creadas” y de la cual se siente “honrado” de ser su presidente.
“Está funcionando maravillosamente… casi todos los países quieren ser parte de ella”, declaró Trump en la ceremonia de firmas organizada por el presidente estadounidense en Davos, Suiza, durante el Foro Económico Mundial.
Durante la ceremonia, en la que estaban presentes los “miembros fundadores”, incluidos el presidente argentino Javier Millei, el primer ministro húngaro, Viktor Orban, el primer ministro de Pakistán, Shehbaz Sharif, o el presidente de Paraguay, Santiago Peña, Trump elogió sus propias acciones en el frente internacional afirmando que las amenazas a Europa, Estados Unidos y Medio Oriente “realmente se están calmando”.
“Están sucediendo muchas cosas buenas”, señaló. “Hace apenas un año, el mundo estaba en llamas; mucha gente no lo sabía”.
Y agregó que con la Junta de la Paz, “podremos hacer prácticamente lo que queramos”.
Qué es la Junta de Paz
La Junta de Paz de Trump se concibió inicialmente para ayudar a poner fin a la guerra de dos años entre Israel y Hamás en Gaza y supervisar la reconstrucción de la Franja.
Sin embargo, una propuesta de estatuto filtró a los medios no mencionaba el territorio palestino y sugería que la organización podría estar diseñada para reemplazar las funciones de las Naciones Unidas.
Pero durante la ceremonia de firmas Trump señaló que la Junta “trabajará en colaboración con las Naciones Unidas”.
A pesar de sus reiteradas críticas al organismo internacional, el presidente dijo que la ONU tiene un “enorme potencial” y afirmó que la combinación de los esfuerzos de la Junta de la Paz y la ONU es “algo único en el mundo” y “el primer paso hacia un futuro mejor para Medio Oriente”.
Dentro del marco de la Junta de Paz se incluye una “Junta Ejecutiva de Gaza”, que será responsable de supervisar todo el trabajo sobre el terreno de un grupo administrativo de Gaza, según la Casa Blanca.
Arabia Saudita indicó previamente que un grupo de países de mayoría musulmana -Arabia Saudita, Turquía, Egipto, Jordania, Indonesia, Pakistán y Qatar- respaldaba el objetivo de consolidar un alto el fuego permanente en Gaza, apoyar la reconstrucción y avanzar en lo que describieron como una “paz justa y duradera”.
Durante la ceremonia en Davos el secretario de Estado estadounidense, Marco Rubio, presentó la Junta de Paz como una “Junta de Acción”.
Afirmó que, si bien la atención se centra actualmente en Gaza, la junta “servirá como ejemplo de lo que es posible en otras partes del mundo”.
También en la ceremonia, Jared Kushner, el yerno del presidente Trump, subió al escenario para presentar el proyecto para una “reurbanización” de Gaza, y mostró diapositivas de cómo podría ser la “Nueva Gaza” bajo los planes estadounidenses.
Las diapositivas mostraban imágenes de rascacielos futuristas junto al mar en la actual Franja de Gaza, con promesas de un “turismo costero” en el futuro.
Lo que se sabe hasta ahora sobre la Junta de Paz
Durante la ceremonia de firma no se dieron más datos sobre cómo o dónde funcionará el organismo creado por Trump.
Pero en el documento filtrado se dice que la Junta es una organización internacional con el mandato de llevar a cabo funciones de consolidación de la paz según el derecho internacional.
Y también establece que una persona -su presidente- tiene el poder de vetar decisiones, aprobar la agenda, invitar a los miembros, disolver la junta por completo y designar a su propio sucesor.
El estatuto filtrado establece que el organismo entrará en vigor una vez que tres Estados acuerden formalmente su adhesión.
Los Estados miembros tendrían mandatos renovables de tres años y se otorgarían puestos permanentes a quienes contribuyeran con US$1.000 millones, según el documento.
Donald Trump es nombrado presidente —y, por separado, representante de EE.UU.— y tiene autoridad para nombrar a los miembros de la junta ejecutiva y crear o disolver órganos subsidiarios.
La Casa Blanca nombró hace unos días a siete miembros del Comité Ejecutivo fundador de la Junta, entre ellos el secretario de Estado estadounidense, Marco Rubio; el presidente del Banco Mundial, Ajay Banga; el enviado a Medio Oriente, Steve Witkoff; el yerno de Trump, Jared Kushner, y el exprimer ministro británico Tony Blair.
Quiénes forman parte de la Junta de Paz
En la ceremonia de firmas de la Junta estuvieron presentes los líderes y representantes de 19 países, incluidos Argentina, Paraguay, Indonesia, Jordania, Kazajstán, Marruecos, Qatar, Arabia Saudita, Emiratos Árabes Unidos y Turquía.
Un país estuvo notablemente ausente de la ceremonia: Israel, a pesar de que anunció su adhesión al organismo.
El presidente israelí Isaac Herzog se encuentra en Davos, pero un portavoz confirmó que no participaría en la ceremonia, sin dar más detalles.
No está claro cuántos países han sido invitados a unirse al nuevo organismo de Trump. Reino Unido fue invitado pero la ministra de Relaciones Exteriores Yvette Cooper indicó que aún no ha decidido firmar debido a preocupaciones por la participación del presidente ruso, Vladimir Putin.
Otros de los aliados tradicionales de Estados Unidos, como Francia y otras naciones europeas, no han aceptado hasta ahora unirse a la Junta.
Trump afirmó antes de la ceremonia de Davos que Vladimir Putin “había aceptado” una invitación para formar parte del organismo.
El jueves, la agencia estatal de noticias rusa TASS, informó que Putin está dispuesto a transferir los US$1.000 millones en activos rusos a la Junta.
Previamente se había informado que los fondos para la participación de Putin en la Junta podrían provenir de activos rusos congelados en EE.UU.
China, por su parte, confirmó que había sido invitada a unirse, pero aún no ha manifestado su disposición a participar y se dijo que había expresado serias dudas sobre el organismo, en particular por el papel de la ONU.
“China siempre ha practicado el verdadero multilateralismo. Independientemente de cómo cambie la situación internacional, China defiende firmemente el sistema internacional centrado en la ONU”, declaró el portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, a la prensa en Pekín esta semana.
Los medios estatales chinos fueron un poco más críticos y cuestionaron si la Junta estaba “realmente a favor de la paz”, a la vez que plantearon la preocupación de que el presidente estadounidense estuviera creando un “club privado o una junta directiva corporativa con un costo de mil millones de dólares”.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Trump asegura haber negociado con el jefe de la OTAN un “marco para un futuro acuerdo” sobre Groenlandia y retira la amenaza de aranceles
- “El mundo está en medio de una ruptura, no de una transición”: el contundente mensaje del primer ministro de Canadá en Davos
- “Es vergonzoso”: el gobernador de California dice que los líderes europeos se comportan de forma “patética” frente a Trump y deben enfrentarse a él
