Grok: la inteligencia artificial señalada por sexualizar a mujeres, niñas, niños y adolescentes
En las últimas semanas ha aumentado el número de quejas de parte de gobiernos del mundo y usuarios de internet por las imágenes de menores y mujeres con poca ropa o en posiciones sexualmente explícitas que se han creado a través de Grok, la inteligencia artificial de X –antes Twitter.
En X han circulado órdenes de usuarios de la red social que le solicitan a Grok que le retire la ropa a niñas, niños, adolescentes y mujeres a partir de una imagen real de la persona. Incluso, en algunos casos la propia herramienta genera una fotografía sexualizada de la persona sin que un usuario lo haya pedido específicamente.
Esta situación provocó que existieran cuestionamientos sobre el uso ético de la inteligencia artificial y los riesgos asociados con la privacidad y la dignidad de las personas.
Grok es un asistente de inteligencia artificial desarrollado por la empresa xAI, de Elon Musk, integrado en la red social X. Destaca por su acceso en tiempo real a la información de la plataforma, además de que tiende a responder de una manera rebelde y humorística las peticiones de los usuarios, lo que lo ha hecho resaltar entre los demás chatbots.
Carlos Piña, doctor en sistemas computacionales, explica que este problema se inició en diciembre de 2025, cuando comenzaron a viralizarse imágenes de niñas, niños, adolescentes y mujeres con poca ropa fabricadas con inteligencia artificial en la red social X.
Sihara Raygoza, maestra en terapia familiar sistémica y coordinadora del área de investigación de la organización Te Protejo México, detalla que cada vez es más común que se vea en redes sociales este tipo de imágenes tan explícitas. No obstante, no califica a Grok como una herramienta ni buena ni mala, más bien no existen los filtros aún para utilizar la inteligencia artificial de manera responsable.
La polémica actualización de Grok
En agosto de 2025 se le realizaron una serie de actualizaciones a Grok, entre ellas se añadió el spicy mode “modo picante” de la plataforma, que cuando es activado por un usuario permite crear contenido visual explícito.
El sistema implementó cuatro modos predeterminados, entre los cuales se encuentra: personalizado, normal, divertido y picante.
Cuando el usuario selecciona el “modo picante” debe confirmar que es mayor de edad, después la inteligencia artificial puede generar imágenes o videos explícitos con una duración de hasta 15 segundos.
Carlos Piña resalta que, de este modo, el sistema no siempre requiere de instrucciones explícitas para producir desnudos.
“No siempre es necesario que el usuario pida explícitamente que quiere generar un desnudo, por ejemplo, si da la instrucción de que quiere editar una foto para que aparezca celebrando una fiesta, puede fabricar una imagen sexualizada o con contenido no deseado”, menciona Piña.
Las imágenes se viralizan en X
Carlos Piña explica a El Sabueso que Grok no es el único modelo de inteligencia artificial capaz de realizar este tipo de imágenes de manera tan explícita; sin embargo, el problema radica en que la plataforma creada por Elon Musk habita y convive directamente en X, una red social que tiene más de 550 millones de usuarios en todo el mundo.
“El hecho de que Grok habite en la plataforma X hizo que se potenciara y viralizara el problema, pues hay otros modelos de inteligencia artificial que también realizan este tipo de imágenes”, detalla el especialista.
Como Grok realiza imágenes de desnudos y estas se comparten directamente en X, rápidamente se viralizan y tienen un alcance muy amplio; pero no solamente eso, a través de las publicaciones en las que se presentan estos archivos se muestra cómo los usuarios le solicitan a la inteligencia artificial que fabrique este tipo de contenido.
El especialista asegura que la problemática se inició porque los propios usuarios comenzaron a solicitar ayuda a Grok para editar sus propias fotos con solicitudes como “en esta imagen ponme con bikini” o “colócame con poca ropa”. A raíz de esta tendencia, otros internautas lo replicaron, y lo peor, con fotografías de otras personas, entre ellas, niñas, niños, adolescentes y mujeres.
“Aquí el detalle es que al principio tuvo muchas influencias, principalmente de mujeres, que comenzaron a utilizar Grok para mejorar sus imágenes o ponerse ellas en bikini. Y de ahí el usuario común se dio cuenta de que puede poner a otra persona de manera no consensuada en bikini y exponerla, acción que se ha ejecutado mucho en menores de edad”.
Países denuncian sexualización de personas a través de Grok
En México, la Secretaría de las Mujeres se pronunció en contra de este modelo de inteligencia artificial por su uso en la manipulación y difusión de imágenes creadas con inteligencia artificial sin su consentimiento, por lo que hizo un llamado a las personas responsables de X para evitar que la red social se convierta en un espacio en el que se genera violencia de género.
En cuanto a Estados Unidos, un grupo de senadores envió una carta a Apple y Google solicitandoles que eliminen X y Grok de sus tiendas de aplicaciones por violar los términos de distribución.
La ministra de Tecnología de Reino Unido, Liz Kendall, destacó que no se trata de imágenes inofensivas, las calificó como ilegales y armas de abuso dirigidas hacia mujeres y niñas. Además, la ley de Uso y Acceso de Datos que se aprobó en 2025 en dicho país tipifica la creación o petición de generación de imágenes íntimas sin consentimiento como un delito penal.
Autoridades de Malasia advirtieron que tomarán acciones legales contra X y la empresa xAI, acusando a ambas compañías de no garantizar la seguridad de los usuarios al permitir la creación de este tipo de contenido.
Desde el 10 de enero las autoridades de Indonesia bloquearon de manera temporal el acceso a Grok en todo el país.
La Unión Europea (UE) advirtió que si Elon Musk no hacía algo rápido para arreglar las funciones de Grok aplicará la Ley de Servicios Digitales, un marco legal que establece normas para intermediarios digitales, con el fin de proteger a los usuarios, luchar contra lo ilegal, responsabilizar a las plataformas y aumentar la transparencia.
Otros países que también comenzaron con investigaciones en contra de Grok por la creación de imágenes íntimas no consensuadas son Francia, India y Brasil.
Limitan el uso de la generación de imágenes en Grok
Después de las múltiples denuncias en contra de Grok, el 9 de enero, X señaló que restringiría la herramienta de generación de imágenes a los suscriptores de pago; sin embargo, The Washington Post mencionó que la compañía estaba sacando provecho del problema en lugar de resolverlo.
Por lo anterior, días después X anunció que había implementado algunas medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis, restricción que se aplicaría a todos los usuarios, incluidos los suscriptores de pago.
Incluso Musk se pronunció y adelantó que habrá consecuencias para quienes intenten generar imágenes sexuales de menores y X anunció que eliminará el contenido ilegal y suspenderá las cuentas involucradas.
Pero la medida solamente aplica para cuando los usuarios solicitan las imágenes por medio de X a través de un tweet o en un comentario, pero si los usuarios acceden a Grok en su aplicación independiente o a su sitio web directo, todavía es posible crear imágenes explícitas.
“Aunque se impuso una restricción para generar estas imágenes en X, si un usuario ingresa al sitio web independiente de Grok o descarga la aplicación, esta función sigue estando disponible”, puntualiza el doctor en sistemas computacionales.
¿Esta medida combate el problema?
El doctor en sistemas computacionales explica que, aunque la medida puede mitigar hasta cierto punto la distribución masiva de imágenes a través de X, no se le puede dar el voto de confianza, pues los usuarios pueden encontrar la manera de “corromper” a este tipo de modelos de inteligencia artificial.
“A estos modelos no podemos darles el voto de confianza porque hay muchas maneras de quebrarlos o corromperlos, se puede jugar con la ‘inteligencia’ de Grok para que pueda seguir creando estas imágenes”, añade.
Para Carlos Piña existe una gran probabilidad de que los usuarios se sigan encontrando con imágenes explícitas en X, porque aunque ya no se pueden generar en la red social, se pueden fabricar desde la plataforma independiente de Grok y, posteriormente subirse a la plataforma antes llamada Twitter.
En conclusión, el especialista añade que existe una gran probabilidad de que, pese a las medidas implementadas por X, el problema no termine aquí, sino que con el tiempo se vaya magnificando y propagando incluso a otras plataformas de uso cotidiano.
“Tenemos que tomar en cuenta que, aunque se haya limitado la modalidad de Grok y su distribución en X, eso no significa que el problema se va a terminar, más bien se trata de la punta del iceberg”, afirma el especialista.
¿Qué se debe hacer en caso de encontrar en redes sociales este tipo de imágenes?
Sihara Raygoza asegura que esta problemática puede ser muy confusa para niñas, niños y adolescentes al tratarse posiblemente de su primera exposición temprana a temas de violencia, por lo que puede generar cuestionamientos en ellos acerca de qué es real, qué es ficticio y por qué se distribuye ese tipo de contenido.
“No todo lo que se genera con inteligencia artificial debería de circular libremente por la red, como sociedad sí tenemos la responsabilidad de ver, reportar y no normalizar este tipo de contenidos que vulneran los derechos de niñas, niños, adolescentes y mujeres”.
Por lo anterior, la especialista recomienda en primer lugar que todos los usuarios reporten este tipo de imágenes cuando las lleguen a encontrar en redes sociales haciendo uso de las herramientas de reporte de la propia plataforma como Facebook, Instagram, TikTok y X.
También se puede acudir directamente con autoridades como la Policía Cibernética o la Guardia Nacional para hacer el reporte. Incluso existen plataformas como Te Protejo México y StopNCII, sitios en donde los usuarios pueden denunciar este tipo de imágenes, pues la organización se encarga de erradicar el contenido de la web de todos los servidores.
La maestra en terapia familiar también sugiere que, en el caso de los niños, se les limite el uso de redes sociales al menos hasta que cumplan 13 años de edad, ya que es la recomendada para comenzar a utilizar estas plataformas, aunque los padres siempre deben de estar al pendiente de qué es lo que publican, comparten y consumen.
“Es necesario que los niños utilicen las redes sociales a una edad en donde ya tengan un poco más de conciencia sobre lo que implica usar este tipo de plataformas, pero deben tener siempre un acompañamiento parental, que los vaya guiando sobre cómo utilizar las plataformas de manera responsable”, recalca la especialista.
Añade también que antes de permitirles el uso de las redes sociales, los padres deben explicar a sus hijos sobre los peligros de usarlas, como en este caso, los riesgos de que su imagen sea violentada de alguna manera.
“Los padres deben de crear una estrategia y explicarles a qué se pueden enfrentar, qué pueden hacer, darles herramientas para decirles ‘si ves este tipo de contenido (imágenes íntimas) debes reportarlo y nunca compartirlo’”, sugiere Sihara Raygoza.
Relacionado
Se trata de uno de los incendios más agresivos de la década y se extendió por las regiones de Ñuble y Biobío en el sur de Chile.
Sandra Soto, de 62 años, no se quiso ir a dormir la noche del sábado 17 de enero.
Las llamas que se veían a lo lejos desde la casa que compartía con su pareja en la población Ríos de Chile, localidad de Lirquén, región del Biobío, la tenían inquieta.
Estaba sola y algo le decía que las cosas se iban a complicar y que no era seguro quedarse en el bloque de dos pisos en el que vivía.
Decidió llamar a un taxi para irse a la casa de sus padres.
Cuando volvió a la mañana siguiente para buscar su uniforme de trabajo se encontró sólo con escombros.
“Nosotros quedamos en la calle, todo se desintegró”, le dice a BBC Mundo.
La técnica en enfermería es una de las tantas personas que lo perdieron todo en el que se considera uno de los incendios más agresivos de la década en el país sudamericano, y que afecta las regiones de Ñuble y Biobío, en el sur de Chile.
Lirquén, en la comuna de Penco, es una de las zonas más afectadas por los siniestros que ya han alcanzado 34.000 hectáreas.
El gobierno de Chile decretó estado de catástrofe y siguen los esfuerzos por extinguir los focos activos, mientras el país se viste de luto ante una tragedia que ya cuenta 20 muertos y decenas de heridos, desaparecidos y damnificados.
“No importa que lo hayamos perdido todo, estamos con vida”
No todos corrieron la suerte de Sandra en la población en la que vive.
La mujer explica que, al volver a su casa la mañana del domingo, se enteró del verdadero infierno que vivieron sus vecinos y familiares, quienes optaron por quedarse protegiendo sus enseres mientras las llamas se acercaban cada vez más.
“Al subir para acá yo no podía creer cómo quedó todo. Vimos cómo sacaban los cuerpos”, relata.
“Aquí detrás de nuestra casa un matrimonio se quemó completo. Al frente otros vecinos muertos. Entonces, es muy grave”, agrega.
En varios momentos de la conversación, Sandra se quiebra.
Dice que lo más fuerte para ella fue el temor que sintió por la vida de su familia.
Antes de irse en taxi donde sus padres, pasó a despertar a su hermana Marlenne Soto, de 56 años, quien vive en la misma población con sus hijos y su nieta.
Intentó convencerla de que evacuaran, pero ella no quiso dejar su casa. Tampoco su cuñada. “Yo les decía que arrancaran, pero ellas pensaron que estaba exagerando”, recuerda.
“Les decía ‘por favor, vengan conmigo’. Pero me decían que no, que no era para tanto”.
Pasaron varias horas antes de que Sandra pudiera confirmar que su hermana estaba viva y que su cuñada también había sido evacuada del lugar.
Dice que nunca se va a olvidar de lo que sintió cuando se reencontró con Marlenne.
“Menos mal que salieron, porque muchos no quisieron salir por cuidar sus cosas y ahora están muertos. La casa de mi hermana quedó hecha carbón”, sostiene.
“No todos querían hacer caso de arrancar, dejar todos sus bienes, su esfuerzo, su sacrificio. Nosotros nos endeudamos para tener una cama, una tele, yo sigo endeudada. Ahora no sé qué va a pasar con nosotros”.
Sandra afirma que, hasta ahora, no ha recibido ayuda directa de ninguna autoridad.
Este lunes se quedará a pasar la noche junto a su pareja, Jorge Moya, en uno de los tantos albergues que se han habilitado para las víctimas de los incendios.
Para ella la prioridad es resolver, aunque sea de manera provisoria, la situación de vivienda de las miles de personas que quedaron en la calle.
“Porque yo me pregunto, ¿dónde van a ir a vivir los que no tienen ningún apoyo? ¿Qué va a ser de ellos?, si no tienen una red”, plantea.
Sandra recalca que “lo importante es que el mismo gobierno se ponga la mano bien en el corazón y actúe de forma rápida y oportuna. Porque esto de verdad es algo muy complejo”.
“Ahora imagínese si yo estoy de allegada en la casa de la mamá de mi pareja, qué va a ser de mí…porque claro, yo voy a tener un pancito, un cafecito, pero dónde voy a dormir, dónde me voy a duchar, dónde me voy a lavar, dónde voy a calentar agua. Qué voy a hacer, uno no se puede organizar porque es un caos el que uno tiene en la cabeza. ¿Por dónde empiezo? De verdad, por dónde empiezo”.
“Mi papá falleció en el incendio, falleció acostadito, con mi perrita”
Matías Arriagada se ha convertido en una de las caras más tristes de la tragedia en la localidad de Lirquén.
Estaba trabajando en la región de Rancagua durante el fin de semana cuando las alertas sobre la gravedad de los incendios en la zona se intensificaron.
Al no poder contactar con su familia, utilizó sus redes sociales para saber si alguien había tenido novedades sobre sus padres.
Horas después, subió un video a Instagram para contar que su papá, Pedro Arriagada, murió consumido por las llamas.
“Me acabo de enterar, mi papá falleció en el incendio, falleció acostadito con mi perrita, se quemó toda la hueá, porfa, necesito que la mayor cantidad de gente, a nivel país, se reúna y ayude a toda la gente de ahí, por favor, se los pido”, relató en el video.
“Yo más encima voy manejando, me quedan hartas horas todavía, necesito llegar y saber cómo está mi mamá, ya me informaron que mi papá fue consumido por las llamas”, dijo.
El video se viralizó ampliamente en redes sociales y en medios locales, ante lo que el joven inició una campaña para recaudar fondos e ir en ayuda de otras víctimas de los incendios.
“Por fa, mi gente, porfa, yo no soy influencer ni nada, pero necesito que la mayor parte del país se junte y colabore y ayude a la gente que lo está pasando pésimo, yo soy uno de ellos, pero toda la gente lo está pasando muy mal en Lirquén, Penco, todos los alrededores, por favor, necesitamos ayuda, tanto material, agua, ropa y gente que vaya a cooperar, a ayudar”.
“Era prácticamente como una zona de guerra”
De acuerdo a las autoridades, la comuna de Penco es la más golpeada.
Ahí es donde se concentra el mayor número de muertos, cifra que podría seguir aumentando conforme se realicen las labores de localización e identificación de los cuerpos.
Patricio Valenzuela, vendedor de 47 años, relató lo que vivió al evacuar su vivenda en esa zona.
“Fuego, humo y todo negro. La gente corría desesperada, algunos gritaban. Era prácticamente como una zona de guerra. Y eso que estábamos en la parte baja. Yo no tenía idea de que mientras yo estaba abajo, esto (la parte alta) se estaba quemando”, le dijo a la agencia de noticias AFP.
Matías Cid, estudiante de ingeniería de 25 años, también habló con AFP: “A las 2:30 de la madrugada el fuego estaba fuera de control. Había remolinos, consumió las casas de la población de abajo y después se propagó hacia arriba. Ya no había forma de quedarse”.
Y añadió: “El humo era muy tóxico. Salimos solo con la ropa que llevábamos puesta, con nada más. Tuvimos muy poco contacto con otros vecinos y logramos evacuar rápido, porque creo que si nos hubiéramos quedado 20 minutos más, habríamos muerto calcinados”.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
