Ya sabíamos que Grok de xAI estaba bombardeando a X con imágenes sexuales no consensuadas de personas reales. Pero ahora hay algunas cifras para poner las cosas en perspectiva. Durante un período de 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, incluidas unas 23.000 de niños.
Dicho de otra manera, Grok generó aproximadamente 190 imágenes sexualizadas por minuto durante ese período de 11 días. Entre ellos, creó una imagen sexualizada de niños una vez cada 41 segundos.
El jueves, el Centro para la Lucha contra el Odio Digital (CCDH) publicó sus hallazgos. La organización británica sin fines de lucro basó sus hallazgos en una muestra aleatoria de 20.000 imágenes de Grok del 29 de diciembre al 9 de enero. Luego, el CCDH extrapoló una estimación más amplia basada en los 4,6 millones de imágenes que Grok generó durante ese período.
La investigación definió imágenes sexualizadas como aquellas con “representaciones fotorrealistas de una persona en posiciones, ángulos o situaciones sexuales; una persona en ropa interior, traje de baño o ropa similar reveladora; o imágenes que representan fluidos sexuales”. El CCDH no tuvo en cuenta las indicaciones de imágenes, por lo que la estimación no diferencia entre versiones sexualizadas no consensuadas de fotos reales y aquellas generadas exclusivamente a partir de una indicación de texto.
El CCDH utilizó una herramienta de inteligencia artificial para identificar la proporción de las imágenes muestreadas que estaban sexualizadas. Eso puede justificar cierto grado de cautela en los hallazgos. Sin embargo, me han dicho que muchos servicios de análisis de terceros para X tienen datos confiables porque utilizan la API de la plataforma.
El 9 de enero, xAI restringió la capacidad de Grok para editar imágenes existentes a usuarios pagos. (Eso no resolvió el problema; simplemente lo convirtió en una característica premium). Cinco días después, X restringió la capacidad de Grok para desnudar digitalmente a personas reales.
WASHINGTON, DC – 23 DE JUNIO: El director ejecutivo de Google, Sundar Pichai (izq.), y el director ejecutivo de Apple, Tim Cook (der.), escuchan mientras el presidente estadounidense, Joe Biden, habla durante una mesa redonda con líderes empresariales estadounidenses e indios en el Salón Este de la Casa Blanca el 23 de junio de 2023 en Washington, DC. Biden y el primer ministro indio, Narendra Modi, celebraron la reunión para reunirse con una variedad de líderes del mundo tecnológico y empresarial y discutir temas que incluyen la innovación y la inteligencia artificial. (Foto de Anna Moneymaker/Getty Images) (Anna Moneymaker vía Getty Images)
Pero esa restricción sólo se aplicaba a X; la aplicación Grok independiente según se informa continúa generando estas imágenes. Dado que Apple y Google alojan las aplicaciones (que sus políticas prohíben explícitamente), es de esperar que las eliminen de sus tiendas. Bueno, en ese caso, estarías equivocado.
Hasta ahora, Apple de Tim Cook y Google de Sundar Pichai no han eliminado Grok de sus tiendas, a diferencia de aplicaciones similares de otros desarrolladores. Las empresas tampoco tomaron ninguna medida sobre X mientras producía las imágenes. Esto a pesar de que 28 grupos de mujeres (y otras organizaciones sin fines de lucro de defensa progresista) publicaron una carta abierta pidiendo a las empresas que actuaran.
Las empresas no han respondido a múltiples solicitudes de comentarios de Engadget. Que yo sepa, no han reconocido el problema públicamente en ningún formato, ni han respondido a preguntas de otros medios de comunicación.
Grok – Listados de App Store y Play Store (Apple/Google)
Los hallazgos de la investigación sobre imágenes sexualizadas incluyeron numerosos resultados de personas usando bikinis transparentes o microbikinis. El CCDH se refirió a uno de “un trabajador de la salud uniformado con fluidos blancos visibles entre sus piernas abiertas”. Otros incluyeron mujeres que usaban sólo hilo dental, Saran Wrap o cinta transparente. Uno mostraba a Ebba Busch, viceprimera ministra de Suecia, “llevando un bikini con líquido blanco en la cabeza”.
Otras figuras públicas formaban parte de ese grupo. Incluyen a Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown y Kamala Harris.
Los ejemplos de niños incluyen a alguien que usa Grok para editar la “selfie antes de la escuela” de un niño en una imagen de ella en bikini. Otra imagen mostraba a “seis niñas vestidas con microbikinis”. La CCDH dijo que, al 15 de enero, ambas publicaciones todavía estaban activas en X.
En total, el 29 por ciento de las imágenes sexualizadas de niños identificadas en la muestra todavía eran accesibles en X al 15 de enero. La investigación encontró que incluso después de que se eliminaron las publicaciones, las imágenes seguían siendo accesibles a través de sus URL directas.
Puede lea el informe de la CCDH para más detalles sobre los resultados y la metodología. Actualizaremos esta historia si recibimos una respuesta de Apple o Google.
