Cuando Daisy Dixon, profesora de la Universidad de Cardiff (Gales), supo que imágenes sexualizadas suyas en lencería o embarazada circulaban en la red social X, generadas por Grok, su herramienta de IA, se sintió «violentada en su intimidad».
«Es un secuestro digital de tu cuerpo», una «agresión» de una «misoginia extrema«, confió a la AFP esta docente de filosofía, de 36 años.
Activa en X e Instagram, donde realiza entre otras cosas labores de divulgación filosófica, Daisy Dixon descubrió en diciembre imágenes suyas generadas artificialmente en X. Algunos usuarios habían utilizado Grok para manipularlas a partir de unas pocas fotos que ella había publicado en las que aparecía con ropa deportiva.
«Fábrica de violaciones»
Las primeras imágenes creadas por la herramienta de inteligencia artificial (IA) de la plataforma de Elon Musk eran bastante inofensivas.
La manipulación consistía en un cambio de peinado o de maquillaje, cuenta Daisy Dixon. Pero luego «realmente degeneraron».
En particular, algunos usuarios pidieron a Grok que la mostrara en tanga, que le ensanchara las caderas o que le hiciera adoptar poses «más vulgares».
Y Grok obedecía y «generaba la imagen«, relata la profesora.
Daisy Dixon podía ver tanto las solicitudes como las imágenes creadas aparecer en su cuenta de X —donde tiene unos 34,000 seguidores—, ya que Grok las publica allí automáticamente.
Un usuario incluso llegó a pedir a Grok que la representara en una «fábrica de violaciones«, dice, aunque en ese caso extremo la herramienta no generó la imagen solicitada.
«Me sentí realmente violentada en mi intimidad, y también en peligro», subraya Daisy Dixon.
«Tuve ganas de esconderme«, aunque más tarde «la ira reemplazó al miedo».
Daisy Dixon dice haberse sentido particularmente impactada al ver que Grok había satisfecho la petición de un usuario de representarla embarazada, en bikini, con la alianza en el dedo.
Cuando quiso denunciar esa imagen en X, no encontró en la plataforma ningún medio para hacerlo.
Reino Unido acaba de endurecer su legislación frente a este tipo de comportamientos, penalizando tanto la creación como la solicitud de imágenes íntimas no consentidas.
Millones de imágenes
Según un estudio publicado el jueves por el Center for Countering Digital Hate, una ONG que denuncia con frecuencia las prácticas de X, Grok generó alrededor de tres millones de imágenes sexualizadas de mujeres y niños en un periodo de solo once días, a un promedio de 190 imágenes por minuto.
En un informe publicado este mes, Paul Bouchaud, investigador de la ONG parisina AI Forensics, señala también que, de 20,000 imágenes generadas por Grok, más de la mitad mostraban a personas «poco vestidas», casi todas mujeres.
Ante la indignación provocada por la proliferación de este tipo de imágenes, algunos países anunciaron este mes un bloqueo total de Grok.
La plataforma X dio marcha atrás y anunció a mediados de enero una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente en qué lugares está vigente dicha restricción.
Daisy Dixon afirma estar «en general satisfecha con los progresos realizados», pero considera que «esto nunca debería haber ocurrido».
Paul Bouchaud subraya, sin embargo, que Grok también dispone de un sitio web y de una aplicación capaces de generar imágenes de desnudos, con una opción para compartirlas.
