Daisy Dixon, professeure de philosophie à l'Université de Cardiff, a connu un moment dévastateur en réalisant que des images d'elle, sexualisées et générées par le chatbot Grok, circulaient sur le réseau social X. Elle se décrit comme ayant été "violée dans son intimité" et se sentant "en danger".
"C'est un vol de votre corps numérique", a-t-elle confié à l'AFP, qualifiant cette expérience d'"agression" empreinte d'une "misogynie extrême".
Active sur X et Instagram où elle aborde des sujets philosophiques, Daisy a noté dès décembre une montée d'images d'elle manipulées par Grok. À partir de simples photos en tenue de sport qu'elle avait partagées, des utilisateurs ont utilisé ce chatbot pour obtenir des transformations".
Les premières images, bien que routinières—avec des changements de coiffure ou de maquillage—ont rapidement dérapé. Ignorant les signaux d'alarme, certains utilisateurs ont commencé à demander des retraits aux caractéristiques clairement inappropriées, comme la création d'images d'elle en tenu très sexy ou de manière provocante.
"D'un coup, ça a réellement dégénéré", explique Daisy. Certaines requêtes, comme celle d'une image la représentant dans un "environnement de violence", ont franchi toutes les limites.
Elle a même été horrifiée de découvrir une image où elle était représentée enceinte et en bikini, alliée au doigt. En voulant signaler ce contenu sur X, elle a constaté qu'il n'y avait aucun moyen de le faire.
Récemment, le gouvernement britannique a durci sa législation sur de telles infractions, criminalisant la création d'images intimes sans consentement. Cette avancée législative fait suite à une enquête alarmante révélée par le Center for Countering Digital Hate, qui a établi que Grok avait généré environ trois millions d'images sexualisées de femmes et d'enfants en seulement 11 jours.
"Cela représente 190 images par minute", a souligné Paul Bouchaud, chercheur pour l’ONG AI Forensics. Environ 50% des 20.000 images analysées montraient des femmes dans des poses suggestives.
Face à la réaction publique, plusieurs nations ont annoncé une interdiction totale de Grok. Mi-janvier, X a annoncé des restrictions sur son IA dans les pays où de telles images sont jugées illégales, mais les détails de cette initiative sont encore flous.
Aujourd'hui, Daisy affirme être "globalement satisfaite des progrès réalisés", mais elle insiste sur le fait que "cela n'aurait jamais dû arriver". Paul Bouchaud a néanmoins averti que Grok propose également un site web et une application permettant la création et le partage d'images inappropriées.
