De nouvelles poursuites judiciaires visent X au sujet de l’usage présumé de Grok pour générer des images sexuelles impliquant des mineures, d’après Ars Technica. L’affaire la plus marquante citée par le média concerne un homme accusé d’avoir utilisé l’outil pour produire environ 7 000 images visant sa belle-fille mineure, avant de se suicider. Les plaintes s’inscrivent dans une série de recours plus larges mettant en cause la capacité de la plateforme à prévenir ce type d’abus.
Selon les éléments rapportés, les plaignantes reprochent à X et à xAI de ne pas avoir mis en place des protections suffisantes contre la génération de contenus assimilables à des abus sexuels sur mineurs. Ars Technica indique aussi que les entreprises sont accusées d’avoir insuffisamment signalé certains contenus aux autorités compétentes. Le dossier mentionne notamment qu’un seul signalement aurait été effectué dans un cas précis, malgré la gravité alléguée des requêtes.
Au-delà de ce cas, les poursuites décrivent un risque systémique lié aux modèles génératifs lorsqu’ils sont accessibles à grande échelle sans contrôles robustes. Les critiques portent à la fois sur la modération des prompts, la détection des contenus produits et les procédures d’alerte. À ce stade, les informations disponibles dans la source ne détaillent pas l’ensemble des arguments de défense éventuels de X ou de xAI.
Cette affaire pourrait accentuer la pression réglementaire et judiciaire sur les acteurs de l’IA générative. Elle illustre surtout un point de tension devenu central pour le secteur: la responsabilité des plateformes lorsque leurs outils sont détournés à des fins criminelles. En l’absence de davantage d’éléments publics, l’issue judiciaire et l’ampleur exacte des manquements allégués restent à confirmer.