L’affaire impliquant Grok sur le sujet des deepfake non consensuels connaît une suite de remous. Alors que les contenus signalés incluent des images sexuelles de personnes réelles, parfois mineures, Apple et Google sont désormais directement interpellés pour leur inaction. Que se passe-t-il au pays des réseaux sociaux ?
Sommaire :
L’affaire Grok : une mise en cause directe des App Stores
Mercredi, une coalition de 28 associations de défense des droits a adressé des lettres ouvertes à Tim Cook et Sundar Pichai. Pour en mentionner quelques-unes, vous avez Ultraviolet, ParentsTogether Action ou encore la National Organization for Women. Cette armada demande alors le retrait immédiat de Grok et de l’application X des App Store et Play Store.
Les groupes estiment qu’Apple et Google ne se contentent pas de tolérer la diffusion de contenus illicites. Ils croient qu’ils en tirent un bénéfice indirect en maintenant ces applications sur leurs plateformes. Les lettres rappellent que les règles internes des deux entreprises interdisent explicitement les applications qui :
- Facilitent la production ou la diffusion de contenus sexuels non consensuels (NCII) ;
- Facilitent la production ou la diffusion de matériel pédopornographique (CSAM).
Pourtant, aucune mesure satisfaisante n’a été annoncée à ce jour. En effet, X a déjà publié un message : « Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis ». Néanmoins, les responsables n’ont pas répondu aux sollicitations de la presse spécialisée.
VOIR AUSSI : Grok génère des contenus sexuels bien plus explicites que sur X
Des réponses jugées insuffisantes et déjà des retraits dans quelques pays
Grok a reconnu publiquement un incident impliquant des images sexualisées de mineures, admettant une défaillance de ses garde-fous. En réaction, X a limité la génération d’images aux abonnés payants et empêché leur publication automatique sur les fils publics. Toutefois, des usages problématiques resteraient possibles pour les comptes gratuits. Les critiques sur l’efficacité réelle de ces correctifs fusent.
Alors qu’Apple et Google tardent à agir, plusieurs États ont déjà pris des décisions fermes. La Malaisie et l’Indonésie ont interdit Grok. Le Royaume-Uni et la Californie ont ouvert des enquêtes officielles. Aux États-Unis, le Sénat a de nouveau adopté le Defiance Act, renforçant les recours civils pour les victimes.
Cette divergence met en lumière une question centrale. Jusqu’où les acteurs technologiques peuvent-ils se retrancher derrière la neutralité de leurs plateformes face aux dérives de l’IA générative ?
IdealoGeek est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
