L’App Store héberge des générateurs d’images sexuelles, malgré ses propres règles
117 millions de dollars pour des images dénudées générées par IA : Apple est aussi dans la boucle.
L’essor de l’intelligence artificielle générative a logiquement entraîné l’apparition de nouvelles pratiques, parfois problématiques. L’un des cas les plus récents concerne la production d’images modifiées à partir de visages réels, dans des contextes sensibles.
À titre d’exemple, début janvier, l’IA Grok d’Elon Musk avait été mise en cause après avoir généré des images sexuelles représentant des personnes bien identifiables, dont certaines mineures. Trois sénateurs américains avaient alors exigé son retrait immédiat de l’App Store, dénonçant une absence de garde-fous.
Un nouveau rapport du Tech Transparency Project révèle désormais que des applications disponibles sur l’App Store permettent elles aussi de générer des images dénudées à partir de simples portraits.
Des applis de deepfake sexuel dans l’App Store
Le rapport répertorie 47 apps iOS capables de produire ce type d’images en quelques clics. Contrairement à Grok, qui avait été détournée de son objectif initial, ces outils sont pensés dès le départ pour obtenir des résultats à caractère sexuel. Certaines applications mettent en avant dès leur ouverture des effets destinés à simuler le déshabillage ou à accentuer des parties du corps, laissant peu de doute sur leur objectif. D’autres optent pour des descriptions plus vagues, sans pour autant masquer la nature réelle des contenus proposés.
Des revenus qui posent question
Selon AppMagic, ces applications auraient été téléchargées plus de 700 millions de fois dans le monde et généré près de 117 millions de dollars. Apple perçoit une part sur chaque transaction, ce qui soulève une question de responsabilité, d’autant que ces contenus violent a priori ses propres règles internes. En effet, l’une des applications pointées dans le rapport affichait encore récemment une classification “9+”, malgré la nature explicite des images qu’elle permettait d’obtenir.
Les tests réalisés par le Tech Transparency Project s’appuient uniquement sur des visages générés par IA, afin d’éviter toute exploitation réelle. La majorité des applications fournissent des résultats sans blocage, même en cas de requêtes clairement sexuelles. Apple explique filtrer chaque app via un contrôle automatisé, renforcé par une vérification humaine. Les données montrent par ailleurs que ce double filtre reste insuffisant pour stopper ces dérives.
