Apple retire une application IA générant des contenus pornographiques
Apple assure avoir supprimé l’application corrigeant le problème. La pomme va devoir lutter pour que cela n’arrive plus.
L’arrivée de l’IA a permis de créer sans limites, forcément ce nouveau terrain de jeu a été utilisé pour des productions intéressantes, et d’autres, complètement illégales et immorales. C’est le cas de l’application Kromix, disponible sur l’App Store il y a encore quelques jours.
L’application proposait aux utilisateurs d’utiliser une IA générative pour « dénuder » des personnes et créer des scènes de sexe entre des personnalités publiques. Une enquête de Wired a démontré que cette IA avait été mise en avant dans des publicités sur les plateformes de Meta. La publicité a depuis été supprimée.
Réagissant à l’enquête de Wired, un porte-parole d’Apple explique :
« Nous avons toujours strictement interdit les applications conçues pour générer, diffuser ou consulter du contenu pornographique. Les applications qui dénudent enfreignent nos règles de validation des applications et nous mettons tout en œuvre pour identifier et supprimer les applications, ainsi que les comptes de développeurs qui les gèrent et qui tentent de contourner nos procédures et nos politiques. »
Le retrait de l’application Kromix est une victoire pour Apple et les utilisateurs, mais malheureusement, ce n’est qu’une bataille dans une guerre qui paraît sans fin. Des applications de génération d’IA sont ajoutées tous les jours dans l’App Store.
Apple assure contrôler les applications créées, mais l’émergence de l’IA a fait exploser leur nombre. Si beaucoup sont bloquées avant même d’arriver sur l’App Store, certaines arrivent à passer entre les mailles du filet.
Une pratique amorale et illégale
Récemment, nous vous en parlions dans cet article, c’était un professeur d’université, David Chiu pour le nommer, qui avait adressé une lettre ouverte à Apple et Google. Il demandait aux deux géants du numérique de supprimer 8 applications centrées sur le même principe : dénuder des personnes à leur insu à l’aide de l’IA. Une pratique complètement amorale, mais aussi illégale.
Le droit français est très clair sur ce point. Utiliser l’IA pour générer « un montage à caractère sexuel réalisé avec l’image d’une personne sans son consentement » est puni d’un an d’emprisonnement et 15 000 euros d’amende pour un usage hors ligne (non partage ou partage direct avec un tiers). Cela peut monter à 2 ans de prison et 45 000 € d’amende en cas de diffusion en ligne de ce contenu. En cas de contenus pédopornographiques, la loi prévoit une circonstance aggravante, faisant monter la sanction à 7 ans d’emprisonnement et 100 000 € d’amende.
