Dans une décision sans précédent, un tribunal britannique a interdit à un homme d’utiliser des outils d’intelligence artificielle générative pendant cinq ans.
Alors que la possession ou la consultation d’images pédopornographiques est sanctionnée dans de nombreux pays, la question se pose lorsque les enfants représentés ne sont pas réels mais des personnages fictifs créés par des IA génératives. Un tribunal britannique a tranché pour la première fois en interdisant à un homme d’utiliser ces outils sans autorisation policière, selon le Guardian.
Anthony Dover, 48 ans, s’est vu interdire l’utilisation de ces outils numériques dans le cadre d’une ordonnance judiciaire visant à prévenir les infractions pédocriminelles. Il a été reconnu coupable de la création de plus d’un millier d’images mettant en scène des enfants dans des situations sexualisées, en utilisant l’IA générative.
Le tribunal de Poole, en Angleterre, lui a également infligé une amende de 200 £ et lui a interdit spécifiquement d’utiliser le logiciel open source « Stable Diffusion », souvent détourné pour créer du contenu pédopornographique et des deepfakes à caractère sexuel.
En plus des images pédopornographiques, ce logiciel a été utilisé pour créer des deepfakes sexuels de célébrités. Le gouvernement britannique s’apprête à interdire la création de deepfakes sexuellement explicites par une loi spécifique, avec des peines pouvant aller jusqu’à la prison.
Les lois existantes au Royaume-Uni pour lutter contre la détention d’images pédopornographiques ont également été utilisées pour condamner ceux qui créent des photomontages via des logiciels de retouche.
Des associations de vigilance en ligne ont salué la décision du tribunal, soulignant que les logiciels d’IA générative sont capables de produire des images choquantes. L’Internet Watch Foundation (IWF) a qualifié cette décision d' »historique » et a mis en garde contre la montée des détournements d’IA pour créer des images toujours plus réalistes et troublantes.