04.08.2023 Enquête de la BBC sur l’Intelligence Artificielle et le commerce illégal d’images d’abus sexuels d’enfants
(https://www.bbc.com/afrique/monde-66123523)(..)
Le logiciel d’IA “Stable Diffusion”permet de décrire, à l’aide de mots, n’importe quelle image qu’ils souhaitent, et le programme crée alors l’image.

Il est cependant utilisé pour créer des images réalistes notamment de viols de bébés.
(..)
Ian Critchley, resp. de la protection de l’enfance au sein du Conseil national des chefs de police (NPCC),declare qu’il serait erroné de prétendre que personne n’a été lésé parce qu’aucun enfant réel n’est représenté sur ces images.

Selon lui, un pédo. peut “progresser de la pensée à des images d’IA, jusqu’à l’abus d’un enfant réel”.

Les images d’abus sont partagées en 3 étapes :

-Les pédo créent des images à l’aide de l’IA
-Ils font la promotion d’images sur des plateformes comme le site web japonais de partage d’images Pixiv
-Ces comptes comportent des liens qui dirigent vers de vraies images, que les gens peuvent payer, via Patreon, pour voir

Pixiv est principalement utilisée par des artistes partageant des mangas et des animes.

Comme le site est hébergé au Japon, où le partage de dessins animés sexualisés et de dessins d’enfants n’est pas illégal, les créateurs l’utilisent pour promouvoir leur travail dans des groupes et via des hashtags(..)

Le 31.5, Pixiv a déclaré avoir interdit toutes les représentations photoréalistes pédoporn.
(..)
Néanmoins,des utilisateurs produisent de la pédoporn.à échelle industrielle.
(..)
De nombreux comptes sur Pixiv incluent dans leur bio des liens renvoyant à ce qu’ils appellent leur “contenu non censuré” sur le site de partage de contenu Patreon, basé aux USA.

Patreon est évalué à environ 4 milliards de $ et revendique plus de 250 000 créateurs. La plupart sont des comptes appartenant à des célébrités, des journalistes et des écrivains.

Les fans peuvent les soutenir en souscrivant des abo. mensuels pour accéder à des blogs, des podcasts, des vidéos et des images – dès 3,85 $/mois.

Cependant,des comptes proposent à la vente des images pédoporn. générées par l’IA et photoréalistes, avec différents niveaux de prix en fonction du type de matériel.

L’un d’eux écrit sur son compte : “Venez voir mes filles soumises”.(..)

Patreon déclare avoir une politique de “tolérance zéro” mais l’augm. des contenus nuisibles générés par IA est réelle et angoissante. Nous supprimons une quantité croissante de contenus(..)

Le générateur d’images d’IA Stable Diffusion est le fruit d’une collab. mondiale entre des universitaires et des entreprises privée, menée par société britannique Stability AI.
(..)
En 2022, une version “open source” a été rendue déployée, permettant aux utilisateurs de supprimer tous les filtres et d’entraîner le logiciel à produire n’importe quelle image, y compris des images illégales.

Stability AI déclare qu’elle “interdit toute utilisation abusive à des fins illégales ou immorales sur nos plateformes,nos politiques sont claires sur le fait que cela inclut la pédoporn.”
(..)
Ian Critchley, du NPCC, déclaré qu’il craint que l’afflux d’images d’IA réalistes ne ralentisse l’identification des véritables victimes d’abus.
(..)
“La vitesse à laquelle ces techno. émergentes ont été adoptées par les abuseurs est stupéfiante mais pas surprenante, car les entreprises qui étaient averties des dangers sont restées les bras croisés en prononçant des platitudes vides sur la sécu.”,déclare Anna Edmundson du NSPCC.(..)

Un porte-parole du gouvernement britannique déclare: “Le projet de loi (https://t.me/pedocriminalitetchat/24001) sur la sécu en ligne obligera les entreprises à prendre des mesures proactives pour lutter contre toutes formes d’abus pédosexuels en ligne, y compris le grooming, le live-streaming, la pédoporn., sous peine de se voir infliger de lourdes amendes.

Source

(https://www.bbc.com/afrique/monde-66123523)