AA / Bruxelles / Melike Pala

La Commission européenne a exhorté vendredi les plateformes de réseaux sociaux à empêcher la création de contenus illégaux, après une polémique provoquée par l’utilisation du chatbot Grok, intégré à la plateforme américaine X d’Elon Musk, pour générer des images sexuelles non consensuelles créées par intelligence artificielle, visant des femmes et des mineurs.

Lors d’un point presse à la mi-journée à Bruxelles, le porte-parole de la Commission européenne, Thomas Regnier, a indiqué que l’attention de l’exécutif européen porte avant tout sur les systèmes des plateformes, et non sur le retrait de publications spécifiques.

« Abonnement payant ou non, nous ne voulons pas voir de telles images. C’est aussi simple que cela », a-t-il déclaré, en référence aux récentes modifications apportées par X, qui limitent la génération et l’édition d’images par Grok aux utilisateurs payants.

La Commission européenne ne demande pas la suppression de contenus précis, a-t-il insisté, mais vérifie que la conception des plateformes empêche la génération de contenus illégaux, notamment les images sexuelles non consenties visant des femmes ou impliquant des enfants.

« Lorsqu’un contenu est illégal, il appartient aux utilisateurs de le signaler à la plateforme, qui a ensuite l’obligation de le retirer. Nous ne demandons jamais à une plateforme de supprimer un contenu en particulier. Ce que nous demandons, c’est de s’assurer que la conception et les systèmes ne permettent pas la génération de tels contenus illégaux », a-t-il précisé.

« Nous ne voulons pas que les utilisateurs dans l’UE aient la possibilité de générer des contenus illégaux, de prendre des images non consenties de femmes pour en faire des images sexuelles, ou d’enfants », a-t-il ajouté.

Le 4 janvier, X a averti ses utilisateurs de ne pas utiliser Grok pour produire des contenus illégaux, y compris du matériel pédopornographique.

Elon Musk a également affirmé que toute personne demandant à l’IA de générer des contenus illégaux s’exposerait « aux mêmes conséquences » que si elle les téléversait elle-même.

La politique d’utilisation de la plateforme interdit de « représenter l’image de personnes de manière pornographique », mais des utilisateurs ont néanmoins eu recours à Grok pour dénuder numériquement des individus sans leur consentement.

*Traduit de l'anglais par Serap Dogansoy