Royaume-Uni : Le régulateur britannique enquête sur X après la création de « deepfakes » sexuels par l'IA Grok
- L'Ofcom évoque des « rapports profondément préoccupants » selon lesquels le chatbot de la plateforme aurait été utilisé pour générer des « images sexualisées d'enfants »
Greater London
AA / Londres / Aysu Bicer
L'Ofcom, le régulateur britannique de la sécurité en ligne, a ouvert lundi une enquête formelle visant X, l'entreprise de réseaux sociaux américaine du milliardaire Elon Musk, en raison des inquiétudes liées à l'utilisation de son outil d'intelligence artificielle (IA), Grok, pour créer des images à caractère sexuel.
Cette décision fait suite à des rapports indiquant que Grok, le chatbot d'IA intégré à X, a été utilisé pour générer et partager des images de personnes dénudées ainsi que des images sexualisées d'enfants.
L'Ofcom a précisé que de tels contenus pourraient constituer des abus d'images intimes non consensuelles, de la pornographie ou du matériel pédopornographique, autant de pratiques illégales au Royaume-Uni.
Dans un communiqué, l'Ofcom a déclaré lundi que « des rapports profondément préoccupants signalent que le compte du chatbot d'IA Grok sur X a été utilisé pour créer et diffuser des images de personnes dénudées, ce qui pourrait relever de l'abus d'images intimes ou de la pornographie, ainsi que des images sexualisées d'enfants pouvant constituer du matériel pédopornographique. »
L'Ofcom a indiqué avoir contacté la société X en urgence le 5 janvier, fixant une échéance au 9 janvier pour que l'entreprise explique les mesures prises afin de protéger les utilisateurs au Royaume-Uni.
L'entreprise a répondu dans les délais impartis, après quoi le régulateur a procédé à ce qu'il qualifie d'« évaluation accélérée » des preuves disponibles. À l'issue de cet examen initial, l'Ofcom a décidé de porter l'affaire au stade de l'enquête formelle.
Le régulateur examinera si X a manqué à plusieurs obligations clés en vertu de la loi sur la sécurité en ligne (Online Safety Act). Il s'agira notamment de déterminer si la plateforme a correctement évalué le risque que les utilisateurs britanniques soient exposés à des contenus illégaux, et si elle a procédé à des évaluations de risques actualisées avant d'apporter des modifications significatives à ses services.
* Traduit de l'anglais par Mariem Njeh
Seulement une partie des dépêches, que l'Agence Anadolu diffuse à ses abonnés via le Système de Diffusion interne (HAS), est diffusée sur le site de l'AA, de manière résumée. Contactez-nous s'il vous plaît pour vous abonner.
