Microsoft lance un cadre de sécurité de l’IA destiné aux jeunes

ISTANBUL (AA)

Microsoft a dévoilé jeudi son « Safe Participation Framework », un nouveau cadre destiné à renforcer la protection des enfants et des adolescents en ligne à l’ère de l’intelligence artificielle (IA).

« Les enfants et les familles ne devraient pas avoir à choisir entre les protections dont ils ont besoin et les opportunités offertes par la technologie », a déclaré le géant technologique américain dans un communiqué.

Le cadre repose sur trois piliers : la sécurité dès la conception, des expériences adaptées à l’âge des utilisateurs, ainsi que l’éducation et l’autonomisation.

Microsoft explique que l’approche fondée sur la sécurité dès la conception vise à intégrer les mesures de protection dès les premières étapes du développement des produits.

Elle consiste notamment à identifier les risques prévisibles, à évaluer les effets des fonctionnalités et à mettre en place des dispositifs de protection proportionnés aux risques identifiés.

Dans le cadre des mesures liées à l’âge, tous les utilisateurs doivent désormais se connecter pour utiliser l’assistant d’intelligence artificielle Copilot de Microsoft.

Son accès est également restreint aux enfants de moins de 13 ans, ou à un âge supérieur lorsque la législation locale l’exige.

L’entreprise indique avoir également mis en place des mesures visant à limiter l’exposition des utilisateurs aux contenus préjudiciables, à les orienter vers des ressources d’aide en cas de détection de risques d’automutilation et à favoriser un usage plus sain des technologies, notamment grâce à des rappels de pause, des outils de signalement et des protections contre les réponses susceptibles d’alimenter des idées délirantes.

Le moteur de recherche Bing a, de son côté, renforcé ses protections contre les contenus pédocriminels dans ses services d’IA générative et étendu à l’échelle mondiale sa fonctionnalité SafeSearch afin de couvrir davantage de catégories de contenus préjudiciables, selon le communiqué.

Microsoft a par ailleurs présenté l’interface de programmation d’applications (API) Windows Age, qui fournit aux développeurs des informations sur l’âge des utilisateurs tout en préservant leur vie privée.

L’objectif est de leur permettre de proposer des expériences adaptées à l’âge sans collecter ni partager des données personnelles qui ne seraient pas nécessaires.

Soulignant que la technologie ne peut à elle seule garantir une participation sûre au monde numérique, Microsoft a indiqué vouloir renforcer au cours de l’année à venir sa coopération avec les chercheurs, les instituts spécialisés dans la sécurité de l’IA, les gouvernements et les organisations de la société civile.

*Traduit de l'anglais par Sanaa Amir