Le PDG d’Anthropic appelle l’industrie de l’IA à ralentir

ISTANBUL (AA)

Le PDG d’Anthropic, Dario Amodei, a appelé samedi les entreprises spécialisées dans l’intelligence artificielle (IA) à réduire le rythme du développement de l’IA, alors que les inquiétudes concernant les risques potentiels de cette technologie continuent de croître.

Dans un essai publié samedi, Amodei s’est dit préoccupé par la capacité des humains à conserver le contrôle de modèles d’IA capables de s’améliorer eux-mêmes. Il a également cité comme autre motif d’inquiétude un incident récent au cours duquel des agents d’IA ont mené de manière autonome des cyberattaques.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », a écrit Amodei. « Les progrès sembleront toujours rapides, et nous devons faire bon usage du temps que nous gagnons. »

« L’IA comporte des risques et, parce qu’il s’agit d’une technologie si puissante, ces risques sont sérieux… Ils comprennent le risque de perdre le contrôle des systèmes d’IA, l’utilisation abusive de l’IA pour mener des cyberattaques et des actes de bioterrorisme, ainsi que de graves perturbations économiques. Une course vers le bas, alimentée par les incitations commerciales, peut accentuer ces risques », a-t-il ajouté.

Plus tôt cette semaine, un chercheur d’Anthropic a annoncé son départ de l’entreprise en raison de préoccupations concernant le fait qu’Anthropic et ses concurrentes ne développaient pas les systèmes d’IA de manière responsable.

Jacob Coxon, qui avait également travaillé chez le concurrent d’Anthropic, OpenAI, a déclaré que les entreprises semblaient donner la priorité à la concurrence entre elles plutôt qu’à la garantie de la sécurité de leurs produits d’IA.

*Traduit de l’anglais par Ayse Bashoruz