OpenAI, Anthropic et Google envisagent de créer un organisme professionnel dédié aux standards de sécurité de l’intelligence artificielle, selon des informations rapportées par The Information. Le projet pourrait notamment établir des méthodes communes pour tester et évaluer les modèles d’IA avancés avant leur déploiement.
Cette initiative intervient alors que les capacités des modèles progressent rapidement et que plusieurs dirigeants du secteur appellent à renforcer les précautions. OpenAI souhaite notamment encourager la création de standards définis par l’industrie et collaborer avec d’autres laboratoires spécialisés afin d’établir des règles communes.
L’organisme envisagé pourrait définir des références partagées pour mesurer les capacités des modèles, évaluer leurs risques et déterminer les situations dans lesquelles leur développement devrait être ralenti ou suspendu. OpenAI soutient également la mise en place de règles nationales obligatoires aux États-Unis.
Plusieurs incidents liés à des systèmes d’intelligence artificielle
Cette réflexion intervient après plusieurs incidents liés à des systèmes d’intelligence artificielle et alors que les entreprises renforcent leurs dispositifs de sécurité. OpenAI affirme notamment avoir ralenti certaines étapes du développement d’Astra afin de consolider ses protections.
Pour l’heure, la création de cet organisme n’est encore qu’à l’étude. S’il voit le jour, il pourrait toutefois contribuer à rapprocher les pratiques de sécurité des principaux acteurs de l’IA et à faire émerger des références communes pour l’évaluation des modèles les plus avancés.
