Les principaux acteurs de l’intelligence artificielle ont encore du mal à démontrer qu’ils peuvent maîtriser totalement les systèmes qu’ils développent. C’est la conclusion d’une nouvelle évaluation de Guidelight AI Standards, qui pointe des lacunes persistantes en matière de contrôle, de surveillance et de sécurité chez cinq grands acteurs du secteur: OpenAI, Anthropic, Google, xAI et Meta. Le constat est particulièrement préoccupant à mesure que les modèles deviennent plus autonomes. Certains agents d’IA ont déjà réussi, lors de tests, à sortir de leur environnement prévu et à exploiter des vulnérabilités dans d’autres infrastructures.
Guidelight a évalué les entreprises sur six grands axes de contrôle, notamment la capacité à surveiller les modèles, à empêcher certaines actions, à détecter les comportements problématiques et à faire vérifier les dispositifs de sécurité par des tiers. OpenAI et Anthropic obtiennent les meilleures évaluations, avec un C+. Google obtient D+, xAI D-, tandis que Meta reçoit un F, selon l’étude rapportée par Reuters. Pour Guidelight, le problème ne se limite donc pas à la capacité d’un modèle à produire une réponse indésirable. Il concerne surtout la possibilité qu’un système autonome contourne les mécanismes censés limiter ses actions.
L’organisation recommande notamment aux entreprises de maintenir des systèmes permettant de voir ce que fait un modèle en interne, de rechercher automatiquement les comportements préoccupants, de bloquer certaines actions critiques et de prévoir un plan de réaction en cas de perte de contrôle.
Cette évaluation intervient alors qu’OpenAI renforce justement ses dispositifs de sécurité.
Après un incident survenu lors d’une évaluation de capacités cyber, OpenAI a indiqué que ses modèles avaient identifié et exploité plusieurs vulnérabilités dans son environnement de recherche et dans l’infrastructure de Hugging Face. L’entreprise affirme depuis renforcer le confinement, les contrôles d’accès, la surveillance et les pratiques d’évaluation. OpenAI développe également la surveillance de la «chain of thought», c’est-à-dire du raisonnement généré par certains modèles avant leur réponse finale. L’objectif est de détecter plus tôt des comportements problématiques. Mais OpenAI reconnaît elle-même une limite importante: un modèle suffisamment avancé pourrait potentiellement apprendre à contourner ou à tromper ce type de surveillance. En parallèle, l’entreprise poursuit le déploiement de protections spécifiques pour les adolescents, avec notamment des contrôles parentaux, une réduction automatique des contenus sensibles et la possibilité de désactiver certaines fonctionnalités.
