Des chercheurs de la start-up de cybersécurité Hacktron AI sont parvenus à compromettre le compte ChatGPT d’un employé d’OpenAI en utilisant Claude, le modèle d’intelligence artificielle développé par Anthropic. Ils ont ensuite réussi à accéder à l’environnement GitHub interne d’OpenAI et à y créer une demande de modification de code afin de démontrer la vulnérabilité.
L’opération reposait sur une chaîne de failles, notamment au niveau du système de traitement des images du logiciel Discourse, utilisé pour héberger le forum communautaire d’OpenAI. Les chercheurs se sont appuyés sur Claude pour les aider à exploiter cette vulnérabilité et à progresser jusqu’aux environnements internes de l’entreprise.
Une faille signalée dans le cadre du programme de sécurité
Cette opération ne relevait pas d’une attaque criminelle. Hacktron AI indique avoir mené ses recherches dans le cadre du programme de récompenses d’OpenAI, avant de transmettre les vulnérabilités identifiées à l’entreprise.
OpenAI a ensuite corrigé les failles concernées et versé une récompense de 6 500 dollars aux chercheurs pour leur découverte.
Cette découverte intervient alors qu’Anthropic a récemment publié un rapport consacré à plusieurs opérations malveillantes dans lesquelles Claude aurait été utilisé. L’entreprise affirme avoir détecté et interrompu ces activités. Ces affaires illustrent les nouveaux enjeux de cybersécurité liés à des modèles d’intelligence artificielle capables d’assister des opérations techniques complexes.
