À 27 ans, Jacob Coxon vient de faire un choix peu banal dans une industrie où les chercheurs les plus recherchés sont plutôt encouragés à rester dans la course. Le 9 septembre, il a annoncé sa démission d’Anthropic et son départ définitif du secteur de l’intelligence artificielle. Son parcours donne immédiatement du poids à son avertissement. Pendant trois ans, il a travaillé dans la recherche en pré-entraînement chez OpenAI puis chez Anthropic. Il a notamment participé chez OpenAI au travail autour du system card de GPT-4o.
Puis, il a décidé de partir. “J’ai démissionné d’Anthropic aujourd’hui”, écrit-il sur X. Et la suite donne le ton: “Aucune des deux entreprises n’agit de manière responsable. Elles se précipitent vers une superintelligence auto-améliorante et jouent avec nos vies”.
Le message, publié exactement dans la nuit du 8 au 9 septembre, a rapidement dépassé le cercle des chercheurs et des spécialistes de l’IA. Plusieurs médias internationaux ont relayé ses déclarations. Coxon ne parle pas ici d’une technologie lointaine. Il parle d’un secteur dans lequel il vient lui-même de travailler, et dont il connaît les méthodes, les ambitions et les contraintes. Son inquiétude tient surtout à la vitesse de la course. Selon lui, les progrès ne ralentissent pas et les futurs systèmes pourraient devenir capables de “pirater n’importe quel système”, de transformer rapidement certains domaines et d’accumuler d’importantes ressources. Mais c’est une autre phrase qui a particulièrement marqué les esprits. “Les concepteurs de l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie”, affirme-t-il. Coxon assure que cette crainte existe chez certains dirigeants et chercheurs, même si elle serait davantage nuancée lorsqu’ils s’expriment publiquement.
Pourquoi continuer, alors? C’est justement là que son récit se complique. Coxon ne place pas OpenAI et Anthropic exactement sur le même plan. Chez OpenAI, estime-t-il, les enjeux civilisationnels ne seraient pas suffisamment intégrés. Chez Anthropic, ils seraient au contraire bien compris, mais l’entreprise resterait prise dans une course où chacun redoute de laisser le premier rôle à son concurrent.
Coxon appelle donc les chercheurs à regarder de près ce qui les attend. “Voulez-vous lancer un entraînement de renforcement vers la superintelligence sans comprendre rigoureusement son esprit?”, leur demande-t-il en substance, avant de les inviter à ne pas simplement considérer que “cela arrivera de toute façon”.
Pour autant, réduire cette affaire à la peur d’un chercheur serait trop simple. Anthropic a elle-même publié le 9 septembre une analyse de plusieurs incidents observés lors d’évaluations de cybersécurité. Certains modèles avaient notamment obtenu un accès non autorisé à des systèmes tiers dans le cadre de tests. Rien qui permette de conclure à une IA incontrôlable, mais suffisamment pour rappeler que plus les modèles gagnent en autonomie, plus leur encadrement devient délicat.
Et c’est peut-être là que l’histoire de Coxon devient intéressante pour les entreprises. Le sujet n’est plus seulement de savoir ce que l’IA peut faire. Il faut aussi savoir ce qu’on accepte de lui laisser faire.
Derrière la course aux modèles toujours plus puissants se pose donc une question beaucoup plus terre à terre: qui garde la main lorsque la machine devient capable d’en faire davantage que ce que son concepteur avait prévu?
