Puis, il a décidé de partir. “J’ai démissionné d’Anthropic aujourd’hui”, écrit-il sur X. Et la suite donne le ton: “Aucune des deux entreprises n’agit de manière responsable. Elles se précipitent vers une superintelligence auto-améliorante et jouent avec nos vies”.

Le message, publié exactement dans la nuit du 8 au 9 septembre, a rapidement dépassé le cercle des chercheurs et des spécialistes de l’IA. Plusieurs médias internationaux ont relayé ses déclarations. Coxon ne parle pas ici d’une technologie lointaine. Il parle d’un secteur dans lequel il vient lui-même de travailler, et dont il connaît les méthodes, les ambitions et les contraintes. Son inquiétude tient surtout à la vitesse de la course. Selon lui, les progrès ne ralentissent pas et les futurs systèmes pourraient devenir capables de “pirater n’importe quel système”, de transformer rapidement certains domaines et d’accumuler d’importantes ressources. Mais c’est une autre phrase qui a particulièrement marqué les esprits. “Les concepteurs de l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie”, affirme-t-il. Coxon assure que cette crainte existe chez certains dirigeants et chercheurs, même si elle serait davantage nuancée lorsqu’ils s’expriment publiquement. 

Pourquoi continuer, alors? C’est justement là que son récit se complique. Coxon ne place pas OpenAI et Anthropic exactement sur le même plan. Chez OpenAI, estime-t-il, les enjeux civilisationnels ne seraient pas suffisamment intégrés. Chez Anthropic, ils seraient au contraire bien compris, mais l’entreprise resterait prise dans une course où chacun redoute de laisser le premier rôle à son concurrent.

Coxon appelle donc les chercheurs à regarder de près ce qui les attend. “Voulez-vous lancer un entraînement de renforcement vers la superintelligence sans comprendre rigoureusement son esprit?”, leur demande-t-il en substance, avant de les inviter à ne pas simplement considérer que “cela arrivera de toute façon”.

Pour autant, réduire cette affaire à la peur d’un chercheur serait trop simple. Anthropic a elle-même publié le 9 septembre une analyse de plusieurs incidents observés lors d’évaluations de cybersécurité. Certains modèles avaient notamment obtenu un accès non autorisé à des systèmes tiers dans le cadre de tests. Rien qui permette de conclure à une IA incontrôlable, mais suffisamment pour rappeler que plus les modèles gagnent en autonomie, plus leur encadrement devient délicat.

Et c’est peut-être là que l’histoire de Coxon devient intéressante pour les entreprises. Le sujet n’est plus seulement de savoir ce que l’IA peut faire. Il faut aussi savoir ce qu’on accepte de lui laisser faire.

Derrière la course aux modèles toujours plus puissants se pose donc une question beaucoup plus terre à terre: qui garde la main lorsque la machine devient capable d’en faire davantage que ce que son concepteur avait prévu?

L’article Il a travaillé chez OpenAI et Anthropic. Il affirme que l’IA pourrait tous nous tuer d’ici la fin de la décennie est apparu en premier sur Managers.

Le ministère a également mis en avant la pertinence du thème choisi pour cette édition 2026, à savoir l’intelligence artificielle (IA) et l’investissement durable. Selon les propos rapportés, ce choix s’inscrit parfaitement dans un contexte de transformation accélérée où l’IA n’est plus perçue comme une simple promesse théorique, mais comme une réalité professionnelle concrète transformant en profondeur la compétitivité des entreprises et les processus de décision.

Dans cette perspective, il a affirmé que le débat ne portait plus sur la nécessité d’adopter l’IA, celle-ci étant considérée comme acquise, mais plutôt sur la vitesse de son intégration, les modalités de sa gouvernance et les stratégies à déployer. L’allocution a insisté sur la volonté de la Tunisie de ne pas rester spectatrice de cette révolution technologique, mais de s’affirmer comme un acteur engagé, appelé à accélérer ses efforts pour s’aligner sur les mutations mondiales.

Enfin, l’intervention a souligné l’importance de renforcer la coordination entre tous les acteurs concernés et d’intensifier les actions déjà entreprises. Pour conclure, le ministère a annoncé qu’il rencontrerait les membres du bureau de l’ATIC à l’issue des travaux afin de leur transmettre les recommandations et conclusions issues de cette journée de réflexion.

L’intelligence artificielle à l’épreuve de la confiance

Lors de la conférence, la chercheuse et experte en intelligence artificielle Nozha Boujemaa est intervenue autour d’un thème central pour l’avenir des technologies; l’émergence d’une “IA de confiance”.

Dans une allocution dense et structurée, elle a appelé à un changement de paradigme dans la manière d’évaluer et de gouverner les systèmes d’intelligence artificielle, en soulignant le passage d’une logique d’éthique déclarative à une exigence de responsabilité objectivable et mesurable. Selon elle, les approches traditionnelles de l’éthique de l’IA, souvent fondées sur des principes généraux et contextuels, atteignent aujourd’hui leurs limites. L’enjeu n’est plus seulement d’afficher de bonnes intentions, mais de démontrer concrètement la maîtrise des systèmes déployés. La responsabilité est ainsi redéfinie comme une “capacité de rendre compte”, impliquant une compréhension complète des mécanismes internes des modèles et une capacité à en justifier les comportements. Au cœur de son intervention, une distinction structurante.

A dire vrai, la performance ne doit pas être confondue avec la confiance. La performance renvoie à l’efficacité d’un modèle dans des conditions contrôlées: rapidité, précision, taux de réussite. La confiance, elle, désigne la robustesse du système, c’est-à-dire sa capacité à maintenir un niveau de qualité stable dans des environnements variés, changeants et parfois imprévisibles. Un modèle peut ainsi afficher d’excellentes performances en phase de test tout en devenant instable une fois confronté à des usages réels. C’est pourquoi, selon l’experte, la robustesse doit désormais être considérée comme un indicateur quantifiable de la fiabilité.

Quels sont les risques réels? 

L’intervention a également mis en lumière les risques business associés à une IA insuffisamment maîtrisée. Une défaillance non anticipée peut rapidement devenir un risque réputationnel majeur, avec un impact direct sur la confiance des clients et, in fine, sur la viabilité économique des organisations. Dans cette perspective, la régulation n’est plus présentée comme une contrainte administrative, mais comme un levier de sécurisation et de compétitivité.

Elle a notamment alerté sur les effets possibles sur la santé mentale, lorsque les systèmes numériques comblent des “vides informationnels” par des contenus inadaptés ou nocifs. Elle a également rappelé que l’IA joue un rôle croissant dans la formation de l’opinion publique, posant ainsi des questions directes de souveraineté démocratique. Dans ce cadre, l’humain doit conserver le “dernier mot” dans les décisions critiques.

D’ailleurs, les risques associés aux systèmes d’intelligence artificielle insuffisamment fiables font aujourd’hui l’objet de cadres d’évaluation spécifiques. Parmi les références les plus reconnues figure celui élaboré par le National Institute of Standards and Technology, agence relevant du département du Commerce des États-Unis. Ce référentiel propose une approche structurée de la gestion des risques liés à l’IA en identifiant trois niveaux d’impact potentiels : les atteintes pouvant affecter les personnes, les préjudices susceptibles de toucher les entreprises, ainsi que les conséquences pouvant perturber les écosystèmes économiques, sociaux ou environnementaux. Cette classification illustre l’élargissement des enjeux de l’intelligence artificielle, dont les effets dépassent désormais le cadre strictement technologique pour toucher l’ensemble de la société.

Tester et anticiper les vulnérabilités

Parmi les outils évoqués figure le “red teaming”, une pratique issue de la cybersécurité qui consiste à tester activement les failles, biais et comportements indésirables des modèles avant leur déploiement.

Cette approche vise à anticiper les dérives potentielles des systèmes d’IA générative, plutôt que de les corriger a posteriori, dans un contexte où les risques liés aux biais et aux usages détournés sont de plus en plus documentés.

Enfin, l’experte a présenté l’approche “Value by Design”, qui consiste à intégrer les valeurs éthiques, sociales et économiques dès la phase de conception des algorithmes, sous forme de contraintes structurantes.

En un seul mot d’ordre! Maîtriser le cycle de vie de l’IA. 

L’article La course au contrôle de l’IA est lancée: des risques désormais identifiés est apparu en premier sur Managers.