« Ils jouent avec nos vies » : un chercheur d'Anthropic démissionne, et son équipe confirme
Chapeau : « Ils jouent avec nos vies », « gambling with our lives », « pourrait tous nous tuer d'ici la fin de la décennie ». Jacob Coxon, 27 ans, chercheur en pré-entraînement, a démissionné d'Anthropic et publié son raisonnement sur X — 34,7 millions de vues. Et le plus surprenant : le lead de l'équipe d'alignement d'Anthropic lui a répondu, publiquement, en confirmant le fond. L'événement est réel. Le chiffre, lui, mérite qu'on le regarde de près. On a passé la journée à séparer le fait de la prédiction.
Ce que disent les médias
Le Figaro, ce matin : « Ils jouent avec nos vies » : un chercheur d'Anthropic démissionne, inquiet d'une IA « hors de contrôle ». Le Wall Street Journal, NDTV, Forbes, Business Insider : la même histoire, « AI could kill us all by decade end », « Anthropic researcher quits over out-of-control AI fears ». Une phrase qui colle partout : « They are racing straight to self-improving superintelligence and gambling with our lives. »
Le récit est puissant : quelqu'un de l'intérieur, qui connaissait la machine, qui a décidé que la course était perdue, et qui a claqué la porte. C'est le genre d'histoire qui se partage parce qu'elle confirme une peur déjà là.
Le problème, comme d'habitude, c'est la frontière entre ce qui est vérifiable et ce qui est une prédiction. Et surtout : qui parle, vraiment.
Qui est Jacob Coxon
Mathématicien de formation, 27 ans, britannique. Il a passé « les trois dernières années » en pré-entraînement — l'étape qui fait apprendre un modèle à partir de grandes quantités de données, au cœur de la fabrique — chez OpenAI et Anthropic. Il a quitté les deux. Son annonce, publiée à minuit le 9 septembre :
« I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. »
Ce qui est vérifiable : son identité, son parcours, sa démission, le volume de vues (34,7 M), la citation exacte — tout ça est dans son propre post, donc ça existe.
Ce que dit l'intérieur, en fait
Ici, il faut arrêter de faire comme si c'était un blogueur isolé. Le compte qui lui répond — @EvanHub — c'est Evan Hubinger, qui dirige l'équipe de stress-test d'alignement chez Anthropic. C'est l'une des personnes qui, concrètement, mesure si le modèle se comporte bien en conditions réelles. Sa réponse, 10 M de vues :
« Jacob is correct here — we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. »
Deux heures plus tard, il nuance, et c'est la nuance la plus importante de toute l'affaire :
« To be clear, as we say in our latest Risk Report, I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought. »
Et ça, c'est un fait vérifiable de bout en bout : le Risk Report d'août 2026 existe, est public, et dit exactement ça. Le seuil d'amélioration récursive — que SiliconANGLE résume comme « un doublement du rythme de progrès au-delà des taux pré-accelération IA » — est, selon Anthropic, pas encore atteint. Et la société le dit elle-même avec moins de confiance que la fois précédente.
Le détail qui compte vraiment
C'est la tension entre ces deux phrases, toutes deux sorties de la même maison :
- Le Risk Report (document officiel, daté, mesurable) : le risque des modèles actuels est bas ; le seuil d'amélioration récursive n'est pas franchi.
- Le lead alignment (publique, sur X) : on croit sincèrement que ça pourrait tous nous tuer, >10 % dans la décennie, et on n'a pas encore de plan.
Ce n'est pas une contradiction — c'est une distinction entre « ce qu'on a en main aujourd'hui » et « ce qui pourrait en résulter si l'amélioration se résume elle-même ». L'affaire Hugging Face qu'on a passée au crible le mois dernier, c'est la première : un agent qui traverse des portes ouvertes, de l'échelle (17 600 actions en 108 h), pas de la malice. C'est un risque réel, mesurable, qu'on peut corriger. La superintelligence auto-améliorante, c'est la seconde : un horizon, pas un incident.
Et la phrase la plus utile du lot, pour des gens comme nous qui font tourner des choses en production, n'est même pas dans le post de Coxon. C'est celle où il décrit qui décide de lancer la course vers la superintelligence :
« Accepting this race and entering the "endgame" is a hubristic gamble that should not be launched from a private company's Slack. »
C'est un argument de gouvernance, pas une prédiction d'extinction. Et c'est le seul du fil qui se discute.
My take
La démission est un fait, et c'est un signal fort : quelqu'un de l'intérieur — et, pour la première fois, confirmé par le lead de l'équipe safety — trouve la trajectoire inacceptable. C'est newsworthy, et c'est humain. On ne va pas faire comme si une personne qui claqua la porte parce qu'elle a peur n'avait pas le droit d'avoir peur.
Le chiffre est plus honnête qu'on ne le dit d'habitude. « >10 % dans la décennie » est une probabilité, pas une phrase vide. C'est mieux que la « fin de l'année prochaine hors de contrôle » de Coxon. Mais ça reste une probabilité sur un horizon, pas un benchmark avec une date et un seuil. On ne peut pas la réfuter en 2027 : si ça n'arrive pas, on dira « chance statistique » ; si ça arrive, on dira « il avait raison ». C'est un pari, pas une mesure.
Et la vraie question — celle que Coxon pose lui-même : « S'ils y croient vraiment, alors pourquoi continuent-ils à le construire ? » — a une réponse dans le fil, et elle est honnête : « At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first. » Ce n'est plus une contradiction. C'est un aveu.
Ce que ça prouve, au fond, c'est que même à l'intérieur, on a désormais des chiffres et une admission qu'on n'a pas encore de plan. La distinction entre le risque réel (portes ouvertes, échelle, absence de garde-fous) et le risque horizon (amélioration récursive, superintelligence) n'est plus brouillée — elle est nommée. C'est mieux. Mais « on n'a pas encore de plan » est la phrase qu'on devrait retenir, pas « ils jouent avec nos vies ».
Le titre que ça aurait dû être
« Un chercheur quitte Anthropic, et le lead de son équipe d'alignement confirme publiquement qu'ils n'ont pas encore de plan pour l'alignement de la superintelligence » — pas « ils jouent avec nos vies ». Le premier est un fait, avec un document pour l'étayer. Le second est un jugement, porté par une personne, sur deux entreprises, sans date ni mesure.
Ce que tu peux vérifier de ton côté
- Le post d'origine de Jacob Coxon (@hilbertspaess), 34,7 M de vues, et sa suite de 7 messages.
- La réponse d'Evan Hubinger (@EvanHub) et sa nuance de 2 h plus tard, avec le lien vers le Risk Report.
- Le Risk Report d'août 2026 d'Anthropic (anthropic.com/aug-2026-risk-report) : le risque des modèles actuels est bas, le seuil d'amélioration récursive n'est pas encore atteint.
- Le rôle d'Evan Hubinger — head of alignment stress-testing chez Anthropic — confirmé par de multiples sources (Longterm Wiki, AlignmentForum).
- L'article Hugging Face de ce site : le risque « piratage » réel des agents est l'exploitation de vulnérabilités existantes, pas une intention.
- La définition de la superintelligence — elle n'est jamais définie dans le fil. Personne ne dit quelle capacité, sur quel benchmark.
Vérifiable / non vérifiable
- Vérifiable : la démission, l'identité et le parcours de Coxon (3 ans, OpenAI + Anthropic), les 34,7 M de vues, la réponse d'Hubinger (10 M) et son rôle, le Risk Report d'août 2026, la phrase « >10 % dans la décennie », la phrase « on n'a pas encore de plan », le point « risque des modèles actuels bas / seuil RSI non atteint ».
- Non vérifiable : « gambling with our lives », « pourrait tous nous tuer d'ici la fin de la décennie » (un horizon, pas un benchmark), « capables de pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain » (aucun seuil, aucune mesure), et la définition même de la superintelligence utilisée — jamais précisée.
Version 30 secondes
- Un chercheur d'Anthropic (ex-OpenAI) a démissionné et publié ses inquiétudes sur X : 34,7 M de vues. C'est un fait.
- Le lead de l'équipe d'alignement d'Anthropic a répondu publiquement et confirmé le fond : « on croit sincèrement que ça pourrait tous nous tuer, >10 % dans la décennie, et on n'a pas encore de plan. »
- Le chiffre est honnête mais c'est une probabilité sur un horizon, pas un benchmark. Le Risk Report d'Anthropic dit que le risque des modèles actuels est bas et que le seuil d'amélioration récursive n'est pas encore atteint.
- La vraie question n'est pas « l'IA va-t-elle nous tuer » — c'est « qui décide de lancer la course, et avec quel mandat », car « should not be launched from a private company's Slack ».
Sources
1. Jacob Coxon (@hilbertspaess) — annonce de démission + suite de messages (09/09/2026) —