Anthropic, mere days after filing for a landmark IPO reportedly targeting a valuation above $1 trillion, is calling for a global mechanism to slow or even halt the development of the most advanced AI systems. The appeal comes from its internal think tank, the Anthropic Institute, in a paper titled “When AI builds itself,” co-authored by co-founder Jack Clark and Marina Favaro. Its central—and unsettling—thesis: AI models are progressing so rapidly that they could soon achieve recursive self-improvement, designing ever-more-capable successors with minimal human input.

To back its case, Anthropic is making an uncharacteristically transparent move by disclosing internal data. By May 2026, over 80% of the code in its codebase was generated by Claude, up from near zero before the launch of Claude Code in February 2025. Autonomous task duration has doubled roughly every four months: Claude Opus 3 could complete tasks taking a human about four minutes in March 2024; a year later, Claude Sonnet 3.7 handled 1.5-hour tasks; by 2026, Claude Opus 4.6 was tackling 12-hour jobs. Extrapolating, AI could autonomously execute weeks-long human tasks by 2027. Anthropic’s engineers now incorporate eight times more code per quarter than they did between 2021 and 2025, with individuals overseeing a previously unimaginable volume of work.

The firm outlines three possible futures: a natural slowdown in progress; continued productivity gains with humans still directing research; or the third scenario, where AI systems become fully capable of building their own successors, leaving humans only to supervise and verify. It’s this last path that fuels the call for a moratorium.

There is a precedent. In March 2023, over a thousand signatories—including Steve Wozniak, Elon Musk, and Noam Shazeer—urged a six-month pause on training AI beyond GPT-4, citing “risks to humanity.” That initiative, led by the Future of Life Institute, demanded a public and verifiable halt, with governments stepping in if the industry wouldn’t comply. It went nowhere, and the landscape has since transformed: models are far more powerful, and many more players are racing ahead. Notably, Sam Altman, Google, and Meta have never endorsed such measures; their culture remains one of competitive acceleration.

Anthropic raises the old INF nuclear treaty as a model, while conceding it took decades to forge and that AI’s timeline is far tighter. Verification is the core obstacle: model training is far easier to hide than missile silos, dual-use resources abound, and the incentive to cheat secretly is immense—whoever continues while others pause seizes the lead. Any credible moratorium would need clear triggers, off-ramps, and dispute arbitration. Anthropic intends to convene policymakers, researchers, and industry peers in the coming months to explore verification mechanisms, insisting that “the window to examine these questions together is open, and people outside AI companies must be involved.”

Skepticism toward the proposal is inevitable. Industry critics and some White House figures already accuse Anthropic of “fear marketing” as it races OpenAI toward a public listing. A more cynical interpretation: the company is in a commanding pre-IPO position, with annualized revenues expected to hit $50 billion by mid-2026 (up from $9 billion at end-2025) and a significant enterprise and developer lead. A global moratorium would effectively freeze the standings, converting a temporary market advantage into a durable competitive moat—just as technology incumbents have often championed regulation to consolidate their dominance. That doesn’t automatically invalidate the genuine safety concerns; both motives could coexist.

Anthropic’s own actions underscore the tension. Even as it calls for a slowdown, it has never moved faster: the recent release of Claude Mythos, its most advanced model, is being carefully controlled to address cybersecurity flaws before wider public access. The company itself acknowledges that a unilateral pause by one lab would merely shift leadership, not foster the collective deliberation that’s needed. A moratorium only works if it’s universal—and amid the current commercial and geopolitical rivalries, that remains a distant prospect.

Il y a quelque chose de singulier dans la démarche d’Anthropic.

Quelques jours seulement après avoir déposé son dossier d’introduction en Bourse auprès de la Securities and Exchange Commission (SEC) pour une opération à plus de 1000 milliards $,l’inventeur de Claude veut lever le pied.

L’Anthropic Institute, son centre de réflexion interne, publie un texte « When AI builds itself »

signé par Marina Favaro et Jack Clark, cofondateur de la firme, appelant à la création d’un dispositif mondial permettant de ralentir ou de suspendre le développement des IA les plus avancées.

La thèse centrale est simple à énoncer mais troublante dans ses implications. Les modèles d’IA avancent si vite qu’ils pourraient bientôt être capables de s’améliorer eux-mêmes sans intervention humaine. Ce seuil, désigné par le terme d’« auto-amélioration récursive », est au cœur de l’argumentaire d’Anthropic.

L’IA qui se construit elle-même : une réalité en marche

Pour étayer sa demande, Anthropic fait quelque chose d’inhabituel dans un secteur peu enclin à la transparence : publier ses propres données internes. Et les chiffres sont impressionnants.

En mai 2026, plus de 80 % du code intégré dans la base de code d’Anthropic est rédigé par Claude. Avant le lancement de Claude Code en février 2025, cette proportion était quasi nulle.

La durée des tâches que les modèles peuvent accomplir de manière autonome a doublé environ tous les quatre mois.

En mars 2024, Claude Opus 3 pouvait mener à bien des tâches prenant environ quatre minutes à un humain. Un an plus tard, Claude Sonnet 3.7 gérait des tâches d’une heure et demie. En 2026, Claude Opus 4.6 traite des tâches de douze heures.

Si la tendance se maintient, les systèmes d’IA pourraient d’ici 2027 accomplir en autonomie ce qui prend des semaines à un être humain.

Aujourd’hui, les ingénieurs d’Anthropic intègrent en moyenne huit fois plus de code par trimestre qu’ils ne le faisaient entre 2021 et 2025. La scale-up souligne qu’un ingénieur supervise désormais une quantité de travail sans commune mesure avec ce qu’un humain seul pourrait produire.

Ce n’est pas pour autant le scénario catastrophe.

Anthropic envisage trois futurs possibles.

Un premier où les progrès ralentissent naturellement et un deuxième où les gains de productivité s’accumulent mais les humains conservent la direction de la recherche. Dans le troisième scénario,  les systèmes d’IA deviendraient pleinement capables de concevoir leurs propres successeurs, avec un rôle humain réduit à la supervision et à la vérification.

C’est ce dernier scénario qui motive l’appel au moratoire.

Une pétition de 2023 comme précédent

La demande d’Anthropic n’est pas sans précédent.

En mars 2023, plus d’un millier de signataires, dont Steve Wozniak, Elon Musk et Noam Shazeer (contributeur de LaMDA chez Google et cofondateur de Character.AI) avaient lancé un appel via le Future of Life Institute pour suspendre pendant au moins six mois la formation de systèmes d’IA plus puissants que GPT-4, invoquant des « risques pour l’humanité ».

Elon Musk a signé cette pétition malgré son propre passé d’investisseur dans OpenAI.

La lettre réclamait que cette pause soit « publique et vérifiable » et que, si l’industrie ne pouvait s’y conformer spontanément, les gouvernements instituent un moratoire. La pétition n’avait pas eu de suite concrète. Depuis, la situation s’est profondément modifiée : les modèles sont bien plus puissants, et les acteurs bien plus nombreux.

Ni Sam Altman chez OpenAI, ni les dirigeants de Google ou de Meta ne se sont jamais associés à de telles démarches. Leur culture dominante reste celle de l’accélération compétitive, pas du freinage concerté.

Sans son appel, Anthropic cite le précédent du traité sur les forces nucléaires à portée intermédiaire (FNI), tout en reconnaissant que ce cadre a pris des décennies à s’établir, et que le temps est plus pressant pour l’IA.

La difficulté principale tient à la vérification. Les entraînements de modèles sont bien plus faciles à dissimuler que des silos de missiles. Leurs ressources sont polyvalentes et l’incitation à tricher discrètement est colossale puisque celui qui continue pendant que les autres s’arrêtent hériterait du leadership.

Un moratoire crédible devrait également préciser ce qui le déclencherait, ce qui l’annulerait, et qui arbitrerait les litiges.

Anthropic prévoit d’organiser dans les prochains mois des discussions avec décideurs politiques, chercheurs et autres acteurs de l’IA pour réfléchir à ces mécanismes de vérification.

« La fenêtre pour examiner ces questions ensemble est ouverte, et les personnes extérieures aux entreprises d’IA doivent être impliquées dans cette délibération », écrit-elle.

Des accusations de « marketing de la peur »… et une hypothèse business

La proposition ne manquera pas de susciter du scepticisme.

Anthropic fait l’objet de critiques de l’industrie et de responsables de la Maison Blanche, qui l’accusent d’exagérer les risques, voire de mener une stratégie de « marketing de la peur », en pleine course avec OpenAI vers une entrée en Bourse.

Une lecture plus cynique de la démarche mérite d’être formulée.

Anthropic se trouve dans une position préboursière favorable. Ses revenus annualisés sont en passe d’atteindre 50 milliards $ d’ici fin juin 2026, contre 9 milliards seulement fin 2025.

Sur le marché des entreprises et les développeurs, elle semble avoir pris une avance significative sur ses concurrents directs.

Dans ce contexte, un moratoire mondial sur le développement des IA de pointe reviendrait, en pratique, à cristalliser les positions acquises et donc à figer un classement dont Anthropic sortirait en bonne place.

L’argument n’est pas sans précédent dans l’histoire des grandes industries technologiques. Les leaders établis ont souvent été les premiers à appeler à la régulation, non par désintérêt commercial, mais précisément parce qu’elle consolide leur avance. Geler la course à l’armement de l’IA au moment où l’on est en tête, c’est transformer une avance technologique conjoncturelle en rente durable pour les futurs actionnaires.

Cette hypothèse ne disqualifie pas nécessairement la sincérité des préoccupations sécuritaires exprimées par Anthropic. Les deux motivations peuvent coexister.

La démarche s’inscrit dans un moment particulier pour Anthropic. Depuis le lancement de Claude Mythos, son modèle le plus avancé, elle contrôle sa diffusion afin d’établir des correctifs de cybersécurité avant de le rendre public.

Elle qui demande à ralentir n’a donc jamais autant accéléré. C’est toute l’ambiguïté de la situation. Comme Anthropic le reconnaît elle-même, un ralentissement unilatéral d’un seul laboratoire changerait simplement l’identité du leader, sans créer le processus délibératif collectif qui fait actuellement défaut.

L’appel au moratoire n’a de sens que s’il est universel ; ce qui, dans l’état actuel des rivalités commerciales et géopolitiques, reste un horizon incertain.

The post Moratoire sur l’IA : Anthropic veut geler un marché qu’elle domine appeared first on Silicon.fr.