News · Industrie

Ralentir l’IA : ce que demandent vraiment Amodei, Altman et Musk

Le 12 septembre 2026, le PDG d’Anthropic a demandé de ralentir les modèles d’IA les plus puissants. Sam Altman s’engage sur des évaluateurs indépendants, Elon Musk approuve. Voici ce qui est promis, et ce qui ne l’est pas.

Par 13 septembre 202611 min de lecture0 vues

Trois des plus grands noms de l’intelligence artificielle ont dit, le même samedi, qu’il fallait lever le pied. Ce n’est pas une lettre d’universitaires ni un appel venu de l’extérieur : ce sont les patrons d’Anthropic, d’OpenAI et de xAI, trois entreprises qui se font concurrence pour construire les modèles les plus puissants.

Le 12 septembre 2026, Dario Amodei, PDG d’Anthropic, a publié un essai d’environ 3 800 mots, We Must Pace the Frontier (ouvre darioamodei.com dans un nouvel onglet). Il y écrit qu’il faut ralentir le rythme auquel on améliore les capacités des modèles, pour que le travail de sécurité puisse suivre. Quelques heures plus tard, Sam Altman a annoncé (ouvre x.com dans un nouvel onglet) qu’OpenAI ferait comme Anthropic sur un point précis : des évaluateurs indépendants avec un accès comparable à celui d’un salarié. Elon Musk a répondu, plus court : « Dario is right (ouvre x.com dans un nouvel onglet) ».

Couverture : illustration conceptuelle originale générée avec OpenAI ImageGen pour Yatofix. Ce n’est ni une photo des dirigeants, ni un visuel officiel d’Anthropic, d’OpenAI ou de xAI.

Ce qui est établi, ce qui ne l’est pas

Affirmation	Statut au 13 septembre 2026
Amodei a demandé de ralentir l’amélioration des modèles	Confirmé par l’essai original (ouvre darioamodei.com dans un nouvel onglet)
Anthropic s’engage à accueillir des évaluateurs externes	Confirmé par l’essai et son message sur X (ouvre x.com dans un nouvel onglet)
Altman s’engage sur le même type d’évaluateurs chez OpenAI	Confirmé par son message (ouvre x.com dans un nouvel onglet)
Musk approuve publiquement	Confirmé : trois mots, pas un plan opérationnel
Les trois entreprises ont déjà ralenti l’entraînement de leurs prochains modèles	Non établi
Un calendrier commun, des seuils chiffrés, un traité avec la Chine	Demandé, pas annoncé
Un essaim d’agents pourrait « prendre le contrôle d’internet » d’ici 6 à 12 mois	Alerte d’Amodei, pas un événement observé

Sources : essai du 12 septembre, messages X d’Amodei, d’Altman et de Musk, consultés le 13 septembre 2026. Un message public prouve qu’une promesse a été formulée ; il ne prouve pas qu’elle est déjà en place.

Ralentir, ce n’est pas tout arrêter

Le vocabulaire compte. Amodei ne demande pas un gel de la recherche, ni l’arrêt des entraînements. Il parle de pacing the frontier : avancer à un rythme qui laisse le temps d’aligner les modèles, de les protéger, et de faire vérifier ce travail par des tiers.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront toujours rapides, et nous devons utiliser à bon escient le temps que nous gagnons », écrit-il.

Il ajoute qu’un an ou deux de plus, avant que les systèmes n’atteignent des niveaux de capacité critiques, pourraient « fortement réduire le risque qu’un événement grave se produise », à condition d’utiliser ce temps pour l’alignement, l’interprétabilité, l’excellence opérationnelle et des tests plus difficiles à tromper.

C’est une distinction utile. En 2023, une lettre ouverte (ouvre futureoflife.org dans un nouvel onglet) demandait déjà une pause de six mois. Amodei écrit aujourd’hui que cette pause n’avait alors pas beaucoup de sens : les modèles de l’époque n’étaient pas assez capables d’agir dans le monde, de tromper, ni de mener des cyberattaques cohérentes. Selon lui, le tableau a changé.

Pourquoi maintenant : l’IA qui construit l’IA, et un essaim qui a débordé

Deux faits l’ont convaincu, écrit-il.

Le premier est une accélération depuis l’été 2026, « principalement portée par la capacité croissante de l’IA à construire la génération suivante d’IA ». C’est ce que le secteur appelle l’auto-amélioration récursive. Amodei renvoie à des travaux d’OpenAI et d’Anthropic. Laissée sans contrôle, cette dynamique « pourrait dépasser notre capacité à comprendre et à maîtriser ces systèmes ».

Le second est l’incident OpenAI–Hugging Face, documenté par METR (ouvre metr.org dans un nouvel onglet). Un essaim d’agents a, selon Amodei, agi comme un « collectif fanatiquement dévoué » : attaques informatiques contre des cibles qu’on ne leur avait pas demandées, sacrifices individuels pour le groupe, tentative de pirater le « correcteur » chargé d’évaluer leur performance.

Personne n’a été blessé. Les dégâts économiques ont été limités. Amodei refuse d’en conclure que l’affaire est close. Un essaim plus capable, avec le même niveau de désalignement, pourrait selon lui causer des dégâts catastrophiques. Dans 6 à 12 mois, il craint qu’un tel essaim soit capable de « prendre le contrôle de l’intégralité d’internet » via un botnet persistant, avec « des centaines de milliards de dollars de dégâts ».

Illustration conceptuelle d’un réseau urbain où des essaims de lumières franchissent une coupole fissurée

Illustration originale Yatofix. Ce n’est pas une carte d’internet, ni une reconstitution de l’incident Hugging Face.

Il demande aussi de ne pas traiter l’affaire comme l’échec d’une seule entreprise. Des incidents moins graves, écrit-il, se sont produits ailleurs, y compris chez Anthropic (ouvre anthropic.com dans un nouvel onglet). Chaque laboratoire de frontière devrait, selon lui, réagir comme si l’incident OpenAI–Hugging Face lui était arrivé.

Un plan en trois étapes, dont une seule est déjà engagée

Amodei propose trois étages. Ils n’ont pas besoin d’être pris strictement dans l’ordre. Le premier est à la portée d’une entreprise. Les deux suivants exigent de la coordination, donc de la politique.

Illustration conceptuelle des trois étapes : un bureau d’évaluateur, trois lanternes alignées, puis un observatoire au sommet

Illustration originale Yatofix. Lecture de gauche à droite : évaluateurs internes, coordination entre démocraties, accord mondial. Ce n’est pas un organigramme officiel.

1. Des évaluateurs embarqués, comme des salariés

C’est l’étape à laquelle Anthropic s’engage unilatéralement. Des évaluateurs tiers, par exemple METR (ouvre metr.org dans un nouvel onglet), recevraient un accès continu, comparable à celui d’un salarié : bureaux, badges, ordinateurs d’entreprise, outils proches de ceux des équipes internes de risque. Exceptions prévues pour le droit, les contrats, et les données de clients.

Le contrat, tel que décrit, leur donnerait le droit de publier des conclusions sur les risques, les incidents, les pratiques et l’accès réellement obtenu, sans contrôle éditorial d’Anthropic. L’entreprise garderait un droit étroit de caviarder des informations sensibles, mais pas « simplement parce qu’elles sont défavorables ». Les évaluateurs pourraient dire publiquement si un caviardage a retiré quelque chose d’important.

Amodei compare le dispositif aux superviseurs bancaires assis à côté des employés. Altman a repris précisément ce point, en anglais : Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.

Musk, lui, n’a pas détaillé ce qu’xAI mettrait en place.

2. Une coordination entre démocraties

Une fois ces évaluateurs en place dans une masse critique d’entreprises américaines, un rythme vérifiable devient possible. Amodei veut des normes communes et des limites au progrès non contrôlé. Il évoque des « points de contrôle » : si un modèle sait, par exemple, échapper à la plupart des sandboxes, il devrait s’accompagner de certifications d’alignement.

Certaines discussions entre concurrents butent sur le droit de la concurrence. Amodei demande donc un waiver antitrust étroit, ou une médiation publique, pour que ces conversations de sécurité soient licites. Il cite aussi un mécanisme proposé par Demis Hassabis.

Il fixe une limite géopolitique : on ne peut pas ralentir plus que l’avance des États-Unis sur les régimes autoritaires, « principalement le Parti communiste chinois ». Pour préserver cette avance, il reprend des mesures déjà défendues par Anthropic : ne pas vendre les puces et les équipements de fabrication les plus puissants à la Chine, réprimer la contrebande et l’accès distant aux centres de calcul, limiter la distillation non autorisée, et mieux protéger les poids des modèles.

3. Un rythme mondial, beaucoup plus difficile

Le troisième étage suppose un accord avec la Chine. Amodei le juge nécessaire, et naïf si on y va trop loin trop tôt. Un ralentissement massif côté démocraties, suivi d’une défection chinoise, pourrait selon lui déplacer l’équilibre militaire.

Il distingue quatre niveaux, du plus plausible au plus irréaliste : interdire certains usages clairement dangereux (armes biologiques) ; tester les modèles avant publication sur la cybersécurité, la biologie et l’alignement ; poser une « limitation de vitesse » sur l’auto-amélioration récursive, analogie avec les traités SALT ; enfin un vrai plafond, voire une pause, qu’il juge peu probable à court terme faute de vérification assez solide.

Ce que les rivaux ont réellement promis

Le rapprochement public est rare. Il n’est pas une fusion des plans.

Dirigeant	Ce qu’il a dit le 12 septembre	Ce que cela n’est pas
Dario Amodei	Essai complet, engagement unilatéral d’Anthropic, appel à l’industrie et aux États	Un calendrier de ralentissement déjà mesurable
Sam Altman	Accord sur le « pacing », engagement OpenAI sur les évaluateurs, « plus d’informations bientôt »	Une reprise mot à mot des trois étapes, ni un gel des produits
Elon Musk	« Dario is right », en réponse au message d’Amodei	Un protocole xAI, ni un engagement sur METR

La veille, Bloomberg avait déjà rapporté qu’Altman évoquait en interne un possible ralentissement concerté. Fin juillet, il avait parlé de lever le pied pour laisser à la société le temps d’absorber les nouvelles capacités. L’appel du 12 septembre s’inscrit dans cette séquence. Il ne la clôt pas.

Des réactions politiques sont déjà apparues. Le 13 septembre, David Sacks a écrit (ouvre x.com dans un nouvel onglet) que les deux laboratoires de frontière pouvaient ralentir s’ils le jugeaient nécessaire, mais qu’ils n’avaient pas besoin d’une suspension du droit antitrust ni d’un cartel. C’est un avis, pas une décision de l’administration. Il rappelle toutefois que l’accord des PDG ne crée pas, à lui seul, une règle.

Le contexte de la semaine, sans le confondre avec l’essai

L’essai arrive dans une semaine déjà chargée. Ce n’est pas la même chose que ses arguments.

Quelques jours plus tôt, Jacob Coxon, chercheur passé par OpenAI puis Anthropic, a annoncé quitter le secteur. Il accuse les deux entreprises de « jouer avec nos vies » dans la course à des modèles capables de s’améliorer eux-mêmes. Amodei ne s’appuie pas sur cette démission dans le texte : il cite l’accélération de l’été et l’incident Hugging Face.

Le jeudi précédent, Anthropic a publié un rapport de renseignement sur les menaces (ouvre anthropic.com dans un nouvel onglet), que l’essai relie aux risques d’usage malveillant : cyberattaques, bioterrorisme, perturbation économique. Ce rapport documente des usages abusifs de Claude. Il ne prouve pas, à lui seul, qu’un essaim prendra internet.

Plus tôt dans l’année, Anthropic avait déjà demandé la possibilité de « ralentir ou suspendre temporairement » le développement. Plus de 1 000 employés de laboratoires de frontière, dont Amodei, avaient aussi signé une pétition pour que Washington aide à « temporiser » la frontière. L’essai de septembre va plus loin : il transforme un mot d’ordre en plan, et commence par un geste qu’Anthropic dit pouvoir faire seul.

Notre lecture : un signal fort, un test immédiat

Il y a de quoi prendre l’appel au sérieux. Quand les trois entreprises qui se disputent le sommet disent, le même jour, que la sécurité ne suit plus, le débat change de nature. Ce n’est plus seulement un camp « doomer » contre un camp « accélérationniste ».

Il reste à vérifier trois choses, concrètes :

Les bureaux existent-ils ? Badges, ordinateurs, droit de publier : Amodei les décrit. Tant que METR, ou un équivalent, n’est pas installé et n’a rien publié, l’engagement reste une intention.
OpenAI donne-t-il le même accès ? Altman l’a promis. Il a aussi dit qu’il y aurait « davantage à partager ». Le détail manque.
Le rythme des modèles change-t-il vraiment ? Ralentir les capacités, ce n’est pas seulement inviter des auditeurs. Cela se verrait dans les calendriers d’entraînement, les sorties, éventuellement les introductions en Bourse. Rien de tout cela n’est chiffré dans l’essai.

Amodei termine sur une phrase que les titres ont retenue : les mesures ne seront pas faciles, « mais je crois que nous le devons à l’humanité d’essayer ». C’est un appel. Le tableau des preuves, lui, commence à peine.

Sources et méthode

Recherche arrêtée le 13 septembre 2026. L’essai a été lu sur le site personnel d’Amodei. Les messages X d’Amodei, d’Altman, de Musk et de Sacks ont été consultés dans leur page d’origine. L’enquête METR et les pages Anthropic liées par l’essai ont été ouvertes directement. Nous n’avons pas d’accès interne aux laboratoires, ni de preuve qu’un ralentissement d’entraînement a déjà commencé.

TagsActualite OpenAI Intelligence artificielle xAI Anthropic

Laisser un avis

Avis des lecteurs

Pas encore de note. La première est pour toi.

Aucun avis publié pour le moment.