Que peut-on vérifier ?

L'inversion de Cassandre

On connaît la malédiction : dire vrai et n'être pas crue. La gouvernance de l'intelligence artificielle vit son inversion. En mai 2023, une déclaration d'une seule phrase, signée par les dirigeants des principaux laboratoires, plaçait le risque d'extinction lié à l'IA au rang des priorités mondiales, aux côtés des pandémies et de la guerre nucléaire. Certains de ces mêmes dirigeants ont demandé au Congrès des États-Unis un régime de licences et d'évaluations obligatoires. Ces alertes n'ont pas été ignorées : elles ont été entendues, commentées, institutionnalisées en sommets, en déclarations conjointes, en instituts d'évaluation. Et la course a continué. Chaque génération de modèles a succédé à la précédente à un rythme que rien n'a infléchi.

Les récits disponibles ne saisissent pas cette configuration. Prométhée et Frankenstein supposent un créateur que la conséquence de son acte instruit trop tard : la connaissance y arrive après le geste. Ici, la lucidité précède l'acte, le précède publiquement, et ne le suspend pas. Le problème n'est donc plus la connaissance du risque. Il tient à la structure de la course.

La structure de la course

Cette structure se laisse décrire simplement. Aucun laboratoire ne peut ralentir sans intégrer l'hypothèse que son concurrent poursuivra. Aucun État ne raisonne sur ses seules intentions : si Washington choisit la retenue, il doit intégrer ce que Pékin en ferait ; Pékin raisonne sur l'avance qu'il laisserait à Washington. À chaque niveau, la coopération peut être collectivement préférable sans être individuellement rationnelle, tant que chacun ignore si l'autre coopérera.

On objectera que les acteurs jouent double jeu. Les dirigeants qui réclamaient des garde-fous devant le Congrès sont ceux dont les organisations et les soutiens combattent, depuis, certaines des contraintes susceptibles de leur être imposées. Mais la pièce la plus instructive n'est pas là. Elle est dans l'usage que la puissance publique fédérale fait de son propre pouvoir. Le décret présidentiel du 11 décembre 2025 charge une task force du ministère de la Justice de contester les législations d'État jugées incompatibles avec la politique fédérale et commande la préparation d'un cadre législatif de préemption ; et il justifie explicitement cette politique par l'objectif de maintenir et de renforcer la domination mondiale des États-Unis en matière d'intelligence artificielle. Le pouvoir fédéral n'utilise pas son autorité pour contraindre les laboratoires : il l'utilise pour contraindre les États fédérés qui voudraient les contraindre, et il en donne lui-même la raison. La logique de course n'a pas à être inférée : elle figure dans le texte. La contrainte fédérale la plus effective vise l'exportation, contrainte dirigée contre le rival, qui accélère la course au lieu de la ralentir.

Ce tableau n'établit pas la duplicité. Il établit l'équilibre. Chacun peut souhaiter une règle commune sans accepter d'être ralenti seul ; un État qui raisonne sur son rival protège ses laboratoires au lieu de les contraindre. Traiter cette configuration comme une défaillance de responsabilité, et y répondre par l'exhortation, c'est manquer sa nature : un équilibre ne se déplace pas par l'injonction. Il faut modifier les conditions dans lesquelles chaque acteur prend sa décision.

Le précédent : la retenue n'a jamais reposé sur la vertu

L'histoire institutionnelle offre ici un précédent plus utile que les mythes. Les régimes de maîtrise des armements qui ont produit des effets ne reposaient pas sur la confiance dans la vertu de l'adversaire. Le traité sur les forces nucléaires intermédiaires de 1987 a éliminé une catégorie entière d'armements parce qu'il organisait, pour la première fois, des inspections sur site chez l'adversaire. Le traité New START a tenu en s'appuyant sur un appareil d'inspections, d'échanges de données et de notifications réciproques. Les garanties de l'Agence internationale de l'énergie atomique donnent au traité de non-prolifération ses yeux.

À l'inverse, la Convention sur les armes biologiques de 1972 énonce une interdiction complète du développement, de la production et du stockage, sans mécanisme de vérification. Le protocole destiné à lui en donner un, négocié pendant six ans, a été abandonné en 2001. Plus de cinquante ans après l'ouverture de la convention à la signature, les États parties travaillent encore aux mesures qui permettraient d'établir de manière crédible la conformité ou la violation. L'interdit est acquis ; l'appareil demeure en construction.

La leçon est constante : ce qui distingue les régimes efficaces des régimes déclaratoires n'est pas l'ambition de l'interdit, c'est l'existence d'un appareil réduisant l'incertitude : vérification, détection des violations, coût de la défection, réciprocité. La retenue devient rationnelle le jour où la défection de l'autre est détectable, et coûteuse.

Ce qui, dans l'intelligence artificielle, peut être vérifié

On objectera que l'analogie s'arrête où commence l'objet. Une ogive se compte, un silo s'observe par satellite, un essai nucléaire se détecte à l'autre bout du monde. Un modèle est un fichier de poids : copiable, transférable, dissimulable. L'objet final ne se laisse pas inspecter comme un site. L'objection est exacte, et c'est précisément pourquoi elle déplace la question au bon endroit : si le produit de la course échappe à l'observation, ses intrants n'y échappent pas.

Car la course a un intrant observable : le calcul. Les entraînements de frontière mobilisent des dizaines de milliers d'accélérateurs pendant des mois, dans des centres identifiables, alimentés en énergie mesurable, fournis par l'une des chaînes industrielles les plus concentrées au monde. Le droit s'en est d'ailleurs déjà saisi, des deux côtés de l'Atlantique. L'article 51 du règlement européen sur l'intelligence artificielle fait de la quantité cumulée de calcul utilisée pour l'entraînement l'un des critères de présomption du risque systémique : là où les capacités demeurent difficiles à saisir directement, le droit mobilise un intrant quantifiable. Les contrôles américains à l'exportation ont d'abord porté sur les puces, parce que les puces se comptent. S'y ajoutent, épars, les premiers organes d'une fonction de vérification : instituts publics d'évaluation constitués en réseau, engagements de tests avant déploiement, obligations naissantes de signalement des incidents graves. Ces fragments existent. Ils sont dispersés, volontaires pour l'essentiel, sans réciprocité organisée : des instruments de vérification sans régime de vérification.

La question institutionnelle devient alors déterminable. Non pas ce qu'il faudrait interdire ou ralentir, question sur laquelle aucun acteur ne concédera ce qu'il croit être un avantage, mais ce qui peut être vérifié, par qui, avec quels droits d'accès, et à quel coût pour celui qui triche. C'est une question d'architecture avant d'être une question de norme.

Clôture

La gouvernance de l'intelligence artificielle a traité la question successivement comme un problème de conscience, par les alertes, puis comme un problème de norme, par les interdits annoncés. Elle rencontre maintenant ce que la maîtrise des armements avait appris avant elle : un interdit sans appareil de vérification est une déclaration, et une déclaration ne déplace pas un équilibre.

La question n'est pas de savoir si les acteurs sont sincères. Elle est de savoir ce qu'une architecture leur permettrait de croire les uns des autres.

Cassandre est crue, désormais. Ce qui manque n'est plus l'alerte. C'est l'architecture qui permettrait d'agir en conséquence.

Paris, septembre 2026

Sources · Executive Order 14365 du 11 décembre 2025, 90 FR 58499 · Center for AI Safety, « Statement on AI Risk », 30 mai 2023 · U.S. Senate, « Oversight of A.I.: Rules for Artificial Intelligence », 16 mai 2023, S. Hrg. 118-037 · traité FNI, 1987 · traité New START · garanties AIEA au titre du TNP · Convention sur les armes biologiques, 1972, et abandon du protocole de vérification, 2001 (UNODA) · règlement (UE) 2024/1689, article 51 § 2.

Positions liées · Qui détermine les conditions ? · Que peut réquisitionner l'État ?