D'où vient
la norme ?

Un fait mal lu

Les grands laboratoires d'intelligence artificielle recrutent des philosophes. On a présenté la chose comme une curiosité du marché de l'emploi. Le fait est exact ; la lecture est faible. Ces philosophes ne sont pas appelés à orner d'éthique un produit déjà fait. Ils participent à l'écriture des textes qui orientent le comportement des modèles : ce qu'un système accepte, ce qu'il refuse, ce qu'il retient lorsqu'il doit arbitrer.

Des textes de comportement

Plusieurs laboratoires formalisent désormais de tels textes. Anthropic en donne l'exemple le plus explicite : une « constitution » pour Claude, présentée comme la description des valeurs et du comportement attendus du modèle, jouant un rôle central dans son entraînement et façonnant directement son comportement. OpenAI publie, dans un registre voisin, un Model Spec qui définit le comportement attendu des modèles alimentant ses produits.

Dans les deux exemples les plus visibles, ces textes sont publics, versionnés et placés sous un régime de libre réutilisation. La transparence est réelle ; elle ne doit pas être confondue avec la légitimité. Le texte peut être lu, repris, discuté ; son adoption, sa révision et son interprétation demeurent des actes unilatéraux de l'entreprise qui l'écrit. Et l'écart entre le texte et le comportement demeure possible, reconnu par les auteurs eux-mêmes : ces documents énoncent une orientation, non une garantie d'exécution.

Ce qu'une constitution suppose

Le mot mérite qu'on s'y arrête. En droit constitutionnel, une constitution est l'acte par lequel une communauté politique fixe ses règles fondamentales, organise l'exercice du pouvoir et détermine les conditions de sa propre limitation. Elle suppose une chaîne de garanties : un auteur qui est la communauté même que le texte oblige, une délibération, un contrôle exercé par un organe distinct, un régime de responsabilité, une procédure de révision qui n'appartient à personne en propre.

Ici, aucune de ces garanties n'existe au sens constitutionnel du terme. L'auteur est une entreprise ; la révision est unilatérale ; aucun organe externe doté d'un pouvoir propre ne contrôle l'écart entre le texte et le comportement ; aucune responsabilité spécifique ne s'attache, en tant que telle, à cet écart. La forme emprunte au vocabulaire de la souveraineté ; le régime demeure celui de la décision d'entreprise.

L'architecture de jugement héritée

Le débat public se tient presque entièrement en aval : accès, conformité, sécurité, responsabilité. L'essentiel se joue pourtant en amont, dans une question que l'on pose rarement : qui écrit la norme qui gouverne la réponse ?

Une institution qui déploie ces systèmes n'achète pas une simple performance technique. Elle importe une norme de réponse. Elle hérite d'une architecture de jugement qu'elle n'a pas fixée, dont elle ne contrôle ni l'écriture, ni la révision, ni l'interprétation. La vraie question n'est donc plus seulement : où sont les données ? Elle est devenue : d'où vient la norme ?

Clôture

La souveraineté ne consiste plus seulement à maîtriser les données, l'hébergement ou l'infrastructure. Elle consiste aussi à savoir qui écrit la norme incorporée au système qui répond, et à ne pas en découvrir la teneur au moment de l'appliquer.

Une norme incorporée à un système n'est pas un document technique. C'est un acte de puissance.