Pablo Zavala · Évaluation de sécurité IA · Ingénierie de recherche
Tribunal : quand les décisions d'IA ont besoin d'un journal
Tribunal transforme les sorties d'IA à fort enjeu en une procédure vérifiable : propositions aveugles, engagements scellés, critique par rôle, veto, dissidence, ratification et journal chaîné par hash.
!Tableau de bord Tribunal construit avec captures réelles, comptes du ledger et diagramme de décision
Un paragraphe laisse peu à auditer
Quand un système d'IA refuse un prêt, signale une demande de prestations, refuse un soin ou retire une publication, la personne touchée reçoit souvent un simple paragraphe. Un paragraphe fluide peut citer une règle et laisser pourtant hors du dossier les faits institutionnels décisifs : ce que le système a vérifié, qui a objecté, ce que le panel a écarté et pourquoi une raison a survécu aux autres.
Cette absence de dossier explique Tribunal. L'IA à fort enjeu a besoin d'une justification, mais aussi d'une procédure inspectable autour de la décision.
Tribunal rend l'explication procédurale
Tribunal remplace une completion privée par un processus de panel enregistré. La décision se construit span par span. Un span est une petite unité du texte final : disposition, raison, divulgation ou décision STOP.
Pour chaque span, les propositions sont rédigées à l'aveugle, scellées par hash, critiquées, révisées, revues par la sécurité, ratifiées sous une règle nommée, puis inscrites dans le ledger. La dissidence matérielle reste attachée au dossier.
Les six sièges ont des fonctions distinctes : preuve, adversaire, droit et politique, partie affectée, sécurité avec veto et concision. Le mode offline utilise des substituts scriptés pour CI et démonstrations ; une démonstration offline prouve donc la procédure enregistrée plutôt que l'indépendance de modèles vivants.
Tribunal change l'objet évalué. Un modèle ordinaire livre du texte. Tribunal livre du texte plus un dossier vérifiable de la manière dont ce texte a survécu à la critique.
Surfaces vérifiables
Le dépôt public expose directement les surfaces de preuve : `npm test`, `npm run demo`, `POST /api/verify` en local, détection de falsification, ledgers rejouables et head hashes ancrés.
Le run offline ancré `run_e6c6225c0d49` contient 86 événements, obtient `12/12` en auditabilité et vérifie contre son head hash publié. Le même ledger montre la limite dure du projet : la réponse finale adopte la fausse raison de dette-revenu à `52%` du cas de test.
Le run défectueux garde la thèse honnête. Un ledger peut préserver la dissidence, exposer une prémisse, nommer la règle et faciliter la contestation. Le dossier ne transforme pas une mauvaise majorité en vérité.
La gouvernance exige des dossiers
En crédit, le CFPB exige des raisons spécifiques et exactes même avec des algorithmes complexes. En modération, le Digital Services Act exige des statements of reasons pour certaines restrictions. Le cadre de l'EU AI Act fixe des obligations de logging, documentation et supervision humaine pour les systèmes à haut risque, avec des dates d'application variables. GDPR Article 22 donne des droits face à certaines décisions uniquement automatisées ayant des effets juridiques ou similaires.
Tribunal ne certifie pas la conformité. La conformité dépend du domaine, de la juridiction, des données, des notices, de la conservation, de la confidentialité, de l'autorité du réviseur, des recours et de l'exploitation. Malgré ces limites, le motif commun reste procédural : une couche sérieuse doit montrer les faits utilisés, le point d'entrée de l'automatisation, l'intervention humaine possible, les objections et la vérification du dossier.
Auditabilité plutôt que vérité
La limite la plus importante est simple : un ledger peut enregistrer fidèlement une décision erronée. Tribunal prouve la procédure, pas la justesse. Le dossier permet d'inspecter prémisses, objections, règle et dissidence. Cette capacité reste plus faible que la vérité, mais beaucoup plus inspectable qu'un paragraphe poli sans trace d'audit.
La carte A1-A12 mesure donc l'auditabilité. La liste vérifie engagements aveugles, warrants publics, feedback à rôles masqués, rotation d'ordre, révision substantielle, veto de sécurité, ratification nommée, dissidence préservée, mémoire délibérative, hash-chain, STOP et événements typés.
Une completion sans ledger obtient `0/12` par construction, car elle manque l'artefact mesuré.
SHAP, LIME et chain-of-thought posent une autre question
SHAP et LIME aident à expliquer quelles variables ont déplacé un score. Tribunal demande qui a vérifié le dossier, quel fait fut disputé, ce qui a changé après critique, ce que la sécurité a bloqué et si la réponse finale correspond aux spans engagés.
Cette distinction compte, car les explications post-hoc peuvent être fragiles. Rudin défend les modèles interprétables dans les contextes à fort enjeu quand cela reste possible. Slack et ses coauteurs montrent que des échafaudages adversariaux peuvent produire des explications LIME et SHAP rassurantes pour des classifieurs biaisés. Turpin et ses coauteurs montrent que le chain-of-thought peut mal décrire pourquoi un modèle a répondu.
Tribunal évite de lire l'esprit privé du modèle. Le système enregistre des warrants et objections publics pendant la génération.
Revendication honnête
Tribunal est un prototype, pas un tribunal juridique, une certification de conformité ou une preuve que six modèles sont plus sages qu'un seul. Sa promesse disciplinée consiste à enregistrer proposition, objection, veto, dissidence et règle, puis à conserver assez de ledger sous contrôles d'accès et de confidentialité pour qu'un réviseur autorisé puisse vérifier.
Le déplacement visé va de la sortie du modèle vers un dossier révisable.
Sources et frontières
- Dépôt public : `pazare/tribunal`.
- Preuve ancrée : `runs/ANCHORS.md`, `meta.json`, `audit.json` et `ledger.json`.
- Vérification locale le 6 juillet 2026 : `npm test` a passé 31 tests ; `npm run demo` a imprimé `VERIFY: OK` ; le run cité correspond à son head publié.
- L'image part de panneaux Tribunal réels, métadonnées de run, comptes d'audit et barres d'événements ; l'IA a seulement poli l'espacement et la clarté.