Aller au contenu

Déterminisme et contrôle

Comment prouver à un auditeur ce qu'un agent IA a fait ?

Un journal applicatif ne suffit pas : il dit qu'une action a eu lieu, pas pourquoi. EchoBrain conserve pour chaque étape l'empreinte des entrées, la sortie validée, la version exacte du package et du prompt, l'instantané de mémoire utilisé et l'intégralité des appels au modèle, requête et réponse comprises.

Mise à jour le

L'auditeur ne vous croit pas sur parole, et il a raison. Ce qu'on lui montre :

  • Le journal de l'exécution concernée, étape par étape, avec les décisions et qui les a prises.
  • Le rejeu strict de cette exécution devant lui : les mêmes entrées produisent la même sortie, parce que les réponses du modèle sont rejouées depuis l'enregistrement.
  • La version du processus en vigueur ce jour-là, retrouvable dans votre dépôt Git.
  • Les validations humaines : qui a validé, quand, et ce qui lui a été présenté.

Le journal fait autorité : l'état courant n'est qu'une projection reconstruite à partir de lui. Ce n'est pas un détail d'implémentation, c'est ce qui rend la preuve opposable.

Le sujet en entier : déterminisme