Quand peut-on retirer la validation humaine ?
Quand le système a proposé assez de décisions pour être comparé à vos humains, que le taux d'accord est mesuré sur des cas récents, et qu'un administrateur nommé l'approuve. Le critère porte sur le domaine réellement observé, jamais sur un score de confiance que le modèle produirait lui-même.
Quatre étapes, dans l'ordre, sans raccourci :
- Observation — le système regarde et n'agit pas.
- Proposition — il propose, un humain tranche. Par défaut, plusieurs dizaines de décisions avant d'envisager la suite.
- Ombre — il décide dans son coin sans effet, on compare sa décision à celle de l'humain.
- Promotion — l'étape devient autonome, sur des seuils élevés d'accord et de fraîcheur, avec l'approbation d'un administrateur nommé.
Deux garanties structurantes :
- L'escalade porte sur la couverture du domaine observé. Un cas inédit repasse par un humain, même si l'étape est promue depuis des mois.
- Un interrupteur d'arrêt rend l'étape bloquante instantanément, sans redéploiement.
L'autonomie n'est pas une case à cocher au démarrage. C'est un résultat mesuré.