Valider avant d'envoyer : pourquoi un agent IA doit vous demander la permission
Un agent IA qui envoie seul un email ou une facture fait gagner du temps, jusqu'à la première erreur. Pourquoi la validation humaine est la condition de la confiance, et comment elle s'allège.
Dans cet article
Les démonstrations d'agents IA impressionnent souvent par leur autonomie : l'agent lit, décide et envoie, sans intervention. En production, dans une vraie entreprise, cette autonomie immédiate est une mauvaise idée.
Ce qui peut mal tourner
Un agent IA peut mal comprendre une demande, se tromper de destinataire, appliquer un ton inadapté ou relancer un client qui vient de payer. Une personne débutante ferait les mêmes erreurs. La différence, c'est qu'un agent peut les faire cinquante fois en une minute.
Certaines actions sont réversibles : un classement erroné se corrige. D'autres ne le sont pas : un email envoyé, une facture émise, un document transmis à un tiers, ou une écriture comptable validée, que le Plan comptable général interdit ensuite de modifier ou de supprimer.
La règle simple
Tout ce qui engage l'entreprise vis-à-vis de l'extérieur passe par une validation humaine :
- un email ou un message envoyé à un client, un fournisseur ou une administration ;
- une facture, un avoir, un devis ;
- une écriture dans le logiciel comptable ;
- un document transmis ou déposé.
Le reste, lire, classer, préparer, rechercher, peut être fait sans attendre.
C'est aussi la position de l'ANSSI : dans ses recommandations de sécurité pour les systèmes d'IA générative, elle estime qu'une IA ne doit pas pouvoir prendre de décision critique pour le métier sans contrôle humain, par exemple une validation dans une interface.
Une validation qui ne ralentit pas
Valider ne veut pas dire tout refaire. L'agent prépare le travail complet et le présente avec sa justification. La personne relit, ajuste si besoin et approuve, souvent en quelques secondes, depuis son ordinateur ou son téléphone.
La validation est nominative : on sait qui a approuvé quoi et quand. C'est aussi ce qui permet de rendre des comptes à un client ou à un auditeur.
L'autonomie se gagne
Quand un agent a proposé, sur une tâche précise, des centaines d'actions que l'équipe a validées sans correction, il devient raisonnable de lui confier cette tâche seul. Pas toutes les tâches : celle-là. Et avec un retour automatique en validation si la qualité baisse.
Ce qu'EchoBrain prend en charge
Les agents EchoBrain préparent des résultats et appliquent les validations convenues avant les actions engageantes. Les droits, les destinataires, les conditions d’envoi et le moyen de suspendre le parcours sont définis et testés sur votre environnement. Le niveau d’automatisation dépend du périmètre installé. Il n’est pas déduit d’une démonstration ou d’une simple description commerciale.
