Chatbot grand public ou agent métier : quelle différence ?

Un collaborateur ouvre un assistant conversationnel sur son navigateur, colle un contrat et demande un résumé. Un autre utilise un agent installé pour l'entreprise, qui résume le même contrat à partir du dossier client. Les deux outils reposent sur des modèles de langage comparables. Ce qui les distingue, c'est le cadre dans lequel ils travaillent. L'ANSSI et la CNIL ont toutes deux publié des recommandations sur ce point.

Ce qui se passe quand on colle un document dans un outil grand public

L'ANSSI est directe. Dans ses recommandations de sécurité pour un système d'IA générative, elle écrit qu'envoyer des informations à un service d'IA générative grand public « revient à déposer ces mêmes informations sur un espace de stockage leur appartenant ».

Elle en tire deux constats :

• le cloisonnement entre clients et la confidentialité des données ne sont pas maîtrisés par l'utilisateur et « reposent uniquement sur la confiance envers le prestataire »
• « dans la majorité des offres », les données envoyées sont collectées et utilisées par le prestataire pour optimiser ses modèles

Sa recommandation R34 est sans nuance : proscrire l'utilisation d'outils d'IA générative sur Internet pour un usage professionnel impliquant des données sensibles. Elle range parmi ces données les données personnelles, les données contractuelles, juridiques ou financières de l'entreprise, et les secrets informatiques comme les mots de passe ou les clés d'API.

Lire les conditions d'utilisation

La CNIL, dans ses questions-réponses sur l'IA générative, réserve les services grand public aux usages non confidentiels. Elle recommande alors :

• des comptes ouverts avec des adresses électroniques professionnelles dédiées
• la désactivation, lorsque c'est possible, de la réutilisation des données d'usage par le fournisseur
• une analyse au cas par cas lorsque les conditions générales prévoient cette réutilisation

La fiche pratique de la CNIL et de France Num ajoute de fixer une politique d'usage interne et d'être particulièrement attentif aux données identifiantes, commerciales ou financières. L'ANSSI rappelle aussi que les mises à jour d'un produit peuvent modifier les droits qu'il s'accorde : la vérification n'est jamais faite une fois pour toutes.

Ce qu'apporte un agent métier

Un agent métier est un outil d'IA placé dans un cadre défini par l'entreprise. On parle parfois de harnais : l'ensemble des règles et des garde-fous qui entourent le modèle. Les recommandations de l'ANSSI en décrivent les composantes :

Garde-fou	Ce que recommande l'ANSSI
Actions limitées	Ne pas laisser l'IA exécuter seule des actions critiques, comme une transaction bancaire, la production d'un contenu public ou une décision qui touche directement une personne (R9)
Entrées non maîtrisées	Limiter, voire proscrire, les actions automatiques déclenchées par des contenus venus d'Internet ou d'emails (R27)
Cloisonnement	Isoler le système d'IA dans un environnement dédié (R28)
Journalisation	Tracer les actions du système (R29)
Droits d'accès	Revoir les droits des outils d'IA connectés aux applications métier dès leur activation, puis régulièrement, par exemple tous les mois (R35)

Le point sur les emails mérite une explication. L'ANSSI évoque le risque d'« injection de requête indirecte » : le contenu d'un email reçu ou d'une page web peut contenir des instructions destinées à l'IA qui le lit. Elle souligne que ce risque est d'autant plus problématique lorsque des actions peuvent être effectuées sans validation humaine. D'où l'importance de cette étape, détaillée dans notre article « Valider avant d'envoyer ».

Les deux approches côte à côte

Question	Chatbot grand public	Agent métier
Qui fixe les règles d'usage des données ?	Les conditions du fournisseur	Le contrat signé par l'entreprise
Sur quelles sources travaille-t-il ?	Ce que l'utilisateur colle	Les dossiers autorisés
Qui voit quoi ?	Chaque compte isolément	Des droits par rôle et par dossier
Peut-il agir ?	Il répond, l'utilisateur agit	Il propose, un humain valide
Garde-t-il une trace ?	Un historique de conversation	Un journal des actions

Un chatbot grand public reste utile pour des tâches sans donnée confidentielle : reformuler une annonce, chercher une idée de titre, traduire un texte public. Pour les données de l'entreprise et de ses clients, le cadre change tout.

Exemple (exemple fictif) : un cabinet de conseil interdit dans sa charte interne tout usage d'assistant grand public avec un nom de client. Les résumés de contrats passent par un agent qui ne lit que les dossiers auxquels le collaborateur a accès et soumet chaque projet de réponse à sa relecture.

Ce qu'EchoBrain prend en charge

Les agents EchoBrain fonctionnent dans un espace isolé pour chaque client, hébergé dans des centres de données européens certifiés ISO 27001, conformes au RGPD. Ils suivent des règles écrites avec l'entreprise, respectent les droits définis par rôle et par dossier, soumettent chaque action engageante à une validation humaine et gardent un journal. L'agent Email prépare des réponses sans les envoyer seul. La recherche documentaire ne répond qu'à partir des documents auxquels l'utilisateur a accès. Les conditions du fournisseur du modèle d'IA retenu sont vérifiées avec vous avant la mise en service.

Sources

• Recommandations de sécurité pour un système d'IA générative, guide ANSSI-PA-102 (avril 2024), ANSSI
• Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative (18 juillet 2024), CNIL
• Choisir parmi les solutions d'IA générative et comment les utiliser, fiche TPE et PME, CNIL et France Num