IA générative : ce qu'elle sait faire, ses limites

L'IA générative est entrée dans les entreprises par la porte des assistants conversationnels. Elle impressionne par la qualité de ses textes et déçoit parfois par ses erreurs. Pour s'en servir à bon escient, il faut comprendre ce qu'elle fait réellement. Cet article s'appuie sur les questions-réponses de la CNIL, les recommandations de l'ANSSI et la dernière enquête de l'INSEE sur l'usage de l'IA par les entreprises.

Comment fonctionne un modèle de langage, en clair

Les assistants de texte reposent sur de grands modèles de langage, souvent appelés LLM. Ils ont été entraînés sur de très grandes quantités de textes. La CNIL résume leur fonctionnement en une phrase : ces modèles « ne sont pas des bases de connaissance : ils obéissent à une logique probabiliste », et produisent « le résultat qui sera statistiquement le plus probable » compte tenu de leurs données d'entraînement.

Autrement dit, le modèle ne consulte pas une encyclopédie. Il compose une réponse qui ressemble à ce qu'une réponse correcte devrait être. Le plus souvent, les deux coïncident. Pas toujours. L'ANSSI ajoute que la plupart de ces modèles ne sont pas déterministes : la même question peut produire deux réponses différentes.

Ce qu'elle sait bien faire

La CNIL distingue trois catégories de tâches :

Catégorie	Exemples dans une PME
Générer un contenu à partir d'une instruction	Premier jet d'un courrier, d'une annonce, d'une fiche produit
Retraiter un contenu existant	Corriger, reformuler, traduire, changer le ton
Analyser des données	Trier des emails, résumer un document, extraire des informations

Exemple (exemple fictif) : une entreprise de rénovation reçoit chaque matin une trentaine d'emails. Une IA peut les classer par nature (demande de devis, réclamation, facture fournisseur) et proposer une réponse type pour chacune. Le gérant relit et envoie.

Ce sont des tâches où le texte est le produit, et où un humain peut juger rapidement le résultat.

Pourquoi elle se trompe

Les hallucinations

La CNIL explique que ces systèmes « peuvent générer des résultats inexacts qui peuvent, pourtant, paraître plausibles », ce que l'on appelle des hallucinations. Le risque est plus élevé quand la question porte sur une information absente des données d'entraînement, par exemple un événement postérieur au développement du modèle. Un taux, un seuil ou une date de dépôt qui a changé l'an dernier peut ainsi être donné avec assurance dans sa version périmée.

Exemple (exemple fictif) : interrogé sur un article de loi, un assistant cite un numéro qui n'existe pas, avec une formulation crédible. Rien dans la réponse ne signale l'erreur.

Parmi ses critères de choix, la CNIL cite les systèmes qui limitent les hallucinations ou citent leurs sources. Faire travailler le modèle à partir de vos propres documents en est un moyen, expliqué dans notre article sur le RAG.

L'effet boîte noire et les biais

Le fonctionnement statistique de ces modèles rend leurs réponses difficiles à expliquer. La CNIL parle d'effet « boîte noire » et souligne qu'il complique la détection des biais. Pour l'utilisateur, le danger est la confiance excessive : selon la CNIL, elle « peut donc conduire à des décisions erronées ou à des conclusions incorrectes ».

Ce que l'IA ne doit pas faire seule

L'ANSSI recommande de ne pas laisser une IA générative prendre seule des décisions critiques, et de proscrire son usage automatisé pour des actions comme une transaction bancaire ou la publication d'un contenu. C'est la raison d'être de la validation humaine.

Où en sont les entreprises françaises

D'après l'INSEE, 18 % des entreprises de 10 salariés ou plus déclaraient utiliser au moins une technologie d'IA en 2025, contre 10 % en 2024. La moyenne de l'Union européenne est de 20 %. L'écart selon la taille reste net :

Entreprises	2023	2024	2025
10 à 49 salariés, France	5 %	9 %	15 %
10 à 49 salariés, Union européenne	6 %	11 %	17 %

Parmi les finalités, l'organisation des processus administratifs progresse le plus : les entreprises qui utilisent l'IA à cette fin représentent 38 % des effectifs salariés en 2025, soit 21 points de plus qu'en 2024. Chez les entreprises qui n'utilisent pas l'IA, 71 % disent ne pas en voir l'utilité et 54 % évoquent un manque d'expertise. Ces chiffres portent sur les secteurs principalement marchands, hors agriculture, finance et assurance.

Comment bien démarrer

La fiche pratique de la CNIL et de France Num pour les TPE et PME donne une méthode simple :

Partir d'un besoin concret, pas de l'outil.
Se renseigner sur l'éditeur : son pays, son modèle commercial, l'ancienneté de la solution.
Former les collaborateurs et fixer une politique d'usage interne.
Faire relire chaque production : « L'humain doit rester le dernier maillon de la chaîne. »
Mesurer régulièrement le retour sur investissement.

Ce qu'EchoBrain prend en charge

Les agents EchoBrain utilisent l'IA générative pour les tâches où elle est fiable : l'agent Email trie la boîte mail et prépare des réponses, l'agent Documents prépare des brouillons depuis vos modèles, l'agent Rapports assemble comptes rendus et synthèses à partir de vos sources. Chaque proposition engageante est soumise à une validation humaine et reste tracée dans un journal. L'IA propose, le professionnel décide.

IA générative : ce qu'elle sait faire et ses limites pour une PME

À retenir

Comment fonctionne un modèle de langage, en clair

Ce qu'elle sait bien faire