Peut-on faire tourner un modèle ouvert sur notre propre serveur ?
Oui. Le moteur ne connaît pas de modèles, il connaît des capacités : raisonnement, vision, appel d'outils, transcription. Un modèle ouvert servi depuis votre propre infrastructure se déclare comme fournisseur de certaines capacités, et les agents qui les exigent y sont routés sans qu'aucun processus ne change.
Le point à regarder n'est pas est-ce possible mais jusqu'où c'est raisonnable.
- Les étapes de classement, d'extraction sous schéma et de reformulation passent très bien sur un modèle ouvert de taille modeste, hébergé chez vous.
- Le raisonnement long sur des documents épais reste, à ce jour, meilleur sur les grands modèles commerciaux.
La bonne architecture est donc souvent mixte, et le harnais la rend possible : la chaîne de repli est déclarée par capacité, pas par processus. Vous pouvez commencer avec un fournisseur commercial et basculer des étapes vers votre modèle interne au fur et à mesure, sans toucher aux processus.