LLM souverain ou API américaine : le vrai coût de chaque option

La question nous arrive chaque mois, presque toujours formulée ainsi : faut-il un LLM souverain hébergé en France, ou peut-on utiliser une API américaine ? Notre réponse commence par une autre question : qu’est-ce qui vous y oblige ? Il y a deux populations dans la souveraineté, ceux qui ont une contrainte et ceux qui aiment l’idée. Les deux méritent une réponse honnête, mais pas la même.

Pour la majorité des entreprises françaises, une API majeure avec traitement en Europe et un contrat sérieux couvre le besoin. Pour une minorité bien définie, données de santé, défense, secteur public sensible, clauses clients, l’hébergement en France sur infrastructure qualifiée, voire l’auto-hébergement, s’impose. Tout l’enjeu est de savoir dans quelle colonne vous êtes, et ce que chaque colonne coûte.

Qui a vraiment besoin d’un LLM souverain

Les contraintes réelles se comptent. Les données de santé, où l’hébergement HDS impose son cadre. La défense et les opérateurs d’importance vitale. Le secteur public sensible, où la doctrine de l’État pousse vers le cloud qualifié. Les entreprises dont les clients imposent contractuellement une localisation ou un fournisseur. Et celles dont les données stratégiques justifient de se prémunir contre les législations extraterritoriales américaines, Cloud Act en tête.

Pour tout le reste, le RGPD n’impose pas un modèle français : il impose un traitement encadré, ce qu’un fournisseur américain sous contrat, avec inférence en Europe, peut fournir. La conformité RGPD d’un système IA se joue dans l’architecture et les contrats bien plus que dans la nationalité du modèle. Préférer un acteur européen sans y être obligé reste un choix respectable, mais c’est un choix de positionnement, et il doit être chiffré comme tel.

LLM souverain : ce que l’offre française permet en 2026

L’offre a cessé d’être théorique. Côté modèles, Mistral publie des modèles à poids ouverts qu’une entreprise peut déployer sur sa propre infrastructure, et propose une offre commerciale utilisable en API ou déployable en environnement privé. Pour une grande partie des usages d’entreprise, extraction, synthèse, classification, assistant sur corpus, ces modèles suffisent largement.

Côté infrastructure, SecNumCloud, la qualification de sécurité délivrée par l’ANSSI, fournit le socle : son référentiel inclut des exigences de protection contre les législations extra-européennes. Une dizaine d’offres sont qualifiées, dont OVHcloud, Outscale, Cloud Temple et S3NS ; la liste officielle est tenue par l’ANSSI. Un modèle ouvert déployé sur une infrastructure qualifiée donne une souveraineté réelle de bout en bout, pas un argument marketing.

Reste l’honnêteté sur les capacités : les meilleurs modèles américains gardent une avance sur les tâches les plus difficiles, raisonnement long, agents complexes. L’écart pertinent se mesure sur votre cas d’usage, avec votre jeu d’évaluation, pas dans les classements publics. Il est souvent plus petit qu’on ne le craint, parfois nul sur votre périmètre, rarement nul partout.

Le vrai coût de l’auto-hébergement

C’est le poste que les partisans de la souveraineté chiffrent le moins volontiers. Une API se paie à la requête ; un serveur GPU se paie aussi la nuit, dimensionné pour le pic et non pour la moyenne. Il faut ensuite la compétence d’exploitation : déploiement, sécurité, montées de version des modèles, et un jeu d’évaluation à rejouer à chaque changement, faute de quoi chaque mise à jour est un pari. Cette compétence est rare, donc chère, et il faut la garder.

Dans les projets que nous voyons, l’auto-hébergement ne devient économiquement rationnel qu’à volume élevé et stable. En dessous, c’est un surcoût de conformité qu’on assume en connaissance de cause, pas une économie. Les ordres de grandeur restent ceux d’un projet d’IA sur mesure classique, majorés du bloc infrastructure et exploitation.

L’API a ses propres coûts, moins visibles : une dépendance à la politique tarifaire du fournisseur, aux dépréciations de modèles, à ses conditions d’utilisation. Ils se traitent par l’architecture, une couche d’abstraction qui permet de changer de fournisseur, plutôt que par l’évitement.

Notre grille de décision

Partez de l’obligation, pas de la conviction. Classez vos données : lesquelles sont réglementées, lesquelles sont stratégiques, lesquelles sont banales. Routez ensuite : les flux sensibles vers la voie souveraine, modèle ouvert sur infrastructure qualifiée ou fournisseur européen, les flux banals vers l’API la plus efficace. La réponse habituelle est un routage, pas un camp.

Et construisez pour pouvoir changer d’avis : abstraction des fournisseurs, jeu d’évaluation indépendant du modèle, aucune adhérence inutile. L’offre française progresse vite ; une architecture réversible vous laisse en profiter au moment où l’arbitrage bascule.

Cet arbitrage se tranche avec vos chiffres, vos volumes et vos contraintes, pas avec des convictions. C’est l’une des premières décisions que nous instruisons au cadrage d’un projet d’IA sur mesure, et elle mérite mieux qu’une réponse de principe.