IA locale vs IA cloud : avantages et limites

Faire tourner l’IA chez soi est devenu possible. Reste à savoir si c’est souhaitable, et dans quels cas.

La question ne se posait pas il y a trois ans

Il y a trois ans, la question ne se posait pas. Pour utiliser une intelligence artificielle performante, il fallait passer par le Cloud. OpenAI, Google, Anthropic et quelques autres vivaient derrière des API, et personne ne discutait le principe.

Trois choses ont changé.

Les modèles ouverts ont rattrapé une partie de leur retard. Mistral, Llama, Qwen, Gemma ou DeepSeek font aujourd’hui un travail correct sur beaucoup de tâches courantes. Et ils tournent sur un ordinateur d’entreprise ou un petit serveur interne.

Les prix montent. L’abonnement d’entrée de gamme que vous prenez pour tester atteint vite ses limites. La formule suivante coûte plusieurs fois plus cher.

Le cadre réglementaire s’est durci. Le RGPD s’appliquait déjà. L’IA Act ajoute des obligations. Et la question de savoir où partent vos données n’est plus une question d’informaticien. C’est une question de dirigeant.

La question devient donc concrète. Faut-il continuer à confier ses devis, ses contrats et ses fichiers clients à des serveurs situés à l’autre bout du monde ? Ou faire tourner l’IA chez soi est-il devenu une option sérieuse ?

Derrière ce choix, il y a des enjeux qui vous concernent directement. La maîtrise du budget. La protection des données de vos clients et de vos salariés. Votre capacité à continuer de travailler si un fournisseur change ses règles du jour au lendemain.

De quoi parle-t-on exactement

L’IA Cloud

Vous utilisez un service en ligne. Vous envoyez votre demande et vos documents à un prestataire, ses serveurs font le calcul, et vous recevez la réponse. ChatGPT, Claude, Gemini ou Le Chat fonctionnent sur ce principe. Un navigateur suffit.

La contrepartie est simple à énoncer. Le calcul, le modèle et vos données sont sous le contrôle du fournisseur, pas sous le vôtre.

L’IA locale

Le modèle est téléchargé une fois, puis installé sur un poste de votre entreprise ou sur un serveur interne. Le calcul se fait chez vous. Rien ne sort de votre réseau.

Il s’agit alors de modèles ouverts, que l’on installe avec des logiciels comme Ollama ou LM Studio. Je fais tourner Mistral Nemo en local pour certains usages, en complément du Cloud.

Ce que le Cloud vous apporte

La puissance, immédiatement. Vous accédez en quelques secondes aux meilleurs modèles du marché, sans vous soucier de la machine que vous avez sous la main. Sur les tâches complexes, ces modèles restent devant.

La simplicité. Rien à installer, rien à maintenir, rien à surveiller. C’est un abonnement, pas un projet informatique.

L’élasticité. Si votre usage double le mois prochain, l’infrastructure suit sans que vous ayez à intervenir. Pour une entreprise qui ne sait pas encore ce qu’elle va consommer, c’est un vrai confort.

Ce que le Cloud vous coûte

Vos données quittent votre entreprise

Quand vous collez un document dans un service en ligne, ce document sort de chez vous. Il est traité sur les serveurs d’un prestataire, éventuellement conservé un certain temps, parfois pour des raisons de sécurité ou de modération.

Au regard du RGPD, ce prestataire est votre sous-traitant. Trois obligations en découlent, régulièrement oubliées :

un contrat de sous-traitance conforme à l’article 28, signé et disponible en cas de contrôle ;
une inscription du traitement dans votre registre ;
une information des personnes concernées, salariés comme clients, dont les données passent par l’outil.

Un point mérite une vérification systématique : l’usage de vos contenus pour entraîner les modèles. Les offres gratuites et grand public le prévoient souvent par défaut. Les offres professionnelles l’excluent en général. Cela se lit dans les conditions, cela ne se suppose pas.

Le transfert hors Union européenne

La plupart des grands fournisseurs sont américains. Vos données traversent donc l’Atlantique, ou peuvent au minimum y être accessibles.

Un cadre juridique encadre ces transferts. Gardez simplement en tête que les deux cadres précédents, le Safe Harbor puis le Privacy Shield, ont chacun été invalidés par la Cour de justice de l’Union européenne. Le cadre actuel fait lui aussi l’objet de recours.

Ce n’est pas une raison de tout arrêter. C’est une raison de ne pas bâtir un processus critique sur une base qui peut bouger. Si le cadre tombe, que devient le flux qui fait tourner votre service client ?

Des réponses intermédiaires existent. Plusieurs fournisseurs proposent un hébergement européen, et des acteurs européens sont disponibles. Vérifiez alors deux choses : où sont physiquement les serveurs, et qui contrôle la société mère.

La facture qui glisse

Le Cloud commence toujours par être bon marché. Puis les usages se multiplient, les équipes s’y mettent, et vous passez à la formule supérieure. Puis vous ajoutez des licences.

Un ordre de grandeur pour fixer les idées. Dix collaborateurs équipés d’une offre professionnelle représentent en général entre 2 500 et 4 000 euros par an. Cette dépense est récurrente et augmente avec vos effectifs. En face, un poste correctement dimensionné pour l’IA locale se situe entre 2 000 et 3 000 euros, une seule fois.

Le calcul ne bascule pas systématiquement en faveur du local. Il mérite simplement d’être fait, plutôt que subi.

La dépendance

Au bout de deux ans, vos procédures, vos automatisations et vos habitudes sont construites autour d’un fournisseur. Il peut alors modifier ses tarifs, ses conditions d’usage, ou retirer une fonctionnalité dont vous dépendez.

Vous n’avez aucun moyen de vous y opposer. Vous pouvez seulement partir, et refaire le travail ailleurs.

Ce que le local vous apporte

Le contrôle, d’abord. Vos données ne sortent pas. Pour un cabinet qui manipule des dossiers médicaux, un avocat qui traite des pièces de procédure ou une entreprise qui protège ses plans, ce seul point peut suffire à trancher.

Un coût d’usage nul. Une fois le matériel acheté, vous ne payez plus à la requête. Plus vous utilisez le modèle, plus l’investissement se rentabilise. C’est l’inverse exact de la logique d’abonnement.

La continuité. Pas de connexion Internet nécessaire, pas de panne de service chez un tiers, pas de décision d’un fournisseur ou d’un État qui vous coupe l’accès du jour au lendemain.

Et un argument commercial, souvent sous-estimé. Pouvoir répondre à un client que ses documents ne quittent jamais vos locaux est un différenciateur réel, en particulier face à des donneurs d’ordre publics ou réglementés.

Ce que le local vous coûte

Une qualité en retrait sur les tâches complexes. Le raisonnement poussé, les analyses longues et les agents autonomes restent le terrain des modèles Cloud. L’écart se réduit, il n’a pas disparu.

Une dépendance à votre matériel. Les meilleurs modèles ouverts demandent des machines que la plupart des PME n’ont pas. Ce que vous ferez tourner sera un cran en dessous de ce que vous connaissez en ligne.

Une charge technique réelle. Mises à jour, gestion de la mémoire, sauvegardes, sécurisation du serveur. Ce n’est pas énorme, mais ce n’est pas rien. C’est une petite infrastructure de plus à tenir.

Et surtout une question que je vous invite à poser avant de vous lancer : qui s’en occupe quand la personne qui a tout installé n’est plus là ? Un projet d’IA locale sans référent identifié devient un point de fragilité au bout de six mois.

Pour les curieux : ce qui tourne vraiment sur une machine de bureau

Cette section est technique. Vous pouvez la sauter sans rien perdre du raisonnement.

Sur un MacBook Pro M2 Pro doté de 16 Go de mémoire unifiée, voici ce que l’on peut attendre.

Confortable :

les modèles jusqu’à 9 milliards de paramètres, comme Qwen 3 8B ou Llama 3.1 8B ;
Gemma 3 12B en quantification Q4 ;
Mistral Nemo 12B en Q4, avec une fenêtre de contexte réduite.

Possible, mais tendu, avec un contexte court et peu d’applications ouvertes en parallèle :

Qwen 3 14B en Q4 ;
Phi-4 14B en Q4.

Hors de portée sur cette machine : les modèles de 27 milliards de paramètres et au-delà, qui demandent 32 Go de mémoire au minimum.

Deux repères utiles. La quantification, notée Q4, Q5 ou Q8, réduit la taille du modèle au prix d’une légère perte de qualité ; Q4 est le compromis habituel. Et sur 16 Go de mémoire unifiée, il ne reste en pratique qu’une dizaine de gigaoctets disponibles pour le modèle une fois le système et vos applications chargés.

Côté logiciels, Ollama ou LM Studio suffisent pour démarrer. Comptez une vingtaine de minutes d’installation.

Quatre questions pour trancher

Plutôt qu’un vainqueur théorique, voici la grille que j’utilise.

1. Quelle est la sensibilité réelle de vos données ?

Posez-vous la question autrement : si le contenu de vos échanges avec l’IA se retrouvait publié, quel serait le dommage ? Données de santé, dossiers juridiques, informations financières, secrets industriels, sources journalistiques. Si la réponse fait mal, le local n’est plus une option parmi d’autres, c’est la piste à instruire en priorité.

2. Quel est votre volume ?

Un usage ponctuel, quelques dizaines de requêtes par semaine, ne justifie jamais une installation locale. Un usage intensif, industrialisé, sur des documents à traiter en masse, la justifie très vite. Le point de bascule se calcule.

3. Qui va s’en occuper ?

Si vous n’avez personne en interne, ni prestataire de confiance, l’IA locale vous coûtera plus cher qu’elle ne vous rapportera. Le matériel n’est pas le sujet. La maintenance dans la durée l’est.

4. Quelle est la complexité des tâches ?

Résumer, reformuler, classer, extraire des informations d’un document : un modèle local fait cela très correctement. Analyser un corpus complexe, produire un raisonnement long, piloter des agents : le Cloud garde l’avantage.

Mon verdict

Pour une PME française aujourd’hui, la réponse par défaut n’est ni le tout Cloud ni le tout local. Elle est hybride, et elle se construit dans cet ordre.

Commencez par identifier ce qui ne doit pas sortir. Contrats, données personnelles de clients, dossiers RH, éléments couverts par le secret des affaires. Ce périmètre part en local, ou ne part pas du tout.

Tout le reste peut aller sur une solution Cloud, de préférence européenne ou hébergée en Europe, avec un contrat de sous-traitance vérifié et l’entraînement sur vos données désactivé.

Et gardez la porte de sortie ouverte. Documentez vos usages, évitez les formats propriétaires, faites en sorte de pouvoir changer de fournisseur sans tout reconstruire.

C’est moins spectaculaire qu’un camp choisi. C’est surtout beaucoup plus solide.

Les ordres de grandeur tarifaires et matériels cités sont donnés à titre indicatif, à la date de rédaction. Vérifiez-les au moment de votre décision.