IA et GPU

Réduire sa facture IA et GPU : les leviers et un exemple chiffré

Une facture d’IA a deux moitiés : des GPU loués à l’heure, qu’ils calculent ou non, et des API de modèles payées au token. Nous repérons en lecture seule les GPU qui attendent, les modèles plus puissants que la tâche et les appels qui pourraient passer en traitement par lots, nous chiffrons chaque action, et nous ne sommes payés que sur ce qui baisse.

Mis à jour le 26 octobre 2026. Tarifs AWS de la région Paris (eu-west-3), en dollars US hors taxes, relevés le 26 octobre 2026 ; remises de Microsoft et de Google relevées le même jour dans leur documentation : sources en bas de page.

Pour qui

Votre facture cloud dépasse environ 5 000 € HT par mois, et une part croissante vient d’instances GPU (entraînement, inférence, notebooks) ou d’API de modèles : Amazon Bedrock, Azure OpenAI dans Microsoft Foundry, Gemini sur Vertex AI. En dessous, nous vous le disons et nous vous donnons les pistes.
Vous ne savez pas dire quelle équipe ou quel produit consomme quels tokens. Dans l’enquête State of FinOps 2026 de la FinOps Foundation, 98 % des répondants gèrent une dépense d’IA, contre 63 % en 2025 ; la visibilité sur ces coûts et leur répartition entre métiers figurent parmi les premières difficultés citées.
Des instances GPU de développement ou des notebooks restent allumés la nuit et le week-end.
Tous vos appels passent par le même modèle, le plus puissant, à la demande, même pour des traitements qui peuvent attendre le lendemain.

FinOps Foundation, State of FinOps 2026 : 1 192 répondants ; les questions sur l’IA ont reçu entre 649 et 693 réponses. Ce sont des praticiens FinOps, pas un panel représentatif des entreprises françaises.

Ce que nous regardons

Nous suivons la méthode FinOps : le cadre de la FinOps Foundation où technique, finance et métiers décident ensemble à partir des données de coût, en trois phases : informer, optimiser, opérer. Pour l’IA, tout part de deux mesures : le taux d’occupation de chaque GPU, et les tokens consommés par modèle, par application et par équipe.

Les GPU

Poste	Levier	Outil natif ou donnée	Effet, tarifs de Paris
Type et génération d’instance	Passer à une génération plus récente ou à un GPU plus petit, après un test de charge sur votre modèle	Inventaire des instances, fichiers de prix du fournisseur	g6.xlarge (GPU NVIDIA L4) : 1,0216 $/h contre 1,2770 $/h en g5.xlarge (NVIDIA A10G), soit −20,0 % ; g6.2xlarge : −19,3 % face à g5.2xlarge
Taux d’utilisation	Regrouper les modèles sur moins de GPU, réduire le nombre d’instances d’inférence aux heures creuses	Agent CloudWatch : `nvidia_smi_utilization_gpu`, `nvidia_smi_memory_used`	Calculé instance par instance, sur l’occupation mesurée
Entraînement et traitements interruptibles	Instances Spot ou préemptibles, avec points de reprise (checkpoints) enregistrés régulièrement	Entraînement géré sur Spot de SageMaker, tarifs Spot d’EC2	Jusqu’à 90 % de remise sur EC2 face au tarif à la demande ; le tarif suit l’offre et la demande (non relevé pour Paris)
Notebooks et environnements inactifs	Arrêt automatique après une période d’inactivité, arrêt programmé hors heures ouvrées	Arrêt sur inactivité de SageMaker Studio (JupyterLab, Code Editor), réglable par domaine ou par utilisateur	Allumés 12 h × 5 jours, ils ne tournent plus que 36 % des heures de la semaine
Inférence allumée 24 h/24	Engagement sur l’usage permanent, une fois l’usage réduit	Savings Plans d’AWS, réservations Azure, CUD de Google Cloud : voir s’engager sans se piéger	g6.2xlarge : 1,24095 $/h à la demande, 1,00982 $/h en Compute Savings Plan 1 an sans avance (−18,6 %)

Les API de modèles

Levier	Ce que nous faisons	Où	Effet publié
Choix du modèle selon la tâche	Classer, extraire ou résumer avec un modèle plus petit, garder le plus puissant pour ce qui l’exige, après un test de qualité sur vos propres données	Les trois fournisseurs	Amazon Nova Lite à Paris : 0,088 $ par million de tokens en entrée, contre 1,18 $ pour Nova Pro (−92,5 %, même écart en sortie)
Traitement par lots	Passer en lots les traitements qui peuvent attendre : documents de la nuit, enrichissement de bases, évaluations	Amazon Bedrock (inférence par lots), Azure OpenAI (Batch API, délai visé de 24 heures, quota séparé), Gemini sur Vertex AI (inférence par lots)	50 % de moins que l’appel à la demande, chez les trois fournisseurs, pour les modèles concernés
Mise en cache des prompts	Placer les instructions, les outils et les documents qui reviennent au début du prompt, le contenu variable à la fin	Amazon Bedrock, Azure OpenAI, Vertex AI	Lecture en cache de Nova Pro à Paris : 0,295 $ par million de tokens au lieu de 1,18 $ (−75 %) ; Gemini 2.5 et suivants : −90 % sur les tokens en cache ; Azure OpenAI : remise sur les tokens en cache, jusqu’à 100 % en débit provisionné
Débit provisionné ou à la demande	Comparer le coût horaire de la capacité réservée à ce que coûteraient les mêmes tokens à la demande ; supprimer la capacité qui tourne à vide	Bedrock Provisioned Throughput (sans engagement, 1 ou 6 mois), PTU d’Azure (à l’heure ou en réservation d’1 mois ou d’1 an), Provisioned Throughput de Google (abonnement à durée fixe)	Facturé à l’heure, que des requêtes arrivent ou non : rentable seulement sur un trafic régulier et soutenu
Quotas et budgets par équipe	Un point d’accès par application ou par équipe, étiqueté, avec son quota et son budget	Profils d’inférence applicatifs de Bedrock avec étiquettes de répartition des coûts ; quota en tokens par minute attribué à chaque déploiement Azure OpenAI	Chaque équipe voit ce qu’elle consomme ; une dérive se voit avant la facture

Instances : Linux, à la demande et Savings Plans sans avance, fichiers de prix d’AWS publiés le 23 octobre 2026. Amazon Nova : fichier de prix d’Amazon Bedrock pour Paris publié le 16 octobre 2026, tarifs en vigueur au 1er octobre 2026, appels dans la région. Vertex AI fait partie, depuis le 22 avril 2026, de Gemini Enterprise Agent Platform. La mise en cache ne s’applique pas aux lots sur Bedrock, et l’écriture en cache peut être facturée selon le modèle.

Rien ne change sans votre accord : chaque action est validée par vous, mise en œuvre avec vos équipes (ou par elles) et réversible, sauf les engagements (Savings Plans, réservations, débit provisionné avec durée), que vous signez vous-même, et les suppressions, que vous confirmez.

Exemple chiffré : GPU et API d’une même équipe data

Une équipe fait tourner, en région Paris, deux instances g5.2xlarge pour l’inférence d’un modèle maison, trois g5.xlarge pour ses notebooks, allumées en permanence, et classe chaque nuit ses documents entrants avec Amazon Nova Pro à la demande : 1,5 milliard de tokens en entrée et 50 millions en sortie par mois.

Exemple illustratif : coût mensuel aux tarifs de Paris relevés le 26 octobre 2026, sur 730 heures, en dollars US hors taxes.
Poste	Avant	Après
Inférence : 2 × g5.2xlarge, puis 2 × g6.2xlarge, 24 h/24	2 246,20 $	1 811,79 $
Notebooks : 3 × g5.xlarge, 730 h, puis 260 h par mois (12 h × 5 jours)	2 796,63 $	996,06 $
Classement nocturne : Nova Pro à la demande, puis Nova Lite par lots	2 006,00 $	74,80 $
Total	7 048,83 $	2 882,65 $

Soit 4 166,18 $ de moins par mois (−59,1 %) sur ces trois postes. Le passage en lots seul, en gardant Nova Pro, ramène déjà le classement de 2 006,00 $ à 1 003,00 $. Un Compute Savings Plan d’un an sans avance ramènerait ensuite les deux g6.2xlarge à 1 474,34 $ par mois : c’est un achat que vous décidez et signez.

Exemple illustratif, pas un client réel

Il ne préjuge pas de votre facture : seule la mesure sur la baseline signée fait foi. Le passage de l’A10G au L4 suppose un test de charge sur votre modèle (débit, latence, mémoire) ; le passage de Nova Pro à Nova Lite, un test de qualité sur un échantillon de vos documents, validé par vos équipes métier. Le traitement par lots suppose que les résultats puissent attendre : Azure et Google visent 24 heures. Calculs : 1 500 millions × 1,18 $ + 50 millions × 4,72 $ par million de tokens avant ; 1 500 millions × 0,044 $ + 50 millions × 0,176 $ après ; 260 heures = 12 h × 5 jours × 52 semaines ÷ 12 mois.

L’accès à nous donner : lecture seule

Un NDA mutuel (accord de confidentialité) est signé avant tout accès. Nous ne lisons ni vos prompts, ni les réponses des modèles, ni vos données d’entraînement : les tokens consommés, les instances et leur occupation figurent déjà dans vos exports de facturation et vos métriques.

Des rôles en lecture seule

Les mêmes que pour le reste de votre cloud, détaillés sur nos pages AWS, Microsoft Azure et Google Cloud, plus la lecture des métriques GPU si l’agent qui les collecte est installé. Vous les révoquez quand vous voulez.

Ou vos exports de facturation

Export CUR 2.0 ou FOCUS chez AWS, export des coûts chez Microsoft, export vers BigQuery chez Google, sans aucun accès à votre compte. L’inventaire des instances GPU et des déploiements de modèles se fait alors avec vos équipes.

Prix

25 % des économies mesurées, pendant 12 mois. Ensuite, 100 % pour vous. Au-delà de 20 000 € d’économies par mois, notre part passe à 20 % sur ce qui dépasse. Aucune économie, aucune facture. Zéro fixe, zéro abonnement, zéro minimum.

Audit gratuit : plan d’économies chiffré, action par action, sous 10 jours ouvrés après l’ouverture de l’accès. Aucun engagement : le plan vous reste, même si vous ne signez pas.
Baseline, la référence de la mesure : coût effectif moyen des 3 derniers mois clos, ressource par ressource, signé avant toute action ; vos engagements existants sont listés à part et ne sont jamais facturés.
Mesure : sur vos factures, action par action, au prix de la baseline. La croissance de votre activité est neutralisée par un indicateur convenu à la signature (documents traités, conversations) : si votre usage de l’IA double, seule la baisse du coût par unité compte. Les hausses ou baisses de tarif du fournisseur ne comptent ni pour ni contre, les économies négatives se déduisent. Seules les économies réalisées et mesurées sur vos factures sont facturées, jamais les « coûts évités ».
Facturation : mensuelle, sur rapport contradictoire validé sous 15 jours ; une économie contestée n’est pas facturée.
Engagements et débit provisionné : décidés et signés par vous ; notre part ne porte que sur les 12 premiers mois d’économies.
Sortie : résiliable à tout moment, préavis d’un mois ; à la sortie, aucune économie future n’est facturée.

Demander l’audit gratuit Faire le diagnostic en 7 questions

Par fournisseur : AWS · Microsoft Azure · Google Cloud · Kubernetes · OVHcloud et Scaleway. À lire aussi : la méthode FinOps, étape par étape · Savings Plans et réservations · votre facture cloud est-elle trop élevée ?

Sources

Pages et fichiers consultés le 26 octobre 2026. « Non datée » : aucune date de publication visible.