LiteLLM piraté, Portkey racheté : 6 passerelles IA comparées

Les jetons ne sont marqués nulle part. Le vrai risque et le vrai coût sont ailleurs : frais cachés, propriétaire de la passerelle, chaîne logicielle.

Six passerelles IA représentées comme six serrures sur un coffre de clés API

Réponse courte à la question du titre : les six passerelles de modèles les plus citées en 2026 ne gonflent pas le prix des jetons, mais elles ne se valent pas du tout sur trois points que les pages tarifaires cachent. Les frais prélevés autour des jetons, qui vont de 0 à 8 %. La personne qui possède réellement la passerelle, deux d'entre elles ayant changé de propriétaire en cinq mois. Et la solidité de la chaîne logicielle, LiteLLM ayant été compromis deux fois en sept mois. Ce dossier compare OpenRouter, LiteLLM, Portkey, Cloudflare AI Gateway, Vercel AI Gateway et Bifrost sur 14 critères, avec les prix publiés à la date du 30 octobre 2026.

Une passerelle (gateway) est l'étage qui se glisse entre vos applications et les API d'OpenAI, d'Anthropic, de Google ou de Mistral. Elle porte vos clés API, route les requêtes, applique des budgets, garde les journaux. Autrement dit : elle détient les clés de tout ce que votre entreprise fait avec l'IA. C'est précisément pour cela que le choix mérite plus qu'un coup d'œil à une grille de tarifs. Ce texte s'adresse aux dirigeants de PME qui ont plus de deux fournisseurs de modèles, aux responsables IT qui voient la facture API grossir, et aux freelances qui branchent des agents sur des clés clients.

Méthode et limite, dites tout de suite : nous n'avons pas installé les six produits ni mesuré leur latence nous-mêmes. Ce comparatif est construit sur les pages tarifaires et la documentation officielle (consultées les 29 et 30 octobre), les rapports d'incident des éditeurs, la presse spécialisée et quelques études tierces, avec leurs biais signalés. Quand un chiffre vient d'un éditeur concurrent, nous l'écrivons.

Passerelle LLM : à quoi ça sert, et quand s'en passer

Une passerelle règle quatre problèmes. Le premier : un point d'entrée unique pour plusieurs fournisseurs, avec une interface compatible OpenAI, donc moins de code à réécrire quand on change de modèle. Le deuxième : le basculement automatique (fallback) quand un fournisseur tombe ou limite le débit. Le troisième : la gouvernance, c'est-à-dire des clés virtuelles par équipe, des budgets, des journaux. Le quatrième : la réduction de coût par cache et par routage vers des modèles moins chers.

Elle en crée aussi un cinquième, rarement mentionné : la concentration du risque. Toutes vos clés fournisseurs, tous vos prompts, parfois toutes vos réponses transitent ou sont stockés au même endroit. Un attaquant qui compromet la passerelle gagne tout d'un coup. Nous y revenons longuement plus bas.

Quand s'en passer ? Si vous n'appelez que deux fournisseurs, si votre dépense API mensuelle reste sous 300 €, et si personne ne vous demande de rapport de coûts par équipe, une passerelle ajoute plus de surface d'attaque que de valeur. Notre article sur le coût réel d'un agent IA en production montre où l'argent part vraiment, et ce n'est presque jamais dans la couche de routage. Si, en revanche, vous avez un budget à répartir entre plusieurs équipes, ou si vous voulez éviter d'être enfermé chez un seul fournisseur (notre guide anti-dépendance multi-modèle), la passerelle devient une brique sérieuse.

Les six candidats et la grille de 14 critères

Nous avons retenu six passerelles qui couvrent les trois modèles économiques du marché. OpenRouter : place de marché gérée, un seul compte pour plus de 400 modèles, rémunérée par un frais sur les crédits. LiteLLM et Bifrost : logiciels open source que vous hébergez vous-même, le premier en Python (licence MIT), le second en Go (licence Apache-2.0). Portkey : passerelle sous licence MIT avec offre gérée, depuis mai propriété de Palo Alto Networks. Cloudflare AI Gateway et Vercel AI Gateway : passerelles adossées à un hébergeur, avec un modèle de facturation unifiée.

Les 14 critères : frais sur les jetons ; frais de plateforme ; coût de la clé fournisseur personnelle (BYOK) ; mode d'hébergement ; licence ; journaux et rétention ; plafonds de budget ; clés virtuelles ; cache ; routage en France ou dans l'UE ; rétention zéro des données ; certifications ; propriétaire et stabilité ; historique de sécurité. Les deux derniers sont ceux que les comparatifs omettent, et ce sont ceux qui ont fait basculer cette année.

Combien coûte une passerelle LLM en France : le prix des jetons n'est pas le sujet

Premier constat, unanime dans les comparatifs que nous avons recoupés : aucune passerelle majeure ne majore le prix du jeton. Les modèles sont facturés au tarif catalogue du fournisseur. Les passerelles gagnent leur vie autrement. Pour mémoire, une source tierce (LLM Gateway, qui vend lui-même une passerelle et le reconnaît) alerte sur le fait que cette affirmation d'absence de marge provient des éditeurs eux-mêmes. Les pages officielles, elles, la confirment pour les cinq produits que nous avons pu consulter.

PasserelleFrais sur les jetonsFrais de plateformeClé fournisseur perso (BYOK)Hébergement
OpenRouterAucun5,5 % (Standard) ou 8 % (Business) à l'achat de crédits ; Enterprise négociéGratuit jusqu'à 25 000 $ de tarif catalogue par mois, puis 5 %Géré uniquement
LiteLLMAucunNoyau gratuit ; offre Enterprise sur devis (une source vendeuse avance environ 250 $/mois, non confirmé)Natif, gratuitAuto-hébergé (vous payez serveur, base de données, astreinte)
PortkeyAucunGratuit (10 000 logs/mois) ; Production 49 $/mois pour 100 000 logs, puis 9 $ par 100 000 logs en plus ; Enterprise sur devisNatifGéré, ou noyau open source auto-hébergé
Cloudflare AI GatewayAucunFonctions de base gratuites sur tous les forfaits ; 5 % sur les crédits de la facturation unifiéeOuiGéré uniquement
Vercel AI GatewayAucunAucun frais de plateforme sur les jetons ; options payantes (voir plus bas) ; frais de paiement à votre chargeGratuit, mais nécessite d'avoir acheté des créditsGéré uniquement
BifrostAucunNoyau gratuit (Apache-2.0) ; édition Enterprise sans tarif publicNatifAuto-hébergé (binaire, Docker, ou SDK Go)

Sources : page tarifaire OpenRouter, page tarifaire Portkey, documentation Cloudflare, documentation Vercel, dépôt Bifrost.

Une divergence mérite d'être signalée : un comparatif tiers affirme que le BYOK d'OpenRouter est gratuit jusqu'à un million de requêtes par mois. La page officielle parle, elle, d'un plafond de 25 000 $ de tarif catalogue par mois avant de prélever 5 %. Nous retenons la page officielle.

Le seuil de 890 $ : quand le forfait fixe bat le pourcentage

Le calcul qui structure le choix est simple. OpenRouter Standard prélève 5,5 % sur les crédits que vous achetez. Portkey Production coûte 49 $ par mois quel que soit le volume d'argent qui traverse. L'égalité arrive à environ 49 ÷ 0,055 = 891 $ de dépense mensuelle. En dessous, le pourcentage est moins cher que le forfait. Au-dessus, le forfait gagne, hors surcoût de logs (9 $ par 100 000 logs supplémentaires). Pour comparaison, sur 1 000 $ de crédits, OpenRouter Business (8 %) vous retire 80 $, Standard 55 $, Cloudflare avec facturation unifiée 50 $, Vercel zéro de frais de plateforme.

Ce calcul a une limite honnête : Portkey ne vous facture pas les modèles, vous payez vos fournisseurs directement. OpenRouter, lui, encaisse les crédits et vous redistribue. Les deux n'ont donc pas la même exposition au risque de trésorerie, ni la même fiscalité de facture (un seul fournisseur sur votre compta d'un côté, plusieurs de l'autre). Si vous êtes en France et que vos factures API ne sont pas encore un poste suivi, notre comparatif sur l'explosion de la facture IA pose les bases du suivi.

Autre détail qui pique les petits montants : une source tierce rapporte un minimum de 0,80 $ de frais par achat de crédits sur OpenRouter, soit 8 % sur un achat de 10 $. Le seuil où le pourcentage prend le relais est vers 14,55 $. Pour tester, achetez plus que 15 $ d'un coup.

Les options payantes de Vercel : zéro de marge, mais pas zéro de facture

Vercel est la seule passerelle qui s'affiche sans frais de plateforme sur aucun forfait, BYOK compris. La documentation détaille néanmoins des fonctions désactivées par défaut qui se facturent. Le rapport personnalisé (étiquettes, identifiants utilisateurs) coûte 0,075 $ pour 1 000 écritures et 5 $ pour 1 000 requêtes de lecture. La rétention zéro des données à l'échelle de l'équipe coûte 0,10 $ pour 1 000 requêtes, soit 100 $ pour un million de requêtes, tandis que le filtre par requête reste gratuit. Les exports de traces OpenTelemetry coûtent 0,05 $ pour 1 000 traces plus 0,50 $ par Go de trafic sortant, sans allocation incluse sur le forfait Pro. La passerelle est gratuite quand on ne s'en sert que comme tuyau, et se paie dès qu'on veut gouverner : c'est cohérent, et c'est écrit noir sur blanc, mais un responsable financier devrait modéliser ces lignes avant de généraliser.

Les 14 critères face à face

Le tableau suivant rassemble ce que les documentations publient. Les cases marquées « non vérifié » signifient que nous n'avons pas trouvé la réponse sur une page officielle consultable ; nous préférons l'écrire que de la deviner.

CritèreOpenRouterLiteLLMPortkeyCloudflareVercelBifrost
LicenceService propriétaireMIT (noyau)MIT (passerelle)Service propriétaireService propriétaireApache-2.0
HébergementGéréAuto-hébergéGéré ou auto-hébergéGéréGéréAuto-hébergé
Frais sur crédits5,5 % / 8 %0 %0 % (forfait logs)5 % (facturation unifiée)0 %0 %
Journaux inclusNon vérifiéSelon votre base10 000/mois gratuit ; 100 000 à 49 $100 000 (Workers Free) ; 10 M par passerelle (Workers Paid), pour les passerelles créées avant le 24 septembre 2026Journaux et traces, traces payantesTableau de bord intégré
Plafonds de budgetOui (selon les plans)OuiOui (Enterprise : limites granulaires)Limitation de débit gratuiteOui, par équipe, projet, clé, utilisateurOui, par clé, équipe, client
Clés virtuellesEspaces de travail (5 en Free/Standard, 1 000 en Business)OuiOui (clés de compte de service en Production)Non vérifiéOuiOui
CacheNon vérifiéOuiSimple et sémantique (Production)Oui, gratuitNon vérifiéSémantique (plugin)
Routage UE expliciteBusiness et Enterprise uniquementVous choisissez votre régionEnterprise (cloud privé, VPC)Non vérifiéNon vérifiéVous choisissez votre région
Rétention zéro des donnéesTous les forfaitsDépend du fournisseurNon vérifiéNon vérifiéPro et Enterprise (option payante à l'échelle équipe)Dépend du fournisseur
Conformité publiéeDPA via CGU ; sur mesure en EnterpriseSSO, SCIM, audit en EnterpriseSOC 2 Type 2, RGPD, HIPAA (Enterprise)Non vérifiéNon vérifiéNon vérifié
PropriétaireAnnoncé repris par Stripe (19 août)BerriAIPalo Alto Networks (depuis le 29 mai)CloudflareVercelMaxim AI
Incident majeur 2026Aucun relevéDeux compromissions (mars, octobre)Aucun relevéAucun relevéAucun relevéAucun relevé
Verrou d'écosystèmeFaibleFaibleMoyen (vers Prisma AIRS)Moyen (Workers)Fort (Vercel)Faible
Prix d'entrée utile0 puis 5,5 %~50 à 200 $/mois d'infra (une source)49 $/mois00 + optionsInfra seule

Lecture rapide : en cases remplies de façon vérifiable, Portkey et OpenRouter sont les plus documentés sur le plan de la conformité, Vercel sur la finesse des budgets, Cloudflare sur la gratuité. Aucun n'est irréprochable sur tous les plans, et la colonne « incident majeur » ne dit pas que les cinq autres sont sûrs, seulement que nous n'avons pas relevé d'incident public comparable.

OpenRouter avis : la place de marché que Stripe veut posséder

OpenRouter est la plus simple à utiliser : un compte, une clé, plus de 400 modèles. Son modèle économique est clair, un pourcentage sur les crédits. Son poids a changé de dimension cette année. Le 26 mai, la société a levé 113 M$ à 1,3 Md$ de valorisation, conduite par CapitalG, avec NVentures, ServiceNow, MongoDB, Snowflake et Databricks. Selon les recoupements disponibles, elle tournait autour de 50 M$ de revenus annualisés début 2026 et traitait environ 100 000 milliards de jetons par mois. Surtout, ses fondateurs ont été approchés par un acheteur.

Le 19 août, Stripe a annoncé l'acquisition. La firme n'a pas communiqué de prix ; le New York Times évoque 7,5 Md$, dont 1,5 Md$ pour les fondateurs, d'après une source anonyme que Payments Dive ne confirme pas. Patrick Collison y décrit les jetons comme « la monnaie centrale des entreprises qui construisent avec l'IA ». L'article ne précise ni la date de clôture ni le sort des frais actuels. Une autre lecture, en amont de l'annonce, par TechCrunch, citait plus de 7 Md$. Ce qui est établi : l'annonce date du 19 août. Ce qui ne l'est pas : le calendrier de finalisation, l'évolution tarifaire, la politique de neutralité vis-à-vis des fournisseurs (les fondateurs ont écrit qu'ils ne rejoindraient une société que sans compromettre leur neutralité).

Pour un lecteur, l'enseignement est pratique. La fonction de OpenRouter qui séduit les PME, une facture unique sur des dizaines de modèles, est précisément celle que Stripe veut intégrer à sa couche de paiement. Cela peut baisser les frictions. Cela peut aussi préparer une hausse des frais une fois la clientèle captive. Un 5,5 % qui devient 8 % sur la moitié des comptes est un scénario plausible, pas une prévision. Nous avons mis en évidence plus haut le plafond BYOK de 25 000 $ par mois : c'est la porte de sortie intelligente pour les entreprises qui ont déjà des contrats directs.

Côté données, la page officielle indique que OpenRouter n'entraîne pas de modèle sur vos données, que la rétention zéro est disponible sur tous les plans, et que le routage dans l'UE (eu.openrouter.ai) est réservé aux plans Business et Enterprise. Pour une PME soumise au RGPD, le plan Standard à 5,5 % ne donne donc pas le routage européen. Détail qui compte.

Pour ceux qui explorent le routage multi-modèle comme levier de qualité, notre test d'OpenRouter Fusion montre ce qu'un panel de modèles peu chers peut faire face à un modèle de pointe.

LiteLLM : deux compromissions en sept mois, un cas d'école

LiteLLM est l'option par défaut des équipes techniques : MIT, plus de 100 fournisseurs, compatible OpenAI, et en 2026 environ 23 millions de téléchargements par semaine selon Socket cité par Help Net Security. C'est aussi, cette année, le fil rouge des incidents de chaîne logicielle IA.

24 mars : le scanner de sécurité comme porte d'entrée

Le 24 mars, deux versions piégées (1.82.7 et 1.82.8) sont publiées sur PyPI. Selon le rapport de LiteLLM, elles restent en ligne environ 40 minutes avant mise en quarantaine, alors que Zscaler fait état d'environ trois heures : les sources divergent sur la fenêtre. La cause supposée est la dépendance à Trivy dans le workflow de sécurité de la CI/CD : des identifiants volés lors de la compromission plus large de Trivy auraient permis d'atteindre le pipeline de publication. La charge utile cherche variables d'environnement, clés SSH, identifiants cloud, jetons Kubernetes et mots de passe de bases de données. La version 1.82.8 ajoute un fichier .pth que Python exécute au démarrage, même si LiteLLM n'est pas importé. L'image Docker officielle du proxy n'était pas touchée, parce qu'elle épingle ses dépendances. Hudson Rock a rattaché une archive volée de 153 Go à 2 488 domaines d'entreprise.

LiteLLM a ensuite gelé les publications, fait appel à Mandiant, bâti une CI/CD « v2 » et commencé à signer ses images Docker avec cosign à partir de la v1.83.0-nightly. Le message implicite : l'image Docker épinglée protège.

21 octobre : l'image Docker, cette fois, est touchée

Sept mois plus tard, la protection supposée cède. Le 21 octobre, la version 1.107.0 est publiée sur PyPI et sur Docker. Selon le rapport d'incident de LiteLLM, elle est en ligne de 11 h 39 à 13 h 23 UTC sur PyPI (1 h 44) et de 11 h 46 à 14 h 20 sur Docker, pour les étiquettes v1.107.0, latest, main-latest et main-stable. Les artefacts n'étaient pas construits depuis le dépôt officiel mais depuis un dépôt aux allures de jumeau, Berri-AI/litellm au lieu de BerriAI/litellm, un trait d'union de différence.

La chaîne d'attaque décrite est instructive. Les droits de publication avaient été élargis temporairement le lundi pour des travaux de rétroportage. L'attaquant détenait les jetons OAuth GitHub CLI de trois ingénieurs : l'un a modifié le pipeline, un deuxième a validé l'approbation, un troisième a supprimé les traces. LiteLLM suppose que ces jetons ont fuité via des journaux : Claude Code peut, dans des situations précises, intégrer un jeton GitHub CLI dans le corps d'une réponse, et ces corps de réponse se sont retrouvés dans les journaux de LiteLLM lorsque la journalisation des corps était activée. L'éditeur précise que l'accès initial n'est pas confirmé et que des affirmations du rapport ont été jugées plus tard inexactes ou incomplètes. Nous rapportons donc cette piste comme une hypothèse de l'éditeur, pas comme un fait établi sur l'outil d'Anthropic.

La charge utile, décrite par Microsoft, dépose trois fichiers (cook.pth, cook.py, sitecustomize.py) hors du dossier litellm. Démarrer Python suffit à la déclencher. Elle vise configurations d'outils de développement IA (y compris MCP), identifiants Git, fichiers dotenv, identifiants AWS, Azure et GCP, secrets Kubernetes et Docker, données de navigateur, clés SSH et GPG, et les tables de la base du proxy LiteLLM (jusqu'à 500 lignes par requête). Les données partent chiffrées en AES-256-CBC vers un faux point de contrôle de santé sur litellm.dev. Wiz a observé l'attaquant tester des identifiants AWS environ 4,5 heures après l'exfiltration, avec des vérifications d'accès à Amazon Bedrock.

Le conseil de remédiation est sans appel : repasser sur la 1.106.2 ne suffit pas, il faut supposer l'exfiltration et faire tourner tous les secrets (rôles IAM, clés fournisseurs stockées dans le proxy, clés maîtresses et virtuelles, mot de passe de la base). Supprimer le dossier litellm laisse les fichiers de démarrage en place. Les clients Enterprise utilisant le registre privé de LiteLLM n'ont pas été touchés.

Ce que l'épisode dit des passerelles auto-hébergées

Il ne dit pas que LiteLLM est mauvais, il dit quelque chose de plus gênant : une passerelle auto-hébergée concentre vos clés sur un composant dont vous ne maîtrisez ni la publication ni les dépendances. Le raisonnement vaut pour n'importe quel logiciel open source très téléchargé. Il s'aggrave avec un proxy qui, par nature, stocke les secrets de tous vos fournisseurs. Nous avons détaillé le contexte de la première alerte, avec la lecture de l'ANSSI, dans notre dossier sur la sécurité des agents IA. L'incident d'octobre ajoute une leçon : les jetons de développeurs sont devenus la clé de voûte, et les journaux de requêtes en sont un lieu de fuite. Désactiver la journalisation des corps de requêtes et de réponses sur un proxy qui voit des sorties d'agents codeurs est une hygiène minimale. Notre analyse de la faille GitSpawn sur les agents codeurs va dans le même sens.

Verdict sur le produit : LiteLLM reste le plus complet des logiciels libres, et sa réponse après mars (gel, Mandiant, signature) était sérieuse. Mais le deuxième incident arrive après cette réponse. Quiconque l'exploite doit le faire en verrouillant les versions par empreinte, en filtrant les connexions sortantes de la machine qui l'héberge, et en traitant le serveur comme un coffre-fort.

Portkey est devenu Prisma AIRS : le rachat qui change la lecture

Portkey, créé en 2023 par Rohit Agarwal et Ayush Garg, séduisait par un forfait de 49 $ qui donnait des journaux, des garde-fous, du cache sémantique et du contrôle d'accès. Le 29 mai, Palo Alto Networks a conclu l'acquisition. Le 10-K de l'exercice 2026 du groupe chiffre la contrepartie totale à 117 M$, presque entièrement en numéraire. Le produit est désormais le « AI Gateway » de la plateforme Prisma AIRS.

Notre consultation de la page tarifaire (datée du 15 septembre) montre un produit en transition : un bandeau annonce « PRISMA AIRS AI GATEWAY » généralement disponible pour toutes les entreprises ; les boutons « Upgrade Now » de l'offre Production et « Contact Us » de l'offre Enterprise renvoient vers des pages de Palo Alto Networks ; certains boutons « Start for Free » mènent encore à l'inscription Portkey. Le noyau open source reste sous licence MIT, et les clients existants gardent les fonctions de base (nouvelles tentatives, bascule, règles conditionnelles, cache sémantique). Le bon réflexe est de demander par écrit, avant de signer, le tarif et le périmètre garantis sur 12 mois.

Les atouts réels : SOC 2 Type 2, RGPD, HIPAA et BAA personnalisés annoncés pour l'offre Enterprise, rétention de 30 jours pour les journaux en Production, 90 jours pour les métriques. Le piège : la page indique que Production n'est pas recommandée pour les organisations qui exigent des contrôles de sécurité sur mesure ou une garantie de résidence des données. Pour une PME qui veut les journaux et le cache à 49 $, c'est l'offre la plus lisible du marché. Pour une organisation qui veut garder le contrôle de son fournisseur de passerelle sur trois ans, l'incertitude de feuille de route est réelle. Palo Alto fait de la sécurité, pas des places de marché de modèles : il est raisonnable de penser que le produit va s'orienter vers de la gouvernance d'entreprise, pas vers le développeur solo. C'est une inférence de notre part, pas une annonce.

Cloudflare et Vercel : la passerelle comme appendice de l'hébergeur

Les deux passerelles d'hébergeurs partent avec un avantage : elles se déploient en quelques minutes si vous êtes déjà chez eux, et leur fiabilité d'infrastructure est celle de l'hébergeur.

Cloudflare offre gratuitement, sur tous les forfaits, les analyses du tableau de bord, le cache et la limitation de débit. Le filtrage de données sensibles (DLP) est lui aussi gratuit avec deux profils prédéfinis (informations financières, numéros d'identification). Les journaux sont plafonnés à 100 000 au total sur Workers Free et à 10 millions par passerelle sur Workers Paid, avec une nuance : les comptes dont la première passerelle date du 24 septembre 2026 ou après relèvent du système Workers Logs, avec d'autres règles de tarif et de rétention. La facturation unifiée prélève 5 % à l'achat de crédits (100 $ deviennent 105 $). Les garde-fous sont facturés comme de l'inférence Workers AI, ce qui crée un coût variable avec la longueur des textes. Le cache par correspondance exacte est utile pour des FAQ répétitives, beaucoup moins pour des conversations.

Vercel affiche le plus propre des modèles : zéro marge, zéro frais de plateforme, y compris avec vos propres clés. Les prix sont ceux du catalogue du fournisseur, avec parfois des remises temporaires affichées dans les notes de version (la page tarifaire renvoie vers des offres à moitié prix sur certains modèles récents). Des plafonds de budget se règlent par équipe, projet, clé ou membre. Particularité à connaître : les budgets de Vercel excluent la dépense BYOK, donc les plafonds côté fournisseur restent indispensables. Autre nuance : si une requête BYOK échoue, la passerelle réessaie avec ses propres identifiants et débite alors votre solde de crédits. Une bonne idée pour la fiabilité, un piège pour qui ne lit pas la documentation.

Leur limite commune est le couplage. Basculer de Vercel vers autre chose revient à toucher du code applicatif, et l'inverse est vrai pour Cloudflare. Pour ce qui est de la résidence des données, nous n'avons pas trouvé, dans les pages consultées, d'engagement de routage européen comparable à celui d'OpenRouter Business : à vérifier auprès des commerciaux avant tout contrat concernant des données personnelles.

Bifrost : la promesse de vitesse, les preuves minces

Bifrost, écrit en Go par Maxim AI et sous licence Apache-2.0, vient du camp des challengers. Le dépôt compte 9,2 k étoiles. Il s'installe en une ligne (npx ou Docker, interface locale sur le port 8080) et propose clés virtuelles, budgets hiérarchiques par équipe et par client, cache sémantique en plugin, et une passerelle MCP. L'édition Enterprise (clustering, garde-fous, équilibrage adaptatif) n'a pas de tarif public.

L'argument commercial est la latence : 11 microsecondes ajoutées à 5 000 requêtes par seconde, 100 % de succès. Maxim publie aussi un test à 500 requêtes par seconde sur une petite instance où le P99 de LiteLLM atteindrait 90,72 secondes contre 1,68 seconde pour Bifrost. Tous ces chiffres viennent du fabricant de Bifrost ou de contenus qui le répètent. Le seul chiffre tiers que nous avons trouvé est celui d'AIMultiple, qui a mesuré 840 microsecondes d'ajout sur le chemin MCP de Bifrost : un autre trajet que le routage simple, donc non comparable.

MesureValeur annoncéeOrigineFiabilité
Surcoût Bifrost à 5 000 req/s11 µsMaxim AI (éditeur)Auto-déclaré
P99 LiteLLM à 500 req/s (t3.medium)90,72 s contre 1,68 s pour BifrostMaxim AI (éditeur)Auto-déclaré, test sur petite instance
Surcoût d'une passerelle Pythonenviron 8 msÉquipe Bifrost, via Dev.toAuto-déclaré
Surcoût Bifrost sur chemin MCP840 µsAIMultipleTiers indépendant, autre scénario
Surcoût Kong AI Gatewaymoins de 10 ms (« typiquement »)Récapitulatif Dev.toDonnée source non retrouvée

Source principale : comparatif publié par Maxim AI. Notre lecture : pour un agent de support qui répond en 2 secondes, 8 millisecondes de passerelle ne se voient pas, et 11 microsecondes encore moins. Le critère de latence compte pour un trafic de plusieurs milliers de requêtes par seconde, pas pour une PME. Le vrai argument pour Bifrost est ailleurs : un binaire compilé, une licence permissive, une surface de dépendances réduite. Cette dernière phrase est une inférence, non démontrée : Bifrost est distribué aussi via npx et Docker, des chaînes de publication qui ont leurs propres risques, et son historique est bien plus court, donc moins éprouvé.

Passerelle LLM pour PME : laquelle selon votre profil

Voici nos recommandations, avec le raisonnement. Elles ne sont pas des résultats de test mais des déductions des tarifs, de la documentation et des incidents ci-dessus.

ProfilChoix recommandéPourquoiÀ surveiller
Freelance, moins de 300 €/mois d'API, 2 fournisseursAucune passerelle, ou OpenRouter StandardLes 5,5 % coûtent moins de 17 € ; pas d'hébergement à gérerMinimum de frais sur petits achats
PME avec site ou app déjà sur VercelVercel AI GatewayZéro frais de plateforme, budgets par clé et par équipeOptions payantes ; budgets hors BYOK
PME déjà sur Cloudflare, trafic de FAQ répétitivesCloudflare AI GatewayCache et DLP gratuits ; 5 % seulement si facturation unifiéePlafonds de journaux ; nouvelles règles depuis le 24 septembre
PME de 20 à 200 personnes, besoin de journaux et RBAC, 900 à 5 000 $/moisPortkey Production à 49 $ (avec garantie écrite sur la suite)Forfait fixe sous le seuil des 891 $ ; conformité Enterprise documentéeFeuille de route sous Palo Alto Networks
Équipe technique avec contrainte de souverainetéBifrost ou LiteLLM en auto-hébergement, versions épinglées par empreinteContrôle total de la région et des journauxSécurité de la chaîne logicielle ; astreinte
ETI déjà en contrat direct avec les fournisseursOpenRouter avec BYOK ou passerelle auto-hébergée25 000 $/mois de BYOK sans frais OpenRouterRachat par Stripe : relire les CGU à chaque renouvellement

Si la souveraineté est votre critère premier, la passerelle est secondaire : le fournisseur de modèles et l'hébergeur comptent d'abord. Notre comparatif des API d'IA souveraines couvre ce volet, et notre test d'un agent codeur auto-hébergé montre où se logent les pièges d'infrastructure.

RGPD et passerelle : où passent vos prompts, qui les garde

Une passerelle ajoute un sous-traitant à votre registre. Trois questions à poser, quelle que soit la solution. D'abord : les corps de requêtes sont-ils journalisés, combien de temps, où ? Portkey Production annonce 30 jours de journaux et 90 jours de métriques ; Cloudflare plafonne en volume plutôt qu'en durée ; pour LiteLLM, tout dépend de votre base de données. Ensuite : une région européenne est-elle garantie ? OpenRouter la réserve à Business et Enterprise ; Portkey la rattache à l'Enterprise (cloud privé, VPC) ; chez l'auto-hébergé, c'est vous qui choisissez. Enfin : un accord de traitement des données (DPA) est-il disponible sans négociation ? OpenRouter le propose via ses conditions pour Free et Standard, avec copie signée sur demande en Business.

L'incident LiteLLM montre un quatrième risque, qui n'est pas dans les grilles RGPD : les journaux eux-mêmes deviennent une source de fuite d'identifiants. Si vos agents codeurs ou vos agents de back-office passent par un proxy, ne conservez pas les corps de réponses, ou filtrez les en-têtes et motifs de jetons avant stockage. Pour la gouvernance des identités d'agents, notre dossier sur les badges plutôt que les clés décrit la logique qui devrait remplacer, à terme, les clés API partagées dans les passerelles.

Notre verdict détaillé

Premier verdict : la passerelle par défaut des PME est gérée, pas auto-hébergée. Le coût caché du self-host n'est pas l'hébergement (une source tierce évoque 50 à 200 $ par mois pour un proxy de production), mais la garde d'un composant qui détient toutes vos clés. Les sources tierces situent le point où l'auto-hébergement devient plus économique entre 3 600 et 10 000 $ de dépense mensuelle selon les hypothèses. Elles omettent l'astreinte sécurité, que les deux compromissions de LiteLLM ont rendue très concrète.

Deuxième verdict : Vercel est le meilleur rapport simplicité-prix si vous y êtes déjà, OpenRouter le plus pratique si vous ne voulez surtout pas gérer de contrats fournisseurs, Portkey le plus complet pour de la gouvernance à 49 $ à condition d'obtenir des garanties écrites sur la suite, Cloudflare le meilleur départ gratuit pour un trafic répétitif, LiteLLM le plus riche en fonctions mais le plus exposé, Bifrost le plus prometteur techniquement mais le moins éprouvé et le moins documenté sur la conformité.

Troisième verdict, plus inconfortable : le prix d'une passerelle est le critère le moins discriminant. Un écart de 0 à 8 % sur 2 000 $ de dépense représente 160 $ par mois, soit un ordre de grandeur inférieur au coût d'un seul incident de clés volées. Les critères à pondérer lourdement sont le propriétaire (et sa trajectoire), la fenêtre de rotation des clés que vous pouvez tenir en cas de compromission, et la capacité à partir. Une passerelle dont vous ne pouvez pas sortir en une journée est une dépendance de plus, pas une protection contre la dépendance.

Ce que nous déconseillons : installer LiteLLM par un simple pip install sans épinglage sur une machine qui porte aussi d'autres secrets ; croire qu'une image Docker officielle vous protège par principe (le 21 octobre l'a démenti) ; signer un forfait Portkey Enterprise sans clause de stabilité tarifaire ; activer partout la rétention zéro payante de Vercel sans avoir modélisé les 100 $ par million de requêtes.

Ce que nous ne savons pas encore

Plusieurs points restent ouverts à la date de publication. L'enquête sur l'incident LiteLLM d'octobre est en cours, l'accès initial n'est pas confirmé, et l'éditeur reconnaît que certaines affirmations du rapport se sont révélées inexactes ou incomplètes. La clôture formelle du rachat d'OpenRouter par Stripe n'apparaît pas dans les sources que nous avons consultées, et rien n'indique si les frais de 5,5 % et 8 % survivront. Le prix exact payé par Stripe n'est confirmé par aucune partie. Les performances de Bifrost n'ont pas été vérifiées de manière indépendante sur du routage simple. Enfin, nous n'avons pas trouvé d'information publique vérifiable sur la certification de sécurité de Cloudflare AI Gateway, de Vercel AI Gateway ou de Bifrost pour la passerelle elle-même ; la case reste « non vérifié » dans notre tableau jusqu'à preuve du contraire. Si l'un des éditeurs nous corrige, nous mettrons ce dossier à jour.

Conclusion : trois décisions à prendre cette semaine

Un : cartographiez où vivent vos clés API. Si une version de LiteLLM 1.107.0 a pu tourner chez vous entre le 21 octobre à 11 h 39 et 14 h 20 UTC, traitez les secrets comme compromis, faites-les tourner depuis une machine saine, et suivez la procédure de l'éditeur. Si vous n'utilisez pas LiteLLM, vérifiez malgré tout que vos agents ne journalisent pas de jetons dans leurs réponses.

Deux : choisissez par profil, pas par palmarès. Sous 900 $ par mois et sans équipe plateforme, prenez Vercel si vous y êtes, Cloudflare si vous y êtes, OpenRouter sinon. Entre 900 et 5 000 $, Portkey Production est cohérent, à condition d'obtenir par écrit le tarif et le périmètre sur 12 mois. Au-delà, ou avec contrainte de souveraineté, passez au self-host, mais seulement avec épinglage par empreinte, sorties réseau filtrées, et un propriétaire interne clairement désigné.

Trois : gardez une porte de sortie. Utilisez l'interface compatible OpenAI plutôt que les extensions propriétaires, conservez vos contrats directs avec au moins deux fournisseurs de modèles pour le BYOK, et testez une fois par trimestre le basculement vers une autre passerelle. Si vous voulez d'abord comparer deux modèles avant de décider de router entre eux, un abonnement à Claude ou à ChatGPT reste la façon la moins chère de se faire une idée sans toucher à l'API. Et si vous êtes déjà abonné à

, regardez d'abord les crédits API inclus avant d'ouvrir un compte passerelle : notre tuto sur les crédits API de Claude Max montre ce qu'ils permettent. Pour mesurer l'effet réel du routage une fois en place, le comparatif d'observabilité des agents IA donne les outils pour lire les traces.

FAQ

Qu'est-ce qu'une passerelle LLM et en ai-je besoin pour ma PME ?
C'est un service qui se place entre vos applications et les API des fournisseurs de modèles. Il centralise les clés, bascule automatiquement entre fournisseurs, applique des budgets et garde des journaux. Vous en avez besoin si vous appelez au moins trois fournisseurs, si plusieurs équipes consomment de l'API et qu'il faut répartir les coûts, ou si vous voulez pouvoir changer de modèle sans réécrire le code. Sous deux fournisseurs et environ 300 € de dépense mensuelle, une passerelle ajoute plus de surface d'attaque que de valeur.
OpenRouter vaut-il le coup en 2026 pour une PME française ?
Oui si vous voulez un seul compte et une seule facture pour plus de 400 modèles. Le coût est de 5,5 % sur les crédits en plan Standard, 8 % en Business, sans marge sur les jetons. Au-delà de 25 000 $ de tarif catalogue par mois en BYOK, 5 % s'appliquent. Attention : le routage dans l'UE n'est proposé qu'en plans Business et Enterprise, et Stripe a annoncé le 19 août reprendre la société, sans préciser ce que deviendront les frais. Relisez les conditions à chaque renouvellement.
LiteLLM est-il gratuit et sûr à utiliser ?
Le noyau est gratuit sous licence MIT, mais vous payez l'hébergement (une source tierce estime 50 à 200 $ par mois pour un proxy de production) et le temps d'exploitation. Côté sécurité, LiteLLM a subi deux compromissions de sa chaîne de publication en 2026, le 24 mars (versions 1.82.7 et 1.82.8) et le 21 octobre (version 1.107.0, PyPI et Docker). Dernière version saine annoncée : 1.106.2. L'usage reste défendable avec des versions épinglées par empreinte, des sorties réseau filtrées et une rotation rapide des clés en cas de doute.
J'ai peut-être installé LiteLLM 1.107.0 : que faire ?
Ne lancez pas pip install en premier : tout démarrage de Python peut relancer le code malveillant. Isolez la machine, cherchez les fichiers cook.pth, cook.py et sitecustomize.py dans les dossiers site-packages et le dossier litellm-1.107.0.dist-info, reconstruisez les environnements et images à partir d'une version saine (1.106.2), puis faites tourner tous les secrets depuis une machine propre : rôles IAM, clés fournisseurs stockées dans le proxy, clés maîtresses et virtuelles, mot de passe de la base, jetons Git. Considérez l'exfiltration comme acquise si la machine avait un accès Internet sortant.
Que devient Portkey depuis le rachat par Palo Alto Networks ?
Palo Alto Networks a conclu l'acquisition le 29 mai 2026 pour 117 M$ selon son 10-K. Le produit est devenu le AI Gateway de Prisma AIRS. Le noyau open source reste sous licence MIT, et les clients existants conservent les fonctions de base. Les boutons de la page tarifaire renvoient en partie vers des pages de Palo Alto. Avant de signer un contrat, demandez par écrit le tarif et le périmètre garantis sur 12 mois, car la feuille de route est plutôt orientée gouvernance d'entreprise.
Cloudflare AI Gateway est-il vraiment gratuit ?
Les fonctions de base (analyses, cache, limitation de débit) sont gratuites sur tous les forfaits, et le filtrage DLP aussi. Les journaux sont plafonnés à 100 000 au total sur Workers Free et 10 millions par passerelle sur Workers Paid pour les passerelles créées avant le 24 septembre 2026 ; les plus récentes suivent les règles de Workers Logs. Les garde-fous sont facturés comme de l'inférence, et la facturation unifiée ajoute 5 % à l'achat de crédits. Gratuit pour un usage simple, payant dès que vous cumulez garde-fous et gros volumes de logs.
Quelle passerelle choisir pour garder mes données en Europe ?
Les options documentées : OpenRouter propose eu.openrouter.ai en plans Business et Enterprise uniquement ; Portkey rattache la résidence des données et le cloud privé à son offre Enterprise ; une passerelle auto-hébergée (LiteLLM, Bifrost) vous laisse choisir la région de votre propre serveur. Pour Cloudflare et Vercel, nous n'avons pas trouvé d'engagement équivalent dans la documentation consultée : demandez-le aux commerciaux avant d'y faire passer des données personnelles. Dans tous les cas, vérifiez aussi la région du fournisseur de modèle derrière la passerelle.
À partir de quel budget un forfait fixe type Portkey devient-il moins cher qu'un pourcentage ?
Le calcul est 49 $ divisé par 5,5 %, soit environ 890 $ de dépense mensuelle. En dessous, OpenRouter Standard coûte moins cher que Portkey Production ; au-dessus, le forfait fixe l'emporte, sans compter le surcoût de 9 $ par 100 000 logs supplémentaires. Sur 1 000 $ de crédits, OpenRouter Business vous retire 80 $, Standard 55 $, Cloudflare en facturation unifiée 50 $. N'oubliez pas que Portkey ne facture pas les modèles : vous payez vos fournisseurs directement, ce qui change votre gestion comptable.
Les chiffres de latence de Bifrost sont-ils fiables ?
Les chiffres vedettes (11 microsecondes à 5 000 requêtes par seconde, P99 de 1,68 s contre 90,72 s pour LiteLLM à 500 requêtes par seconde) viennent de Maxim AI, qui édite Bifrost. Le seul chiffre indépendant trouvé, 840 microsecondes sur le chemin MCP, vient d'AIMultiple et ne mesure pas le routage simple. Pour une PME, ces écarts sont sans importance pratique : un appel de modèle prend des secondes. Choisissez Bifrost pour sa licence et son architecture, pas pour un chiffre de latence invérifié.
Partager
Résumé vidéoen cours…