Aller au contenu

Infrastructure d'intelligence artificielle

Un contrat. Tous les fournisseurs de modèles.

Une seule API stable et compatible OpenAI devant tous les fournisseurs qu'utilise votre équipe. Votre application garde une seule intégration ; la passerelle gère l'authentification, le routage, les limites, les budgets, le cache, les coûts et l'observabilité.

Voir sur GitHubLe déployer

Appeler la passerelle

# One key, one alias: the gateway picks
# the provider and falls back for you
curl https://gateway.boelabs.com/v1/chat/completions \
  -H "Authorization: Bearer $VIRTUAL_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "fast",
    "messages": [{ "role": "user", "content": "Hola" }]
  }'

01Pourquoi une passerelle

Changer de fournisseur n'est plus une mise en production

Sans passerelle

  • Un SDK et un schéma d'authentification par fournisseur
  • Les pannes du fournisseur atteignent vos utilisateurs
  • Des clés fournisseur dans chaque service
  • Dépenses et latence invisibles jusqu'à la facture
  • Migrer de fournisseur demande du code

Avec AI Gateway

  • Un contrat compatible OpenAI pour tous
  • Pools pondérés, cooldowns, nouvelles tentatives et fallbacks
  • Des clés virtuelles avec droits, limites et budgets
  • Coût par requête, logs et OpenTelemetry
  • Migrer de fournisseur est un changement de configuration

02Ce qu'elle inclut

Tout ce qui se trouve entre votre application et les modèles

  • Contrats publics

    Les formes exactes d'OpenAI pour le chat, Responses, les images, les embeddings, l'audio, la vidéo, le reranking et les modèles, plus un /v1/messages compatible Anthropic.

  • Fournisseurs

    OpenAI, Anthropic, Google AI Studio, Azure, Vercel AI Gateway, OpenRouter, DeepSeek et d'autres, ou tout endpoint compatible OpenAI.

  • Routage

    Des alias publics sur des pools pondérés de déploiements, avec cooldowns, nouvelles tentatives et chaînes de fallback explicites.

  • Contrôle d'accès

    Une clé maîtresse pour l'exploitation et des clés virtuelles par client, avec modèles autorisés, limites par minute et budgets.

  • Exploitation

    Cache optionnel, logs durables, comptabilité des coûts par requête, et métriques et traces OpenTelemetry.

  • Extensions

    Des hooks de requête, de réponse et de streaming chargés à chaud via l'Admin API, sans forker la passerelle.

03Comment ça marche

Traduire, router, exécuter

  1. 1

    Traduire

    Chaque requête, qu'elle utilise le contrat d'OpenAI ou celui d'Anthropic, devient une seule représentation canonique.

  2. 2

    Router

    Le routeur choisit un déploiement dans le pool de l'alias selon la stratégie, les cooldowns et les fallbacks configurés.

  3. 3

    Exécuter

    Un adaptateur par fournisseur parle son protocole ; rien de spécifique au fournisseur ne fuit vers le cœur ni vers votre réponse.

04Open source

À vous de l'exécuter où vous voulez

Licence MIT. Des images publiées qui n'ont besoin que de Postgres et Redis, et un tableau de bord d'exploitation optionnel sur son propre domaine pour les modèles, les clés, les logs, l'usage et un playground.

  • Derrière nos propres produits, en production.
  • Une seule image est promue entre les environnements : la configuration n'y vit pas.
  • Avant la 1.0, des changements incompatibles restent possibles.
boelabs/ai-gateway
  • L'APIghcr.io/boelabs/ai-gateway-api
  • Le tableau de bord d'exploitationghcr.io/boelabs/ai-gateway-dashboard

Essayez Boberth dès aujourd'hui. C'est gratuit.

Créez votre compte en quelques secondes, ou écrivez-nous pour intégrer Billete à votre activité.

Essayer Boberth gratuitementParler à l'équipe