Infraestrutura de inteligência artificial
Um contrato. Todos os provedores de modelos.
Uma única API estável e compatível com a OpenAI na frente de todos os provedores que sua equipe usa. Seu app mantém uma integração; o gateway cuida de autenticação, roteamento, limites, orçamentos, cache, custos e observabilidade.
Chamar o gateway
# One key, one alias: the gateway picks
# the provider and falls back for you
curl https://gateway.boelabs.com/v1/chat/completions \
-H "Authorization: Bearer $VIRTUAL_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "fast",
"messages": [{ "role": "user", "content": "Hola" }]
}'01Por que um gateway
Trocar de provedor deixa de ser um release
Sem gateway
- Um SDK e um esquema de autenticação por provedor
- Quedas do provedor chegam aos seus usuários
- Chaves do provedor espalhadas em cada serviço
- Gasto e latência só aparecem na fatura
- Migrar de provedor é mudança de código
Com AI Gateway
- Um contrato compatível com a OpenAI para todos
- Pools ponderados, cooldowns, novas tentativas e fallbacks
- Chaves virtuais com permissões, limites e orçamentos
- Custo por requisição, logs e OpenTelemetry
- Migrar de provedor é mudança de configuração
02O que inclui
Tudo o que fica entre seu app e os modelos
Contratos públicos
Os formatos exatos da OpenAI para chat, Responses, imagens, embeddings, áudio, vídeo, reranking e modelos, mais um /v1/messages compatível com a Anthropic.
Provedores
OpenAI, Anthropic, Google AI Studio, Azure, Vercel AI Gateway, OpenRouter, DeepSeek e outros, ou qualquer endpoint compatível com a OpenAI.
Roteamento
Aliases públicos sobre pools ponderados de implantações, com cooldowns, novas tentativas e cadeias de fallback explícitas.
Controle de acesso
Uma chave mestra para operar e chaves virtuais por cliente, com modelos permitidos, limites por minuto e orçamentos.
Operação
Cache opcional, logs duráveis, contabilidade de custo por requisição e métricas e traces com OpenTelemetry.
Extensões
Hooks de requisição, resposta e streaming carregados em tempo de execução pela Admin API, sem fazer fork do gateway.
03Como funciona
Traduz, roteia e executa
- 1
Traduz
Cada requisição, venha do contrato da OpenAI ou da Anthropic, vira uma única representação canônica.
- 2
Roteia
O roteador escolhe uma implantação do pool do alias conforme a estratégia, os cooldowns e os fallbacks configurados.
- 3
Executa
Um adaptador por provedor fala o protocolo dele; nada específico do provedor vaza para o núcleo nem para a sua resposta.
04Open source
Seu para rodar onde quiser
Licença MIT. Imagens publicadas que só precisam de Postgres e Redis, e um painel de operação opcional no próprio domínio para modelos, chaves, logs, uso e um playground.
- Por trás dos nossos próprios produtos, em produção.
- Uma única imagem é promovida entre ambientes: a configuração não fica nela.
- Antes da 1.0 ainda pode haver mudanças incompatíveis.
- A API
ghcr.io/boelabs/ai-gateway-api - O painel de operação
ghcr.io/boelabs/ai-gateway-dashboard
Experimente o Boberth hoje. É grátis.
Crie sua conta em segundos ou fale com a gente se quiser integrar o Billete ao seu negócio.