Para muitas equipes, a primeira pergunta sobre um gateway de IA não é "o que ele pode fazer", mas sim "onde ele roda". Se você atua em um setor regulamentado, lida com dados sensíveis ou simplesmente tem aversão a enviar cada solicitação e resposta pela nuvem de terceiros, um gateway SaaS hospedado está fora de cogitação, por mais sofisticado que seja. Você precisa de algo que possa executar dentro da sua própria infraestrutura, inspecionar e controlar.
A boa notícia é que o segmento de código aberto e autohospedável desse mercado se fortaleceu consideravelmente. Um gateway de IA é o plano de controle entre seus aplicativos e seus provedores de modelos, gerenciando roteamento, confiabilidade, segurança e custos em um único lugar, e vários dos melhores agora são distribuídos como software que você pode hospedar por conta própria. Aqui estão cinco opções que valem a pena considerar quando a autohospedagem é um requisito, e não apenas um diferencial.
O que “autohospedável” deveria realmente significar
Antes da lista, uma breve observação sobre a armadilha. "Código aberto" e "hospedável por você mesmo" não são a mesma coisa, e nenhum dos dois garante que o recurso que você precisa esteja na versão gratuita. Alguns projetos disponibilizam o código aberto de um núcleo de roteamento rápido, mas mantêm a governança, o armazenamento de observabilidade e o controle de acesso multiequipe em um plano pago. Portanto, avalie três aspectos separadamente: se o software funciona no seu ambiente, se os recursos específicos de que você precisa estão na versão que você pode hospedar por conta própria e se os dados realmente permanecem na sua infraestrutura de ponta a ponta. Com essa perspectiva, veja como esses cinco projetos se comparam.
1. TrueFoundry — o plano de controle empresarial que você executa em sua própria nuvem.
A TrueFoundry lidera esta lista porque foi criada exatamente para a restrição que impulsiona as equipes a optarem pela auto-hospedagem: manter os dados em seu próprio ambiente sem abrir mão da capacidade corporativa. Seu AI Gateway é implantado dentro de sua própria nuvem ou VPC, de modo que os prompts e rastreamentos permaneçam em sua infraestrutura região por região, ao mesmo tempo que oferece uma interface única compatível com OpenAI para mais de 1,000 modelos, balanceamento de carga e fallback, um conjunto completo de proteções, acesso baseado em funções, orçamentos e observabilidade OpenTelemetry.
Vai além de um simples proxy. A TrueFoundry gerencia servidores e agentes MCP por meio do mesmo plano de controle, e sua estrutura de agentes, TrueForge, é de código aberto e independente de fornecedores. Assim, os componentes que você deseja inspecionar e estender são abertos, enquanto a própria plataforma é executada onde você precisa. Para equipes que buscam a autonomia de um projeto de código aberto, mas com a abrangência e o suporte de uma plataforma corporativa, essa é a combinação ideal, difícil de encontrar em outros lugares. A FloQast, por exemplo, executa tudo em sua própria nuvem para manter os dados financeiros residentes nos EUA, na UE e na região da Ásia-Pacífico, conforme detalhado na documentação e nos estudos de caso do AI Gateway da TrueFoundry.
Ideal para: empresas que precisam de residência de dados e governança completa, gerenciando o gateway internamente. Atenção: trata-se de uma plataforma robusta, portanto, planeje a implementação em vez de esperar uma instalação rápida e fácil.
2. Portkey — um núcleo de roteamento de código aberto rápido e popular
A Portkey disponibilizou seu gateway como código aberto sob a licença MIT, e o núcleo é uma peça de engenharia realmente excelente: leve, com latência adicional muito baixa, roteamento para um amplo catálogo de modelos com mecanismos de segurança integrados e fácil de executar como um contêiner hospedado por você. Se você busca um proxy de código aberto comprovado para construir seu próprio sistema, ele é um dos pontos de partida mais populares por um bom motivo.
A ressalva reside na linha divisória entre a versão gratuita e a paga. A versão auto-hospedada oferece a camada de roteamento e confiabilidade, mas o armazenamento de observabilidade e os painéis, o acesso baseado em funções para várias equipes, o cache semântico em larga escala e o suporte corporativo estão disponíveis apenas na versão hospedada ou empresarial. Portanto, a versão auto-hospedada funciona bem como roteador; um conjunto completo de recursos de governança geralmente exige o plano pago.
Ideal para: equipes que desejam uma camada de roteamento enxuta e auto-hospedada. Atenção: confirme quais recursos de governança estão presentes na versão aberta antes de padronizá-la.
3. Envoy AI Gateway — o padrão aberto apoiado pela CNCF
O Envoy AI Gateway amplia o projeto Envoy Gateway da CNCF com suporte nativo para tráfego de IA e atingiu a versão estável 1.0 em 2026. Criado e mantido pela Tetrate em conjunto com a Bloomberg, é o primeiro gateway de IA de código aberto apoiado pela CNCF, o que é importante se você valoriza a governança neutra em relação a fornecedores e um projeto que não é controlado por um único fornecedor comercial.
Oferece uma interface compatível com OpenAI para os principais provedores de modelos, além de roteamento, failover e rastreamento OpenTelemetry GenAI em chats, embeddings e outros endpoints. A Bloomberg já o utiliza em produção. A desvantagem é que se trata de um software de nível de infraestrutura: poderoso e alinhado aos padrões, mas exige uma equipe com experiência em Envoy e Kubernetes, e as facilidades de configuração de nível superior são mais fáceis de implementar por conta própria do que em uma plataforma gerenciada.
Ideal para: equipes de plataforma que desejam um gateway baseado no Envoy e em conformidade com os padrões da CNCF, que possam controlar totalmente. Atenção: reserve um orçamento para a expertise operacional exigida pelo Envoy e pelo Kubernetes.
4. Higress — um portal de código aberto de alta escalabilidade e nativo de IA.
O Higress foi desenvolvido dentro do Alibaba, tornou-se open source sob a licença Apache 2.0 e é construído sobre Istio e Envoy. Ele foi testado em larga escala, com validação em produção que lida com centenas de milhares de requisições por segundo e alterações de configuração que entram em vigor em milissegundos, em vez de forçar recarregamentos disruptivos.
No que diz respeito à IA, a plataforma suporta os principais fornecedores de modelos, pode hospedar servidores MCP através do seu mecanismo de plugins, permitindo que os agentes chamem ferramentas, e oferece gerenciamento unificado para APIs LLM e MCP, além de WAF e diversas estratégias de autenticação. É uma excelente escolha se o desempenho bruto e um núcleo de alta capacidade comprovada forem suas prioridades. Como acontece com outros projetos focados em infraestrutura, a governança de alto nível e o refinamento do produto são menos complexos do que em uma plataforma empresarial dedicada, e o núcleo da comunidade pode ser menos familiar para algumas equipes ocidentais.
Ideal para: equipes que precisam de um gateway de IA nativo, totalmente de código aberto e de alto desempenho. Atenção: você precisará montar boa parte da camada de governança por conta própria.
5. Gloo AI Gateway — baseado em Envoy e nativo do Kubernetes
O Gloo AI Gateway, da Solo.io, constrói o gerenciamento de tráfego de IA sobre um gateway nativo do Envoy e do Kubernetes já consolidado. Ele visa atender às necessidades específicas do tráfego LLM: cache semântico, limitação de taxa baseada em tokens, enriquecimento de prompts, injeção de credenciais via segredos do Kubernetes e proteção contra exfiltração de dados para evitar vazamento de informações sensíveis. A Solo.io doou seu gateway de código aberto para a CNCF (como kgateway), portanto, há um núcleo genuinamente aberto.
A nuance reflete o padrão desta lista: algumas das funcionalidades específicas do LLM, como a limitação de taxa baseada em tokens, geralmente fazem parte da licença empresarial, e não da versão gratuita principal. Se você já utiliza Kubernetes e deseja um gateway baseado em Envoy que trate o tráfego de IA como prioridade, ele é uma ótima opção, desde que você mapeie os recursos necessários para o nível de licenciamento correto.
Ideal para: Equipes que utilizam Kubernetes intensivamente e desejam um gateway baseado em Envoy com recursos de IA para tráfego. Atenção: verifique quais recursos do LLM exigem a edição Enterprise.
Como escolher
Se você busca um projeto totalmente de código aberto para executar e operar por conta própria, o Envoy AI Gateway e o Higress oferecem núcleos de alto desempenho alinhados aos padrões, e o Gloo é uma ótima opção se você já utiliza o Envoy no Kubernetes. O Portkey é a maneira mais leve de hospedar uma camada de roteamento, desde que você aceite os limites de níveis. E se o que você realmente precisa é que os dados permaneçam em sua própria nuvem com governança e suporte corporativos completos, o TrueFoundry é a opção que oferece a possibilidade de hospedagem própria sem exigir que você construa a infraestrutura de governança.
Conclusão
Hospedar um gateway de IA por conta própria costumava significar abrir mão de recursos em troca de controle. Em 2026, isso não é mais verdade: você pode obter um padrão aberto com o respaldo da CNCF, um núcleo nativo de IA de alto desempenho ou uma plataforma empresarial totalmente governada que roda dentro do seu próprio ambiente. A escolha certa depende de quanto você deseja operar por conta própria versus quanta governança você deseja pronta para uso. Para equipes que desejam tanto controle quanto profundidade, o TrueFoundry é a melhor opção.
