Para moitos equipos, a primeira pregunta sobre unha pasarela de IA non é "que pode facer", senón "onde se executa". Se traballas nun sector regulado, manexas datos confidenciais ou simplemente tes alerxia a enviar todas as solicitudes e respostas a través da nube doutra persoa, unha pasarela SaaS aloxada non é unha opción viable, por moi refinada que sexa. Queres algo que poidas executar dentro da túa propia infraestrutura, inspeccionalo e controlalo.
A boa noticia é que o segmento de código aberto e autoaloxado deste mercado gañou forza. Unha porta de enlace de IA é o plano de control entre as túas aplicacións e os teus provedores de modelos, xestionando o enrutamento, a fiabilidade, a seguridade e o custo nun só lugar, e varios dos mellores agora entréganse como software que podes aloxar ti mesmo. Aquí tes cinco que paga a pena preseleccionar cando o autoaloxamento é un requisito, non algo que che conveña.
O que debería significar realmente "autoaloxado"
Antes da lista, unhas palabras rápidas sobre a trampa. «Código aberto» e «autoaloxado» non son o mesmo, e ningún dos dous garante que a funcionalidade que necesitas estea na versión gratuíta. Algúns proxectos abre un núcleo de enrutamento rápido, pero manteñen a gobernanza, o almacenamento de observabilidade e o control de acceso multiequipo nun nivel de pago. Polo tanto, avalía tres cousas por separado: se o software se executa no teu propio entorno, se as capacidades específicas que necesitas están na versión que podes autoaloxar e se os datos permanecen realmente na túa infraestrutura de principio a fin. Con esa perspectiva, así é como se comparan estes cinco.
1. TrueFoundry: o plano de control empresarial que executas na túa propia nube
TrueFoundry lidera esta lista porque foi creado exactamente para a restrición que empurra aos equipos cara ao autoaloxamento: manter os datos no seu propio entorno sen renunciar á capacidade empresarial. A súa AI Gateway desprégase dentro da súa propia nube ou VPC, polo que as solicitudes e os rastrexos permanecen na súa infraestrutura rexión por rexión, ao tempo que lle ofrece unha única interface compatible con OpenAI para máis de 1,000 modelos, balanceamento de carga e alternativas, un conxunto completo de guardrails, acceso baseado en roles, orzamentos e observabilidade de OpenTelemetry.
Tamén chega máis alá dun simple proxy. TrueFoundry goberna os servidores e axentes MCP a través do mesmo plano de control, e o seu arnés de axentes, TrueForge, é de código aberto e neutro en canto ao provedor, polo que as pezas que queres inspeccionar e ampliar están abertas mentres a propia plataforma se executa onde as necesitas. Para os equipos que desexan a postura de autoaloxamento dun proxecto de código aberto pero a profundidade e o soporte dunha plataforma empresarial, esta é a combinación que é difícil de atopar noutro lugar. FloQast, por exemplo, execútao completamente dentro da súa propia nube para manter os datos financeiros residentes nas rexións dos Estados Unidos, a UE e a Asia-Pacífico, sobre o que podes ler na documentación e nos estudos de casos de AI Gateway de TrueFoundry.
Ideal para: empresas que precisan residencia de datos e gobernanza completa mentres executan a pasarela elas mesmas. Atención: é unha plataforma enriquecida, polo que é mellor planificar o despregamento en lugar de esperar unha instalación de cinco minutos.
2. Portkey: un núcleo de enrutamento de código aberto, rápido e popular
Portkey publicou a súa porta de enlace de código aberto baixo unha licenza MIT, e o núcleo é unha peza de enxeñaría realmente boa: lixeiro, con moi baixa latencia engadida, enrutamento a un gran catálogo de modelos con barreiras integradas e fácil de executar como un contedor que vostede mesmo aloxa. Se quere un proxy de código aberto probado sobre o que construír, é un dos puntos de partida máis populares por unha boa razón.
A advertencia é onde se sitúa a liña entre o gratuíto e o de pago. A compilación autoaloxada ofréceche a capa de enrutamento e fiabilidade, pero o almacenamento de observabilidade e os paneis, o acceso baseado en roles de varios equipos, o almacenamento en caché semántico a grande escala e o soporte empresarial atópanse no nivel aloxado ou empresarial. Polo tanto, autoaloxase así como un enrutador; unha pila de gobernanza completa normalmente significa o plan de pago.
Ideal para: equipos que desexen unha capa de enrutamento áxil e autoaloxada. Atención: confirma que funcionalidades de gobernanza se atopan na compilación aberta antes de estandarizala.
3. Envoy AI Gateway: o estándar aberto respaldado pola CNCF
Envoy AI Gateway amplía o proxecto Envoy Gateway da CNCF con soporte nativo para o tráfico de IA e alcanzou unha versión estable de 1.0 en 2026. Creada e mantida por Tetrate xunto con Bloomberg, é a primeira pasarela de IA de código aberto respaldada pola CNCF, o que é importante se che importa a gobernanza neutral do provedor e un proxecto que non está controlado por un único provedor comercial.
Ofrece unha interface compatible con OpenAI nos principais provedores de modelos, ademais de enrutamento, conmutación por erro e rastrexo OpenTelemetry GenAI en chat, incrustacións e outros puntos finais. Bloomberg xa o executa en produción. A desvantaxe é que é un software de nivel de infraestrutura: potente e aliñado cos estándares, pero espera un equipo cómodo operando Envoy e Kubernetes, e as comodidades de nivel superior son máis DIY que nunha plataforma xestionada.
Ideal para: equipos de plataformas que desexen unha pasarela baseada en Envoy e co estándar CNCF que controlen totalmente. Atención: orzamenta a experiencia operativa que requiren Envoy e Kubernetes.
4. Higress: unha porta de acceso de código aberto nativa da IA a gran escala
Higress comezou dentro de Alibaba, foi de código aberto baixo Apache-2.0 e está construído sobre Istio e Envoy. Foi probado en batalla a grande escala, con validación de produción que xestiona centos de miles de solicitudes por segundo e cambios de configuración que teñen efecto en milisegundos en lugar de forzar recargas disruptivas.
No que respecta á IA, admite provedores de modelos convencionais, pode aloxar servidores MCP a través do seu mecanismo de complementos para que os axentes poidan chamar a ferramentas e proporciona unha xestión unificada para as API de LLM e MCP, xunto con WAF e unha gama de estratexias de autenticación. É unha excelente opción se as túas prioridades son o rendemento bruto e un núcleo de alto rendemento probado. Do mesmo xeito que con outros proxectos que priorizan a infraestrutura, a gobernanza de alto nivel e o pulido do produto son máis lixeiros que os dunha plataforma empresarial dedicada, e o centro de gravidade da comunidade pode ser menos familiar para algúns equipos occidentais.
Ideal para: equipos que precisan unha pasarela nativa de IA de alto rendemento e totalmente de código aberto. Atención: terás que montar a maior parte da capa de gobernanza ti mesmo.
5. Gloo AI Gateway: baseada en Envoy e nativa de Kubernetes
Gloo AI Gateway, de Solo.io, constrúe a xestión do tráfico de IA sobre unha pasarela nativa de Envoy e Kubernetes madura. Diríxese ás necesidades específicas do tráfico LLM: caché semántica, limitación de velocidade baseada en tokens, enriquecemento de prompts, inxección de credenciais a través de segredos de Kubernetes e protección contra a exfiltración de datos para evitar que se filtre información confidencial. Solo.io doou a súa pasarela de código aberto á CNCF (como kgateway), polo que hai un núcleo aberto xenuíno.
O matiz reflicte o patrón desta lista: algunhas das funcionalidades específicas de LLM, como a limitación de velocidade baseada en tokens, adoitan formar parte da licenza empresarial en lugar do núcleo gratuíto. Se xa executas Kubernetes e queres unha pasarela baseada en Envoy que trate o tráfico de IA como un cidadán de primeira clase, é unha boa opción sempre que mapees as funcionalidades que necesitas ao nivel correcto.
Ideal para: equipos con moito Kubernetes que desexen unha pasarela baseada en Envoy con funcións de tráfico de IA. Atención: comproba que funcións de LLM requiren a edición empresarial.
Como escoller
Se queres un proxecto de código aberto puro para executar e operar ti mesmo, Envoy AI Gateway e Higress ofrécenche núcleos de alto rendemento aliñados cos estándares, e Gloo é unha boa opción cando xa estás comprometido con Envoy en Kubernetes. Portkey é a forma máis lixeira de autohospedar unha capa de enrutamento, sempre que aceptes os límites do nivel. E se o que realmente necesitas son datos que se aloxen na túa propia nube con gobernanza empresarial completa e soporte detrás, TrueFoundry é a opción que che ofrece a postura de autohospedaxe sen pedirche que crees a pila de gobernanza ti mesmo.
A liña de fondo
Autoaloxar unha pasarela de IA antes significaba renunciar a funcionalidades polo control. En 2026 iso xa non é certo: podes obter un estándar aberto respaldado por CNCF, un núcleo nativo de IA de alto rendemento ou unha plataforma empresarial totalmente gobernada que se executa dentro do teu propio entorno. A elección correcta depende de canto queiras operar ti mesmo fronte a canta gobernanza queiras lista para usar. Para os equipos que queren tanto control como profundidade, TrueFoundry é o mellor.
