Per a molts equips, la primera pregunta sobre una passarel·la d'IA no és "què pot fer", sinó "on funciona". Si treballeu en una indústria regulada, gestioneu dades sensibles o simplement sou al·lèrgics a enviar totes les indicacions i respostes a través del núvol d'una altra persona, una passarel·la SaaS allotjada no és una bona opció, independentment de com de polida estigui. Voleu alguna cosa que pugueu executar dins de la vostra pròpia infraestructura, inspeccionar-la i controlar-la.
La bona notícia és que l'extrem de codi obert i autoallotjat d'aquest mercat s'ha enfortit de debò. Una passarel·la d'IA és el pla de control entre les vostres aplicacions i els vostres proveïdors de models, que gestiona l'encaminament, la fiabilitat, la seguretat i el cost en un sol lloc, i alguns dels millors ara s'envien com a programari que podeu allotjar vosaltres mateixos. Aquí teniu cinc opcions que val la pena seleccionar quan l'autoallotjament és un requisit, no una cosa que us agradaria tenir.
Què hauria de significar realment "autoallotjable"
Abans de la llista, un breu comentari sobre la trampa. "Codi obert" i "autoallotjable" no són el mateix, i cap dels dos garanteix que la funció que necessiteu estigui a la versió gratuïta. Alguns projectes ofereixen codi obert a un nucli d'enrutament ràpid, però mantenen la governança, l'emmagatzematge d'observabilitat i el control d'accés multiequip en un nivell de pagament. Per tant, avalueu tres coses per separat: si el programari s'executa al vostre propi entorn, si les capacitats específiques que necessiteu són a la versió que podeu autoallotjar i si les dades realment es mantenen a la vostra infraestructura de principi a fi. Amb aquesta perspectiva, aquí teniu com es comparen aquests cinc.
1. TrueFoundry: el pla de control empresarial que executeu al vostre propi núvol
TrueFoundry encapçala aquesta llista perquè es va crear exactament per a la restricció que empeny els equips a l'autoallotjament: mantenir les dades al vostre propi entorn sense renunciar a la capacitat empresarial. La seva AI Gateway es desplega dins del vostre propi núvol o VPC, de manera que les indicacions i els rastres es mantenen a la vostra infraestructura regió per regió, alhora que us ofereix una única interfície compatible amb OpenAI per a més de 1,000 models, equilibri de càrrega i alternatives, un conjunt complet de guardrails, accés basat en rols, pressupostos i observabilitat d'OpenTelemetry.
També arriba més enllà d'un simple proxy. TrueFoundry governa els servidors i agents MCP a través del mateix pla de control, i el seu arnès d'agents, TrueForge, és de codi obert i neutral respecte al proveïdor, de manera que les peces que voldríeu inspeccionar i ampliar estan obertes mentre la plataforma s'executa on les necessiteu. Per als equips que volen la postura d'autoallotjament d'un projecte de codi obert però la profunditat i el suport d'una plataforma empresarial, aquesta és la combinació que és difícil de trobar en altres llocs. FloQast, per exemple, l'executa completament dins del seu propi núvol per mantenir les dades financeres residents a les regions dels EUA, la UE i l'Àsia-Pacífic, sobre les quals podeu llegir a la documentació i els casos pràctics d'AI Gateway de TrueFoundry.
Ideal per a: empreses que necessiten residència de dades i governança completa mentre executen la passarel·la elles mateixes. Atenció: és una plataforma rica, així que planifiqueu el desplegament en lloc d'esperar una instal·lació de cinc minuts.
2. Portkey: un nucli d'encaminament de codi obert ràpid i popular
Portkey va fer que la seva passarel·la fos de codi obert sota una llicència MIT, i el nucli és una peça d'enginyeria realment bona: lleuger, amb molt baixa latència afegida, encaminament a un gran catàleg de models amb barreres de protecció integrades i fàcil d'executar com a contenidor que allotgeu vosaltres mateixos. Si voleu un proxy de codi obert provat sobre el qual construir, és un dels punts de partida més populars per una bona raó.
L'advertència és on es troba la línia entre el gratuït i el de pagament. La compilació autoallotjada us ofereix la capa d'enrutament i fiabilitat, però l'emmagatzematge d'observabilitat i els quadres de comandament, l'accés basat en rols de diversos equips, l'emmagatzematge en memòria cau semàntica a gran escala i el suport empresarial es troben al nivell allotjat o empresarial. Per tant, s'autoallotja també com a encaminador; una pila de governança completa normalment significa el pla de pagament.
Ideal per a: equips que volen una capa d'enrutament àgil i autoallotjada. Atenció: confirmeu quines funcions de governança resideixen a la compilació oberta abans d'estandarditzar-la.
3. Envoy AI Gateway: l'estàndard obert recolzat per la CNCF
Envoy AI Gateway estén el projecte Envoy Gateway de la CNCF amb suport natiu per al trànsit d'IA, i va assolir una versió estable 1.0 el 2026. Creat i mantingut per Tetrate juntament amb Bloomberg, és la primera passarel·la d'IA de codi obert recolzada per la CNCF, cosa que és important si us importa la governança neutral del proveïdor i un projecte que no està controlat per un únic proveïdor comercial.
Ofereix una interfície compatible amb OpenAI en els principals proveïdors de models, a més d'encaminament, failover i traçat OpenTelemetry GenAI a través de xat, incrustacions i altres punts finals. Bloomberg ja l'executa en producció. L'inconvenient és que és un programari de grau d'infraestructura: potent i alineat amb els estàndards, però espera un equip còmode operant Envoy i Kubernetes, i les comoditats de nivell superior són més DIY que en una plataforma gestionada.
Ideal per a: equips de plataforma que volen una passarel·la basada en Envoy i amb l'estàndard CNCF que controlin completament. Atenció: pressuposteu per a l'experiència operativa que exigeixen Envoy i Kubernetes.
4. Higress: una passarel·la de codi obert a gran escala i nativa d'IA
Higress va començar dins d'Alibaba, va ser de codi obert sota Apache-2.0 i està construït sobre Istio i Envoy. S'ha provat en combat a gran escala, amb una validació de producció que gestiona centenars de milers de sol·licituds per segon i canvis de configuració que tenen efecte en mil·lisegons en lloc de forçar recàrregues disruptives.
Pel que fa a la IA, admet proveïdors de models convencionals, pot allotjar servidors MCP a través del seu mecanisme de complements perquè els agents puguin cridar eines i proporciona una gestió unificada per a les API LLM i MCP, juntament amb WAF i una gamma d'estratègies d'autenticació. És una excel·lent opció si les vostres prioritats són el rendiment brut i un nucli d'alt rendiment provat. Com passa amb altres projectes que prioritzen la infraestructura, la governança d'alt nivell i el poliment del producte són més lleugers que els d'una plataforma empresarial dedicada, i el centre de gravetat de la comunitat pot ser menys familiar per a alguns equips occidentals.
Ideal per a: equips que necessiten una passarel·la nativa d'IA d'alt rendiment i de codi obert. Atenció: hauràs de muntar més part de la capa de governança tu mateix.
5. Gloo AI Gateway: basat en Envoy i natiu de Kubernetes
Gloo AI Gateway, de Solo.io, construeix la gestió del trànsit d'IA sobre una passarel·la nativa d'Envoy i Kubernetes madura. S'adreça a les necessitats específiques del trànsit LLM: emmagatzematge en memòria cau semàntica, limitació de velocitat basada en tokens, enriquiment de prompts, injecció de credencials mitjançant secrets de Kubernetes i protecció contra l'exfiltració de dades per evitar que es filtri informació sensible. Solo.io va donar la seva passarel·la de codi obert a la CNCF (com a kgateway), de manera que hi ha un nucli obert genuí.
El matís reflecteix el patró d'aquesta llista: algunes de les capacitats específiques de LLM, com ara la limitació de velocitat basada en tokens, solen formar part de la llicència empresarial en lloc del nucli gratuït. Si ja executeu Kubernetes i voleu una passarel·la basada en Envoy que tracti el trànsit d'IA com un ciutadà de primera classe, és una bona opció sempre que mapeu quines funcions necessiteu al nivell correcte.
Ideal per a: equips amb molta aplicació de Kubernetes que volen una passarel·la basada en Envoy amb funcions de trànsit d'IA. Atenció: comproveu quines funcions de LLM requereixen l'edició empresarial.
Com triar
Si voleu un projecte de codi obert pur per executar i operar vosaltres mateixos, Envoy AI Gateway i Higress us ofereixen nuclis d'alt rendiment alineats amb els estàndards, i Gloo és una bona opció quan ja esteu compromesos amb Envoy a Kubernetes. Portkey és la manera més lleugera d'autoallotjar una capa d'enrutament, sempre que accepteu els límits del nivell. I si el que realment necessiteu són dades que es quedin al vostre propi núvol amb una governança empresarial completa i suport al darrere, TrueFoundry és l'opció que us ofereix la postura autoallotjada sense demanar-vos que creeu la pila de governança vosaltres mateixos.
La línia de fons
Autoallotjar una passarel·la d'IA abans significava renunciar a funcions per tenir control. El 2026 això ja no és cert: podeu obtenir un estàndard obert recolzat per CNCF, un nucli natiu d'IA d'alt rendiment o una plataforma empresarial totalment governada que s'executa dins del vostre propi entorn. L'elecció correcta depèn de quant voleu operar vosaltres mateixos en comparació amb quanta governança voleu de fàbrica. Per als equips que volen tant control com profunditat, TrueFoundry és el millor.
