Por multaj teamoj, la unua demando pri AI-enirejo ne estas "kion ĝi povas fari" sed "kie ĝi funkcias". Se vi estas en reguligita industrio, pritraktas sentemajn datumojn, aŭ simple alergias al sendado de ĉiu prompto kaj respondo tra la nubo de iu alia, gastigita SaaS-enirejo estas nekomenca, kiom ajn eleganta ĝi estas. Vi volas ion, kion vi povas funkciigi ene de via propra infrastrukturo, inspekti kaj kontroli.
La bona novaĵo estas, ke la malfermfonteca kaj mem-gastiganta fino de ĉi tiu merkato vere fortiĝis. AI-pordego estas la stirplano inter viaj aplikaĵoj kaj viaj modelprovizantoj, prizorgante vojigon, fidindecon, sekurecon kaj koston en unu loko, kaj pluraj el la plej bonaj nun estas liverataj kiel programaro, kiun vi povas gastigi mem. Jen kvin, kiujn indas elekti, kiam mem-gastigado estas postulo, ne io dezirinda.
Kion "mem-gastiganta" fakte devus signifi
Antaŭ la listo, rapida vorto pri la kaptilo. "Malfermkoda" kaj "memgastebla" ne estas la sama afero, kaj nek garantias, ke la funkcio, kiun vi bezonas, estas en la senpaga versio. Kelkaj projektoj malfermfonte kodas rapidan vojigon, sed konservas la administradon, observeblan stokadon kaj plurteaman alirkontrolon en pagita nivelo. Do taksu tri aferojn aparte: ĉu la programaro funkcias en via propra medio, ĉu la specifaj kapabloj, kiujn vi bezonas, estas en la versio, kiun vi povas memgastigi, kaj ĉu datumoj efektive restas en via infrastrukturo de komenco ĝis fino. Kun tiu lenso, jen kiel ĉi tiuj kvin komparas.
1. TrueFoundry — la entreprena stirplano, kiun vi funkciigas en via propra nubo
TrueFoundry gvidas ĉi tiun liston ĉar ĝi estis konstruita ĝuste por la limo, kiu puŝas teamojn al mem-gastigado: konservi datumojn en via propra medio sen rezigni pri entreprena kapablo. Ĝia AI-Pordego deplojiĝas ene de via propra nubo aŭ VPC, do promptoj kaj spuroj restas en via infrastrukturregiono laŭ regiono, dum ankoraŭ donante al vi ununuran OpenAI-kongruan interfacon al pli ol 1,000 modeloj, ŝarĝekvilibron kaj rezervajn solvojn, kompletan aron da protektoj, rol-bazitan aliron, buĝetojn kaj OpenTelemetry-observeblecon.
Ĝi ankaŭ atingas pli ol nur simplan prokurilon. TrueFoundry regas MCP-servilojn kaj agentojn per la sama stirplano, kaj ĝia agenta ilaro, TrueForge, estas malfermfonteca kaj vendist-neŭtrala, do la partoj, kiujn vi volus inspekti kaj etendi, estas malfermitaj, dum la platformo mem funkcias kie vi bezonas ĝin. Por teamoj, kiuj volas la mem-gastigadon de malfermfonteca projekto, sed la profundon kaj subtenon de entreprena platformo, ĉi tiu kombinaĵo malfacile troveblas aliloke. FloQast, ekzemple, funkciigas ĝin tute ene de sia propra nubo por konservi financajn datumojn loĝantajn tra Usono, EU kaj APAC-regionoj, pri kio vi povas legi en la dokumentaro kaj kazesploroj de TrueFoundry pri AI Gateway .
Plej bone por: entreprenoj, kiuj bezonas datenloĝejon kaj plenan regadon dum ili mem funkciigas la enirejon. Atentu: ĝi estas riĉa platformo, do planu la lanĉon anstataŭ atendi kvinminutan instaladon.
2. Portkey — rapida, populara malfermfonteca vojiga kerno
Portkey malfermitkode publikigis sian enirejon sub MIT-licenco, kaj la kerno estas vere bona inĝenierarto: malpeza, tre malalta aldonita latenteco, vojigo al granda modelkatalogo kun integritaj apogiloj, kaj facile funkciigebla kiel ujo, kiun vi mem gastigas. Se vi volas pruvitan malfermitkodan prokurilon por konstrui sur ĝi, ĝi estas unu el la plej popularaj deirpunktoj pro bona kialo.
La averto estas kie falas la limo inter senpaga kaj paga. La mem-gastigita konstruo donas al vi la vojigon kaj fidindecan tavolon, sed la observebla stokado kaj instrumentpaneloj, plurteamana rol-bazita aliro, semantika kaŝmemorigo grandskale, kaj entreprena subteno troviĝas en la gastigita aŭ entreprena nivelo. Do ĝi mem-gastigas bone kiel enkursigilo; plena administrada stako kutime signifas la pagitan planon.
Plej bone por: teamoj, kiuj volas sveltan, mem-gastigatan vojigadan tavolon. Atentu: konfirmu, kiuj administradaj funkcioj troviĝas en la malferma konstruo antaŭ ol vi normigos ĝin.
3. Envoy AI Gateway — la CNCF-subtenata malferma normo
Envoy AI Gateway etendas la projekton Envoy Gateway de CNCF kun denaska subteno por AI-trafiko, kaj ĝi atingis stabilan version 1.0 en 2026. Kreita kaj prizorgata de Tetrate kune kun Bloomberg, ĝi estas la unua CNCF-subtenata malfermfonteca AI-gateway, kio gravas se vi zorgas pri vendist-neŭtrala administrado kaj projekto, kiu ne estas kontrolata de ununura komerca vendisto.
Ĝi ofertas OpenAI-kongruan interfacon tra la ĉefaj modelprovizantoj, plus vojigon, failover, kaj OpenTelemetry GenAI-spuradon tra babilejo, enkorpigoj, kaj aliaj finpunktoj. Bloomberg jam funkciigas ĝin en produktado. La avantaĝo estas, ke ĝi estas infrastruktur-nivela programaro: potenca kaj normo-kongrua, sed ĝi atendas teamon komfortan funkciigante Envoy kaj Kubernetes, kaj pli altnivelaj komfortoj estas pli memfaritaj ol en administrita platformo.
Plej bona por: platformaj teamoj, kiuj volas CNCF-norman, Envoy-bazitan enirejon, kiun ili plene kontrolas. Atentu: buĝetu por la funkcia kompetenteco, kiun Envoy kaj Kubernetes postulas.
4. Higress — altskala, AI-denaska malfermfonteca enirejo
Higress komenciĝis ene de Alibaba, estis malfermfonteca sub Apache-2.0, kaj estas konstruita sur Istio kaj Envoy. Ĝi estas grandskale testita, kun produktada validigo traktanta centojn da miloj da petoj po sekundo kaj konfiguraciaj ŝanĝoj kiuj efektiviĝas en milisekundoj anstataŭ devigi interrompajn reŝargojn.
Flanke de artefarita inteligenteco, ĝi subtenas ĉefajn modelprovizantojn, povas gastigi MCP-servilojn per sia kromaĵa mekanismo, por ke agentoj povu voki ilojn, kaj provizas unuigitan administradon por kaj LLM kaj MCP API-oj, kune kun WAF kaj gamo da aŭtentigaj strategioj. Ĝi estas bonega elekto se kruda rendimento kaj pruvita alt-traira kerno estas viaj prioritatoj. Kiel ĉe aliaj infrastruktur-unuaj projektoj, la pli altnivela administrado kaj produkta polurado estas pli malpezaj ol dediĉita entreprena platformo, kaj la komunuma pezocentro eble estas malpli konata al iuj okcidentaj teamoj.
Plej bona por: teamoj, kiuj bezonas alt-trairan, tute malfermfontan AI-denaskan enirejon. Atentu: vi mem kunmetos pli da la administrada tavolo.
5. Gloo AI Gateway — Envoy-bazita kaj Kubernetes-denaska
Gloo AI Gateway, de Solo.io, konstruas AI-trafikan administradon sur matura Envoy- kaj Kubernetes-denaska enirejo. Ĝi celas la specifajn bezonojn de LLM-trafiko: semantika kaŝmemorigo, limigo de rapideco bazita sur ĵetonoj, prompta riĉigo, injekto de akreditaĵoj per Kubernetes-sekretoj, kaj protekto kontraŭ daten-elfiltrado por malhelpi likon de sentemaj informoj. Solo.io donacis sian malfermfontan enirejon al CNCF (kiel kgateway), do ekzistas vere malferma kerno.
La nuanco spegulas la ŝablonon en ĉi tiu listo: iuj el la LLM-specifaj kapabloj, kiel ekzemple limigo de rapideco bazita sur ĵetonoj, estas tipe parto de la entreprena licenco anstataŭ la senpaga kerno. Se vi jam funkciigas Kubernetes kaj volas Envoy-bazitan enirejon, kiu traktas AI-trafikon kiel bonegan civitanon, ĝi estas bona elekto kondiĉe ke vi mapas kiujn funkciojn vi bezonas al la ĝusta nivelo.
Plej bona por: Kubernetes-pezaj teamoj, kiuj deziras Envoy-bazitan enirejon kun AI-trafikaj funkcioj. Atentu: kontrolu, kiuj LLM-funkcioj postulas la entreprenan eldonon.
Kiel elekti
Se vi volas pure malfermitkodan projekton por funkciigi kaj funkciigi mem, Envoy AI Gateway kaj Higress donas al vi normo-kongruajn, alt-efikecajn kernojn, kaj Gloo estas forta elekto kiam vi jam estas dediĉita al Envoy sur Kubernetes. Portkey estas la plej malpeza maniero por mem-gastigi vojigan tavolon, kondiĉe ke vi akceptas la tavollimojn. Kaj se vi efektive bezonas datumojn restantajn en via propra nubo kun plena entreprena administrado kaj subteno malantaŭ ĝi, TrueFoundry estas la opcio, kiu donas al vi la mem-gastigatan sintenon sen peti vin mem konstrui la administradan stakon.
La malsupra linio
Memgastigi AI-pordegon iam signifis rezigni pri funkcioj por kontrolo. En 2026 tio jam ne veras: vi povas akiri CNCF-subtenatan malferman normon, alt-trairan AI-denaskan kernon, aŭ plene regitan entreprenan platformon, kiu funkcias ene de via propra medio. La ĝusta elekto dependas de kiom vi volas funkciigi mem kontraŭ kiom da regado vi volas el la skatolo. Por teamoj, kiuj volas kaj kontrolon kaj profundon, TrueFoundry estas la superinda.
