Daudzām komandām pirmais jautājums par mākslīgā intelekta vārteju nav “ko tā var darīt”, bet gan “kur tā darbojas”. Ja strādājat regulētā nozarē, apstrādājat sensitīvus datus vai vienkārši esat alerģisks pret katras uzvednes un atbildes sūtīšanu caur kāda cita mākoni, mitināta SaaS vārteja nav īsti piemērota, lai cik noslīpēta tā būtu. Jums ir nepieciešams kaut kas tāds, ko varat darbināt savā infrastruktūrā, pārbaudīt un kontrolēt.
Labā ziņa ir tā, ka šī tirgus atvērtā pirmkoda un pašapkalpošanās hostinga puse ir kļuvusi patiesi spēcīga. Mākslīgā intelekta vārteja ir vadības plakne starp jūsu lietojumprogrammām un modeļu nodrošinātājiem, kas vienuviet apstrādā maršrutēšanu, uzticamību, drošību un izmaksas, un vairākas no labākajām tagad tiek piegādātas kā programmatūra, ko varat mitināt pats. Šeit ir piecas, kuras ir vērts iekļaut sarakstā, ja pašapkalpošanās hostings ir prasība, nevis kaut kas patīkams.
Ko patiesībā nozīmē “pašuzņemams”
Pirms saraksta īss apraksts. “Atvērtā pirmkoda” un “pašmitināma” nav viens un tas pats, un neviens no tiem negarantē, ka nepieciešamā funkcija ir pieejama bezmaksas versijā. Daži projekti piedāvā ātras maršrutēšanas kodolu ar atvērtā pirmkoda atbalstu, bet pārvaldību, novērojamības krātuvi un vairāku komandu piekļuves kontroli saglabā maksas līmenī. Tāpēc atsevišķi izvērtējiet trīs lietas: vai programmatūra darbojas jūsu vidē, vai konkrētās nepieciešamās iespējas ir versijā, kuru varat pats mitināt, un vai dati faktiski paliek jūsu infrastruktūrā no sākuma līdz beigām. Raugoties no šī skatpunkta, lūk, kā šie pieci salīdzināmi.
1. TrueFoundry — uzņēmuma vadības plakne, kuru darbinat savā mākonī
TrueFoundry ir šī saraksta augšgalā, jo tas tika izveidots tieši tam ierobežojumam, kas mudina komandas uz pašmitināšanu: datu glabāšana savā vidē, neatsakoties no uzņēmuma iespējām. Tā AI vārteja tiek izvietota jūsu pašu mākonī vai VPC, tāpēc uzvednes un izsekošanas dati paliek jūsu infrastruktūras reģionā pa reģionam, vienlaikus nodrošinot jums vienu ar OpenAI saderīgu saskarni ar vairāk nekā 1,000 modeļiem, slodzes līdzsvarošanu un rezerves risinājumiem, pilnu drošības joslu komplektu, uz lomām balstītu piekļuvi, budžetus un OpenTelemetry novērojamību.
Tas sniedzas tālāk par tīru starpniekserveri. TrueFoundry pārvalda MCP serverus un aģentus, izmantojot vienu un to pašu vadības plakni, un tā aģentu sistēma TrueForge ir atvērtā koda un pārdevēju neitrāla, tāpēc daļas, kuras vēlaties pārbaudīt un paplašināt, ir atvērtas, savukārt pati platforma darbojas tur, kur jums tā nepieciešama. Komandām, kas vēlas atvērtā koda projekta pašapkalpošanās statusu, bet uzņēmuma platformas dziļumu un atbalstu, šī ir kombinācija, ko ir grūti atrast citur. Piemēram, FloQast to pilnībā darbina savā mākonī, lai finanšu dati glabātos ASV, ES un Āzijas un Klusā okeāna reģionos, par ko varat lasīt TrueFoundry AI Gateway dokumentācijā un gadījumu izpētē.
Vispiemērotākais: uzņēmumiem, kuriem nepieciešama datu glabātuve un pilnīga pārvaldība, pašiem darbinot vārteju. Uzmanību: tā ir bagātināta platforma, tāpēc plānojiet ieviešanu, nevis gaidiet piecu minūšu instalēšanu.
2. Portkey — ātrs, populārs atvērtā koda maršrutēšanas kodols
Portkey savu vārteju padarīja par atvērtā koda versiju saskaņā ar MIT licenci, un kodols ir patiesi labs inženiertehnisks risinājums: viegls, ļoti zema pievienotā latentuma, maršrutēšana uz lielu modeļu katalogu ar integrētām aizsargbarjerām un viegli darbināma kā konteiners, ko pats mitināt. Ja vēlaties pārbaudītu atvērtā koda starpniekserveri, uz kura balstīties, tas ir viens no populārākajiem sākumpunktiem pamatota iemesla dēļ.
Vienīgais brīdinājums ir robeža starp bezmaksas un maksas versiju. Pašhostētā versija nodrošina maršrutēšanas un uzticamības slāni, bet novērojamības krātuve un informācijas paneļi, vairāku komandu lomām balstīta piekļuve, semantiskā kešatmiņa lielā mērogā un uzņēmuma atbalsts atrodas mitinātā vai uzņēmuma līmenī. Tātad tā darbojas tāpat kā maršrutētājs, taču pilns pārvaldības komplekts parasti nozīmē maksas plānu.
Vislabāk piemērots: komandām, kas vēlas vienkāršu, pašuzstādītu maršrutēšanas slāni. Uzmanību: pirms standartizācijas pārbaudiet, kuras pārvaldības funkcijas ir pieejamas atvērtajā versijā.
3. Envoy AI Gateway — CNCF atbalstīts atvērtais standarts
Envoy AI Gateway paplašina CNCF Envoy Gateway projektu ar vietējo atbalstu AI datplūsmai, un 2026. gadā tas sasniedza stabilu 1.0 versiju. To izveidoja un uztur Tetrate kopā ar Bloomberg, un tā ir pirmā CNCF atbalstītā atvērtā koda AI vārteja, kas ir svarīgi, ja jums rūp pārdevēja neitrāla pārvaldība un projekts, ko nekontrolē viens komerciāls pārdevējs.
Tas piedāvā ar OpenAI saderīgu saskarni visiem galvenajiem modeļu nodrošinātājiem, kā arī maršrutēšanu, dublēšanu un OpenTelemetry GenAI izsekošanu tērzēšanā, iegulšanā un citos galapunktos. Bloomberg to jau izmanto ražošanas vidē. Kompromiss ir tāds, ka tā ir infrastruktūras līmeņa programmatūra: jaudīga un standartiem atbilstoša, taču tā sagaida, ka komanda ērti strādās ar Envoy un Kubernetes, un augstāka līmeņa ērtības ir vairāk "dari pats" nekā pārvaldītā platformā.
Vislabāk piemērots: platformu komandām, kas vēlas CNCF standarta, Envoy balstītu vārteju, kuru tās pilnībā kontrolē. Uzmanību: budžets paredzēts Envoy un Kubernetes nepieciešamajai operatīvajai pieredzei.
4. Higress — liela mēroga, mākslīgā intelekta balstīta atvērtā koda vārteja
Higress aizsākās Alibaba iekšienē, bija atvērtā koda Apache-2.0 vidē un ir veidots uz Istio un Envoy bāzes. Tas ir pārbaudīts plašā mērogā, ar ražošanas validāciju, kas apstrādā simtiem tūkstošu pieprasījumu sekundē, un konfigurācijas izmaiņām, kas stājas spēkā milisekundēs, nevis piespiež traucējošu atkārtotu ielādi.
Mākslīgā intelekta pusē tas atbalsta galvenos modeļu nodrošinātājus, var mitināt MCP serverus, izmantojot savu spraudņu mehānismu, lai aģenti varētu izsaukt rīkus, un nodrošina vienotu pārvaldību gan LLM, gan MCP API, kā arī WAF un virkni autentifikācijas stratēģiju. Tā ir lieliska izvēle, ja jūsu prioritātes ir neapstrādāta veiktspēja un pārbaudīts augstas caurlaidspējas kodols. Tāpat kā citos infrastruktūras projektos, augstāka līmeņa pārvaldība un produkta pulēšana ir vieglāka nekā īpašai uzņēmuma platformai, un kopienas smaguma centrs dažām Rietumu komandām var būt mazāk pazīstams.
Vispiemērotākais: komandām, kurām nepieciešama augstas caurlaidspējas, pilnībā atvērtā pirmkoda mākslīgā intelekta vārteja. Uzmanību: lielāko daļu pārvaldības slāņa jūs apkoposiet pats.
5. Gloo AI vārteja — uz sūtņiem balstīta un Kubernetes balstīta
Gloo AI Gateway no Solo.io veido AI datplūsmas pārvaldību, pamatojoties uz nobriedušu Envoy un Kubernetes vārteju. Tas ir vērsts uz LLM datplūsmas īpašajām vajadzībām: semantiskā kešatmiņa, uz marķieriem balstīta ātruma ierobežošana, tūlītēja bagātināšana, akreditācijas datu ievadīšana, izmantojot Kubernetes noslēpumus, un datu eksfiltrācijas aizsardzība, lai novērstu sensitīvas informācijas noplūdi. Solo.io ziedoja savu atvērtā pirmkoda vārteju CNCF (kā kgateway), tāpēc pastāv patiesi atvērts kodols.
Nianse atspoguļo šajā sarakstā redzamo modeli: dažas no LLM specifiskajām iespējām, piemēram, uz marķieriem balstīta ātruma ierobežošana, parasti ir daļa no uzņēmuma licences, nevis bezmaksas kodola. Ja jūs jau izmantojat Kubernetes un vēlaties uz Envoy balstītu vārteju, kas apstrādā AI datplūsmu kā pirmās klases pilsoni, tā ir lieliska izvēle, ja vien jūs sasaistat nepieciešamās funkcijas ar pareizo līmeni.
Vispiemērotākais: Kubernetes izmantotām komandām, kuras vēlas uz Envoy balstītu vārteju ar mākslīgā intelekta datplūsmas funkcijām. Uzmanību: pārbaudiet, kurām LLM funkcijām ir nepieciešams uzņēmuma izdevums.
Kā izvēlēties
Ja vēlaties tīru atvērtā pirmkoda projektu, ko varētu palaist un pārvaldīt pats, Envoy AI Gateway un Higress nodrošina jums standartiem atbilstošus, augstas veiktspējas kodolus, un Gloo ir laba izvēle, ja jau esat apņēmies izmantot Envoy Kubernetes platformā. Portkey ir vienkāršākais veids, kā pats mitināt maršrutēšanas slāni, ja vien jūs piekrītat līmeņu robežām. Un, ja jums patiešām ir nepieciešams, lai dati paliktu jūsu mākonī ar pilnu uzņēmuma pārvaldību un atbalstu, TrueFoundry ir opcija, kas nodrošina pašmitināšanas stāvokli, neprasot pašam veidot pārvaldības steku.
Bottom line
Mākslīgā intelekta vārtejas pašmitināšana agrāk nozīmēja atteikšanos no funkcijām kontroles vārdā. 2026. gadā tas vairs neatbilst patiesībai: jūs varat iegūt CNCF atbalstītu atvērto standartu, augstas caurlaidspējas mākslīgā intelekta bāzes kodolu vai pilnībā pārvaldītu uzņēmuma platformu, kas darbojas jūsu vidē. Pareizā izvēle ir atkarīga no tā, cik lielā mērā vēlaties pats pārvaldīt, nevis no tā, cik lielu pārvaldību vēlaties uzreiz. Komandām, kas vēlas gan kontroli, gan dziļumu, TrueFoundry ir īstā izvēle.
