Fyrir mörg teymi er fyrsta spurningin um gervigreindargátt ekki „hvað getur hún gert“ heldur „hvar keyrir hún“. Ef þú starfar í eftirlitsskyldum iðnaði, vinnur með viðkvæm gögn eða ert einfaldlega með ofnæmi fyrir því að senda allar fyrirspurnir og svör í gegnum skýið hjá öðrum, þá er hýst SaaS-gátt ekki uppspretta, sama hversu fáguð hún er. Þú vilt eitthvað sem þú getur keyrt innan eigin innviða, skoðað og stjórnað.
Góðu fréttirnar eru þær að opinn hugbúnaður og sjálfhýsingarhluti þessa markaðar hefur orðið mjög sterkur. Gervigreindargátt er stjórnunarflöturinn milli forritanna þinna og fyrirmyndarveitanna þinna, sem sér um leiðarval, áreiðanleika, öryggi og kostnað á einum stað, og nokkrir af þeim bestu eru nú sendir sem hugbúnaður sem þú getur hýst sjálfur. Hér eru fimm sem vert er að velja úr þegar sjálfhýsing er skilyrði, ekki eitthvað sem gott er að hafa.
Hvað „sjálfshýsandi“ ætti í raun að þýða
Áður en listinn hefst, örfá orð um gildruna. „Opinn hugbúnaður“ og „sjálfhýsanleg“ er ekki það sama og hvorugt tryggir að eiginleikinn sem þú þarft sé í ókeypis útgáfunni. Sum verkefni nota opinn hugbúnað með hraðvirkri leiðarkerfiskjarna en halda stjórnun, eftirlitsgeymslu og aðgangsstýringu fyrir marga teymi í greiddu útgáfuþrepi. Þess vegna skaltu meta þrjá hluti sérstaklega: hvort hugbúnaðurinn keyrir í þínu eigin umhverfi, hvort sértæku eiginleikarnir sem þú þarft séu í þeirri útgáfu sem þú getur hýst sjálf/ur og hvort gögnin séu í raun geymd í innviðum þínum frá upphafi til enda. Með það í huga, svona bera þessir fimm hluti sig saman.
1. TrueFoundry — stjórnunarplan fyrirtækisins sem þú keyrir í þínu eigin skýi
TrueFoundry er efst á þessum lista vegna þess að það var hannað fyrir nákvæmlega þá skorður sem hvetja teymi til sjálfhýsingar: að geyma gögn í eigin umhverfi án þess að fórna getu fyrirtækisins. AI Gateway þess er sett upp innan eigin skýs eða VPC, þannig að fyrirmæli og rakningar eru áfram í innviðum þínum svæði fyrir svæði, en býður samt upp á eitt OpenAI-samhæft viðmót fyrir yfir 1,000 gerðir, álagsjöfnun og varahluti, fulla guardrails-svítu, hlutverkatengdan aðgang, fjárhagsáætlanir og OpenTelemetry-mælingarhæfni.
Það nær einnig lengra en bara umboðsþjónusta. TrueFoundry stýrir MCP netþjónum og umboðsmönnum í gegnum sama stjórnunarplan, og umboðsmannakerfi þess, TrueForge, er opinn hugbúnaður og óháð söluaðilum, þannig að þeir hlutar sem þú vilt skoða og útvíkka eru opnir á meðan kerfið sjálft keyrir þar sem þú þarft á því að halda. Fyrir teymi sem vilja sjálfhýsingu eins og opið verkefni en dýpt og stuðning fyrirtækjavettvangs, þá er þetta samsetningin sem erfitt er að finna annars staðar. FloQast, til dæmis, keyrir það alfarið innan eigin skýs til að halda fjárhagsgögnum geymd í Bandaríkjunum, ESB og Asíu-Kóreu, sem þú getur lesið um í skjölum og dæmisögum TrueFoundry um AI Gateway .
Best fyrir: fyrirtæki sem þurfa gagnageymslu og fulla stjórnun á meðan þau reka gáttina sjálf. Varúð: þetta er fjölbreyttur vettvangur, svo skipuleggið innleiðinguna frekar en að búast við fimm mínútna uppsetningu.
2. Portkey — hraður, vinsæll opinn hugbúnaður fyrir leiðarkerfi
Portkey opnaði hugbúnað fyrir hliðið sitt undir MIT leyfi og kjarninn í því er sannarlega góð verkfræði: létt, mjög lítil viðbótarseinkun, leiðsögn í stóran líkanaskrá með innbyggðum varnarlínum og auðvelt að keyra sem gám sem þú hýsir sjálfur. Ef þú vilt sannaðan opinn hugbúnaðar-umboð til að byggja á, þá er það einn vinsælasti upphafspunkturinn af góðri ástæðu.
Varnarpunkturinn er þar sem mörkin falla á milli ókeypis og greiddra kerfa. Sjálfhýsta útgáfan býður upp á leiðar- og áreiðanleikalag, en geymsla og mælaborð fyrir fylgjastnleika, aðgangur fyrir marga teymi, stórfelld merkingarfræðileg skyndiminni og stuðningur fyrir fyrirtæki eru á hýsta eða fyrirtækjastiginu. Þannig að það hýsir sig vel sjálft sem leið; fullur stjórnunarpakki þýðir venjulega greidda áætlun.
Best fyrir: teymi sem vilja hagnýtt, sjálfhýst leiðarlag. Athugið: staðfestið hvaða stjórnunareiginleikar eru í opnu byggingunni áður en þið staðlið hana.
3. Envoy AI Gateway — opinn staðall sem CNCF styður
Envoy AI Gateway útvíkkar Envoy Gateway verkefni CNCF með innbyggðum stuðningi fyrir gervigreindarumferð og það náði stöðugri útgáfu 1.0 árið 2026. Þetta var búið til og viðhaldið af Tetrate ásamt Bloomberg og er fyrsta opna hugbúnaðar gervigreindargáttin sem CNCF styður, sem skiptir máli ef þú hefur áhuga á söluaðilahlutlausri stjórnun og verkefni sem er ekki stjórnað af einum viðskiptaaðila.
Það býður upp á OpenAI-samhæft viðmót hjá helstu hugbúnaðarframleiðendum, auk leiðarstýringar, failover og OpenTelemetry GenAI rakningar yfir spjall, innfellingar og aðra endapunkta. Bloomberg keyrir það nú þegar í framleiðslu. Gallinn er sá að það er hugbúnaður á innviðastigi: öflugur og staðlaður, en það gerir ráð fyrir teymi sem er þægilegt í notkun Envoy og Kubernetes, og þægindi á hærra stigi eru meira „gerðu það sjálfur“ en í stýrðum vettvangi.
Best fyrir: kerfisteymi sem vilja CNCF-staðlaða, Envoy-byggða gátt sem þau hafa fulla stjórn á. Athugið: fjárhagsáætlun fyrir þá rekstrarþekkingu sem Envoy og Kubernetes krefjast.
4. Higress — stórfelld, opin hugbúnaðargátt sem byggir á gervigreind
Higress hóf starfsemi innan Alibaba, var opinn hugbúnaður undir Apache-2.0 og byggir á Istio og Envoy. Það hefur verið prófað í stórum stíl, þar sem framleiðsluprófun meðhöndlar hundruð þúsunda beiðna á sekúndu og stillingarbreytingar taka gildi á millisekúndum frekar en að neyða fram truflandi endurhleðslur.
Hvað varðar gervigreind styður það almenna líkanaframleiðendur, getur hýst MCP-þjóna í gegnum viðbótarkerfi sitt svo umboðsmenn geti kallað á verkfæri og býður upp á sameinaða stjórnun fyrir bæði LLM og MCP API, ásamt WAF og ýmsum auðkenningaraðferðum. Þetta er frábær kostur ef hrár afköst og sannaður kjarni með miklum afköstum eru forgangsverkefni þín. Eins og með önnur verkefni sem snúast fyrst og fremst um innviði, er stjórnun á hærra stigi og vörufæging léttari en á sérstökum fyrirtækjavettvangi, og þyngdarpunktur samfélagsins gæti verið minna kunnuglegur sumum vestrænum teymum.
Best fyrir: teymi sem þurfa afkastamikla, fullkomlega opna hugbúnaðargátt sem byggir á gervigreind. Varúð: þú munt setja saman meiri hluta stjórnunarlagsins sjálfur.
5. Gloo AI Gateway — Envoy-byggt og Kubernetes-innbyggt
Gloo AI Gateway, frá Solo.io, byggir upp stjórnun gervigreindarumferðar ofan á þroskuðu Envoy- og Kubernetes-innbyggðu gátt. Það miðar að sérþörfum LLM-umferðar: merkingarfræðilegri skyndiminni, táknbundinni hraðatakmörkun, skjótri auðgun, innspýtingu auðkenningar í gegnum Kubernetes leyndarmál og gagnaflutningsvörn til að koma í veg fyrir leka viðkvæmra upplýsinga. Solo.io gaf opinn hugbúnaðargátt sína til CNCF (sem kgateway), þannig að það er ósvikinn opinn kjarni.
Blæbrigðin endurspegla mynstrið á þessum lista: sumir af LLM-sértækum eiginleikum, eins og táknbundin hraðatakmörkun, eru yfirleitt hluti af fyrirtækjaleyfinu frekar en ókeypis kjarnanum. Ef þú ert nú þegar að nota Kubernetes og vilt Envoy-byggða gátt sem meðhöndlar gervigreindarumferð eins og fyrsta flokks borgara, þá hentar það vel svo lengi sem þú tengir hvaða eiginleika þú þarft á réttu stigi.
Best fyrir: Teymi sem nota mikið af Kubernetes og vilja Envoy-byggða gátt með eiginleikum gervigreindarumferðar. Athugið: athugið hvaða eiginleikar LLM krefjast fyrirtækjaútgáfunnar.
Hvernig á að velja
Ef þú vilt eingöngu opinn hugbúnaðarverkefni til að keyra og reka sjálfur, þá bjóða Envoy AI Gateway og Higress þér staðlaða, afkastamikla kjarna, og Gloo er sterkur kostur þegar þú ert þegar skuldbundinn Envoy á Kubernetes. Portkey er auðveldasta leiðin til að sjálfhýsa leiðarlag, að því gefnu að þú samþykkir stigamörkin. Og ef það sem þú þarft í raun eru gögn sem eru geymd í þínu eigin skýi með fullri stjórnun og stuðningi fyrirtækja, þá er TrueFoundry kosturinn sem býður upp á sjálfhýsingu án þess að þú þurfir að byggja upp stjórnunarpakkann sjálfur.
Aðalatriðið
Sjálfhýsing á gervigreindargátt þýddi áður að gefa eftir eiginleika til að stjórna. Árið 2026 er það ekki lengur satt: þú getur fengið opinn staðal studdan af CNCF, afkastamikla kjarna byggðan á gervigreind eða fullkomlega stýrðan fyrirtækjavettvang sem keyrir innan þíns eigin umhverfis. Rétt val fer eftir því hversu mikið þú vilt stjórna sjálfur samanborið við hversu mikla stjórnun þú vilt fá strax. Fyrir teymi sem vilja bæði stjórn og dýpt er TrueFoundry það besta.
