Talde askorentzat, IA atebide bati buruzko lehen galdera ez da "zer egin dezake", baizik eta "non exekutatzen da". Araututako industria batean bazaude, datu sentikorrak maneiatzen badituzu edo, besterik gabe, beste norbaiten hodeiaren bidez galdera eta erantzun guztiak bidaltzeari alergia badiozu, ostatatutako SaaS atebide bat ez da aukera ona, zenbat landua izan arren. Zure azpiegituraren barruan exekutatu, ikuskatu eta kontrolatu dezakezun zerbait nahi duzu.
Berri ona da merkatu honen kode irekiko eta auto-ostatatze-gaitasuneko aldea benetan indartsu bihurtu dela. IA atebide bat zure aplikazioen eta zure modelo hornitzaileen arteko kontrol-planoa da, bideratzea, fidagarritasuna, segurtasuna eta kostua leku bakarrean kudeatzen dituena, eta onenetako batzuk zuk zeuk ostatatu ditzakezun software gisa saltzen dira orain. Hona hemen bost aukera merezi dituztenak auto-ostatatzea derrigorrezkoa denean, edukitzea ez den gauza atsegina.
Zer esan nahi duen benetan "auto-ostatua"
Zerrenda baino lehen, hitz batzuk tranpari buruz. "Kode irekia" eta "auto-ostatua" ez dira gauza bera, eta bietako batek ere ez du bermatzen behar duzun funtzioa doako bertsioan egongo denik. Proiektu batzuek bideratze azkarreko nukleo bat kode irekian jartzen dute, baina gobernantza, behatzeko biltegiratzea eta talde anitzeko sarbide-kontrola maila ordainpeko batean mantentzen dituzte. Beraz, ebaluatu hiru gauza bereizita: softwarea zure ingurunean exekutatzen den ala ez, behar dituzun gaitasun espezifikoak auto-ostatua dezakezun bertsioan dauden ala ez, eta datuak zure azpiegituran mutur batetik bestera mantentzen diren ala ez. Ikuspegi horrekin, hona hemen bost hauek nola alderatzen diren.
1. TrueFoundry — zure hodeian exekutatzen duzun enpresa-kontrol-planoa
TrueFoundry zerrenda honen buru da, taldeak auto-ostatatzera bultzatzen dituen muga horretarako eraiki zelako: datuak zure ingurunean gordetzea enpresaren gaitasuna galdu gabe. Bere AI Gateway zure hodeian edo VPC barruan zabaltzen da, beraz, eskaerak eta arrastoak zure azpiegitura eskualdeka mantentzen dira, eta, aldi berean, OpenAI-rekin bateragarria den interfaze bakarra eskaintzen dizu 1,000 modelo baino gehiagotarako, karga-orekatzea eta ordezko baliabideak, babes-multzo osoa, roletan oinarritutako sarbidea, aurrekontuak eta OpenTelemetry behaketa-gaitasuna.
Proxy huts bat baino haratago iristen da. TrueFoundry-k MCP zerbitzariak eta agenteak kontrol-plano beraren bidez gobernatzen ditu, eta bere agenteen arnesa, TrueForge, kode irekikoa eta saltzailearekiko neutrala da, beraz, ikuskatu eta zabaldu nahi dituzun piezak irekita daude plataforma bera behar duzun lekuan exekutatzen den bitartean. Kode irekiko proiektu baten auto-ostatatze jarrera baina enpresa-plataforma baten sakontasuna eta laguntza nahi duten taldeentzat, hau da beste inon aurkitzea zaila den konbinazioa. FloQast-ek, adibidez, bere hodeian exekutatzen du osorik, finantza-datuak AEB, EB eta APAC eskualdeetan mantentzeko, TrueFoundry-ren AI Gateway dokumentazioan eta kasu-azterketetan irakur dezakezun horri buruz.
Egokiena: datuen egoitza eta gobernantza osoa behar dituzten enpresentzat, pasabidea beraiek exekutatzen duten bitartean. Kontuz: plataforma aberatsa da, beraz, planifikatu hedapena bost minutuko instalazio bat espero beharrean.
2. Portkey — bideratze-nukleo azkar eta ezagun bat, kode irekikoa
Portkey-k bere atebidea MIT lizentziapean ireki zuen, eta muina ingeniaritza pieza bikaina da benetan: arina, latentzia oso baxua, babes-hesi integratuekin modelo katalogo handi batera bideratzen da, eta zuk zeuk ostatatzen duzun edukiontzi gisa erabiltzeko erraza. Proxy kode irekiko frogatu bat nahi baduzu gainean eraikitzeko, abiapuntu ezagunenetako bat da arrazoi onengatik.
Oharra doakoaren eta ordainpekoaren arteko muga non dagoen da. Auto-ostatutako eraikuntzak bideratze eta fidagarritasun geruza ematen dizu, baina behatzeko biltegiratzea eta aginte-panelak, talde anitzeko roletan oinarritutako sarbidea, eskala handiko cache semantikoa eta enpresaren laguntza ostatutako edo enpresa mailan daude. Beraz, auto-ostatatzen du bideratzaile gisa; gobernantza pila oso batek normalean ordainpeko plana esan nahi du.
Egokiena: bideratze-geruza arin eta auto-ostatatutako bat nahi duten taldeentzat. Kontuz: baieztatu zein gobernantza-ezaugarri dauden eraikuntza irekian estandarizatu aurretik.
3. Envoy AI Gateway — CNCFk babestutako estandar irekia
Envoy AI Gateway-k CNCFren Envoy Gateway proiektua zabaltzen du AI trafikoarentzako euskarri natiboarekin, eta 1.0 bertsio egonkorrera iritsi zen 2026an. Tetratek sortua eta mantendua Bloombergekin batera, CNCFk babestutako lehen AI kode irekiko atea da, eta hori garrantzitsua da saltzailearekiko gobernantza neutrala eta saltzaile komertzial bakar batek kontrolatzen ez duen proiektu bat axola bazaizu.
OpenAI-rekin bateragarria den interfazea eskaintzen du modelo hornitzaile nagusietan, baita bideratzea, failover-a eta OpenTelemetry GenAI trazabilitatea txatean, txertatzeetan eta beste amaiera-puntu batzuetan ere. Bloomberg-ek dagoeneko exekutatzen du ekoizpenean. Alde txarra azpiegitura-mailako softwarea dela da: indartsua eta estandarrekin lerrokatuta, baina Envoy eta Kubernetes erabiltzeko eroso dagoen talde bat espero du, eta goi-mailako erosotasunak kudeatutako plataforma batean baino "egin ezazu zeuk" gehiago.
Egokiena: CNCF estandarrean oinarritutako Envoy oinarritutako atebide bat nahi duten plataforma-taldeentzat, guztiz kontrolatzen dutenentzat. Kontuz: Envoy-k eta Kubernetes-ek eskatzen duten eragiketa-espezializazioa aurreikusi.
4. Higress — eskala handiko eta adimen artifizialaren bidezko kode irekiko atebide bat
Higress Alibabaren barruan hasi zen, Apache-2.0-ren pean kode irekikoa izan zen, eta Istio eta Envoy-en gainean eraikita dago. Eskala handian probatu da, ekoizpenaren balidazioak segundoko ehunka mila eskaera kudeatzen dituelarik eta konfigurazio aldaketak milisegundotan indarrean jartzen direlarik, birkargatze etenak behartu beharrean.
Adimen Artifizialaren aldetik, modelo hornitzaile nagusiak onartzen ditu, MCP zerbitzariak ostatatu ditzake bere plugin mekanismoaren bidez, agenteek tresnak deitu ahal izan ditzaten, eta LLM eta MCP APIetarako kudeaketa bateratua eskaintzen du, WAF eta autentifikazio estrategia sorta batekin batera. Aukera bikaina da errendimendu gordina eta frogatutako errendimendu handiko nukleo bat zure lehentasunak badira. Azpiegitura lehenesten duten beste proiektu batzuetan bezala, goi-mailako gobernantza eta produktuaren leuntzea enpresa plataforma dedikatu bat baino arinagoak dira, eta komunitatearen grabitate zentroa ez da hain ezaguna izango mendebaldeko talde batzuentzat.
Egokiena: errendimendu handiko eta guztiz kode irekiko IA-n oinarritutako atebide bat behar duten taldeentzat. Kontuz: gobernantza geruza gehiago zuk zeuk muntatuko duzu.
5. Gloo AI Gateway — Envoy-en oinarritutakoa eta Kubernetes-en natiboa
Solo.io-ren Gloo AI Gateway-k Envoy eta Kubernetes-en jatorrizko atebide heldu baten gainean eraikitzen du AI trafikoaren kudeaketa. LLM trafikoaren behar espezifikoak asetzeko erabiltzen da: cache semantikoa, tokenetan oinarritutako abiadura mugatzea, gonbidapenen aberastea, Kubernetes sekretuen bidezko kredentzialen injekzioa eta datuen erauzketa babesa informazio sentikorra ihes egitea saihesteko. Solo.io-k bere kode irekiko atea CNCF-ri eman zion (kgateway gisa), beraz, benetako nukleo irekia dago.
Ñabardurak zerrenda honetako eredua islatzen du: LLMren gaitasun espezifiko batzuk, hala nola tokenetan oinarritutako abiadura mugatzea, normalean enpresa lizentziaren parte dira, doako nukleoaren parte izan beharrean. Kubernetes dagoeneko erabiltzen baduzu eta AI trafikoa lehen mailako herritar gisa tratatzen duen Envoy oinarritutako atebide bat nahi baduzu, egokia da behar dituzun funtzioak maila egokian mapatzen badituzu.
Egokiena: Kubernetes erabiltzen duten taldeentzat, AI trafiko funtzioak dituen Envoy oinarritutako atebide bat nahi dutenentzat. Kontuz: egiaztatu zein LLM funtziok behar duten enpresa edizioa.
Nola aukeratu
Zuk zeuk exekutatu eta funtzionatzeko kode irekiko proiektu huts bat nahi baduzu, Envoy AI Gateway eta Higress-ek estandarrekin lerrokatutako errendimendu handiko nukleoak eskaintzen dizkizute, eta Gloo aukera bikaina da Kubernetes-eko Envoy-rekin konprometituta bazaude. Portkey da bideratze-geruza bat auto-ostatatzeko modurik arinena, baldin eta maila-mugak onartzen badituzu. Eta benetan behar duzuna datuak zure hodeian geratzea bada, enpresaren gobernantza eta laguntza osoarekin, TrueFoundry da auto-ostatatutako jarrera ematen dizun aukera, gobernantza-pila zuk zeuk eraikitzeko eskatu gabe.
Beheko lerroa
AI atebide bat auto-ostatatzea lehen funtzioak kontrolaren truke uztea esan nahi zuen. 2026an hori ez da gehiago egia: CNCF-k babestutako estandar ireki bat, errendimendu handiko AI nukleo natiboa edo zure ingurunean exekutatzen den enpresa-plataforma guztiz gobernatu bat lor dezakezu. Aukera egokia zenbat zuk zeuk erabili nahi duzun eta zenbat gobernantza nahi duzun kutxatik kanpo. Kontrola eta sakontasuna nahi dituzten taldeentzat, TrueFoundry da onena.
