Ho an'ny ekipa maro, ny fanontaniana voalohany momba ny vavahady AI dia tsy hoe "inona no azony atao" fa "aiza no iasany." Raha ao anatin'ny indostria fehezin'ny lalàna ianao, mikirakira angon-drakitra saro-pady, na tsy mahazaka ny fandefasana ny bitsika sy valiny rehetra amin'ny alàlan'ny rahona an'olon-kafa, dia tsy azo ampiasaina ny vavahady SaaS na dia voalamina tsara aza izany. Mila zavatra azonao ampiasaina ao anatin'ny fotodrafitrasanao manokana ianao, hijerena ary hifehezana.
Ny vaovao tsara dia tena niha-natanjaka ny sehatra open-source sy azo ampiantranoina ho azy amin'ity tsena ity. Ny vavahady AI no sehatra fanaraha-maso eo amin'ny rindranasao sy ny mpamatsy modely anao, izay mitantana ny lalana, ny fahatokisana, ny fiarovana ary ny vidiny amin'ny toerana iray, ary maro amin'ireo tsara indrindra no alefa toy ny rindrambaiko azonao ampiantranoina ho anao. Ireto misy dimy mendrika hofidiana rehefa takiana ny fampiantranoana ho anao manokana, fa tsy zavatra mahafinaritra fotsiny.
Ny tena dikan'ny hoe "azo ipetrahana irery"
Alohan'ny lisitra, teny fohy momba ny fandrika. Tsy mitovy ny "open source" sy ny "self-hostable", ary samy tsy manome antoka fa ao amin'ny free build ny endri-javatra ilainao. Ny sasany dia manolotra open-source fast routing core saingy mitazona ny fitantanana, ny fitahirizana azo jerena, ary ny fanaraha-maso ny fidirana amin'ny ekipa maro ao anatin'ny ambaratonga karama. Koa tombano tsirairay ny zavatra telo: raha miasa ao amin'ny tontolo iainanao manokana ny rindrambaiko, raha ao amin'ny version azonao ampiantranoina manokana ny fahaiza-manao manokana ilainao, ary raha tena mijanona ao amin'ny fotodrafitrasanao ny angona. Amin'io fomba fijery io, ity ny fomba fampitahana ireo dimy ireo.
1. TrueFoundry — ny sehatra fanaraha-maso ho an'ny orinasa izay ampiasainao ao amin'ny rahonao manokana
Mitarika ity lisitra ity ny TrueFoundry satria natsangana ho an'ny fetra izay manosika ny ekipa hampiantrano tena: ny fitazonana angon-drakitra ao amin'ny tontolo iainanao manokana nefa tsy manary ny fahafahan'ny orinasa. Ny AI Gateway- ny dia apetraka ao anatin'ny rahona na VPC-nao manokana, ka mijanona ao amin'ny faritra misy ny fotodrafitrasanao isaky ny faritra ny bitsika sy ny trace, sady manome anao interface tokana mifanaraka amin'ny OpenAI ho an'ny modely 1,000+, fandanjalanjana ny enta-mavesatra sy ny fallback, andiana fiarovana feno, fidirana mifototra amin'ny andraikitra, teti-bola, ary ny fahafahana mijery OpenTelemetry.
Mihoatra lavitra noho ny proxy madiodio ihany koa izy io. Ny TrueFoundry dia mifehy ny mpizara sy ny masoivoho MCP amin'ny alàlan'ny sehatra fanaraha-maso iray ihany, ary ny TrueForge, izay tambajotran'ny masoivoho, dia loharano misokatra ary tsy miandany amin'ny mpivarotra, ka misokatra ireo singa tianao hojerena sy hanitarana raha toa kosa ka miasa any amin'izay ilainao azy ny sehatra. Ho an'ireo ekipa izay maniry ny toerana fampiantranoana tena toy ny tetikasa loharano misokatra nefa ny halaliny sy ny fanohanana ny sehatra orinasa, ity no fitambarana sarotra hita any an-kafa. Ny FloQast, ohatra, dia mampiasa azy tanteraka ao anatin'ny rahona manokana mba hitazonana ny angon-drakitra ara-bola ho hita any amin'ny faritra amerikana, EU, ary APAC, izay azonao vakiana ao amin'ny antontan-taratasy sy fanadihadiana tranga an'ny TrueFoundry's AI Gateway.
Tsara indrindra ho an'ny: orinasa izay mila fitahirizana angon-drakitra sy fitantanana feno sady mampiasa ny vavahady. Mitandrema: sehatra manankarena izy io, koa alamino ny fametrahana azy fa aza manantena fametrahana dimy minitra monja.
2. Portkey — foiben'ny routing open-source haingana sy malaza
Navoakan'ny Portkey ny vavahadin-tseraserany teo ambanin'ny lisansa MIT, ary ny fotony dia singa tena tsara amin'ny injeniera: maivana, tsy dia misy latency loatra, mandeha amin'ny katalaogy modely lehibe misy arofanina tafiditra, ary mora ampiasaina ho toy ny fitoeran-javatra izay ampiantranoinao manokana. Raha mila proxy open-source voaporofo ianao dia iray amin'ireo teboka fanombohana malaza indrindra izany noho ny antony marim-pototra.
Ny tsy fitoviana dia eo amin'ny maimaim-poana sy ny karama. Ny "self-hosted build" dia manome anao ny "routing" sy ny "reliability layer", fa ny "observability storage" sy ny dashboards, ny "multi-team role-based access", ny "semantic caching" amin'ny ambaratonga lehibe, ary ny fanohanana ny orinasa dia ao anatin'ny "hosted" na "entreprise". Noho izany dia "self-hosting" tsara toy ny "router" izy; ny "full governance stack" dia matetika midika hoe ny drafitra karamaina.
Tsara indrindra ho an'ny: ekipa izay mila sosona routing tsotra sy mampiantrano tena. Tandremo: fantaro hoe inona avy ireo endri-javatra fitantanana misy ao amin'ny open build alohan'ny hanomezanao fenitra azy.
3. Envoy AI Gateway — ny fenitra misokatra tohanan'ny CNCF
Manitatra ny tetikasa Envoy Gateway an'ny CNCF miaraka amin'ny fanohanana teratany ho an'ny fifamoivoizana AI ny Envoy AI Gateway, ary nahatratra ny 1.0 marin-toerana tamin'ny taona 2026. Noforonin'ny Tetrate sy nokarakarain'i Bloomberg, ity no vavahady AI open-source voalohany tohanan'ny CNCF, izay zava-dehibe raha miahy ny fitantanana tsy miandany amin'ny mpivarotra ianao ary tetikasa izay tsy fehezin'ny mpivarotra ara-barotra tokana.
Manolotra interface mifanaraka amin'ny OpenAI amin'ireo mpamatsy modely lehibe izy io, miampy ny routing, failover, ary ny OpenTelemetry GenAI tracing amin'ny chat, embeddings, ary endpoints hafa. Efa mampiasa azy io amin'ny famokarana ny Bloomberg. Ny tombony azo dia rindrambaiko manara-penitra amin'ny fotodrafitrasa izy io: mahery vaika sy mifanaraka amin'ny fenitra, saingy manantena ekipa mahazo aina amin'ny fampiasana ny Envoy sy Kubernetes, ary ny fahaiza-manao ambony kokoa dia azo atao DIY kokoa noho ny amin'ny sehatra tantanin'ny orinasa.
Tsara indrindra ho an'ny: ekipa sehatra izay maniry vavahady miorina amin'ny Envoy izay fehezin'izy ireo tanteraka. Tandremo: teti-bola ho an'ny fahaiza-manao momba ny asa takian'ny Envoy sy Kubernetes.
4. Higress — vavahady misokatra avo lenta, avy amin'ny AI
Nanomboka tao amin'ny Alibaba ny Higress, novolavolaina tamin'ny alalan'ny Apache-2.0, ary natsangana tamin'ny Istio sy Envoy. Efa nosedraina tamin'ny ambaratonga lehibe izy io, miaraka amin'ny fanamarinana famokarana izay mikarakara fangatahana an'hetsiny isan-tsegondra ary fanovana ny fikirakirana izay mihatra ao anatin'ny milisegondra fa tsy manery ny famerenana indray.
Eo amin'ny lafiny AI, manohana ireo mpamatsy modely mahazatra izy io, afaka mampiantrano mpizara MCP amin'ny alàlan'ny rafitra plugin mba hahafahan'ny agents miantso fitaovana, ary manome fitantanana mitambatra ho an'ny LLM sy MCP API, miaraka amin'ny WAF sy paikady fanamarinana isan-karazany. Safidy tsara izany raha ny fahombiazana manta sy ny fototra voaporofo fa avo lenta no laharam-pahamehanao. Toy ny amin'ny tetikasa hafa izay mifantoka amin'ny fotodrafitrasa, ny fitantanana ambony kokoa sy ny fanatsarana ny vokatra dia maivana kokoa noho ny sehatra orinasa natokana ho azy, ary ny foiben'ny vondrom-piarahamonina dia mety tsy dia mahazatra loatra ho an'ny ekipa tandrefana sasany.
Tsara indrindra ho an'ny: ekipa mila vavahady AI-native avo lenta sy misokatra tanteraka. Mitandrema: ianao irery no handamina ny fitantanana.
5. Gloo AI Gateway — Miorina amin'ny Envoy ary avy amin'ny Kubernetes
Ny Gloo AI Gateway, avy amin'ny Solo.io, dia manorina fitantanana ny fifamoivoizana AI eo ambonin'ny vavahady efa matotra avy amin'ny Envoy sy Kubernetes. Mikendry ny filàna manokan'ny fifamoivoizana LLM izy io: ny fitahirizana semantika, ny famerana ny tahan'ny token, ny fanatsarana haingana, ny fampidirana credentials amin'ny alàlan'ny tsiambaratelon'ny Kubernetes, ary ny fiarovana ny fanesorana ny angona mba hisorohana ny famoahana fampahalalana saro-pady. Nanome ny vavahady open-source ho an'ny CNCF (amin'ny maha-kgateway) azy ny Solo.io, ka misy fototra open tena izy.
Mitovy amin'ny lamina ato amin'ity lisitra ity ny fahasamihafan'ny fomba fiasa: ny sasany amin'ireo fahaiza-manao manokana ho an'ny LLM, toy ny famerana ny tahan'ny token, dia mazàna anisan'ny fahazoan-dàlana ho an'ny orinasa fa tsy ny fototra maimaim-poana. Raha efa mampiasa Kubernetes ianao ary te hanana vavahady miorina amin'ny Envoy izay mihevitra ny fifamoivoizana AI ho toy ny olom-pirenena kilasy voalohany, dia mety tsara izany raha mbola mampifanaraka ireo endri-javatra ilainao amin'ny ambaratonga mety ianao.
Tsara indrindra ho an'ny: Ekipa mampiasa Kubernetes betsaka izay mila vavahady miorina amin'ny Envoy miaraka amin'ny endri-javatra fifamoivoizana AI. Tandremo: jereo hoe inona avy ireo endri-javatra LLM mila ny edisiona orinasa.
Ahoana ny fisafidianana?
Raha mila tetikasa open-source madio ianao hampandehanana sy hampiasainao irery, ny Envoy AI Gateway sy Higress dia manome anao cores mifanaraka amin'ny fenitra sy avo lenta, ary ny Gloo dia safidy tsara rehefa efa manolo-tena amin'ny Envoy ao amin'ny Kubernetes ianao. Ny Portkey no fomba maivana indrindra hampiantranoana ny sosona routing, raha toa ka manaiky ny fetran'ny tier ianao. Ary raha tena mila angon-drakitra mijanona ao amin'ny rahona misy ny fitantanana feno sy fanohanana ao ambadik'izany ianao, ny TrueFoundry no safidy izay manome anao ny toerana hampiantranoana anao irery tsy mila mangataka anao hanangana ny governance stack irery.
Fehiny
Ny fampiantranoana vavahady AI ho azy taloha dia midika hoe miala amin'ny endri-javatra mba hifehezana. Amin'ny taona 2026 dia tsy marina intsony izany: afaka mahazo fenitra misokatra tohanan'ny CNCF ianao, fototra AI-native avo lenta, na sehatra orinasa fehezina tanteraka izay miasa ao anatin'ny tontolo iainanao manokana. Ny safidy mety dia miankina amin'ny habetsaky ny tianao hampiasaina amin'ny tenanao raha oharina amin'ny habetsaky ny fitantanana tianao hivoaka avy ao anaty boaty. Ho an'ireo ekipa izay te-hanana fifehezana sy halaliny, ny TrueFoundry no tokony ho resena.
