Mo le tele o 'au, o le fesili muamua e uiga i se AI gateway e lē o le “o le a se mea e mafai ona fai” ae o le “o fea e fa'agaoioi ai.” Afai o oe i se pisinisi fa'atonutonuina, taulimaina fa'amatalaga ma'ale'ale, pe na'o lou ma'ale'ale i le lafoina o fa'amatalaga ma tali uma e ala i le ao a se isi tagata, o se SaaS gateway e talimalo e lē mafai ona amata e tusa lava po'o le a lona fa'aleleiina. E te mana'o i se mea e mafai ona e fa'agaoioia i totonu o lau lava atina'e, siaki, ma pulea.
O le tala fiafia, ua matuā malosi le vaega tatala ma le vaega e mafai ona talimalo e oe lava ia o lenei maketi. O le faitotoa AI o le va'alele pulea lea i le va o au talosaga ma au kamupani fa'ata'ita'i, e taulimaina ai le fa'atautaia o ala, fa'atuatuaina, saogalemu, ma tau i le nofoaga e tasi, ma o le tele o mea sili ona lelei ua lafoina nei o ni polokalama e mafai ona e talimalo oe lava ia. O nisi nei o mea e lima e tatau ona filifilia pe a mana'omia le talimalo e oe lava ia, ae le o se mea lelei e maua.
O le uiga moni o le "self-hostable"
A'o le'i faia le lisi, o se fa'amatalaga pu'upu'u e uiga i le mailei. E le tutusa le "Open source" ma le "self-hostable", ma e le o fa'amautinoaina ai o le foliga e te mana'omia o lo'o i totonu o le fa'atulagaga saoloto. O nisi galuega e tatala-source se autu vave o le routing ae tausia le pulega, le teuina o mea e mafai ona matauina, ma le puleaina o avanoa a le tele o 'au i se tulaga totogi. O lea ia iloilo mea e tolu eseese: pe o lo'o fa'agaoioia le polokalama i lou lava siosiomaga, pe o agava'a fa'apitoa e te mana'omia o lo'o i totonu o le lomiga e mafai ona e talimalo oe lava, ma pe o lo'o tumau moni fa'amatalaga i lau atina'e mai le amataga se'ia o'o i le iuga. Faatasi ai ma lena vaaiga, o le auala lea e fa'atusatusa ai nei mea e lima.
1. TrueFoundry — le vaalele pulea fa'apisinisi e te fa'agaoioia i lau lava ao
E taʻimua TrueFoundry i lenei lisi auā na fausia mo le tapulaʻa tonu lava lea e tuleia ai 'au agai i le talimaloina o latou lava: teuina o faʻamatalaga i totonu o lau lava siosiomaga e aunoa ma le tuʻua o le gafatia faʻapisinisi. O lona AI Gateway e faʻapipiʻi i totonu o lau lava ao poʻo le VPC, o lea e tumau ai pea faʻamatalaga ma faʻailoga i lau itulagi faʻavae i lea itulagi, aʻo tuʻuina atu pea ia te oe se fesoʻotaʻiga e tasi e fetaui ma le OpenAI i le 1,000+ faʻataʻitaʻiga, paleni avega ma faʻafitauli, se seti atoa o puipui, avanoa faʻavae i matafaioi, paketi, ma le mafai ona matauina le OpenTelemetry.
E sili atu fo'i lona a'afiaga nai lo se sui fa'apitoa. E pulea e le TrueFoundry 'au'aunaga ma sui o le MCP e ala i le vaega pulea lava e tasi, ma o lona 'au'aunaga sui, TrueForge, e tatala ma e le fa'alagolago i le fa'atau'oloa, o lea o vaega e te mana'o e siaki ma fa'alautele e tatala a'o fa'agaoioia le fa'avae lava ia i le mea e te mana'omia ai. Mo 'au e mana'o i le tulaga talimalo-tutoatasi o se galuega faatino tatala ae o le loloto ma le lagolago o se fa'avae fa'apisinisi, o le tu'ufa'atasiga lea e faigata ona maua i se isi mea. Mo se fa'ata'ita'iga, e fa'agaoioia atoa e le FloQast i totonu o lana lava ao e teu ai fa'amatalaga tau tupe i totonu o itulagi o Amerika, EU, ma APAC, lea e mafai ona e faitau i ai i pepa fa'amaumau a le TrueFoundry's AI Gateway ma su'esu'ega o mataupu.
E sili ona lelei mo: pisinisi e manaʻomia le nofomau i faʻamaumauga ma le pulega atoatoa aʻo faʻagaoioia lava e i latou le faitotoʻa. Faʻaeteete: o se faʻavae mauoa, o lea fuafua le faʻalauiloaina nai lo le faʻamoemoe i se faʻapipiʻiga e lima minute.
2. Portkey — o se autu o le routing e vave ma lauiloa ma tatala
Na tatala e Portkey lana faitotoa i lalo o se laisene a le MIT, ma o le fatu o se vaega moni lava o le inisinia lelei: mama, maualalo tele le latency faaopoopo, fa'asolo i se lisi tele o fa'ata'ita'iga ma puipui fa'apipi'i, ma faigofie ona fa'agaoioia o se koneteina e te talimalo ai oe lava. Afai e te mana'o i se sui tatala ua fa'amaonia e fausia ai, o se tasi lea o amataga sili ona lauiloa mo se mafua'aga lelei.
O le fa'aaliga o le mea lea e pa'ū ai le laina i le va o le leai o se totogi ma le totogi. O le fausiaina e oe lava ia e te maua ai le vaega o le routing ma le fa'atuatuaina, ae o le teuina o mea e mafai ona matauina ma dashboards, avanoa e fa'avae i luga o matafaioi a le tele o 'au, semantic caching i le tele o le lautele, ma le lagolago a le kamupani o lo'o i totonu o le vaega o le talimalo po'o le kamupani. O lea la e talimalo lelei e ia lava e pei o se router; o se fa'aputuga pulega atoa e masani ona fa'auigaina o le fuafuaga totogi.
E sili ona lelei mo: 'au e mana'o i se vaega fa'atonutonu faigofie ma e talimaloina e oe lava. Mata'ituina: fa'amaonia po'o fea vaega o le pulega o lo'o i totonu o le fausaga tatala a'o le'i fa'atulagaina.
3. Envoy AI Gateway — le tulaga tatala e lagolagoina e le CNCF
Ua faʻalauteleina e le Envoy AI Gateway le poloketi Envoy Gateway a le CNCF faatasi ai ma le lagolago masani mo fefaʻatauaʻiga faʻa-AI, ma na oʻo atu i le tulaga mautu 1.0 i le 2026. Na fatuina ma tausia e Tetrate faatasi ai ma Bloomberg, o le uluai faitotoa tatala-punaoa AI e lagolagoina e le CNCF, lea e taua pe afai e te popole i le pulega e le faaituau a le tagata faatau ma se poloketi e le pulea e se tasi tagata faatau pisinisi.
E ofoina atu se atina'e e fetaui ma le OpenAI i totonu o kamupani tetele e tu'uina atu fa'ata'ita'iga, fa'atasi ai ma le routing, failover, ma le OpenTelemetry GenAI tracing i luga o talatalanoaga, embeddings, ma isi endpoints. Ua uma ona fa'agaoioia e Bloomberg i le gaosiga. O le eseesega o lona tulaga o se polokalama faakomepiuta e fa'atatau i atina'e: malosi ma ogatasi ma tulaga fa'atonuina, ae e fa'amoemoeina se 'au e to'afilemu i le fa'agaoioia o le Envoy ma le Kubernetes, ma o le maualuga o le faigofie e sili atu ona DIY nai lo se fa'avae pulea.
E sili ona lelei mo: 'au fa'avae e mana'o i se faitoto'a fa'avae CNCF-standard, fa'avae i luga o le Envoy latou te pulea atoatoa. Mata'ituina: paketi mo le tomai fa'atino e mana'omia e Envoy ma Kubernetes.
4. Higress — o se faitotoʻa tatala tele, e faʻaaogaina ai le AI
Na amata le Higress i totonu o Alibaba, sa tatala-punaoa i lalo o le Apache-2.0, ma ua fausia i luga o Istio ma Envoy. Ua tofotofoina i le tele o taimi, faatasi ai ma le faamaoniga o le gaosiga e taulimaina le faitau selau afe o talosaga i le sekone ma suiga o le faatulagaga e aoga i totonu o millisekone nai lo le faamalosia o le toe utaina faalavelave.
I le itu o le AI, e lagolagoina ai kamupani tuʻuina atu faʻataʻitaʻiga autū, e mafai ona talimalo i 'auʻaunaga MCP e ala i lana faiga faʻapipiʻi ina ia mafai e sui ona valaʻau meafaigaluega, ma tuʻuina atu le pulega tuʻufaʻatasi mo LLM ma MCP API, faʻatasi ai ma le WAF ma le tele o taʻiala faʻamaonia. O se filifiliga sili ona lelei pe afai o le faʻatinoga mata ma se autu maualuga ua faʻamaonia o au mea e faʻamuamua. E pei o isi galuega faatino e faʻamuamua i atinaʻe, o le pulega maualuga ma le faʻaleleia o oloa e mama nai lo se faʻavae faʻapitoa faʻapisinisi, ma o le totonugalemu o le mamafa o le alalafaga atonu e le masani ai nisi o 'au i Sisifo.
E sili ona lelei mo: 'au e mana'omia se faitoto'a e fa'aogaina atoatoa le AI ma e mafai ona fa'aogaina. Fa'aeteete: o le a e fa'apotopotoina oe lava le tele o vaega o le pulega.
5. Gloo AI Gateway — Fa'avae i luga o le Envoy ma e fa'avae i luga o le Kubernetes
O le Gloo AI Gateway, mai le Solo.io, e fausia le pulega o feoaiga a le AI i luga o se faitotoa ua leva ona fa'aaogaina e Envoy ma Kubernetes. E fa'atatau i mana'oga fa'apitoa o feoaiga a le LLM: semantic caching, fa'atapula'aina o le fua fa'atatau e fa'avae i luga o le token, fa'amauoa vave, tu'uina atu o fa'amaoniga e ala i mea lilo a Kubernetes, ma le puipuiga mai fa'amatalaga e taofia ai fa'amatalaga taua mai le tafe atu. Na foa'i atu e le Solo.io lana faitotoa tatala i le CNCF (o le kgateway), o lea e iai se fatu tatala moni.
O le fa'atusatusaga e atagia ai le mamanu i luga o lenei lisi: o nisi o agava'a fa'apitoa mo le LLM, e pei o le fa'atapula'aina o fua fa'atatau e fa'avae i luga o le token, e masani lava o se vaega o le laisene fa'apisinisi nai lo le autu saoloto. Afai ua uma ona e fa'aogaina le Kubernetes ma e te mana'o i se faitoto'a fa'avae i luga o le Envoy e taulimaina ai fefa'ataua'iga AI o se tagatanuu sili ona lelei, e matua fetaui lelei lava pe afai e te fa'afanua po'o fea foliga e te mana'omia i le tulaga sa'o.
E sili ona lelei mo: 'Au e tele Kubernetes e mana'o i se faitoto'a fa'avae i luga o le Envoy ma foliga o fefa'ataua'iga AI. Fa'aeteete: siaki po'o fea foliga LLM e mana'omia le lomiga fa'apisinisi.
Auala e filifili ai
Afai e te manaʻo i se poloketi tatala e faʻagaoioia ma faʻagaoioia oe lava, o le Envoy AI Gateway ma le Higress e avatu ia te oe ni cores e fetaui ma tulaga faʻatonuina ma maualuga le faʻatinoga, ma o le Gloo o se filifiliga malosi pe afai ua uma ona e tuuto atu i le Envoy i luga o Kubernetes. O le Portkey o le auala sili ona faigofie e teu ai oe lava se routing layer, pe afai e te taliaina tapulaʻa o le tier. Ma afai o le mea moni e te manaʻomia o faʻamatalaga o loʻo tumau i lau lava ao faʻatasi ai ma le pulega atoatoa a le pisinisi ma le lagolago i tua atu, o le TrueFoundry o le filifiliga lea e avatu ai ia te oe le tulaga e teu ai oe lava e aunoa ma le talosagaina oe e fausia le governance stack oe lava.
O le laina pito i lalo
O le talimaloina e oe lava o se faitotoa AI sa faauigaina i le tuʻuina atu o foliga mo le puleaina. I le 2026 ua le toe moni lena mea: e mafai ona e maua se tulaga tatala e lagolagoina e le CNCF, se autu AI-native maualuga, poʻo se faʻavae faʻapisinisi e pulea atoatoa e faʻagaoioia i totonu o lou lava siosiomaga. O le filifiliga saʻo e faʻalagolago i le tele e te manaʻo e faʻagaoioia oe lava pe a faʻatusatusa i le tele o le pulega e te manaʻo e alu ese mai le pusa. Mo 'au e manaʻo i le pulea ma le loloto, o le TrueFoundry o le tasi e tatau ona faiaʻina.
