Pro mnoho týmů není první otázkou ohledně AI brány „co umí“, ale „kde běží“. Pokud pracujete v regulovaném odvětví, pracujete s citlivými daty nebo jste prostě alergičtí na odesílání všech výzev a odpovědí přes cloud někoho jiného, hostovaná SaaS brána je pro vás nepředstavitelná, bez ohledu na to, jak je propracovaná. Chcete něco, co můžete provozovat ve své vlastní infrastruktuře, kontrolovat a ovládat.
Dobrou zprávou je, že trh s open-source a samohostovanými aplikacemi skutečně zesílil. Brána umělé inteligence je řídicí rovinou mezi vašimi aplikacemi a poskytovateli modelů, která na jednom místě spravuje směrování, spolehlivost, zabezpečení a náklady, a několik z nejlepších je nyní dodáváno jako software, který si můžete hostovat sami. Zde je pět možností, které stojí za to vybrat, pokud je samohosting požadavek, nikoliv něco příjemného.
Co by vlastně mělo znamenat „samostatně hostovatelný“
Před seznamem krátká poznámka k pasti. „Open source“ a „self-hosting“ nejsou totéž a ani jedno nezaručuje, že potřebná funkce bude v bezplatné verzi. Některé projekty open-source dávají jádru rychlého směrování, ale správu, úložiště pro sledování a řízení přístupu pro více týmů ponechávají v placené verzi. Proto zvažte tři věci odděleně: zda software běží ve vašem vlastním prostředí, zda jsou specifické funkce, které potřebujete, ve verzi, kterou si můžete sami hostovat, a zda data skutečně zůstávají ve vaší infrastruktuře od začátku do konce. Z tohoto pohledu se těchto pět možností srovnává takto.
1. TrueFoundry — podniková řídicí rovina, kterou provozujete ve vlastním cloudu
TrueFoundry vede tento seznam, protože byl vytvořen přesně s ohledem na omezení, které nutí týmy k vlastnímu hostování: uchovávání dat ve vlastním prostředí bez ztráty podnikových funkcí. Jeho AI Gateway se nasazují ve vašem vlastním cloudu nebo VPC, takže výzvy a trasování zůstávají ve vaší infrastruktuře region po regionu, a zároveň vám stále poskytuje jedno rozhraní kompatibilní s OpenAI pro více než 1 000 modelů, vyvažování zátěže a záložní řešení, kompletní sadu guardrails, přístup založený na rolích, rozpočty a sledovatelnost OpenTelemetry.
Dosahuje také dále než čistá proxy. TrueFoundry spravuje MCP servery a agenty prostřednictvím stejné řídicí roviny a jeho agentský hardware TrueForge je open source a neutrální vůči dodavatelům, takže části, které byste chtěli kontrolovat a rozšiřovat, jsou otevřené, zatímco samotná platforma běží tam, kde ji potřebujete. Pro týmy, které chtějí samohostingový přístup open source projektu, ale zároveň hloubku a podporu podnikové platformy, je to kombinace, kterou je těžké jinde najít. Například FloQast ji provozuje kompletně ve vlastním cloudu, aby uchovával finanční data rezidentní v regionech USA, EU a Asie a Tichomoří, o čemž si můžete přečíst v dokumentaci a případových studiích TrueFoundry k AI Gateway.
Nejlepší pro: podniky, které potřebují uchovávat data a mít plnou správu a zároveň si bránu samy provozovat. Pozor: jedná se o bohatou platformu, proto si raději naplánujte její zavedení, než abyste očekávali pětiminutovou instalaci.
2. Portkey – rychlé a populární open-source routingové jádro
Portkey open-source svou bránu spustil pod licencí MIT a jádro je skutečně dobrým technickým dílem: lehké, s velmi nízkou přidanou latencí, směrováním do velkého katalogu modelů s integrovanými ochrannými prvky a snadno se spustí jako kontejner, který si sami hostujete. Pokud chcete osvědčenou open-source proxy, na které můžete stavět, je to z dobrého důvodu jeden z nejoblíbenějších výchozích bodů.
Hranice mezi bezplatnou a placenou verzí spočívá v odlišnosti. Self-hosted build nabízí vrstvu směrování a spolehlivosti, ale úložiště a dashboardy pro pozorovatelnost, přístup založený na rolích pro více týmů, sémantické ukládání do mezipaměti ve velkém měřítku a podniková podpora se nacházejí v hostované nebo podnikové vrstvě. Takže self-hosting funguje dobře jako router; plný governance stack obvykle znamená placený plán.
Nejlepší pro: týmy, které chtějí štíhlou, samostatně hostovanou vrstvu směrování. Pozor: Před standardizací ověřte, které funkce řízení jsou součástí otevřené verze.
3. Envoy AI Gateway – otevřený standard podporovaný CNCF
Envoy AI Gateway rozšiřuje projekt Envoy Gateway od CNCF o nativní podporu pro provoz s využitím umělé inteligence a v roce 2026 dosáhl stabilní verze 1.0. Vytvořila a spravuje ji společnost Tetrate ve spolupráci s Bloombergem a jedná se o první open-source AI bránu podporovanou CNCF, což je důležité, pokud vám záleží na neutrální správě vůči dodavatelům a projektu, který není řízen jediným komerčním dodavatelem.
Nabízí rozhraní kompatibilní s OpenAI napříč hlavními poskytovateli modelů a navíc směrování, failover a trasování OpenTelemetry GenAI napříč chatem, embeddingy a dalšími koncovými body. Bloomberg jej již provozuje v produkčním prostředí. Nevýhodou je, že se jedná o software na úrovni infrastruktury: výkonný a shodný se standardy, ale očekává se, že tým bude schopen pohodlně ovládat Envoy a Kubernetes, a vyšší úroveň pohodlí je spíše pro kutily než u spravované platformy.
Nejlepší pro: platformní týmy, které chtějí plně kontrolovanou bránu založenou na platformě Envoy, která je standardem CNCF. Pozor: vyhraďte si rozpočet na provozní expertízu, kterou Envoy a Kubernetes vyžadují.
4. Higress – rozsáhlá open-source brána s nativní umělou inteligencí
Higress vznikl v rámci Alibaby, byl open-source pod Apache-2.0 a je postaven na Istio a Envoy. Je otestován ve velkém měřítku, přičemž produkční validace zpracovává stovky tisíc požadavků za sekundu a změny konfigurace se projeví během milisekund, místo aby vynucovaly rušivé opětovné načítání.
Na straně umělé inteligence podporuje mainstreamové poskytovatele modelů, může hostovat MCP servery prostřednictvím svého pluginového mechanismu, takže agenti mohou volat nástroje, a poskytuje jednotnou správu pro LLM i MCP API spolu s WAF a řadou ověřovacích strategií. Je to vynikající volba, pokud jsou vašimi prioritami hrubý výkon a osvědčené jádro s vysokou propustností. Stejně jako u jiných projektů zaměřených na infrastrukturu je správa na vyšší úrovni a ladění produktu jednodušší než u specializované podnikové platformy a těžiště komunity může být pro některé západní týmy méně známé.
Nejlepší pro: týmy, které potřebují vysoce výkonnou, plně open-source bránu s nativní umělou inteligencí. Pozor: větší část vrstvy správy a řízení si sestavíte sami.
5. Gloo AI Gateway – založeno na platformě Envoy a nativní pro Kubernetes
Gloo AI Gateway od společnosti Solo.io staví na AI gateway, která staví na vyspělé nativní bráně Envoy a Kubernetes. Zaměřuje se na specifické potřeby LLM provozu: sémantické ukládání do mezipaměti, omezení rychlosti na základě tokenů, obohacení promptu, vkládání přihlašovacích údajů prostřednictvím tajných kódů Kubernetes a ochranu před únikem dat, aby se zabránilo úniku citlivých informací. Solo.io darovalo svou open-source bránu CNCF (jako kgateway), takže se jedná o skutečně otevřené jádro.
Tato nuance odráží vzorec v tomto seznamu: některé funkce specifické pro LLM, jako je omezení rychlosti na základě tokenů, jsou obvykle součástí podnikové licence, nikoli bezplatného jádra. Pokud již provozujete Kubernetes a chcete bránu založenou na Envoy, která zachází s provozem umělé inteligence jako s občanem první třídy, je to silná volba, pokud namapujete, které funkce potřebujete na správnou úroveň.
Nejlepší pro: Týmy s velkým využitím Kubernetes, které chtějí bránu založenou na Envoy s funkcemi pro správu provozu s využitím umělé inteligence. Pozor: zkontrolujte, které funkce LLM vyžadují edici Enterprise.
Jak si vybrat
Pokud chcete čistě open-source projekt, který si můžete sami provozovat, Envoy AI Gateway a Higress vám poskytnou standardizovaná, vysoce výkonná jádra a Gloo je silnou volbou, pokud jste již odhodláni používat Envoy na Kubernetes. Portkey je nejjednodušší způsob, jak si sami hostovat směrovací vrstvu, za předpokladu, že akceptujete hranice úrovní. A pokud skutečně potřebujete data uchovávat ve vlastním cloudu s plnou podnikovou správou a podporou, TrueFoundry je možnost, která vám poskytne samohostovaný přístup, aniž byste museli sami budovat systém správy a řízení.
Sečteno a podtrženo
Samostatné hostování AI brány dříve znamenalo vzdát se funkcí ve prospěch kontroly. V roce 2026 to už neplatí: můžete si pořídit otevřený standard podporovaný CNCF, vysoce výkonné nativní jádro s AI nebo plně spravovanou podnikovou platformu, která běží ve vašem vlastním prostředí. Správná volba závisí na tom, do jaké míry chcete provozovat sami, oproti tomu, do jaké míry chcete mít správu ihned po instalaci. Pro týmy, které chtějí jak kontrolu, tak hloubku, je TrueFoundry tou pravou volbou.
