Bir çox komanda üçün süni intellekt şlüzü ilə bağlı ilk sual "nə edə bilər" deyil, "harada işləyir" sualıdır. Əgər tənzimlənən bir sənayedə işləyirsinizsə, həssas məlumatları idarə edirsinizsə və ya sadəcə hər bir sorğu və cavabı başqasının buludu vasitəsilə göndərməyə allergiyanız varsa, hostinq edilmiş SaaS şlüzü nə qədər cilalanmış olsa da, işə yaramayan bir şeydir. Öz infrastrukturunuzun içərisində işlədə, yoxlaya və idarə edə biləcəyiniz bir şey istəyirsiniz.
Xoş xəbər budur ki, bu bazarın açıq mənbəli və öz-özünə hostinq edilə bilən tərəfi həqiqətən güclü hala gəlib. Süni intellekt, tətbiqləriniz və model təminatçılarınız arasında idarəetmə müstəvisidir, marşrutlaşdırma, etibarlılıq, təhlükəsizlik və xərcləri bir yerdə idarə edir və ən yaxşılarından bir neçəsi hazırda özünüz hostinq edə biləcəyiniz proqram təminatı kimi təqdim olunur. Öz-özünə hostinqin olması xoş bir şey deyil, tələb olduğu zaman seçməyə dəyər beş seçim.
"Özünə ev sahibliyi etmək" əslində nə demək olmalıdır
Siyahıdan əvvəl, tələ haqqında qısa bir söz. “Açıq mənbə” və “öz-özünə yerləşdirilə bilən” eyni şey deyil və heç biri sizə lazım olan xüsusiyyətin pulsuz versiyada olmasını təmin etmir. Bəzi layihələr sürətli marşrutlaşdırma nüvəsini açıq mənbəli edir, lakin idarəetməni, müşahidə yaddaşını və çoxkomandalı giriş nəzarətini pullu səviyyədə saxlayır. Buna görə də üç şeyi ayrıca qiymətləndirin: proqram təminatının öz mühitinizdə işləyib-işləməməsi, ehtiyac duyduğunuz xüsusi imkanların öz-özünə yerləşdirilə bilən versiyada olub-olmaması və məlumatların həqiqətən infrastrukturunuzda başdan-ayağa qalıb-qalmaması. Bu prizmadan baxsaq, bu beşinin necə müqayisə olunduğuna baxaq.
1. TrueFoundry — öz buludunuzda işlətdiyiniz müəssisə idarəetmə təyyarəsi
TrueFoundry bu siyahıya liderlik edir, çünki o, komandaları özünəxidmət etməyə sövq edən məhdudiyyət üçün yaradılmışdır: müəssisə imkanlarından imtina etmədən məlumatları öz mühitinizdə saxlamaq. Onun AI Gateway öz bulud və ya VPC daxilində yerləşdirilir, beləliklə, sorğular və izlər infrastruktur bölgənizdə region üzrə qalır, eyni zamanda sizə 1,000-dən çox model üçün vahid OpenAI uyğun interfeys, yük balanslaşdırması və ehtiyatlar, tam qoruyucu dəst, rol əsaslı giriş, büdcələr və OpenTelemetry müşahidə qabiliyyəti verir.
Bu, həm də təmiz proksidən daha da irəliyə gedir. TrueFoundry, MCP serverlərini və agentlərini eyni idarəetmə müstəvisi vasitəsilə idarə edir və agent qolu olan TrueForge, açıq mənbəlidir və satıcıya neytraldır, buna görə də yoxlamaq və genişləndirmək istədiyiniz hissələr platformanın özü lazım olan yerdə işləyərkən açıqdır. Açıq mənbəli layihənin özünəxidmət mövqeyini, lakin müəssisə platformasının dərinliyini və dəstəyini istəyən komandalar üçün bu, başqa yerdə tapmaq çətin olan kombinasiyadır. Məsələn, FloQast, maliyyə məlumatlarını ABŞ, AB və Asiya-Tünd Asiya regionlarında saxlamaq üçün onu tamamilə öz buludunun içərisində idarə edir ki, bu barədə TrueFoundry-nin AI Gateway sənədlərində və iş araşdırmalarında oxuya bilərsiniz.
Ən yaxşısı: şlüzləri özləri idarə edərkən məlumatların rezidentliyinə və tam idarəetməyə ehtiyacı olan müəssisələr. Diqqət: bu, zəngin bir platformadır, ona görə də beş dəqiqəlik quraşdırma gözləməkdənsə, yayımı planlaşdırın.
2. Portkey — sürətli və populyar açıq mənbəli marşrutlaşdırma nüvəsi
Portkey, MIT lisenziyası altında açıq mənbəli şlüz yaratdı və əsas hissəsi həqiqətən yaxşı bir mühəndislik parçasıdır: yüngül, çox aşağı əlavə gecikmə, inteqrasiya olunmuş mühafizə dirəkləri olan böyük bir model kataloquna yönləndirmə və özünüz yerləşdirdiyiniz konteyner kimi asanlıqla işlətmək. Əgər qurmaq üçün sübut olunmuş açıq mənbəli proxy istəyirsinizsə, bu, yaxşı bir səbəbdən ən populyar başlanğıc nöqtələrindən biridir.
Məsələ burasındadır ki, pulsuz və pullu arasındakı xətt haradadır. Öz-özünə yerləşdirilmiş versiya sizə marşrutlaşdırma və etibarlılıq qatını verir, lakin müşahidə yaddaşı və idarəetmə panelləri, çoxkomandalı rol əsaslı giriş, geniş miqyasda semantik keşləmə və müəssisə dəstəyi hosting və ya müəssisə səviyyəsindədir. Beləliklə, o, həm router, həm də öz-özünə yerləşdirilmiş versiyadır; tam idarəetmə yığını adətən pullu plan deməkdir.
Ən yaxşısı: nazik, özünəməxsus yönləndirmə təbəqəsi istəyən komandalar üçün. Diqqət: standartlaşdırmadan əvvəl açıq quruluşda hansı idarəetmə xüsusiyyətlərinin mövcud olduğunu təsdiqləyin.
3. Envoy AI Gateway — CNCF tərəfindən dəstəklənən açıq standart
Envoy AI Gateway, CNCF-in Envoy Gateway layihəsini süni intellekt trafiki üçün yerli dəstək ilə genişləndirir və 2026-cı ildə sabit 1.0 səviyyəsinə çatdı. Tetrate və Bloomberg tərəfindən birlikdə yaradılan və dəstəklənən bu, CNCF tərəfindən dəstəklənən ilk açıq mənbəli süni intellekt keçididir və satıcı-neytral idarəetmə və tək bir kommersiya satıcısı tərəfindən idarə olunmayan bir layihə ilə maraqlanırsınızsa, bu, vacibdir.
Əsas model provayderləri arasında OpenAI ilə uyğun interfeys, üstəgəl söhbət, yerləşdirmələr və digər son nöqtələr arasında marşrutlaşdırma, nasazlıq və OpenTelemetry GenAI izləmə xidmətləri təklif edir. Bloomberg artıq onu istehsalda istifadə edir. Kompromis ondan ibarətdir ki, o, infrastruktur səviyyəli proqram təminatıdır: güclü və standartlara uyğun, lakin komandanın Envoy və Kubernetes-i rahat idarə etməsini gözləyir və daha yüksək səviyyəli rahatlıqlar idarə olunan platformadan daha çox DIY-dir.
Ən yaxşısı: tam nəzarət etdikləri CNCF standartlı, Envoy əsaslı bir keçid istəyən platforma komandaları. Diqqət: Envoy və Kubernetes-in tələb etdiyi əməliyyat təcrübəsi üçün büdcə.
4. Higress — yüksək miqyaslı, süni intellekt əsasında hazırlanmış açıq mənbəli keçid
Higress, Alibaba daxilində başladı, Apache-2.0 altında açıq mənbəli idi və Istio və Envoy üzərində qurulub. İstehsal validasiyasının saniyədə yüz minlərlə sorğunu emal etməsi və millisaniyədə qüvvəyə minən konfiqurasiya dəyişiklikləri ilə geniş miqyasda döyüş sınaqlarından keçirilib.
Süni intellekt tərəfində, əsas model provayderlərini dəstəkləyir, agentlərin alətləri çağıra bilməsi üçün plagin mexanizmi vasitəsilə MCP serverlərini yerləşdirə bilər və WAF və bir sıra identifikasiya strategiyaları ilə yanaşı həm LLM, həm də MCP API-ləri üçün vahid idarəetmə təmin edir. Əgər xam performans və sübut edilmiş yüksək məhsuldarlıqlı nüvə sizin prioritetlərinizdirsə, bu, əla seçimdir. Digər infrastruktur layihələri kimi, daha yüksək səviyyəli idarəetmə və məhsulun cilalanması xüsusi müəssisə platformasından daha yüngüldür və icma ağırlıq mərkəzi bəzi Qərb komandaları üçün daha az tanış ola bilər.
Ən yaxşısı: yüksək məhsuldarlığa malik, tam açıq mənbəli süni intellektə əsaslanan keçidə ehtiyacı olan komandalar üçün. Diqqət: idarəetmə təbəqəsinin daha çox hissəsini özünüz yığacaqsınız.
5. Gloo AI Gateway — Envoy əsaslı və Kubernetes-ə məxsusdur
Solo.io şirkətinin Gloo AI Gateway şirkəti, yetkin Envoy və Kubernetes-ə məxsus bir şlüz üzərində süni intellekt trafikinin idarə edilməsini qurur. Bu şlüz LLM trafikinin xüsusi ehtiyaclarını hədəfləyir: semantik keşləmə, token əsaslı sürət məhdudiyyəti, tez zənginləşdirmə, Kubernetes sirləri vasitəsilə etimadnamənin yeridilməsi və həssas məlumatların sızmasının qarşısını almaq üçün məlumatların süzülməsindən qorunma. Solo.io, açıq mənbəli şlüzünü CNCF-ə (kgateway kimi) bağışladı ki, əsl açıq nüvə olsun.
Nüans bu siyahıdakı nümunəni əks etdirir: token əsaslı sürət məhdudiyyəti kimi bəzi LLM-ə xas imkanlar, adətən, pulsuz nüvədən daha çox, müəssisə lisenziyasının bir hissəsidir. Əgər artıq Kubernetes işlədirsinizsə və süni intellekt trafikinə birinci dərəcəli vətəndaş kimi yanaşan Envoy əsaslı bir keçid istəyirsinizsə, hansı xüsusiyyətləri lazımi səviyyəyə uyğunlaşdırdığınız müddətcə bu, güclü bir uyğunluqdur.
Ən yaxşısı: Süni intellekt trafik xüsusiyyətlərinə malik Envoy əsaslı bir keçid istəyən Kubernetes-ə əsaslanan komandalar. Diqqət: hansı LLM xüsusiyyətlərinin korporativ versiyanı tələb etdiyini yoxlayın.
Necə seçmək
Əgər özünüz idarə etmək və işlətmək üçün təmiz açıq mənbəli bir layihə istəyirsinizsə, Envoy AI Gateway və Higress sizə standartlara uyğun, yüksək performanslı nüvələr təqdim edir və Envoy on Kubernetes-ə artıq sadiq olduğunuz zaman Gloo güclü bir seçimdir. Portkey, səviyyə sərhədlərini qəbul etdiyiniz təqdirdə, marşrutlaşdırma təbəqəsini özünüz yerləşdirməyin ən asan yoludur. Əgər sizə həqiqətən ehtiyac duyduğunuz şey tam müəssisə idarəetməsi və dəstəyi ilə öz buludunuzda qalan məlumatlardırsa, TrueFoundry, idarəetmə yığınını özünüz qurmağınızı istəmədən sizə özünüz yerləşdirmə mövqeyi verən seçimdir.
Alt xətt
Əvvəllər süni intellekt şlüzünün özünəxidmət edilməsi funksiyalardan imtina edərək idarəetmə demək idi. 2026-cı ildə bu artıq doğru deyil: CNCF tərəfindən dəstəklənən açıq standart, yüksək məhsuldarlığa malik süni intellekt əsaslı nüvə və ya öz mühitinizdə işləyən tam idarə olunan müəssisə platforması əldə edə bilərsiniz. Düzgün seçim özünüzü nə qədər idarə etmək istədiyinizlə qutudan kənarda nə qədər idarəetmə istədiyiniz arasındadır. Həm nəzarət, həm də dərinlik istəyən komandalar üçün TrueFoundry məğlub edilə bilən komandadır.
