פֿאַר אַ סך מאַנשאַפֿטן איז די ערשטע פֿראַגע וועגן אַן AI גייטוויי נישט "וואָס קען עס טאָן" נאָר "וואו אַרבעט עס." אויב איר זענט אין אַ רעגולירטער אינדוסטריע, האַנדלט מיט סענסיטיווע דאַטן, אָדער פשוט אַלערגיש צו שיקן יעדן פּראָמפּט און ענטפֿער דורך עמעצנס וואָלקן, איז אַ כאָוסטיד SaaS גייטוויי אַ ניט-שטאַרטער, נישט קיין חילוק ווי פּאָלירט עס איז. איר ווילט עפּעס וואָס איר קענט לויפֿן אין אייער אייגענער אינפֿראַסטרוקטור, דורכקוקן און קאָנטראָלירן.
די גוטע נייעס איז אז דער אפן-קוואל און זעלבסט-האָסטעבל עק פון דעם מאַרק איז געוואָרן באמת שטאַרק. אן AI גייטוויי איז די קאָנטראָל פלאַך צווישן אייערע אַפּליקאַציעס און אייערע מאָדעל פּראַוויידערז, וואָס האַנדלט מיט רוטינג, פאַרלעסלעכקייט, זיכערהייט און קאָסטן אין איין אָרט, און עטלעכע פון די בעסטע ווערן איצט געשיקט ווי ווייכווארג וואָס איר קענט אַליין האָסטן. דאָ זענען פינף וואָס זענען ווערט צו אויסוועלן ווען זעלבסט-האָסטינג איז אַ פאָדערונג, נישט אַ "נייַ-צו-האָבן".
וואָס "זעלבסט-האָסטעבל" זאָל טאַקע מיינען
פאר דער ליסטע, א קורצע ווארט איבערן פאסטקאפ. "אפענע קוואל" און "זעלבסט-האוסטירבאר" זענען נישט די זעלבע זאך, און קיינע פון די צוויי גאראנטירן נישט אז די אייגנשאפט וואס איר דארפט איז אין דער פרייער ווערסיע. געוויסע פראיעקטן אפענע קוואל מיט א שנעלן ראוטינג קאר אבער האלטן די גאווערנענס, אבזערווירבארקייט סטארעדזש, און מולטי-טיעם צוטריט קאנטראל אין א באצאלטע שטאפל. ממילא אפשאצן דריי זאכן באזונדער: צי די ווייכווארג לויפט אין אייער אייגענע סביבה, צי די ספעציפישע מעגלעכקייטן וואס איר דארפט זענען אין דער ווערסיע וואס איר קענט זעלבסט-האסטן, און צי דאטא בלייבט טאקע אין אייער אינפראסטרוקטור פון ענד צו ענד. מיט דעם לינזע, אזוי פארגלייכן זיך די פינף.
1. TrueFoundry — די ענטערפּרייז קאָנטראָל פלאַך וואָס איר לויפט אין אייער אייגענעם וואָלקן
TrueFoundry פירט די ליסטע ווייל עס איז געבויט געווארן פונקט פאר די באגרענעצונג וואס שטופט טימז צו זעלבסט-האָסטינג: האַלטן דאַטן אין אייער אייגענע סביבה אָן אויפגעבן ענטערפּרייז קייפּאַבילאַטי. איר AI Gateway דיפּלוייז אין אייער אייגענע וואָלקן אָדער VPC, אַזוי פּראַמפּץ און טראַסעס בלייבן אין אייער אינפראַסטרוקטור ראַיאָן ביי ראַיאָן, בשעת נאָך געבן איר אַ איין OpenAI-קאָמפּאַטיבאַל צובינד צו 1,000+ מאָדעלס, לאָוד באַלאַנסינג און פאַלבעאַקס, אַ פול גאַרדריילס סוויט, ראָלע-באזירט אַקסעס, בודזשעטן און OpenTelemetry אָבסערוואַביליטי.
עס גייט אויך ווייטער ווי א ריינע פראקסי. TrueFoundry פירט MCP סערווערס און אגענטן דורך דער זעלבער קאנטראל פלאך, און זיין אגענט הארנעס, TrueForge, איז אפן-קוואל און פארקויפער-נייטראל, אזוי די שטיקלעך וואס איר וואלט געוואלט אינספעקטירן און פארברייטערן זענען אפן בשעת די פלאטפארמע אליין לויפט וואו איר דארפט עס. פאר טימס וואס ווילן די זעלבסט-האוסטינג פאזיציע פון אן אפן-קוואל פראיעקט אבער די טיפקייט און שטיצע פון אן ענטערפרייז פלאטפארמע, איז דאס די קאמבינאציע וואס איז שווער צו געפינען אנדערשוואו. FloQast, למשל, לויפט עס אינגאנצן אין זיין אייגענעם קלאָוד צו האלטן פינאנציעלע דאטן רעזידענט איבער די יו.עס., אי.יו., און אס. עי. פא.סי. געגנטן, וואס איר קענט לייענען וועגן אין TrueFoundry'ס AI גייטוויי דאקומענטאציע און פאל שטודיעס.
בעסטער פֿאַר: פֿירמעס וואָס דאַרפֿן דאַטן-רעזידענץ און פֿולע גאַווערנאַנס בשעת זיי אַליין פֿירן דעם גייטוויי. היט זיך: ס'איז אַ רייַכע פּלאַטפֿאָרמע, אַזוי פּלאַנירט די אויסראָלונג אַנשטאָט צו דערוואַרטן אַ פֿינף-מינוטיקע אינסטאַלאַציע.
2. פּאָרטקי — אַ שנעלער, פּאָפּולערער אָפֿן-מקור ראַוטינג קאָר
פּאָרטקי האָט אָפֿן-סאָורסירט זײַן גייטוויי אונטער אַן MIT ליצענץ, און דער קערן איז אַן עכט גוט שטיק אינזשעניריע: לייכט, זייער נידעריקע צוגעלייגטע לעיטענסי, רוטינג צו אַ גרויסן מאָדעל קאַטאַלאָג מיט אינטעגרירטע גאַרדריילס, און גרינג צו לויפן ווי אַ קאַנטיינער וואָס איר האָסטירט אַליין. אויב איר ווילט אַ באַוויזן אָפֿן-סאָורס פּראָקסי צו בויען אויף, איז עס איינער פון די מערסט פּאָפּולערע סטאַרטינג פונקטן פֿאַר אַ גוטער סיבה.
דער ווארענונג איז וואו די ליניע פאלט צווישן פריי און באצאלט. די זעלבסט-געהאוסטעטע בוי גיט דיר די ראוטינג און רילייאַביליטי לייער, אבער די אבזערוואַביליטי סטאָרידזש און דאַשבאָרדז, מולטי-טיעם ראָלע-באזירט אַקסעס, סעמאַנטיק קעשינג אין גרויסן מאָסשטאַב, און ענטערפּרייז שטיצע געפינען זיך אין די געהאוסטעטע אדער ענטערפּרייז לייער. אַזוי זעלבסט-האָסט עס גוט ווי אַ ראָוטער; אַ פולער גאַווערנאַנס סטעק מיינט געוויינטלעך דער באצאלטער פּלאַן.
בעסטער פֿאַר: מאַנשאַפֿטן וואָס ווילן אַ דין, זעלבסט-כאָוסטיד ראַוטינג לייער. אכטונג: באַשטעטיקן וועלכע גאַווערנאַנס פֿעיִקייטן לעבן אין די אָפֿענע בילד איידער איר סטאַנדאַרדיזירט אויף עס.
3. ענוווי קינסטלעכע אינטעליגענץ גייטוויי — דער CNCF-געשטיצטער אפענער סטאנדארט
Envoy AI Gateway פארברייטערט דעם CNCF'ס Envoy Gateway פראיעקט מיט אייגענע שטיצע פאר AI טראפיק, און עס האט דערגרייכט א סטאבילן 1.0 אין 2026. באשאפן און אויפגעהאלטן דורך Tetrate צוזאמען מיט Bloomberg, איז עס דער ערשטער CNCF-געשטיצטער אפן-קוואל AI גייטוויי, וואס איז וויכטיג אויב איר זארגט זיך וועגן פארקויפער-נייטראלע גאווערנענס און א פראיעקט וואס ווערט נישט קאנטראלירט דורך איין קאמערציעלן פארקויפער.
עס אָפפערט אַן OpenAI-קאָמפּאַטיבלע צובינד אַריבער די הויפּט מאָדעל פּראַוויידערז, פּלוס רוטינג, פיילאָוווער, און OpenTelemetry GenAI טרעיסינג אַריבער טשאַט, עמבעדינגז, און אַנדערע ענדפּונקטן. בלומבערג לויפט עס שוין אין פּראָדוקציע. דער קאָמפּראָמיס איז אַז עס איז אינפראַסטרוקטור-גראַד ווייכווארג: שטאַרק און סטאַנדאַרדס-אַליינד, אָבער עס ערוואַרטעט אַ מאַנשאַפֿט באַקוועם צו אָפּערירן Envoy און Kubernetes, און העכער-לעוועל קאַנוויניאַנסיז זענען מער DIY ווי אין אַ געראטן פּלאַטפאָרמע.
בעסטער פֿאַר: פּלאַטפאָרמע טימז וואָס ווילן אַ CNCF-סטאַנדאַרט, Envoy-באַזירט גייטוויי וואָס זיי קאָנטראָלירן גאָר. אכטונג: בודזשעט פֿאַר די אָפּעראַציאָנעלע עקספּערטיז וואָס Envoy און Kubernetes פאָדערן.
4. היגרעס — אַ הויך-וואָג, קינסטלעך-אינטעליגענט אָפֿן-מקור גייטוויי
Higress האט אנגעהויבן אינעווייניק פון Alibaba, איז געווען אפן-געסאָרסט אונטער Apache-2.0, און איז געבויט אויף Istio און Envoy. עס איז קאמף-טעסטעד אין גרויסן פארנעם, מיט פראדוקציע וואלידאציע וואס האנדלט מיט הונדערטער טויזנטער פארלאנגען פער סעקונדע און קאנפיגוראציע ענדערונגען וואס קומען אין קראפט אין מיליסעקונדעס אנשטאט צו צווינגען שטערנדיקע רילאודס.
אויף דער קינסטלעכער אינטעליגענץ זייט, שטיצט עס הויפּטשטראָם מאָדעל פּראַוויידערז, קען האָסטן MCP סערווערס דורך זיין פּלוגין מעханіזם אַזוי אַגענטן קענען רופן מכשירים, און גיט יונייטעד פאַרוואַלטונג פֿאַר ביידע LLM און MCP APIs, צוזאַמען מיט WAF און אַ קייט פון אָטענטאַקיישאַן סטראַטעגיעס. עס איז אַן אויסגעצייכנטע ברירה אויב רויע פאָרשטעלונג און אַ פּראָווען הויך-דורכפֿלוס קאָר זענען דיין פּרייאָריטעטן. ווי מיט אנדערע אינפֿראַסטרוקטור-ערשטער פּראַיעקטן, די העכער-לעוועל גאַווערנאַנס און פּראָדוקט פּאָליש זענען לייטער ווי אַ דעדאַקייטאַד ענטערפּרייז פּלאַטפאָרמע, און די קהילה צענטער פון גראַוויטאַציע קען זיין ווייניקער באַקאַנט צו עטלעכע מערב טימז.
בעסטער פֿאַר: מאַנשאַפֿטן וואָס דאַרפֿן אַ הויך-דורכפֿלוס, גאָר אָפֿן-קוואַל קינסטלעך-אינטעליגענטן גייטוויי. היט זיך: איר וועט צוזאַמענשטעלן מער פֿון דער גאַווערנאַנס שיכט אַליין.
5. Gloo AI Gateway — Envoy-באזירט און Kubernetes-געבוירן
Gloo AI Gateway, פֿון Solo.io, בויט AI טראַפיק מאַנאַגעמענט אויף אַ דערוואַקסענעם Envoy- און Kubernetes-געבוירענעם גייטוויי. עס צילט די ספּעציפֿישע באַדערפֿנישן פֿון LLM טראַפיק: סעמאַנטיש קאַשינג, טאָקען-באַזירטע ראַטע לימיטירונג, שנעלע ענריטשמענט, קרעדענשאַל אינדזשעקשאַן דורך Kubernetes סודות, און דאַטן-עקספילטראַציע שוץ צו האַלטן סענסיטיווע אינפֿאָרמאַציע פֿון ליקינג. Solo.io האָט דאָנירט זײַן אָפֿן-מקור גייטוויי צו די CNCF (אַלס kgateway), אַזוי עס איז דאָ אַן עכטער אָפֿן קאָר.
די נואַנס שפּיגלט אָפּ דעם מוסטער אויף דער רשימה: עטלעכע פֿון די LLM-ספּעציפֿישע מעגלעכקייטן, ווי טאָקען-באַזירטע ראַטע לימיטאַציע, זענען טיפּיש טייל פֿון דער ענטערפּרייז לייסענס אַנשטאָט דעם פֿרייען קאָר. אויב איר לופֿט שוין Kubernetes און ווילט אַן Envoy-באַזירטן גייטוויי וואָס באַהאַנדלט AI טראַפֿיק ווי אַ ערשטקלאַסיקער בירגער, איז עס אַ שטאַרקע פּאַסיקייט ווי לאַנג ווי איר מאַפּט וועלכע פֿעיִטשערס איר דאַרפֿט צו דער ריכטיקער ריי.
בעסטער פֿאַר: Kubernetes-שווערע טימז וואָס ווילן אַן Envoy-באַזירט גייטוויי מיט AI טראַפיק פֿעיִקייטן. אכטונג: טשעק וועלכע LLM פֿעיִקייטן דאַרפן די ענטערפּרייז אַדישאַן.
ווי צו קלייַבן
אויב איר ווילט אַ ריין אָפֿן-קוואַל פּראָיעקט צו פירן און אָפּערירן אַליין, געבן Envoy AI Gateway און Higress אײַך סטאַנדאַרדן-אויסגעריכט, הויך-פּערפאָרמאַנס קאָרעס, און Gloo איז אַ שטאַרקע ברירה ווען איר זענט שוין פֿאַרפֿליכטעט צו Envoy אויף Kubernetes. Portkey איז דער לייכטסטער וועג צו זיך-האָסטן אַ ראַוטינג לייער, צוגעשטעלט אַז איר אַקסעפּטירט די טיער גרענעצן. און אויב וואָס איר טאַקע דאַרפֿט איז דאַטן וואָס בלייבן אין אײַער אייגענעם וואָלקן מיט פֿולער ענטערפּרייז גאַווערנאַנס און שטיצע הינטער אים, איז TrueFoundry די אָפּציע וואָס גיט אײַך די זיך-האָסטעד האַלטונג אָן צו בעטן אײַך צו בויען דעם גאַווערנאַנס סטעק אַליין.
די דנאָ שורה
זיך-האָסטן אַן AI גייטוויי פלעגט מיינען אויפגעבן פֿעיִקייטן פֿאַר קאָנטראָל. אין 2026 איז דאָס שוין נישט אמת: איר קענט באַקומען אַ CNCF-געשטיצטן אָפֿענעם סטאַנדאַרט, אַ הויך-דורכפֿלוס AI-געבוירענער קאָר, אָדער אַ פֿולשטענדיק גאַווערנד ענטערפּרייז פּלאַטפאָרמע וואָס לויפט אין אייער אייגענער סביבה. די ריכטיקע ברירה קומט אַראָפּ צו וויפֿל איר ווילט אָפּערירן זיך קעגן וויפֿל גאַווערנאַנס איר ווילט פֿון אָנהייב. פֿאַר טימז וואָס ווילן ביידע קאָנטראָל און טיפֿקייט, איז TrueFoundry דער וואָס מע זאָל באַזיגן.
