گھڻن ٽيمن لاءِ، AI گيٽ وي بابت پهريون سوال "اهو ڇا ڪري سگهي ٿو" نه پر "اهو ڪٿي هلندو آهي" آهي. جيڪڏهن توهان هڪ منظم صنعت ۾ آهيو، حساس ڊيٽا کي سنڀاليندا آهيو، يا صرف ڪنهن ٻئي جي ڪلائوڊ ذريعي هر پرامپٽ ۽ جواب موڪلڻ کان الرجي آهيو، ته پوءِ هڪ هوسٽ ٿيل SaaS گيٽ وي هڪ نان اسٽارٽر آهي، چاهي اهو ڪيترو به پالش ٿيل هجي. توهان ڪجهه چاهيو ٿا جيڪو توهان پنهنجي انفراسٽرڪچر اندر هلائي سگهو ٿا، معائنو ڪري سگهو ٿا ۽ ڪنٽرول ڪري سگهو ٿا.
سٺي خبر اها آهي ته هن مارڪيٽ جو اوپن سورس ۽ سيلف هوسٽيبل انجام واقعي مضبوط ٿي چڪو آهي. هڪ AI گيٽ وي توهان جي ايپليڪيشنن ۽ توهان جي ماڊل فراهم ڪندڙن جي وچ ۾ ڪنٽرول جهاز آهي، روٽنگ، اعتبار، سيڪيورٽي، ۽ قيمت کي هڪ جڳهه تي سنڀالڻ، ۽ ڪيترائي بهترين هاڻي سافٽ ويئر جي طور تي موڪليا ويندا آهن جيڪي توهان پاڻ کي هوسٽ ڪري سگهو ٿا. هتي پنج قابل قدر شارٽ لسٽنگ آهن جڏهن سيلف هوسٽنگ هڪ ضرورت آهي، نه ته هڪ سٺو هجڻ.
"سيلف-هوسٽيبل" جو اصل مطلب ڇا هجڻ گهرجي؟
فهرست کان اڳ، ٽريپ تي هڪ مختصر لفظ. "اوپن سورس" ۽ "سيلف-هسٽيبل" ساڳي شيءِ نه آهن، ۽ نه ئي ضمانت ڏئي ٿو ته توهان کي گهربل خاصيت مفت بلڊ ۾ آهي. ڪجهه منصوبا اوپن سورس هڪ تيز روٽنگ ڪور پر گورننس، آبزرويبلٽي اسٽوريج، ۽ ملٽي ٽيم رسائي ڪنٽرول کي ادا ڪيل درجي ۾ رکندا آهن. تنهن ڪري ٽن شين جو الڳ الڳ جائزو وٺو: ڇا سافٽ ويئر توهان جي پنهنجي ماحول ۾ هلندو آهي، ڇا توهان کي گهربل مخصوص صلاحيتون ان نسخي ۾ آهن جنهن کي توهان خود ميزباني ڪري سگهو ٿا، ۽ ڇا ڊيٽا اصل ۾ توهان جي انفراسٽرڪچر ۾ آخر کان آخر تائين رهي ٿو. انهي لينس سان، هتي اهي پنج ڪيئن مقابلو ڪن ٿا.
1. ٽرو فائونڊري — انٽرپرائز ڪنٽرول جهاز جيڪو توهان پنهنجي ڪلائوڊ ۾ هلايو ٿا
ٽرو فائونڊري هن لسٽ ۾ اڳواڻي ڪري ٿو ڇاڪاڻ ته اهو بلڪل ان رڪاوٽ لاءِ ٺاهيو ويو هو جيڪو ٽيمن کي خود هوسٽنگ ڏانهن ڌڪيندو آهي: انٽرپرائز صلاحيت کي ڇڏي ڏيڻ کان سواءِ ڊيٽا کي پنهنجي ماحول ۾ رکڻ. ان جو AI گيٽ وي توهان جي پنهنجي ڪلائوڊ يا VPC اندر تعینات ڪري ٿو، تنهن ڪري پرامپٽس ۽ ٽريس توهان جي انفراسٽرڪچر علائقي ۾ علائقي جي لحاظ کان رهن ٿا، جڏهن ته اڃا تائين توهان کي 1,000+ ماڊلز لاءِ هڪ واحد OpenAI-مطابقت رکندڙ انٽرفيس، لوڊ بيلنسنگ ۽ فال بيڪ، هڪ مڪمل گارڊ ريلز سوٽ، ڪردار تي ٻڌل رسائي، بجيٽ، ۽ اوپن ٽيليميٽري آبزرويبلٽي ڏئي ٿو.
اهو هڪ خالص پراڪسي کان به اڳتي پهچي ٿو. TrueFoundry ساڳئي ڪنٽرول جهاز ذريعي MCP سرورز ۽ ايجنٽن کي سنڀاليندو آهي، ۽ ان جو ايجنٽ هارنس، TrueForge، اوپن سورس ۽ وينڊر-غير جانبدار آهي، تنهن ڪري اهي ٽڪرا جيڪي توهان معائنو ڪرڻ ۽ وڌائڻ چاهيندا آهيو کليل آهن جڏهن ته پليٽ فارم پاڻ اتي هلندو آهي جتي توهان کي ضرورت آهي. ٽيمن لاءِ جيڪي اوپن سورس پروجيڪٽ جي خود هوسٽنگ پوزيشن چاهين ٿيون پر هڪ انٽرپرائز پليٽ فارم جي کوٽائي ۽ سپورٽ، هي اهو ميلاپ آهي جيڪو ٻئي هنڌ ڳولڻ ڏکيو آهي. مثال طور، FloQast، ان کي مڪمل طور تي پنهنجي ڪلائوڊ اندر هلائي ٿو ته جيئن آمريڪا، EU، ۽ APAC علائقن ۾ مالي ڊيٽا رهائشي رکي سگهجي، جنهن بابت توهان TrueFoundry جي AI گيٽ وي دستاويزن ۽ ڪيس اسٽڊيز ۾ پڙهي سگهو ٿا.
بهترين لاءِ: اهي ادارا جن کي گيٽ وي هلائڻ دوران ڊيٽا ريزيڊنسي ۽ مڪمل گورننس جي ضرورت آهي. خبردار: اهو هڪ امير پليٽ فارم آهي، تنهن ڪري پنجن منٽن جي انسٽاليشن جي اميد رکڻ بدران رول آئوٽ جي منصوبابندي ڪريو.
2. پورٽڪي — هڪ تيز، مشهور اوپن سورس روٽنگ ڪور
پورٽڪي پنهنجي گيٽ وي کي MIT لائسنس تحت اوپن سورس ڪيو، ۽ ڪور انجنيئرنگ جو هڪ حقيقي طور تي سٺو ٽڪرو آهي: هلڪو وزن، تمام گهٽ شامل ڪيل ليٽيسي، مربوط گارڊ ريلز سان هڪ وڏي ماڊل ڪيٽلاگ ڏانهن روٽنگ، ۽ هڪ ڪنٽينر جي طور تي هلائڻ آسان آهي جيڪو توهان پاڻ کي هوسٽ ڪيو ٿا. جيڪڏهن توهان چاهيو ٿا ته هڪ ثابت ٿيل اوپن سورس پراڪسي تي تعمير ڪيو وڃي، اهو سٺي سبب لاءِ سڀ کان وڌيڪ مشهور شروعاتي نقطن مان هڪ آهي.
احتياط اهو آهي جتي لڪير مفت ۽ ادا ڪيل جي وچ ۾ اچي ٿي. خود ميزباني ڪيل بلڊ توهان کي روٽنگ ۽ اعتبار جي پرت ڏئي ٿو، پر مشاهدي جي اسٽوريج ۽ ڊيش بورڊ، ملٽي ٽيم رول تي ٻڌل رسائي، وڏي پيماني تي سيمينٽڪ ڪيشنگ، ۽ انٽرپرائز سپورٽ ميزباني ڪيل يا انٽرپرائز ٽائر ۾ ويٺي آهي. تنهنڪري اهو روٽر جي حيثيت سان پاڻ ميزباني ڪري ٿو؛ هڪ مڪمل گورننس اسٽيڪ عام طور تي ادا ڪيل پلان جو مطلب آهي.
بهترين لاءِ: ٽيمون جيڪي هڪ ٿلهي، خود ميزباني ڪيل روٽنگ پرت چاهين ٿيون. خبردار: تصديق ڪريو ته ڪهڙيون گورننس خاصيتون کليل بلڊ ۾ رهن ٿيون ان کان اڳ جو توهان ان کي معياري بڻايو.
3. اينوائي اي آءِ گيٽ وي - سي اين سي ايف جي مدد سان کليل معيار
اينوائي اي آءِ گيٽ وي سي اين سي ايف جي اينوائي گيٽ وي پروجيڪٽ کي اي آءِ ٽرئفڪ لاءِ مقامي سپورٽ سان وڌايو، ۽ اهو 2026 ۾ هڪ مستحڪم 1.0 تي پهچي ويو. ٽيٽراٽ پاران بلومبرگ سان گڏجي ٺاهيل ۽ برقرار رکيو ويو، اهو پهريون سي اين سي ايف جي مدد سان اوپن سورس اي آءِ گيٽ وي آهي، جيڪو اهم آهي جيڪڏهن توهان وينڊر-غير جانبدار گورننس ۽ هڪ اهڙي منصوبي جي پرواهه ڪريو ٿا جيڪو هڪ به ڪمرشل وينڊر پاران ڪنٽرول نه ڪيو وڃي.
اهو وڏن ماڊل فراهم ڪندڙن ۾ هڪ OpenAI-مطابقت رکندڙ انٽرفيس پيش ڪري ٿو، گڏوگڏ روٽنگ، فيل اوور، ۽ اوپن ٽيليميٽري GenAI ٽريڪنگ چيٽ، ايمبيڊنگ، ۽ ٻين اينڊ پوائنٽس تي. بلومبرگ اڳ ۾ ئي ان کي پيداوار ۾ هلائي ٿو. واپار بند اهو آهي ته اهو انفراسٽرڪچر-گريڊ سافٽ ويئر آهي: طاقتور ۽ معيار سان ترتيب ڏنل، پر اهو توقع ڪري ٿو ته هڪ ٽيم آرام سان هلائي رهي آهي اينوائي ۽ ڪبرنيٽس، ۽ اعليٰ سطحي سهولتون هڪ منظم پليٽ فارم جي ڀيٽ ۾ وڌيڪ DIY آهن.
بهترين لاءِ: پليٽ فارم ٽيمون جيڪي هڪ CNCF-معياري، اينوائي تي ٻڌل گيٽ وي چاهين ٿيون جيڪي انهن کي مڪمل طور تي ڪنٽرول ڪن ٿيون. خبردار: آپريشنل ماهر لاءِ بجيٽ جيڪا اينوائي ۽ ڪبرنيٽس جي گهرج آهي.
4. هائگريس — هڪ اعليٰ پيماني تي، AI-مقامي اوپن سورس گيٽ وي
هائگريس علي بابا اندر شروع ٿي، اپاچي-2.0 جي تحت اوپن سورس ڪئي وئي، ۽ ايسٽيو ۽ اينوائي تي ٺهيل آهي. اهو وڏي پيماني تي جنگ جي آزمائش ڪئي وئي آهي، پيداوار جي تصديق سان هر سيڪنڊ ۾ سوين هزارين درخواستن کي سنڀاليندي آهي ۽ ترتيب ۾ تبديليون جيڪي خلل واري ري لوڊ کي مجبور ڪرڻ جي بدران ملي سيڪنڊن ۾ اثر انداز ٿين ٿيون.
AI پاسي، اهو مين اسٽريم ماڊل فراهم ڪندڙن کي سپورٽ ڪري ٿو، پنهنجي پلگ ان ميڪانيزم ذريعي MCP سرورز کي هوسٽ ڪري سگهي ٿو ته جيئن ايجنٽ ٽولز کي ڪال ڪري سگهن، ۽ WAF ۽ تصديق جي حڪمت عملين جي هڪ حد سان گڏ، LLM ۽ MCP API ٻنهي لاءِ متحد انتظام فراهم ڪري ٿو. اهو هڪ بهترين انتخاب آهي جيڪڏهن خام ڪارڪردگي ۽ هڪ ثابت ٿيل هاءِ-ٿرو پُٽ ڪور توهان جي ترجيحات آهن. ٻين انفراسٽرڪچر-پهرين منصوبن وانگر، اعليٰ سطحي گورننس ۽ پراڊڪٽ پالش هڪ وقف ٿيل انٽرپرائز پليٽ فارم کان هلڪو آهي، ۽ ڪميونٽي سينٽر آف گريويٽي ڪجهه مغربي ٽيمن لاءِ گهٽ واقف ٿي سگهي ٿو.
بهترين لاءِ: ٽيمون جن کي هڪ اعليٰ-ٿرو پُٽ، مڪمل طور تي اوپن سورس AI-نيٽيو گيٽ وي جي ضرورت آهي. خبردار: توهان گورننس ليئر جو وڌيڪ حصو پاڻ گڏ ڪندا.
5. گلو اي آءِ گيٽ وي - سفير تي ٻڌل ۽ ڪبرنيٽس-مقامي
Solo.io جو Gloo AI گيٽ وي، هڪ پختو اينوائي- ۽ ڪبرنيٽس-نيٽو گيٽ وي جي مٿان AI ٽرئفڪ مئنيجمينٽ ٺاهي ٿو. اهو LLM ٽرئفڪ جي مخصوص ضرورتن کي نشانو بڻائي ٿو: سيمينٽڪ ڪيشنگ، ٽوڪن تي ٻڌل شرح جي حد بندي، فوري افزودگي، ڪبرنيٽس رازن ذريعي سندي انجيڪشن، ۽ حساس معلومات کي ليڪ ٿيڻ کان بچائڻ لاءِ ڊيٽا-ايڪسفلٽريشن تحفظ. Solo.io پنهنجي اوپن سورس گيٽ وي کي CNCF (kgateway جي طور تي) عطيو ڪيو، تنهنڪري هڪ حقيقي اوپن ڪور آهي.
nuance هن فهرست تي نموني کي ظاهر ڪري ٿو: ڪجهه LLM-مخصوص صلاحيتون، جهڙوڪ ٽوڪن تي ٻڌل شرح جي حد بندي، عام طور تي مفت ڪور جي بدران انٽرپرائز لائسنس جو حصو آهن. جيڪڏهن توهان اڳ ۾ ئي Kubernetes هلائي رهيا آهيو ۽ هڪ اينوائي تي ٻڌل گيٽ وي چاهيو ٿا جيڪو AI ٽرئفڪ کي پهرين درجي جي شهري جي طور تي علاج ڪري، اهو هڪ مضبوط فٽ آهي جيستائين توهان نقشو ٺاهيو ته توهان کي ڪهڙيون خاصيتون صحيح درجي تي گهربل آهن.
بهترين لاءِ: ڪبرنيٽس جون وڏيون ٽيمون جيڪي AI ٽرئفڪ خاصيتن سان گڏ هڪ اينوائي تي ٻڌل گيٽ وي چاهين ٿيون. خبردار: چيڪ ڪريو ته ڪهڙن LLM خاصيتن کي انٽرپرائز ايڊيشن جي ضرورت آهي.
ڪيئن چونڊيو
جيڪڏهن توهان چاهيو ٿا ته هڪ خالص اوپن سورس پروجيڪٽ پاڻ هلائي ۽ هلائي، ته پوءِ اينوائي اي آءِ گيٽ وي ۽ هائگريس توهان کي معيارن سان ڳنڍيل، اعليٰ ڪارڪردگي وارا ڪور ڏين ٿا، ۽ گلو هڪ مضبوط چونڊ آهي جڏهن توهان اڳ ۾ ئي ڪبرنيٽس تي اينوائي لاءِ پرعزم آهيو. پورٽڪي هڪ روٽنگ ليئر کي خود ميزباني ڪرڻ جو سڀ کان هلڪو طريقو آهي، بشرطيڪ توهان ٽائر جي حدن کي قبول ڪريو. ۽ جيڪڏهن توهان کي اصل ۾ ضرورت آهي ته ڊيٽا توهان جي پنهنجي ڪلائوڊ ۾ مڪمل انٽرپرائز گورننس ۽ ان جي پويان سپورٽ سان رهي، ته ٽرو فائونڊري اهو آپشن آهي جيڪو توهان کي گورننس اسٽيڪ پاڻ ٺاهڻ لاءِ پڇڻ کان سواءِ خود ميزباني ڪيل پوزيشن ڏئي ٿو.
تري لائن
هڪ AI گيٽ وي کي پاڻ هوسٽ ڪرڻ جو مطلب ڪنٽرول لاءِ خاصيتون ڇڏڻ هو. 2026 ۾ اهو هاڻي سچ ناهي: توهان هڪ CNCF-پٺڀرائي وارو اوپن معيار، هڪ اعليٰ-ٿرو پُٽ AI-نيٽيو ڪور، يا هڪ مڪمل طور تي منظم انٽرپرائز پليٽ فارم حاصل ڪري سگهو ٿا جيڪو توهان جي پنهنجي ماحول اندر هلندو آهي. صحيح چونڊ ان تي اچي ٿي ته توهان پاڻ کي ڪيترو هلائڻ چاهيو ٿا بمقابله توهان ڪيتري منظم طريقي سان چاهيو ٿا. انهن ٽيمن لاءِ جيڪي ڪنٽرول ۽ کوٽائي ٻنهي چاهين ٿيون، TrueFoundry کي شڪست ڏيڻ لاءِ آهي.
