ለብዙ ቡድኖች፣ ስለ AI ጌትዌይ የመጀመሪያው ጥያቄ “ምን ሊያደርግ ይችላል” ሳይሆን “የት ነው የሚሰራው” ነው። በተቆጣጠረ ኢንዱስትሪ ውስጥ ከሆኑ፣ ሚስጥራዊ መረጃዎችን የሚያስተናግዱ ከሆነ ወይም እያንዳንዱን ጥያቄ እና ምላሽ በሌላ ሰው ደመና በኩል ለመላክ አለርጂክ ከሆኑ፣ የተስተናገደ የSaaS ጌትዌይ ምንም ያህል የተወለወለ ቢሆን ጀማሪ አይደለም። በራስዎ መሠረተ ልማት ውስጥ ማስኬድ፣ መመርመር እና መቆጣጠር የሚችሉትን ነገር ይፈልጋሉ።
መልካም ዜናው የዚህ ገበያ ክፍት ምንጭ እና እራሱን የሚያስተናግድ ጫፍ በእውነት ጠንካራ መሆኑ ነው። የAI ጌትዌይ በመተግበሪያዎችዎ እና በሞዴል አቅራቢዎችዎ መካከል የመቆጣጠሪያ መስመር ሲሆን፣ በአንድ ቦታ ላይ የማስተላለፊያ መስመርን፣ አስተማማኝነትን፣ ደህንነትን እና ወጪን የሚቆጣጠር ሲሆን፣ እና አሁን እራስዎ ማስተናገድ የሚችሉትን ምርጥ ሶፍትዌሮችን ጨምሮ በርካታ ነገሮችን እራስዎ ማስተናገድ ይችላሉ። እነዚህ አምስት ጠቃሚ የእጩዎች ዝርዝር ናቸው፣ ራስን ማስተናገድ አስፈላጊ ነገር ሳይሆን አስፈላጊ ነው።
"ራስን ማስተናገድ የሚችል" ማለት ምን ማለት መሆን አለበት
ከዝርዝሩ በፊት፣ ስለ ወጥመዱ አጭር ቃል። “ክፍት ምንጭ” እና “ራስን ማስተናገድ የሚችል” አንድ አይነት ነገር አይደሉም፣ እና የሚያስፈልግዎት ባህሪ በነጻ ግንባታ ውስጥ መሆኑን ዋስትና አይሰጡም። አንዳንድ ክፍት ምንጭ ፈጣን የማዞሪያ ኮርን ይገነባሉ ነገር ግን የአስተዳደር፣ የመታየት ማከማቻ እና የብዙ ቡድን የመዳረሻ ቁጥጥርን በሚከፈልበት ደረጃ ያቆያሉ። ስለዚህ ሶስት ነገሮችን ለየብቻ ይገምግሙ፡ ሶፍትዌሩ በራስዎ አካባቢ የሚሰራ መሆኑን፣ የሚፈልጓቸው የተወሰኑ ችሎታዎች እራስዎ ማስተናገድ በሚችሉት ስሪት ውስጥ መሆን አለመሆናቸውን እና ውሂብ በእውነቱ በመሠረተ ልማትዎ ውስጥ ከጫፍ እስከ ጫፍ መቆየቱን። በዚያ መነጽር፣ እነዚህ አምስት እንዴት እንደሚወዳደሩ እነሆ።
1. TrueFoundry — በራስዎ ደመና ውስጥ የሚያሄዱት የድርጅት መቆጣጠሪያ አውሮፕላን
ትሩፋውንድሪ ይህንን ዝርዝር የሚመራው ቡድኖችን በራስ-ማስተናገጃነት እንዲሳተፉ የሚገፋፋውን ገደብ በትክክል ስለተገነባ ነው፡ ይህም የድርጅት አቅምን ሳይለቁ በራስዎ አካባቢ ውሂብን ማቆየት ነው። የ AI ጌትዌይ በራስዎ ደመና ወይም VPC ውስጥ ይሰራል፣ ስለዚህ ጥያቄዎች እና ዱካዎች በመሠረተ ልማት ክልልዎ ውስጥ በክልል ይቆያሉ፣ አሁንም ለ1,000+ ሞዴሎች አንድ ነጠላ የOpenAI-ተኳሃኝ በይነገጽ፣ የጭነት ሚዛን እና መውደቅ፣ ሙሉ የጥበቃ ስብስቦች፣ በሚና ላይ የተመሠረተ መዳረሻ፣ በጀት እና የOpenTelemetry ታዛቢነት ይሰጥዎታል።
እንዲሁም ከንፁህ ፕሮክሲ በላይ ይደርሳል። ትሩፋውንድሪ የኤምሲፒ አገልጋዮችን እና ወኪሎችን በተመሳሳይ የቁጥጥር አውሮፕላን ያስተዳድራል፣ እና የወኪሉ ማሰሪያው ትሩፋውንድ ክፍት ምንጭ እና ሻጭ-ገለልተኛ ነው፣ ስለዚህ መድረኩ ራሱ በሚፈልጉበት ቦታ ሲሄድ መመርመር እና ማራዘም የሚፈልጉት ክፍሎች ክፍት ናቸው። ክፍት ምንጭ ፕሮጀክት እራሱን የሚያስተናግድ አቀማመጥ ለሚፈልጉ ቡድኖች ነገር ግን የድርጅት መድረክ ጥልቀት እና ድጋፍ፣ ይህ በሌላ ቦታ ለማግኘት አስቸጋሪ የሆነ ጥምረት ነው። ለምሳሌ፣ FloQast የፋይናንስ ውሂብን በአሜሪካ፣ በአውሮፓ ህብረት እና በAPAC ክልሎች ውስጥ እንዲኖር ሙሉ በሙሉ በራሱ ደመና ውስጥ ያስኬደዋል፣ ይህም በ TrueFoundry የAI Gateway ሰነዶች እና የጉዳይ ጥናቶች ውስጥ ማንበብ ይችላሉ።
ለሚከተሉት ምርጥ፦ ጌትዌይን እራሳቸው እያስኬዱ የውሂብ ነዋሪነት እና ሙሉ አስተዳደር የሚያስፈልጋቸው ድርጅቶች። ተጠንቀቁ፦ የበለጸገ መድረክ ስለሆነ የአምስት ደቂቃ ጭነት ከመጠበቅ ይልቅ ልቀቱን ያቅዱ።
2. ፖርትኪ — ፈጣን፣ ታዋቂ የሆነ ክፍት ምንጭ የማዞሪያ ኮር
ፖርትኪ በኤምቲኤ ፈቃድ ስር ያለውን ጌትዌይ ክፍት ምንጭ አድርጎታል፣ እና ኮር በጣም ጥሩ የምህንድስና ክፍል ነው፡ ቀላል ክብደት ያለው፣ በጣም ዝቅተኛ የጨመረ መዘግየት፣ ወደ ትልቅ የሞዴል ካታሎግ ከተቀናጁ የጥበቃ መደገፊያዎች ጋር መዞር እና እራስዎን እንደ ኮንቴይነር ለማስኬድ ቀላል ነው። የተረጋገጠ ክፍት ምንጭ ፕሮክሲ ለመገንባት ከፈለጉ፣ በጥሩ ምክንያት በጣም ታዋቂ ከሆኑ የመነሻ ነጥቦች አንዱ ነው።
ማስጠንቀቂያው በነጻ እና በሚከፈልበት መካከል ያለው መስመር የሚወድቅበት ቦታ ነው። በራስ የሚስተናገደው ግንባታ የማዞሪያ እና የአስተማማኝነት ንብርብር ይሰጥዎታል፣ ነገር ግን የመታየት ማከማቻ እና ዳሽቦርዶች፣ ባለብዙ ቡድን ሚና ላይ የተመሠረተ መዳረሻ፣ በትላልቅ ደረጃ የትርጉም መሸጎጫ እና የድርጅት ድጋፍ በተስተናገደው ወይም በድርጅት ደረጃ ላይ ይገኛሉ። ስለዚህ እራሱን ያስተናግዳል እንዲሁም እንደ ራውተር፤ ሙሉ የአስተዳደር ቁልል ብዙውን ጊዜ የሚከፈልበትን ዕቅድ ያመለክታል።
ለሚከተሉት ቡድኖች ምርጥ፦ ቀጭን፣ በራሱ የሚስተናገድ የማስተናገጃ ንብርብር የሚፈልጉ ቡድኖች። ጥንቃቄ ያድርጉ፦ በእሱ ላይ ደረጃውን የጠበቀ ከማድረግዎ በፊት የትኞቹ የአስተዳደር ባህሪያት በክፍት ግንባታ ውስጥ እንደሚኖሩ ያረጋግጡ።
3. የኤንቨሎፕ AI ጌትዌይ — በ CNCF የተደገፈ ክፍት ደረጃ
የኤንጄ አይ ጌትዌይ የCNCF የኤንጄ አይ ጌትዌይ ፕሮጀክትን ለኤንጄ አይ ትራፊክ በአገር በቀል ድጋፍ ያራዝመዋል፣ እና በ2026 የተረጋጋ 1.0 ደርሷል። በቴትራቴት ከብሉምበርግ ጋር በመተባበር የተፈጠረ እና የሚንከባከበው የመጀመሪያው የCNCF ድጋፍ ያለው ክፍት ምንጭ የኤንጄ አይ ጌትዌይ ሲሆን፣ ስለ ሻጭ-ገለልተኛ አስተዳደር እና በአንድ የንግድ አቅራቢ ቁጥጥር ስር ያልሆነ ፕሮጀክት ግድ ይልዎታል።
በዋና ዋና የሞዴል አቅራቢዎች ላይ ከኦፕንአይአይ ጋር ተኳሃኝ የሆነ በይነገጽ፣ እንዲሁም ራውቲንግ፣ ፋሎቨር እና ኦፕንቴሌሜትሪ ጌንአይአይ በቻት፣ በኢምቤዲንግ እና በሌሎች የመጨረሻ ነጥቦች ላይ ዱካ ያቀርባል። ብሉምበርግ አስቀድሞ በምርት ውስጥ ያስኬደዋል። ዋናው ነገር በመሠረተ ልማት ደረጃ ያለው ሶፍትዌር መሆኑ ነው፡ ኃይለኛ እና ደረጃውን የጠበቀ፣ ነገር ግን ለቡድን ምቹ የሆነ ኦፕሬቲንግ ኢንቮይተር እና ኩበርኔቶች እንደሚጠብቁ ይጠብቃል፣ እና ከፍተኛ ደረጃ ያላቸው ምቹ አገልግሎቶች ከሚተዳደር መድረክ ይልቅ እራስዎ ያድርጉት።
ለሚከተሉት ምርጥ፦ ሙሉ በሙሉ የሚቆጣጠሩት የ CNCF ደረጃውን የጠበቀ፣ በኢንቮይ ላይ የተመሠረተ መግቢያ በር የሚፈልጉ የመድረክ ቡድኖች። ጥንቃቄ፦ ለኢንቮይ እና ኩበርኔትስ ፍላጎት የሥራ ልምድ በጀት።
4. ሂግሬስ — ከፍተኛ ደረጃ ያለው፣ በAI-ተወላጅ የሆነ ክፍት ምንጭ ጌትዌይ
ሂግሬስ የተጀመረው በአሊባባ ውስጥ ሲሆን፣ በአፓቼ-2.0 ስር ክፍት ምንጭ ሆኖ የተሰራ ሲሆን በኢስቲዮ እና በኢንቮ ላይ የተገነባ ነው። በሰፊው የጦርነት ሙከራ የተደረገበት ሲሆን የምርት ማረጋገጫ በሰከንድ በመቶ ሺዎች የሚቆጠሩ ጥያቄዎችን እና ረብሻ ዳግም መጫንን ከማስገደድ ይልቅ በሚሊሰከንዶች ውስጥ ተግባራዊ የሚሆኑ የውቅር ለውጦችን ያካትታል።
በAI በኩል፣ ዋና ዋና የሞዴል አቅራቢዎችን ይደግፋል፣ ወኪሎች መሳሪያዎችን እንዲጠሩ በፕለጊን ዘዴው አማካኝነት የኤምሲፒ አገልጋዮችን ማስተናገድ ይችላል፣ እና ከWAF እና ከተለያዩ የማረጋገጫ ስልቶች ጋር ለሁለቱም የኤልኤልኤም እና የኤምሲፒ ኤፒአይዎች የተዋሃደ አስተዳደር ይሰጣል። ጥሬ አፈፃፀም እና የተረጋገጠ ከፍተኛ-ውጤት ኮር ቅድሚያ የሚሰጣቸው ነገሮች ከሆኑ በጣም ጥሩ ምርጫ ነው። እንደሌሎች የመሠረተ ልማት-መጀመሪያ ፕሮጀክቶች፣ ከፍተኛ ደረጃ ያለው አስተዳደር እና የምርት ፖሊሽ ከተወሰነ የድርጅት መድረክ ቀለል ያሉ ናቸው፣ እና የማህበረሰብ የስበት ማዕከል ለአንዳንድ የምዕራባውያን ቡድኖች ብዙም ላይታወቅ ይችላል።
ለሚከተሉት ምርጥ፦ ከፍተኛ throughput፣ ሙሉ በሙሉ ክፍት የሆነ የAI-ተወላጅ መግቢያ በር ለሚፈልጉ ቡድኖች። ጥንቃቄ፦ ተጨማሪ የአስተዳደር ንብርብር እራስዎ ይሰበስባሉ።
5. ግሎ አይአይ ጌትዌይ — በመልዕክት ላይ የተመሰረተ እና ኩበርኔቶች-ተወላጅ
ከሶሎ.io የመጣው ግሎ አይ ጌትዌይ፣ በጎልማሳ ኤንቨሎፕ እና ኩበርኔስ ተወላጅ በሆነው ጌትዌይ ላይ የAI ትራፊክ አስተዳደርን ይገነባል። የLLM ትራፊክን ልዩ ፍላጎቶች ያነጣጠረ ነው፡- የትርጉም መሸጎጫ፣ በቶከን ላይ የተመሠረተ የፍጥነት ገደብ፣ ፈጣን ማበልጸጊያ፣ በኩበርኔተስ ሚስጥሮች በኩል የምስክርነት መርፌ እና ሚስጥራዊ መረጃ እንዳይፈስ ለመከላከል የውሂብ-ማውጣት ጥበቃ። ሶሎ.io ክፍት ምንጭ ጌትዌይን ለ CNCF (እንደ ኪጋቴዌይ) ለግሷል፣ ስለዚህ እውነተኛ ክፍት ኮር አለ።
ይህ ልዩነት በዚህ ዝርዝር ውስጥ ያለውን ንድፍ ያንፀባርቃል፡- እንደ ቶከን-ተኮር የወለድ ገደብ ያሉ አንዳንድ የLLM-ተኮር ችሎታዎች በተለምዶ የኢንተርፕራይዝ ፈቃድ አካል ናቸው፣ ከነፃ ኮር ይልቅ። ኩበርኔቶችን አስቀድመው የሚያስኬዱ ከሆነ እና የAI ትራፊክን እንደ አንደኛ ደረጃ ዜጋ የሚያስተናግድ በኢንቮይተር ላይ የተመሠረተ ጌትዌይ የሚፈልጉ ከሆነ፣ የሚያስፈልጉዎትን ባህሪያት በትክክለኛው ደረጃ ላይ እስካሳዩ ድረስ ጠንካራ ነው።
ለ፦ ኩበርኔቶች - በኢንቨስተር ላይ የተመሠረተ ጌትዌይ የሚፈልጉ ከባድ ቡድኖች ከAI ትራፊክ ባህሪያት ጋር። ጥንቃቄ፦ የትኞቹ የLLM ባህሪያት የኢንተርፕራይዝ እትም እንደሚያስፈልጋቸው ያረጋግጡ።
እንዴት እንደሚመረጥ
እራስዎን ለማስኬድ እና ለማንቀሳቀስ ንጹህ ክፍት ምንጭ ፕሮጀክት ከፈለጉ፣ Envoy AI Gateway እና Higress ደረጃውን የጠበቁ እና ከፍተኛ አፈጻጸም ያላቸው ኮሮች ይሰጡዎታል፣ እና Gloo ቀድሞውኑ Envoy on Kubernetes ላይ ቁርጠኛ ሲሆኑ ጠንካራ ምርጫ ነው። የደረጃ ወሰኖችን እስከተቀበሉ ድረስ Portkey የማዞሪያ ንብርብርን በራስዎ ለማስተናገድ በጣም ቀላሉ መንገድ ነው። እና በእውነቱ የሚያስፈልግዎ ውሂብ በራስዎ ደመና ውስጥ ሙሉ የድርጅት አስተዳደር እና ድጋፍ ያለው ከሆነ፣ TrueFoundry የአስተዳደር ቁልል እራስዎ እንዲገነቡ ሳይጠይቁ በራስዎ የሚስተናገድ አቋም የሚሰጥዎት አማራጭ ነው።
ዋናው ነጥብ
የAI መግቢያ በርን በራስ ማስተናገድ ማለት ለቁጥጥር ባህሪያትን መተው ማለት ነበር። በ2026 ይህ ከአሁን በኋላ እውነት አይደለም፡ በCNCF የተደገፈ ክፍት ደረጃ፣ ከፍተኛ-ፍጥነት ያለው የAI-ተወላጅ ኮር ወይም በራስዎ አካባቢ ውስጥ የሚሰራ ሙሉ በሙሉ የሚተዳደር የድርጅት መድረክ ማግኘት ይችላሉ። ትክክለኛው ምርጫ የሚወሰነው እራስዎን ምን ያህል ማስተዳደር እንደሚፈልጉ እና ከሳጥኑ ውስጥ ምን ያህል አስተዳደር እንደሚፈልጉ ላይ ነው። ቁጥጥር እና ጥልቀት ለሚፈልጉ ቡድኖች፣ TrueFoundry ማሸነፍ ያለበት ነው።
