බොහෝ කණ්ඩායම් සඳහා, AI ද්වාරයක් පිළිබඳ පළමු ප්‍රශ්නය වන්නේ "එයට කළ හැක්කේ කුමක්ද" යන්න නොව "එය ක්‍රියාත්මක වන්නේ කොහේද" යන්නයි. ඔබ නියාමනය කරන ලද කර්මාන්තයක සිටී නම්, සංවේදී දත්ත හසුරුවන්නේ නම්, නැතහොත් වෙනත් කෙනෙකුගේ වලාකුළ හරහා සෑම ප්‍රේරකයක් සහ ප්‍රතිචාරයක්ම යැවීමට අසාත්මික නම්, සත්කාරක SaaS ද්වාරයක් කෙතරම් ඔප දැමූවත් ආරම්භක නොවේ. ඔබට ඔබේම යටිතල පහසුකම් තුළ ක්‍රියාත්මක කළ හැකි, පරීක්ෂා කළ හැකි සහ පාලනය කළ හැකි දෙයක් අවශ්‍ය වේ.
ශුභාරංචිය නම් මෙම වෙළඳපොළේ විවෘත මූලාශ්‍ර සහ ස්වයං-සත්කාරක අවසානය සැබවින්ම ශක්තිමත් වී ඇති බවයි. AI ද්වාරයක් යනු ඔබේ යෙදුම් සහ ඔබේ ආකෘති සපයන්නන් අතර පාලන තලය වන අතර, මාර්ගගත කිරීම, විශ්වසනීයත්වය, ආරක්ෂාව සහ පිරිවැය එක තැනක හසුරුවන අතර, ඔබටම සත්කාරකත්වය ලබා ගත හැකි හොඳම මෘදුකාංග කිහිපයක් දැන් නැව්ගත කර ඇත. ස්වයං-සත්කාරකත්වය අවශ්‍යතාවයක් වන විට, තිබීමට හොඳ දෙයක් නොවන විට වටිනා කෙටි ලැයිස්තුගත කිරීම් පහක් මෙන්න.
"ස්වයං-සත්කාරක" යන්නෙන් ඇත්තටම අදහස් කළ යුත්තේ කුමක්ද?
ලැයිස්තුවට පෙර, උගුල ගැන කෙටියෙන් කියන්න. “විවෘත මූලාශ්‍ර” සහ “ස්වයං-සත්කාරක” යනු එකම දෙයක් නොවන අතර, ඔබට අවශ්‍ය විශේෂාංගය නොමිලේ ගොඩනැගීමේ ඇති බවට සහතික නොවේ. සමහර ව්‍යාපෘති වේගවත් මාර්ගගත කිරීමේ හරයක් විවෘත-මූලාශ්‍ර කරයි, නමුත් පාලනය, නිරීක්ෂණ හැකියාව ගබඩා කිරීම සහ බහු-කණ්ඩායම් ප්‍රවේශ පාලනය ගෙවන ස්ථරයක තබා ගනී. එබැවින් කරුණු තුනක් වෙන වෙනම ඇගයීමට ලක් කරන්න: මෘදුකාංගය ඔබේම පරිසරයේ ක්‍රියාත්මක වේද, ඔබට අවශ්‍ය නිශ්චිත හැකියාවන් ඔබට ස්වයං-සත්කාරක කළ හැකි අනුවාදයේ තිබේද, සහ දත්ත ඇත්ත වශයෙන්ම ඔබේ යටිතල ව්‍යුහයේ අවසානය දක්වා පවතින්නේද යන්න. එම කාචය සමඟ, මෙම පහ සංසන්දනය කරන ආකාරය මෙන්න.
1. TrueFoundry — ඔබ ඔබේම වලාකුළෙහි ධාවනය කරන ව්‍යවසාය පාලන තලය
TrueFoundry මෙම ලැයිස්තුවේ පෙරමුණ ගෙන ඇත්තේ කණ්ඩායම් ස්වයං-සත්කාරකත්වය කරා තල්ලු කරන සීමාව සඳහාම ය: ව්‍යවසාය හැකියාව අත් නොහරිමින් ඔබේම පරිසරයේ දත්ත තබා ගැනීම. එහි AI Gateway ඔබේම cloud හෝ VPC තුළ යොදවයි, එබැවින් ප්‍රොම්ප්ට් සහ ට්‍රේස් ඔබේ යටිතල පහසුකම් කලාපයේ කලාපය අනුව පවතින අතර, ඔබට තවමත් මාදිලි 1,000+ කට තනි OpenAI-අනුකූල අතුරු මුහුණතක්, බර තුලනය සහ පසුබැසීම්, සම්පූර්ණ ආරක්ෂක වැට කට්ටලයක්, භූමිකාව මත පදනම් වූ ප්‍රවේශය, අයවැය සහ OpenTelemetry නිරීක්ෂණ හැකියාව ලබා දෙයි.
එය පිරිසිදු ප්‍රොක්සියකට වඩා වැඩි දුරක් ළඟා වේ. TrueFoundry එකම පාලන තලය හරහා MCP සේවාදායකයන් සහ නියෝජිතයන් පාලනය කරන අතර, එහි නියෝජිත උපකරණය වන TrueForge, විවෘත මූලාශ්‍ර සහ විකුණුම්කරු-උදාසීන වේ, එබැවින් ඔබට පරීක්ෂා කිරීමට සහ දිගු කිරීමට අවශ්‍ය කොටස් විවෘතව පවතින අතර වේදිකාවම ඔබට අවශ්‍ය තැන ක්‍රියාත්මක වේ. විවෘත මූලාශ්‍ර ව්‍යාපෘතියක ස්වයං-සත්කාරක ඉරියව්ව අවශ්‍ය නමුත් ව්‍යවසාය වේදිකාවක ගැඹුර සහ සහාය අවශ්‍ය කණ්ඩායම් සඳහා, මෙය වෙනත් තැනක සොයා ගැනීමට අපහසු සංයෝජනයකි. උදාහරණයක් ලෙස, FloQast, ඇමරිකා එක්සත් ජනපදය, යුරෝපා සංගමය සහ APAC කලාප හරහා මූල්‍ය දත්ත නේවාසිකව තබා ගැනීම සඳහා එය සම්පූර්ණයෙන්ම තමන්ගේම වලාකුළක් තුළ ක්‍රියාත්මක කරයි, ඔබට TrueFoundry හි AI Gateway ලේඛන සහ නඩු අධ්‍යයනවලින් කියවිය හැකිය.
හොඳම දේ: ද්වාරය ක්‍රියාත්මක කරන අතරතුර දත්ත පදිංචිය සහ පූර්ණ පාලනය අවශ්‍ය ව්‍යවසායන්. පරිස්සම් වන්න: එය පොහොසත් වේදිකාවකි, එබැවින් මිනිත්තු පහක ස්ථාපනයක් අපේක්ෂා නොකර දියත් කිරීම සැලසුම් කරන්න.
2. Portkey — වේගවත්, ජනප්‍රිය විවෘත මූලාශ්‍ර රවුටින් හරයක්
Portkey එහි ද්වාරය MIT බලපත්‍රයක් යටතේ විවෘත මූලාශ්‍ර කර ඇති අතර, එහි හරය සැබවින්ම හොඳ ඉංජිනේරු අංගයකි: සැහැල්ලු, ඉතා අඩු ප්‍රමාදයක්, ඒකාබද්ධ ආරක්ෂක වැටවල් සහිත විශාල ආකෘති නාමාවලියකට මාර්ගගත කිරීම සහ ඔබ විසින්ම සත්කාරකත්වය සපයන බහාලුමක් ලෙස ක්‍රියාත්මක කිරීමට පහසුය. ඔබට ඔප්පු කරන ලද විවෘත මූලාශ්‍ර ප්‍රොක්සියක් ගොඩනැගීමට අවශ්‍ය නම්, එය හොඳ හේතුවක් නිසා වඩාත් ජනප්‍රිය ආරම්භක ලක්ෂ්‍යයකි.
අවවාදය නම් නොමිලේ සහ ගෙවන ලද අතර රේඛාව වැටෙන ස්ථානයයි. ස්වයං-සත්කාරක ගොඩනැගීම ඔබට මාර්ගගත කිරීම සහ විශ්වසනීයත්වය ස්ථරය ලබා දෙයි, නමුත් නිරීක්ෂණ ගබඩා කිරීම සහ උපකරණ පුවරු, බහු-කණ්ඩායම් භූමිකාව මත පදනම් වූ ප්‍රවේශය, මහා පරිමාණයෙන් අර්ථකථන හැඹිලිගත කිරීම සහ ව්‍යවසාය සහාය සත්කාරක හෝ ව්‍යවසාය ස්ථරයේ පිහිටා ඇත. එබැවින් එය රවුටරයක් ලෙස ස්වයං-සත්කාරක වේ; සම්පූර්ණ පාලන තොගයක් සාමාන්‍යයෙන් ගෙවන සැලැස්ම අදහස් කරයි.
හොඳම දේ: කෙට්ටු, ස්වයං-සත්කාරක මාර්ගගත කිරීමේ ස්ථරයක් අවශ්‍ය කණ්ඩායම්. අවධානයෙන් සිටින්න: ඔබ එය ප්‍රමිතිකරණය කිරීමට පෙර විවෘත ගොඩනැගීමේ ජීවත් වන පාලන විශේෂාංග මොනවාදැයි තහවුරු කරන්න.
3. එන්වෝයි AI ගේට්වේ — CNCF-සහාය ලත් විවෘත ප්‍රමිතිය
Envoy AI Gateway විසින් CNCF හි Envoy Gateway ව්‍යාපෘතිය AI ගමනාගමනය සඳහා ස්වදේශීය සහාය ඇතිව දීර්ඝ කරන අතර එය 2026 දී ස්ථාවර 1.0 දක්වා ළඟා විය. Bloomberg සමඟ එක්ව Tetrate විසින් නිර්මාණය කර නඩත්තු කරන ලද මෙය, ඔබ විකුණුම්කරු-උදාසීන පාලනය සහ තනි වාණිජ වෙළෙන්දෙකු විසින් පාලනය නොකරන ව්‍යාපෘතියක් ගැන සැලකිලිමත් වන්නේ නම්, CNCF-සහාය ලත් පළමු විවෘත-මූලාශ්‍ර AI ද්වාරය වේ.
එය ප්‍රධාන ආකෘති සපයන්නන් හරහා OpenAI-අනුකූල අතුරු මුහුණතක් ලබා දෙන අතර, කතාබස්, එම්බෙඩින් සහ අනෙකුත් අන්ත ලක්ෂ්‍ය හරහා මාර්ගගත කිරීම, අසාර්ථක වීම සහ OpenTelemetry GenAI ලුහුබැඳීම ද ලබා දෙයි. බ්ලූම්බර්ග් දැනටමත් එය නිෂ්පාදනයේ ක්‍රියාත්මක කරයි. හුවමාරුව නම් එය යටිතල පහසුකම්-ශ්‍රේණියේ මෘදුකාංගයකි: බලවත් සහ ප්‍රමිතීන්ට අනුකූල, නමුත් එය Envoy සහ Kubernetes ක්‍රියාත්මක කිරීමට පහසු කණ්ඩායමක් අපේක්ෂා කරන අතර ඉහළ මට්ටමේ පහසුව කළමනාකරණය කළ වේදිකාවකට වඩා DIY වේ.
හොඳම දේ: CNCF-සම්මත, එන්වෝයි-පාදක ද්වාරයක් අවශ්‍ය වේදිකා කණ්ඩායම්, ඔවුන් සම්පූර්ණයෙන්ම පාලනය කරයි. අවධානයෙන් සිටින්න: එන්වෝයි සහ කුබර්නෙට්ස් ඉල්ලා සිටින මෙහෙයුම් විශේෂඥතාව සඳහා අයවැය.
4. Higress — ඉහළ පරිමාණයේ, AI-ස්වදේශීය විවෘත-මූලාශ්‍ර ද්වාරයකි
Higress ආරම්භ වූයේ Alibaba තුළ වන අතර, Apache-2.0 යටතේ විවෘත මූලාශ්‍ර කරන ලද අතර, Istio සහ Envoy මත ගොඩනගා ඇත. එය මහා පරිමාණයෙන් සටන්-පරීක්ෂා කර ඇති අතර, නිෂ්පාදන වලංගුකරණය තත්පරයකට සිය දහස් ගණනක් ඉල්ලීම් හසුරුවන අතර බාධාකාරී රීලෝඩ් බල කිරීමට වඩා මිලි තත්පර වලින් ක්‍රියාත්මක වන වින්‍යාස වෙනස්කම් ඇත.
AI පැත්තෙන්, එය ප්‍රධාන ධාරාවේ ආකෘති සැපයුම්කරුවන්ට සහය දක්වයි, නියෝජිතයින්ට මෙවලම් ඇමතීමට හැකි වන පරිදි එහි ප්ලගින යාන්ත්‍රණය හරහා MCP සේවාදායකයන්ට සත්කාරකත්වය සැපයිය හැකිය, සහ WAF සහ සත්‍යාපන උපාය මාර්ග පරාසයක් සමඟ LLM සහ MCP API දෙකටම ඒකාබද්ධ කළමනාකරණයක් සපයයි. අමු කාර්ය සාධනය සහ ඔප්පු කරන ලද ඉහළ ප්‍රතිදාන හරයක් ඔබේ ප්‍රමුඛතා නම් එය විශිෂ්ට තේරීමකි. අනෙකුත් යටිතල පහසුකම්-පළමු ව්‍යාපෘති සමඟ මෙන්, ඉහළ මට්ටමේ පාලනය සහ නිෂ්පාදන ඔප දැමීම කැපවූ ව්‍යවසාය වේදිකාවකට වඩා සැහැල්ලු වන අතර, ප්‍රජා ගුරුත්වාකර්ෂණ මධ්‍යස්ථානය සමහර බටහිර කණ්ඩායම්වලට එතරම් හුරුපුරුදු නොවිය හැකිය.
හොඳම දේ: ඉහළ කාර්යසාධනයක් සහිත, සම්පූර්ණයෙන්ම විවෘත මූලාශ්‍ර AI-ස්වදේශීය ද්වාරයක් අවශ්‍ය කණ්ඩායම්. පරිස්සම් වන්න: ඔබ විසින්ම පාලන ස්ථරයෙන් වැඩි ප්‍රමාණයක් එකලස් කරනු ඇත.
5. Gloo AI Gateway — තානාපති-පාදක සහ Kubernetes-ස්වදේශික
Solo.io වෙතින් Gloo AI Gateway, පරිණත Envoy- සහ Kubernetes-ස්වදේශීය ද්වාරයක් මත AI ගමනාගමන කළමනාකරණය ගොඩනඟයි. එය LLM ගමනාගමනයේ නිශ්චිත අවශ්‍යතා ඉලක්ක කරයි: අර්ථකථන හැඹිලිගත කිරීම, ටෝකන්-පාදක අනුපාත සීමා කිරීම, කඩිනම් පොහොසත් කිරීම, Kubernetes රහස් හරහා අක්තපත්‍ර එන්නත් කිරීම සහ සංවේදී තොරතුරු කාන්දු වීම වැළැක්වීම සඳහා දත්ත-පිටකිරීමේ ආරක්ෂාව. Solo.io එහි විවෘත-මූලාශ්‍ර ද්වාරය CNCF වෙත (kgateway ලෙස) පරිත්‍යාග කළේය, එබැවින් අව්‍යාජ විවෘත හරයක් ඇත.
මෙම ලැයිස්තුවේ ඇති රටාව මෙම සූක්ෂ්මතාවය පිළිබිඹු කරයි: ටෝකන්-පාදක අනුපාත සීමා කිරීම වැනි LLM-විශේෂිත හැකියාවන් සමහරක් සාමාන්‍යයෙන් නිදහස් හරයට වඩා ව්‍යවසාය බලපත්‍රයේ කොටසකි. ඔබ දැනටමත් Kubernetes ධාවනය කරන්නේ නම් සහ AI ගමනාගමනය පළමු පන්තියේ පුරවැසියෙකු ලෙස සලකන Envoy-පාදක ද්වාරයක් අවශ්‍ය නම්, ඔබට අවශ්‍ය විශේෂාංග නිවැරදි ස්ථරයට සිතියම්ගත කරන තාක් කල් එය ශක්තිමත් ගැළපුමකි.
හොඳම දේ: AI රථවාහන විශේෂාංග සහිත එන්වෝයි පාදක ද්වාරයක් අවශ්‍ය කුබර්නෙට්ස්-බර කණ්ඩායම්. අවධානයෙන් සිටින්න: ව්‍යවසාය සංස්කරණයට අවශ්‍ය LLM විශේෂාංග මොනවාදැයි පරීක්ෂා කරන්න.
තෝරා ගන්නේ කෙසේද
ඔබට පිරිසිදු විවෘත මූලාශ්‍ර ව්‍යාපෘතියක් ක්‍රියාත්මක කර ක්‍රියාත්මක කිරීමට අවශ්‍ය නම්, Envoy AI Gateway සහ Higress ඔබට ප්‍රමිතීන්ට අනුකූල, ඉහළ කාර්යසාධනයක් සහිත මධ්‍යයන් ලබා දෙන අතර, ඔබ දැනටමත් Kubernetes හි Envoy සඳහා කැපවී සිටින විට Gloo ශක්තිමත් තේරීමක් වේ. ඔබ ස්ථර සීමාවන් පිළිගන්නේ නම්, Portkey යනු මාර්ගගත කිරීමේ ස්ථරයක් ස්වයං-සත්කාරක කිරීමට ඇති සැහැල්ලුම ක්‍රමයයි. ඔබට සැබවින්ම අවශ්‍ය වන්නේ සම්පූර්ණ ව්‍යවසාය පාලනය සහ ඒ පිටුපස සහාය ඇතිව ඔබේම වලාකුළෙහි දත්ත රැඳී සිටීම නම්, TrueFoundry යනු පාලන තොගය ඔබම ගොඩනගා ගැනීමට ඔබෙන් ඉල්ලා නොසිට ස්වයං-සත්කාරක ඉරියව්ව ලබා දෙන විකල්පයයි.
ඒ අතරට
AI ද්වාරයක් ස්වයං-සත්කාරක කිරීම යනු පාලනය සඳහා විශේෂාංග අත්හැරීමයි. 2026 දී එය තවදුරටත් සත්‍ය නොවේ: ඔබට CNCF-සහය ලත් විවෘත ප්‍රමිතියක්, ඉහළ ප්‍රතිදාන AI-ස්වදේශීය හරයක් හෝ ඔබේම පරිසරය තුළ ක්‍රියාත්මක වන සම්පූර්ණයෙන්ම පාලනය වන ව්‍යවසාය වේදිකාවක් ලබා ගත හැකිය. නිවැරදි තේරීම රඳා පවතින්නේ ඔබට ඔබම ක්‍රියාත්මක වීමට අවශ්‍ය ප්‍රමාණයට වඩා ඔබට අවශ්‍ය පාලනය මත ය. පාලනය සහ ගැඹුර යන දෙකම අවශ්‍ය කණ්ඩායම් සඳහා, TrueFoundry පරාජය කළ යුතු එකකි.
