பல குழுக்களுக்கு, ஒரு AI கேட்வே பற்றிய முதல் கேள்வி, “அதனால் என்ன செய்ய முடியும்” என்பதல்ல, மாறாக “அது எங்கே இயங்குகிறது” என்பதுதான். நீங்கள் ஒரு ஒழுங்குபடுத்தப்பட்ட துறையில் இருந்தாலோ, முக்கியமான தரவுகளைக் கையாண்டாலோ, அல்லது ஒவ்வொரு அறிவுறுத்தலையும் பதிலையும் மற்றவரின் கிளவுட் வழியாக அனுப்புவதில் உங்களுக்கு வெறுமனே ஒவ்வாமை இருந்தாலோ, ஒரு ஹோஸ்ட் செய்யப்பட்ட SaaS கேட்வே எவ்வளவு நேர்த்தியாக இருந்தாலும் அது ஒரு பொருத்தமற்ற தேர்வாகும். உங்கள் சொந்த உள்கட்டமைப்பிற்குள் நீங்கள் இயக்கக்கூடிய, ஆய்வு செய்யக்கூடிய மற்றும் கட்டுப்படுத்தக்கூடிய ஒன்றையே நீங்கள் விரும்புவீர்கள்.
நல்ல செய்தி என்னவென்றால், இந்தச் சந்தையின் ஓப்பன்-சோர்ஸ் மற்றும் சுயமாக ஹோஸ்ட் செய்யக்கூடிய பிரிவு உண்மையாகவே வலுப்பெற்றுள்ளது. ஒரு AI கேட்வே என்பது உங்கள் பயன்பாடுகளுக்கும் உங்கள் மாடல் வழங்குநர்களுக்கும் இடையேயான கட்டுப்பாட்டுத் தளமாகும். இது ரூட்டிங், நம்பகத்தன்மை, பாதுகாப்பு மற்றும் செலவு ஆகியவற்றை ஒரே இடத்தில் கையாளுகிறது. மேலும், சிறந்தவற்றில் பல இப்போது நீங்களே ஹோஸ்ட் செய்யக்கூடிய மென்பொருளாகவே வருகின்றன. சுயமாக ஹோஸ்ட் செய்வது ஒரு விருப்பத் தேர்வாக இல்லாமல், ஒரு தேவையாக இருக்கும்போது, நீங்கள் பட்டியலிட வேண்டிய ஐந்து இங்கே கொடுக்கப்பட்டுள்ளன.
“சுயமாக ஹோஸ்ட் செய்யக்கூடியது” என்பதன் உண்மையான அர்த்தம் என்ன?
பட்டியலுக்கு முன், இதில் உள்ள ஒரு சிக்கலைப் பற்றி ஒரு சிறு குறிப்பு. “ஓப்பன் சோர்ஸ்” மற்றும் “சுயமாக ஹோஸ்ட் செய்யக்கூடியது” என்பவை ஒன்றல்ல, மேலும் உங்களுக்குத் தேவையான அம்சம் இலவசப் பதிப்பில் இருக்கும் என்பதற்கு இவை இரண்டுமே உத்தரவாதம் அளிக்காது. சில திட்டங்கள் வேகமான ரூட்டிங் கோரை ஓப்பன் சோர்ஸ் செய்கின்றன, ஆனால் நிர்வாகம், கண்காணிப்பு சேமிப்பகம் மற்றும் பல குழு அணுகல் கட்டுப்பாடு ஆகியவற்றை கட்டணப் பிரிவில் வைத்திருக்கின்றன. எனவே, மூன்று விஷயங்களைத் தனித்தனியாக மதிப்பிடுங்கள்: அந்த மென்பொருள் உங்கள் சொந்தச் சூழலில் இயங்குகிறதா, உங்களுக்குத் தேவையான குறிப்பிட்ட திறன்கள் நீங்கள் சுயமாக ஹோஸ்ட் செய்யக்கூடிய பதிப்பில் உள்ளதா, மற்றும் தரவுகள் உண்மையில் உங்கள் உள்கட்டமைப்பிலேயே முழுமையாக இருக்கின்றனவா. இந்தக் கண்ணோட்டத்தில், இந்த ஐந்து மென்பொருள்களும் எவ்வாறு ஒப்பிடுகின்றன என்பதைப் பார்ப்போம்.
1. ட்ரூஃபவுண்டரி — உங்கள் சொந்த கிளவுடில் நீங்கள் இயக்கும் நிறுவனக் கட்டுப்பாட்டுத் தளம்
நிறுவனங்களைப் போன்ற திறன்களை விட்டுக்கொடுக்காமல், தரவுகளை உங்கள் சொந்தச் சூழலிலேயே வைத்திருப்பது என்ற, குழுக்களை சுய-ஹோஸ்டிங்கை நோக்கித் தள்ளும் ஒரு குறிப்பிட்ட கட்டுப்பாட்டிற்காகவே TrueFoundry உருவாக்கப்பட்டது. அதனால் இந்தப் பட்டியலில் அது முதலிடம் வகிக்கிறது. அதன் AI கேட்வே உங்கள் சொந்த கிளவுட் அல்லது VPC-க்குள் நிறுவப்படுவதால், அறிவுறுத்தல்களும் தடங்களும் பிராந்தியம் வாரியாக உங்கள் உள்கட்டமைப்பிலேயே தங்கியிருக்கின்றன. அதே சமயம், இது 1,000-க்கும் மேற்பட்ட மாடல்களுக்கான ஒற்றை OpenAI-இணக்கமான இடைமுகம், சுமை சமநிலைப்படுத்துதல் மற்றும் மாற்று ஏற்பாடுகள், முழுமையான பாதுகாப்பு ஏற்பாடுகள், பங்கு அடிப்படையிலான அணுகல், வரவுசெலவுத் திட்டங்கள் மற்றும் OpenTelemetry கண்காணிப்புத் திறன் ஆகியவற்றையும் உங்களுக்கு வழங்குகிறது.
இது ஒரு தூய ப்ராக்ஸியை விடவும் விரிவானது. TrueFoundry, MCP சர்வர்கள் மற்றும் ஏஜென்ட்களை ஒரே கண்ட்ரோல் பிளேன் மூலம் நிர்வகிக்கிறது. மேலும், அதன் ஏஜென்ட் ஹார்னஸான TrueForge, ஓப்பன் சோர்ஸ் மற்றும் விற்பனையாளர் சார்பற்றது. எனவே, நீங்கள் ஆய்வு செய்யவும் விரிவாக்கவும் விரும்பும் பகுதிகள் திறந்த நிலையில் இருக்கும், அதே சமயம் பிளாட்ஃபார்ம் உங்களுக்குத் தேவையான இடத்தில் இயங்கும். ஒரு ஓப்பன் சோர்ஸ் திட்டத்தின் சுய-ஹோஸ்டிங் தன்மையையும், அதே சமயம் ஒரு என்டர்பிரைஸ் பிளாட்ஃபார்மின் ஆழத்தையும் ஆதரவையும் விரும்பும் குழுக்களுக்கு, இது வேறு எங்கும் காண்பதற்கு அரிதான ஒரு கலவையாகும். உதாரணமாக, FloQast, அமெரிக்கா, ஐரோப்பிய ஒன்றியம் மற்றும் ஆசிய-பசிபிக் பிராந்தியங்களில் நிதித் தரவுகளை ஒரே இடத்தில் வைத்திருக்க, இதை முழுவதுமாகத் தனது சொந்த கிளவுடிற்குள் இயக்குகிறது. இதைப் பற்றி நீங்கள் TrueFoundry-யின் AI கேட்வே ஆவணங்கள் மற்றும் கேஸ் ஸ்டடிகளில் படிக்கலாம்.
இதற்குச் சிறந்தது: கேட்வேயைத் தாங்களே இயக்கிக்கொண்டு, தரவு இருப்பிடம் மற்றும் முழுமையான நிர்வாகம் தேவைப்படும் நிறுவனங்களுக்கு. கவனிக்கவும்: இது ஒரு மேம்பட்ட தளம், எனவே ஐந்து நிமிட நிறுவலை எதிர்பார்ப்பதற்குப் பதிலாக, அதன் செயல்பாட்டைத் திட்டமிடுங்கள்.
2. போர்ட்கீ — ஒரு வேகமான, பிரபலமான திறந்த மூல வழிசெலுத்தல் மையம்
போர்ட்கீ தனது கேட்வேயை ஒரு MIT உரிமத்தின் கீழ் ஓப்பன் சோர்ஸ் ஆக்கியுள்ளது, மேலும் அதன் மையப்பகுதி உண்மையிலேயே ஒரு சிறந்த பொறியியல் படைப்பாகும்: குறைந்த எடை, மிகக் குறைந்த கூடுதல் தாமதம், ஒருங்கிணைந்த பாதுகாப்பு அம்சங்களுடன் ஒரு பெரிய மாடல் பட்டியலுக்கு ரூட்டிங் செய்வது, மற்றும் நீங்களே ஹோஸ்ட் செய்யும் ஒரு கண்டெய்னராக எளிதாக இயக்குவது போன்றவை இதன் சிறப்பம்சங்கள். நீங்கள் மேம்படுத்துவதற்கு நிரூபிக்கப்பட்ட ஒரு ஓப்பன் சோர்ஸ் ப்ராக்ஸியை விரும்பினால், சரியான காரணங்களுக்காக இது மிகவும் பிரபலமான தொடக்கப் புள்ளிகளில் ஒன்றாகும்.
இலவசத்திற்கும் கட்டணத்திற்கும் இடையிலான வேறுபாடுதான் இதில் உள்ள சிக்கலாகும். சுயமாக ஹோஸ்ட் செய்யப்பட்ட கட்டமைப்பு உங்களுக்கு ரூட்டிங் மற்றும் நம்பகத்தன்மை அடுக்கை வழங்குகிறது, ஆனால் கண்காணிப்பு சேமிப்பகம் மற்றும் டாஷ்போர்டுகள், பல குழுக்களுக்கான பங்கு அடிப்படையிலான அணுகல், பெரிய அளவிலான செமான்டிக் கேச்சிங் மற்றும் நிறுவன ஆதரவு ஆகியவை ஹோஸ்ட் செய்யப்பட்ட அல்லது நிறுவன அடுக்கில் உள்ளன. எனவே, இது ஒரு ரூட்டராகச் சிறப்பாகச் சுயமாக ஹோஸ்ட் செய்கிறது; ஒரு முழுமையான நிர்வாக அடுக்கு என்பது பொதுவாகக் கட்டணத் திட்டத்தையே குறிக்கிறது.
இதற்குச் சிறந்தது: எளிமையான, சுயமாக ஹோஸ்ட் செய்யப்பட்ட ரூட்டிங் லேயரை விரும்பும் அணிகளுக்கு. கவனிக்கவும்: இதைத் தரப்படுத்துவதற்கு முன்பு, ஓப்பன் பில்டில் எந்தெந்த நிர்வாக அம்சங்கள் உள்ளன என்பதை உறுதிப்படுத்திக் கொள்ளுங்கள்.
3. என்வாய் ஏஐ கேட்வே — CNCF-ஆதரவு பெற்ற திறந்த தரநிலை
என்வாய் ஏஐ கேட்வே, சிஎன்சிஎஃப்-இன் என்வாய் கேட்வே திட்டத்தை ஏஐ டிராஃபிக்கிற்கான நேட்டிவ் ஆதரவுடன் விரிவுபடுத்துகிறது, மேலும் இது 2026-ல் நிலையான 1.0 பதிப்பை எட்டியது. ப்ளூம்பெர்க்குடன் இணைந்து டெட்ரேட் நிறுவனத்தால் உருவாக்கப்பட்டுப் பராமரிக்கப்படும் இது, சிஎன்சிஎஃப்-ஆல் ஆதரிக்கப்படும் முதல் ஓப்பன்-சோர்ஸ் ஏஐ கேட்வே ஆகும். விற்பனையாளர் சார்பற்ற நிர்வாகம் மற்றும் ஒரே ஒரு வணிக விற்பனையாளரால் கட்டுப்படுத்தப்படாத ஒரு திட்டம் ஆகியவற்றில் நீங்கள் அக்கறை கொண்டிருந்தால் இது ஒரு முக்கியமான விஷயமாகும்.
இது முக்கிய மாடல் வழங்குநர்கள் முழுவதும் OpenAI-இணக்கமான இடைமுகத்தை வழங்குகிறது, மேலும் அரட்டை, உட்பொதிப்புகள் மற்றும் பிற எண்ட்பாயிண்ட்கள் முழுவதும் ரூட்டிங், ஃபெயில்ஓவர் மற்றும் OpenTelemetry GenAI ட்ரேசிங் ஆகியவற்றையும் வழங்குகிறது. ப்ளூம்பெர்க் ஏற்கனவே இதை உற்பத்திச் சூழலில் இயக்குகிறது. இதன் குறைபாடு என்னவென்றால், இது ஒரு உள்கட்டமைப்பு-தர மென்பொருளாகும்: சக்தி வாய்ந்தது மற்றும் தரநிலைகளுடன் சீரமைக்கப்பட்டது, ஆனால் Envoy மற்றும் Kubernetes-ஐ இயக்குவதில் தேர்ச்சி பெற்ற ஒரு குழுவை இது எதிர்பார்க்கிறது, மேலும் ஒரு நிர்வகிக்கப்பட்ட தளத்தை விட இதன் உயர்-நிலை வசதிகளைச் சுயமாகச் செய்யவே முடியும்.
இதற்குச் சிறந்தது: CNCF-தரநிலை கொண்ட, Envoy-அடிப்படையிலான ஒரு நுழைவாயிலை தங்கள் முழுமையான கட்டுப்பாட்டில் வைத்திருக்க விரும்பும் பிளாட்ஃபார்ம் குழுக்களுக்கு. கவனிக்க வேண்டியது: Envoy மற்றும் Kubernetes கோரும் செயல்பாட்டு நிபுணத்துவத்திற்கான நிதி ஒதுக்கீடு.
4. ஹைக்ரெஸ் — ஒரு பெரிய அளவிலான, செயற்கை நுண்ணறிவு சார்ந்த திறந்த மூல நுழைவாயில்
ஹைக்ரெஸ் அலிபாபாவில் தொடங்கப்பட்டு, அப்பாச்சி-2.0 இன் கீழ் திறந்த மூலமாக வெளியிடப்பட்டது, மேலும் இது இஸ்டியோ மற்றும் என்வாய் ஆகியவற்றின் அடிப்படையில் கட்டமைக்கப்பட்டுள்ளது. இது பெரிய அளவில் கடுமையாகச் சோதிக்கப்பட்டுள்ளது; இதன் உற்பத்திச் சரிபார்ப்பு, வினாடிக்கு நூறாயிரக்கணக்கான கோரிக்கைகளைக் கையாளுகிறது, மேலும் உள்ளமைவு மாற்றங்கள் இடையூறு விளைவிக்கும் மறுஏற்றங்களை ஏற்படுத்தாமல், மில்லி விநாடிகளிலேயே நடைமுறைக்கு வருகின்றன.
செயற்கை நுண்ணறிவு (AI) பக்கத்தில், இது பிரதான மாடல் வழங்குநர்களை ஆதரிக்கிறது, அதன் செருகுநிரல் பொறிமுறையின் மூலம் MCP சேவையகங்களை ஹோஸ்ட் செய்ய முடியும், இதன்மூலம் முகவர்கள் கருவிகளை அழைக்க முடியும், மேலும் LLM மற்றும் MCP API-கள் இரண்டிற்கும் ஒருங்கிணைந்த நிர்வாகத்தையும், WAF மற்றும் பலவிதமான அங்கீகார உத்திகளையும் வழங்குகிறது. அப்பட்டமான செயல்திறன் மற்றும் நிரூபிக்கப்பட்ட உயர்-செயல்திறன் கொண்ட ஒரு கோர் ஆகியவை உங்கள் முன்னுரிமைகளாக இருந்தால், இது ஒரு சிறந்த தேர்வாகும். மற்ற உள்கட்டமைப்பு-சார்ந்த திட்டங்களைப் போலவே, ஒரு பிரத்யேக நிறுவன தளத்தை விட இதன் உயர்-நிலை நிர்வாகமும் தயாரிப்பு மெருகூட்டலும் குறைவாகவே உள்ளன, மேலும் இதன் சமூக மையமானது சில மேற்கத்திய அணிகளுக்கு அவ்வளவு பரிச்சயமில்லாததாக இருக்கலாம்.
இதற்குச் சிறந்தது: அதிக செயல்திறன் கொண்ட, முற்றிலும் திறந்த மூல AI-சார்ந்த நுழைவாயில் தேவைப்படும் குழுக்கள். கவனிக்கவும்: நிர்வாக அடுக்கின் பெரும்பகுதியை நீங்களே உருவாக்க வேண்டியிருக்கும்.
5. குலூ ஏஐ கேட்வே — என்வாய் அடிப்படையிலான மற்றும் குபர்நெட்டஸ்-நேட்டிவ்
Solo.io வழங்கும் Gloo AI கேட்வே, ஒரு முதிர்ந்த Envoy மற்றும் Kubernetes-நேட்டிவ் கேட்வேயின் மீது AI டிராஃபிக் நிர்வாகத்தை உருவாக்குகிறது. இது LLM டிராஃபிக்கின் குறிப்பிட்ட தேவைகளான செமான்டிக் கேச்சிங், டோக்கன் அடிப்படையிலான விகித வரம்பு, ப்ராம்ட் செறிவூட்டல், Kubernetes சீக்ரெட்ஸ் வழியாக நற்சான்றிதழ் உட்செலுத்துதல், மற்றும் முக்கியமான தகவல்கள் கசிவதைத் தடுப்பதற்கான தரவு-வெளியேற்றப் பாதுகாப்பு ஆகியவற்றை இலக்காகக் கொண்டுள்ளது. Solo.io தனது ஓப்பன்-சோர்ஸ் கேட்வேயை CNCF-க்கு (kgateway என்ற பெயரில்) நன்கொடையாக வழங்கியுள்ளது, எனவே இதில் ஒரு உண்மையான ஓப்பன் கோர் உள்ளது.
இந்த நுணுக்கம் இந்தப் பட்டியலில் உள்ள வடிவத்தைப் பிரதிபலிக்கிறது: டோக்கன் அடிப்படையிலான விகிதக் கட்டுப்பாடு போன்ற சில LLM-சார்ந்த திறன்கள், பொதுவாக இலவச கோருக்குப் பதிலாக என்டர்பிரைஸ் உரிமத்தின் ஒரு பகுதியாகவே உள்ளன. நீங்கள் ஏற்கனவே குபெர்னெட்டஸைப் பயன்படுத்திக்கொண்டு, AI டிராஃபிக்கை ஒரு முதன்மை அம்சமாகக் கருதும் என்வாய் அடிப்படையிலான கேட்வேயை விரும்பினால், உங்களுக்குத் தேவையான அம்சங்களைச் சரியான அடுக்குடன் பொருத்தும் பட்சத்தில் இது ஒரு வலுவான தேர்வாக அமையும்.
இதற்குச் சிறந்தது: AI டிராஃபிக் அம்சங்களுடன் கூடிய என்வாய் அடிப்படையிலான கேட்வேயை விரும்பும், குபர்நெட்டஸை அதிகம் பயன்படுத்தும் குழுக்களுக்கு. கவனிக்கவும்: எந்தெந்த LLM அம்சங்களுக்கு என்டர்பிரைஸ் பதிப்பு தேவை என்பதைச் சரிபார்க்கவும்.
எப்படி தேர்வு செய்வது
நீங்களே இயக்கக்கூடிய ஒரு முழுமையான ஓப்பன்-சோர்ஸ் திட்டத்தை நீங்கள் விரும்பினால், Envoy AI Gateway மற்றும் Higress ஆகியவை தரநிலைகளுக்கு இணக்கமான, உயர் செயல்திறன் கொண்ட கோர்களை உங்களுக்கு வழங்குகின்றன. மேலும், நீங்கள் ஏற்கனவே Kubernetes-இல் Envoy-ஐப் பயன்படுத்த உறுதியாக இருந்தால், Gloo ஒரு சிறந்த தேர்வாகும். நீங்கள் அடுக்கு எல்லைகளை ஏற்றுக்கொண்டால், ஒரு ரூட்டிங் லேயரை நீங்களே ஹோஸ்ட் செய்வதற்கு Portkey மிகவும் இலகுவான வழியாகும். மேலும், முழுமையான நிறுவன நிர்வாகம் மற்றும் ஆதரவுடன் உங்கள் சொந்த கிளவுடில் தரவுகள் தங்குவதுதான் உங்களுக்கு உண்மையில் தேவை என்றால், நிர்வாக அடுக்கை நீங்களே உருவாக்கச் சொல்லாமல், சுயமாக ஹோஸ்ட் செய்யும் நிலையை வழங்கும் ஒரு சிறந்த தேர்வாக TrueFoundry விளங்குகிறது.
அடிக்கோடு
ஒரு AI கேட்வேயை சுயமாக ஹோஸ்ட் செய்வது என்பது, கட்டுப்பாட்டிற்காக சில அம்சங்களை விட்டுக்கொடுப்பதாக முன்பு கருதப்பட்டது. 2026-ல் அது உண்மையல்ல: நீங்கள் CNCF-ஆதரவு பெற்ற ஒரு திறந்த தரநிலையையோ, அதிக செயல்திறன் கொண்ட AI-நேட்டிவ் கோரையோ, அல்லது உங்கள் சொந்தச் சூழலிலேயே இயங்கும் முழுமையாக நிர்வகிக்கப்படும் ஒரு நிறுவனத் தளத்தையோ பெறலாம். சரியான தேர்வு என்பது, நீங்கள் எந்த அளவிற்கு நீங்களே இயக்க விரும்புகிறீர்கள் மற்றும் எந்த அளவிற்கு இயல்பாகவே நிர்வாகத்தை விரும்புகிறீர்கள் என்பதைப் பொறுத்தே அமைகிறது. கட்டுப்பாடு மற்றும் ஆழம் ஆகிய இரண்டையும் விரும்பும் குழுக்களுக்கு, TrueFoundry ஒரு சிறந்த தேர்வாகும்.
