برای بسیاری از تیم‌ها، اولین سوال در مورد یک دروازه هوش مصنوعی این نیست که «چه کاری می‌تواند انجام دهد» بلکه این است که «کجا اجرا می‌شود». اگر در یک صنعت تحت نظارت هستید، با داده‌های حساس سروکار دارید یا به ارسال هر درخواست و پاسخی از طریق فضای ابری شخص دیگری حساسیت دارید، یک دروازه SaaS میزبانی شده، هر چقدر هم که بی‌نقص باشد، اصلاً مناسب نیست. شما چیزی می‌خواهید که بتوانید آن را در زیرساخت خودتان اجرا کنید، بررسی و کنترل کنید.
خبر خوب این است که بخش متن‌باز و خود-میزبان این بازار واقعاً قوی شده است. یک دروازه هوش مصنوعی، صفحه کنترل بین برنامه‌های شما و ارائه‌دهندگان مدل شماست که مسیریابی، قابلیت اطمینان، امنیت و هزینه را در یک مکان مدیریت می‌کند و چندین مورد از بهترین‌های فعلی به عنوان نرم‌افزاری ارائه می‌شوند که می‌توانید خودتان آن را میزبانی کنید. در اینجا پنج مورد از مواردی که خود-میزبانی یک الزام است، نه یک چیز خوب، آورده شده است.
معنای واقعی «خود-میزبان» چیست؟
قبل از لیست، یک نکته‌ی کوتاه در مورد تله. «متن‌باز» و «خود-میزبان» یک چیز نیستند و هیچ‌کدام تضمین نمی‌کنند که ویژگی مورد نیاز شما در نسخه رایگان وجود داشته باشد. برخی پروژه‌ها هسته مسیریابی سریع را متن‌باز می‌کنند اما مدیریت، ذخیره‌سازی مشاهده‌پذیری و کنترل دسترسی چند تیمی را در یک سطح پولی نگه می‌دارند. بنابراین سه چیز را به‌طور جداگانه ارزیابی کنید: اینکه آیا نرم‌افزار در محیط خودتان اجرا می‌شود، آیا قابلیت‌های خاصی که نیاز دارید در نسخه‌ای که می‌توانید خودتان میزبانی کنید وجود دارد، و اینکه آیا داده‌ها واقعاً در زیرساخت شما از ابتدا تا انتها باقی می‌مانند. با این دیدگاه، در اینجا نحوه مقایسه این پنج مورد آورده شده است.
۱. TrueFoundry - صفحه کنترل سازمانی که در فضای ابری خود اجرا می‌کنید
TrueFoundry در صدر این لیست قرار دارد، زیرا دقیقاً برای محدودیتی ساخته شده است که تیم‌ها را به سمت خود-میزبانی سوق می‌دهد: نگهداری داده‌ها در محیط خودتان بدون از دست دادن قابلیت‌های سازمانی. AI Gateway آن در داخل فضای ابری یا VPC خودتان مستقر می‌شود، بنابراین اعلان‌ها و ردیابی‌ها در زیرساخت شما منطقه به منطقه باقی می‌مانند، در حالی که همچنان یک رابط سازگار با OpenAI را برای بیش از ۱۰۰۰ مدل، متعادل‌سازی بار و fallbackها، یک مجموعه کامل guardrails، دسترسی مبتنی بر نقش، بودجه‌ها و قابلیت مشاهده OpenTelemetry در اختیار شما قرار می‌دهد.
همچنین فراتر از یک پروکسی صرف عمل می‌کند. TrueFoundry سرورها و عامل‌های MCP را از طریق همان صفحه کنترل مدیریت می‌کند و مهار عامل آن، TrueForge، متن‌باز و مستقل از فروشنده است، بنابراین قطعاتی که می‌خواهید بررسی و گسترش دهید، باز هستند در حالی که خود پلتفرم در جایی که به آن نیاز دارید اجرا می‌شود. برای تیم‌هایی که می‌خواهند از حالت خود-میزبانی یک پروژه متن‌باز اما عمق و پشتیبانی یک پلتفرم سازمانی برخوردار باشند، این ترکیبی است که یافتن آن در جای دیگری دشوار است. به عنوان مثال، FloQast آن را کاملاً درون ابر خود اجرا می‌کند تا داده‌های مالی را در مناطق ایالات متحده، اتحادیه اروپا و آسیا-اقیانوسیه مستقر نگه دارد، که می‌توانید در مورد آن در مستندات و مطالعات موردی AI Gateway TrueFoundry بخوانید.
بهترین برای: شرکت‌هایی که نیاز به دسترسی به داده‌ها و مدیریت کامل در حین اجرای درگاه دارند. توجه: این یک پلتفرم غنی است، بنابراین به جای انتظار نصب پنج دقیقه‌ای، برای راه‌اندازی آن برنامه‌ریزی کنید.
۲. پورت‌کی - یک هسته مسیریابی متن‌باز سریع و محبوب
پورت‌کی گیت‌وی خود را تحت لیسانس MIT متن‌باز کرده است و هسته آن یک قطعه مهندسی واقعاً خوب است: سبک، تأخیر بسیار کم، مسیریابی به یک کاتالوگ مدل بزرگ با گاردریل‌های یکپارچه، و اجرای آسان به عنوان کانتینری که خودتان میزبانی می‌کنید. اگر می‌خواهید یک پروکسی متن‌باز اثبات‌شده برای ساخت داشته باشید، به دلایل خوبی این یکی از محبوب‌ترین نقاط شروع است.
نکته‌ی مهم جایی است که مرز بین رایگان و پولی قرار می‌گیرد. نسخه‌ی خود-میزبانی‌شده، لایه‌ی مسیریابی و قابلیت اطمینان را در اختیار شما قرار می‌دهد، اما ذخیره‌سازی و داشبوردهای قابل مشاهده، دسترسی مبتنی بر نقش چند تیمی، ذخیره‌سازی معنایی در مقیاس بزرگ و پشتیبانی سازمانی در لایه‌ی میزبانی‌شده یا سازمانی قرار می‌گیرند. بنابراین، این نسخه به خوبی به عنوان یک روتر، خود-میزبانی می‌کند؛ یک پشته‌ی مدیریتی کامل معمولاً به معنای طرح پولی است.
بهترین برای: تیم‌هایی که یک لایه مسیریابی کم‌حجم و خود-میزبان می‌خواهند. نکته: قبل از استانداردسازی، مطمئن شوید که کدام ویژگی‌های مدیریتی در نسخه باز وجود دارند.
۳. Envoy AI Gateway - استاندارد باز تحت حمایت CNCF
Envoy AI Gateway پروژه Envoy Gateway متعلق به CNCF را با پشتیبانی بومی از ترافیک هوش مصنوعی گسترش می‌دهد و در سال ۲۰۲۶ به سطح پایدار ۱.۰ رسید. این دروازه هوش مصنوعی متن‌باز که توسط Tetrate به همراه بلومبرگ ایجاد و نگهداری می‌شود، اولین دروازه هوش مصنوعی متن‌باز تحت حمایت CNCF است که اگر به مدیریت بی‌طرفانه از فروشنده و پروژه‌ای که توسط یک فروشنده تجاری واحد کنترل نمی‌شود، اهمیت می‌دهید، اهمیت دارد.
این نرم‌افزار یک رابط سازگار با OpenAI را در بین ارائه‌دهندگان اصلی مدل ارائه می‌دهد، به علاوه مسیریابی، failover و ردیابی OpenTelemetry GenAI را در سراسر چت، embeddingها و سایر نقاط پایانی ارائه می‌دهد. بلومبرگ در حال حاضر آن را در مرحله تولید اجرا می‌کند. مزیت آن این است که نرم‌افزاری در سطح زیرساخت است: قدرتمند و مطابق با استانداردها، اما انتظار دارد که یک تیم به راحتی Envoy و Kubernetes را اداره کند و امکانات سطح بالاتر بیشتر از یک پلتفرم مدیریت‌شده DIY هستند.
بهترین برای: تیم‌های پلتفرمی که یک دروازه مبتنی بر Envoy با استاندارد CNCF می‌خواهند که بتوانند آن را به طور کامل کنترل کنند. نکته: برای تخصص عملیاتی مورد نیاز Envoy و Kubernetes بودجه‌بندی کنید.
۴. هایگرس - یک درگاه متن‌باز بومی هوش مصنوعی در مقیاس بالا
Higress در داخل Alibaba آغاز شد، تحت Apache-2.0 به صورت متن‌باز توسعه داده شد و بر روی Istio و Envoy ساخته شده است. این سیستم در مقیاس بزرگ آزمایش شده است، به طوری که اعتبارسنجی در مرحله تولید، صدها هزار درخواست در ثانیه را مدیریت می‌کند و تغییرات پیکربندی به جای بارگذاری مجدد صفحات، در عرض چند میلی‌ثانیه اعمال می‌شوند.
از نظر هوش مصنوعی، از ارائه‌دهندگان مدل اصلی پشتیبانی می‌کند، می‌تواند از طریق مکانیسم افزونه خود میزبان سرورهای MCP باشد تا عامل‌ها بتوانند ابزارها را فراخوانی کنند و مدیریت یکپارچه‌ای را برای APIهای LLM و MCP، همراه با WAF و طیف وسیعی از استراتژی‌های احراز هویت ارائه می‌دهد. اگر عملکرد خام و یک هسته با توان عملیاتی بالا و اثبات‌شده اولویت‌های شما هستند، این یک انتخاب عالی است. مانند سایر پروژه‌های زیرساختی، مدیریت سطح بالاتر و بهبود محصول سبک‌تر از یک پلتفرم سازمانی اختصاصی است و مرکز ثقل جامعه ممکن است برای برخی از تیم‌های غربی کمتر آشنا باشد.
بهترین برای: تیم‌هایی که به یک دروازه هوش مصنوعی کاملاً متن‌باز با توان عملیاتی بالا نیاز دارند. نکته: خودتان باید لایه مدیریتی بیشتری را ایجاد کنید.
۵. Gloo AI Gateway - مبتنی بر Envoy و بومی Kubernetes
Gloo AI Gateway، از Solo.io، مدیریت ترافیک هوش مصنوعی را بر روی یک دروازه بالغ بومی Envoy و Kubernetes ایجاد می‌کند. این دروازه نیازهای خاص ترافیک LLM را هدف قرار می‌دهد: ذخیره‌سازی معنایی، محدود کردن نرخ مبتنی بر توکن، غنی‌سازی سریع، تزریق اعتبارنامه از طریق اسرار Kubernetes و محافظت از استخراج داده‌ها برای جلوگیری از نشت اطلاعات حساس. Solo.io دروازه متن‌باز خود را به CNCF (به عنوان kgateway) اهدا کرد، بنابراین یک هسته باز واقعی وجود دارد.
این نکته ظریف، الگوی موجود در این لیست را منعکس می‌کند: برخی از قابلیت‌های خاص LLM، مانند محدود کردن نرخ مبتنی بر توکن، معمولاً بخشی از مجوز سازمانی هستند و نه هسته رایگان. اگر از قبل Kubernetes را اجرا می‌کنید و یک دروازه مبتنی بر Envoy می‌خواهید که با ترافیک هوش مصنوعی به عنوان یک شهروند درجه یک رفتار کند، تا زمانی که ویژگی‌های مورد نیاز خود را در سطح مناسب ترسیم کنید، گزینه مناسبی است.
بهترین برای: تیم‌های سنگین Kubernetes که می‌خواهند یک دروازه مبتنی بر Envoy با ویژگی‌های ترافیک هوش مصنوعی داشته باشند. توجه: بررسی کنید که کدام ویژگی‌های LLM به نسخه سازمانی نیاز دارند.
نحوه انتخاب
اگر می‌خواهید یک پروژه کاملاً متن‌باز را خودتان اجرا و مدیریت کنید، Envoy AI Gateway و Higress هسته‌های با عملکرد بالا و مطابق با استانداردها را در اختیار شما قرار می‌دهند و Gloo زمانی که از قبل به Envoy در Kubernetes متعهد هستید، انتخاب قدرتمندی است. Portkey سبک‌ترین راه برای میزبانی مستقل یک لایه مسیریابی است، مشروط بر اینکه مرزهای لایه‌ها را بپذیرید. و اگر چیزی که واقعاً به آن نیاز دارید، نگهداری داده‌ها در فضای ابری خودتان با مدیریت و پشتیبانی کامل سازمانی در پشت آن است، TrueFoundry گزینه‌ای است که بدون نیاز به ساخت پشته مدیریتی توسط خودتان، به شما امکان میزبانی مستقل را می‌دهد.
خط پایین
میزبانی مستقل یک دروازه هوش مصنوعی قبلاً به معنای از دست دادن ویژگی‌ها در ازای کنترل بود. در سال 2026 این دیگر درست نیست: می‌توانید یک استاندارد باز با پشتیبانی CNCF، یک هسته بومی هوش مصنوعی با توان عملیاتی بالا یا یک پلتفرم سازمانی کاملاً تحت مدیریت که در محیط خودتان اجرا می‌شود، داشته باشید. انتخاب درست به این بستگی دارد که چقدر می‌خواهید خودتان آن را اداره کنید در مقابل چقدر می‌خواهید از قبل مدیریت داشته باشید. برای تیم‌هایی که هم کنترل و هم عمق می‌خواهند، TrueFoundry گزینه مناسبی است.
