产品 / AI 网关
AI 网关
产品简介
专为 AI 场景设计,统一代理大模型 API 与 MCP Server,支持模型、工具(MCP)及 Agent 的集中接入与管理
5 分钟快速部署 体验在线 Demo
Star on GitHub 已支持 100+ 主流大模型
AI Gateway Feature
产品优势
提供多模型统一路由与协议转换、语义缓存、Token 级限流、内容安全防护(如提示词攻击检测、敏感内容识别)、多维度鉴权与可观测性,并支持热插拔插件和智能工具路由
Feature Icon
多模型统一接入
对 OpenAI 兼容接口及主流大模型服务提供统一网关入口,屏蔽不同厂商鉴权、接口差异,便于快速切换与多活部署。同时支持模型负载均衡及FallBack,提升模型服务的可靠性。
Feature Icon
MCP 统一管理
支持HTTP到MCP的协议转换,以及支持原生MCP服务的代理,把分散的工具能力收敛为统一入口,降低多团队、多环境的接入与维护成本。
Feature Icon
Token 流量管理
除传统 QPS 限流外,提供基于 Token 消耗的配额管理与限流能力,结合 API Key 池轮询与消费者鉴权机制,可有效防止模型过载,管控客户端调用额度。
Feature Icon
扩展性
通过插件快速接入 RAG、向量库、日志观测、缓存等 AI 生态组件,实现能力按需组合;同时支持自定义插件开发,满足复杂业务自定义逻辑场景。

Higress 已支持 100+ 主流大模型的统一接入与治理

Higress vs 其他 AI 网关

从架构、功能到企业级特性,全方位对比主流 AI 网关方案

查看完整对比分析

深入了解 Higress 相比其他 AI 网关的技术优势和企业级特性

选择适合您的版本

开源版免费自建,阿里云 AI 网关提供 Serverless 与生产级企业版

社区版

Higress 社区版

本地部署,5 分钟验证核心能力

  • 完整的 AI 网关核心能力
  • 社区支持与文档
  • 自行兜底稳定性与性能
GitHub

开源免费,社区支持

Serverless

阿里云 AI 网关

Serverless 标准版 0 元起步,按实际用量付费

  • 全托管免运维,按调用量自动弹性伸缩
  • 统一承载 LLM API、Agent API、MCP Server
  • 生产可选 Serverless 企业版,99.95% SLA
  • 支持独立入口、自定义域名和传输加密配置
了解阿里云 AI 网关

标准版适合试用与 PoC,企业版适合正式生产业务

尊享服务

飞天专属版

匹配业务规模,按需协商极致保障

  • 性能与资源:匹配业务规模,弹性可伸缩
  • SLA:按需协商,极致保障
  • 开箱即用,在稳定性、性能、云产品集成和易用性上,比社区版更有优势
  • 统一代理大模型 API 和 MCP Server,并提供丰富的集成和治理能力
联系我们

工单、钉群、线下等商业服务支持

准备好开始了吗?

只需 5 分钟,即可在本地部署一个功能完整的 AI 网关,体验多模型代理、Token 限流等能力。

了解 AI 网关企业版
需要全托管、免运维的生产级 AI 网关?阿里云 AI 网关提供 Serverless 企业版与实例型独享版,覆盖独立入口、自定义域名及更高服务等级等需求。
了解 AI 网关企业版