AI 网关这一年,成了 AI 进化的缩影
作者:望宸
一、回顾 2025
回顾即将过去的2025年,是 Qwen、DeepSeek 等国产大模型迈过拐点的一年。
模型以外的工程技术也正以波澜壮阔之势,加速演进和落地。

我们做的 AI 网关,从一个听起来有点新的概念,变成了很多客户落地 AI 时离不开的基础设施。
二、快速响应国产大模型
记得年初 DeepSeek R1 发布,我们连夜拉会,帮助企业快速从 OpenAI 切换到国产大模型上。
若干天后,Qwen2.5-Max 发布,我们再次快速响应。不是为了抢热点,而是让那些敢于冲的 AI 企业知道,我们在和他们并肩前行。
三、AI 网关能力图谱
那会儿我们也在想,光支持模型切换还不够。大模型要真正有用,得能联网、能控权限、能防滥用、能观测效果等。
于是我们以插件方式,在业内率先支持联网搜索,帮助大模型获取搜索全文。
并把自己服务早期客户的实战经验一条条梳理出来,总结出 AI 网关的八大典型场景。
说实话,当时并没想到这会成为行业里第一份完整的 AI 网关能力图谱。
但对我们来说,它就是一张用户痛点地图,每一块都是真实业务里打磨出来的。
四、持续扩展能力范畴
我们在开源的路上持续扩展 AI 网关的能力范畴。
例如开放了专为大模型优化的负载均衡算法,首 Token 延迟直接砍掉50%。

五、开源 HiMarket
开源了子项目 HiMarket,基于阿里巴巴内部的 AI 开放平台 IdeaLAB。
让每一家企业都能拥有一个专属的模型、应用和接口的统一管理平台。既方便架构师和运维同学,也方便了程序员、运营、设计师等 AI 工具的使用者。
再加上 AgentScope、AgentRun,就是比较完整的 AI 开发工具链了。
六、MCP 生态
MCP 爆火那一阵,很多人被存量 API 转 MCP 这事难住了。我们把低代码的转换工具开源了出来,还搭建了一个 MCP 市场,帮助开发者快速接入50多个高质量 MCP。

七、全球 Top 100
一个多月后,Higress 入选 MCPMarket MCP Server 全球 Top 100 排行榜。
主流的 Agent 开源客户端都开始接入 Higress。
阿里的淘天业务也通过 Higress 把内部 HSF 服务快速转成 MCP Server。
这是继通义千问、百炼、PAI、高德、饿了么后,再一次被集团客户使用。
八、服务外部客户
这一年,我们也服务了很多外部客户。
携程旅游在中国可信云大会分享,他们是如何通过 Higress 解决大模型上线的真实难题,成为众多客户落地 AI 网关的参考样例。
蚂蚁数科 SOFA 团队基于 Higress 发布了 SOFA Higress。看到自己的开源项目被金融级的客户深度采用,是我们持续引领 AI 网关的强心剂。
还有我们的天使用户 Sealos,在 Reddit 分享他们从 Nginx Ingress 迁移到 Higress 的经历,以及性能提升近百倍的完整历程,引发国外开发者的好评。
Higress,正在被世界看见。
九、开发者关系
除了服务企业客户,我们始终重视开发者关系,通过多样化的方式和开发者进行互动。
比如参与了 KubeCon、浙大太乙平台、中科院开源之夏。
我们还在开放原子基金会的支持下,举办了首届 Higress AI 网关开发者挑战赛。11支队伍进入决赛,围绕 AI Agent、RAG、智能路比拼技术和创意。
十、Ingress NGINX 退役
但并不是每一个开源项目发展都会非常顺利。11月,我们看到一则非常遗憾的消息:Ingress NGINX 宣布退役。
K8s 社区把 Higress 等开源项目及其云产品列为官方推荐的替代方案。
欣慰之余,我们也在反思:开源无法只靠热情来发电,必须有可持续的商业支撑,才能走得更远。
十一、企业版 Serverless
我们上线 Higress 企业版的 Serverless 实例,不到十分之一的资源成本,就能搭起一套高可用的 AI 网关。

有客户跟我们说,原来 AI 工程化真的可以这么简单。
例如森马,就通过 Higress 企业版实现了多模型、多 MCP 的统一管理。

整体效率提升30%,快速成为行业里的 AI 落地标杆。
十二、荣誉与认可
荣誉来自于积累。
在乌镇世界互联网大会获得开源优秀社区奖,社区贡献者邢国富获得最具价值贡献者奖。
AI 网关基于飞天企业版,在 AI 云产业发展大会上获得三大创新实践奖项之一。
还有 InfoQ 的年度 AI 开源项目,参与起草信通院牵头制定的 AI 网关行业标准。
携程、国泰财产保险、君润数智三家客户案例,入选最佳实践。
十三、展望未来
这些来自业内的认可,都会是珍贵的记忆。
回头看这一年,没有哪个月是轻松的,但每一步都踩在了实处。
写代码、做开源、扛需求、跑客户,我们始终相信:
开源,是我们对行业的承诺。
商业,是我们对长期主义的负责。
未来,让每一个想用 AI 的企业,都能稳稳地迈出第一步。