Home

Awesome

<a name="readme-top"></a>

<h1 align="center"> <img src="https://img.alicdn.com/imgextra/i2/O1CN01NwxLDd20nxfGBjxmZ_!!6000000006895-2-tps-960-290.png" alt="Higress" width="240" height="72.5"> <br> AI Gateway </h1> <h4 align="center"> AI Native API Gateway </h4>

Build Status license

官网   |   文档   |   博客   |   电子书   |   开发指引   |   AI插件  

<p> <a href="README_EN.md"> English <a/>| 中文 | <a href="README_JP.md"> 日本語 <a/> </p>

Higress 是一款云原生 API 网关,内核基于 Istio 和 Envoy,可以用 Go/Rust/JS 等编写 Wasm 插件,提供了数十个现成的通用插件,以及开箱即用的控制台(demo 点这里

Higress 在阿里内部为解决 Tengine reload 对长连接业务有损,以及 gRPC/Dubbo 负载均衡能力不足而诞生。

阿里云基于 Higress 构建了云原生 API 网关产品,为大量企业客户提供 99.99% 的网关高可用保障服务能力。

Higress 基于 AI 网关能力,支撑了通义千问 APP、百炼大模型 API、机器学习 PAI 平台等 AI 业务。同时服务国内头部的 AIGC 企业(如零一万物),以及 AI 产品(如 FastGPT)

Summary

快速开始

Higress 只需 Docker 即可启动,方便个人开发者在本地搭建学习,或者用于搭建简易站点:

# 创建一个工作目录
mkdir higress; cd higress
# 启动 higress,配置文件会写到工作目录下
docker run -d --rm --name higress-ai -v ${PWD}:/data \
        -p 8001:8001 -p 8080:8080 -p 8443:8443  \
        higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest

监听端口说明如下:

Higress 的所有 Docker 镜像都一直使用自己独享的仓库,不受 Docker Hub 境内访问受限的影响

K8s 下使用 Helm 部署等其他安装方式可以参考官网 Quick Start 文档

使用场景

核心优势

功能展示

AI 网关 Demo 展示

从 OpenAI 到其他大模型,30 秒完成迁移

Higress UI 控制台

社区

感谢

如果没有 Envoy 和 Istio 的开源工作,Higress 就不可能实现,在这里向这两个项目献上最诚挚的敬意。

交流群

image

技术分享

微信公众号:

关联仓库

贡献者

<a href="https://github.com/alibaba/higress/graphs/contributors"> <img alt="contributors" src="https://contrib.rocks/image?repo=alibaba/higress"/> </a>

Star History

Star History

<p align="right" style="font-size: 14px; color: #555; margin-top: 20px;"> <a href="#readme-top" style="text-decoration: none; color: #007bff; font-weight: bold;"> ↑ 返回顶部 ↑ </a> </p>