mirror of
https://github.com/alibaba/higress.git
synced 2026-02-28 22:50:57 +08:00
206 lines
11 KiB
Markdown
206 lines
11 KiB
Markdown
<a name="readme-top"></a>
|
||
<h1 align="center">
|
||
<img src="https://img.alicdn.com/imgextra/i2/O1CN01NwxLDd20nxfGBjxmZ_!!6000000006895-2-tps-960-290.png" alt="Higress" width="240" height="72.5">
|
||
<br>
|
||
AIゲートウェイ
|
||
</h1>
|
||
<h4 align="center"> AIネイティブAPIゲートウェイ </h4>
|
||
|
||
[](https://github.com/alibaba/higress/actions)
|
||
[](https://www.apache.org/licenses/LICENSE-2.0.html)
|
||
|
||
[**公式サイト**](https://higress.cn/) |
|
||
[**ドキュメント**](https://higress.cn/docs/latest/overview/what-is-higress/) |
|
||
[**ブログ**](https://higress.cn/blog/) |
|
||
[**電子書籍**](https://higress.cn/docs/ebook/wasm14/) |
|
||
[**開発ガイド**](https://higress.cn/docs/latest/dev/architecture/) |
|
||
[**AIプラグイン**](https://higress.cn/plugin/)
|
||
|
||
|
||
<p>
|
||
<a href="README_EN.md"> English <a/> | <a href="README.md">中文<a/> | 日本語
|
||
</p>
|
||
|
||
|
||
Higressは、IstioとEnvoyをベースにしたクラウドネイティブAPIゲートウェイで、Go/Rust/JSなどを使用してWasmプラグインを作成できます。数十の既製の汎用プラグインと、すぐに使用できるコンソールを提供しています（デモは[こちら](http://demo.higress.io/)）。
|
||
|
||
Higressは、Tengineのリロードが長時間接続のビジネスに影響を与える問題や、gRPC/Dubboの負荷分散能力の不足を解決するために、Alibaba内部で誕生しました。
|
||
|
||
Alibaba Cloudは、Higressを基盤にクラウドネイティブAPIゲートウェイ製品を構築し、多くの企業顧客に99.99％のゲートウェイ高可用性保証サービスを提供しています。
|
||
|
||
Higressは、AIゲートウェイ機能を基盤に、Tongyi Qianwen APP、Bailian大規模モデルAPI、機械学習PAIプラットフォームなどのAIビジネスをサポートしています。また、国内の主要なAIGC企業（例：ZeroOne）やAI製品（例：FastGPT）にもサービスを提供しています。
|
||
|
||
|
||
|
||
|
||
## 目次
|
||
|
||
- [**クイックスタート**](#クイックスタート)
|
||
- [**機能紹介**](#機能紹介)
|
||
- [**使用シナリオ**](#使用シナリオ)
|
||
- [**主な利点**](#主な利点)
|
||
- [**コミュニティ**](#コミュニティ)
|
||
|
||
## クイックスタート
|
||
|
||
HigressはDockerだけで起動でき、個人開発者がローカルで学習用にセットアップしたり、簡易サイトを構築するのに便利です。
|
||
|
||
```bash
|
||
# 作業ディレクトリを作成
|
||
mkdir higress; cd higress
|
||
# Higressを起動し、設定ファイルを作業ディレクトリに書き込みます
|
||
docker run -d --rm --name higress-ai -v ${PWD}:/data \
|
||
-p 8001:8001 -p 8080:8080 -p 8443:8443 \
|
||
higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
|
||
```
|
||
|
||
リスンポートの説明は以下の通りです：
|
||
|
||
- 8001ポート：Higress UIコンソールのエントリーポイント
|
||
- 8080ポート：ゲートウェイのHTTPプロトコルエントリーポイント
|
||
- 8443ポート：ゲートウェイのHTTPSプロトコルエントリーポイント
|
||
|
||
**HigressのすべてのDockerイメージは専用のリポジトリを使用しており、Docker Hubの国内アクセス不可の影響を受けません**
|
||
|
||
K8sでのHelmデプロイなどの他のインストール方法については、公式サイトの[クイックスタートドキュメント](https://higress.cn/docs/latest/user/quickstart/)を参照してください。
|
||
|
||
|
||
## 使用シナリオ
|
||
|
||
- **AIゲートウェイ**:
|
||
|
||
Higressは、国内外のすべてのLLMモデルプロバイダーと統一されたプロトコルで接続でき、豊富なAI可観測性、多モデル負荷分散/フォールバック、AIトークンフロー制御、AIキャッシュなどの機能を備えています。
|
||
|
||
|
||
|
||
- **Kubernetes Ingressゲートウェイ**:
|
||
|
||
HigressはK8sクラスターのIngressエントリーポイントゲートウェイとして機能し、多くのK8s Nginx Ingressの注釈に対応しています。K8s Nginx IngressからHigressへのスムーズな移行が可能です。
|
||
|
||
[Gateway API](https://gateway-api.sigs.k8s.io/)標準をサポートし、ユーザーがIngress APIからGateway APIにスムーズに移行できるようにします。
|
||
|
||
ingress-nginxと比較して、リソースの消費が大幅に減少し、ルーティングの変更が10倍速く反映されます。
|
||
|
||
|
||
|
||
|
||
- **マイクロサービスゲートウェイ**:
|
||
|
||
Higressはマイクロサービスゲートウェイとして機能し、Nacos、ZooKeeper、Consul、Eurekaなどのさまざまなサービスレジストリからサービスを発見し、ルーティングを構成できます。
|
||
|
||
また、[Dubbo](https://github.com/apache/dubbo)、[Nacos](https://github.com/alibaba/nacos)、[Sentinel](https://github.com/alibaba/Sentinel)などのマイクロサービス技術スタックと深く統合されています。Envoy C++ゲートウェイコアの優れたパフォーマンスに基づいて、従来のJavaベースのマイクロサービスゲートウェイと比較して、リソース使用率を大幅に削減し、コストを削減できます。
|
||
|
||
|
||
|
||
- **セキュリティゲートウェイ**:
|
||
|
||
Higressはセキュリティゲートウェイとして機能し、WAF機能を提供し、key-auth、hmac-auth、jwt-auth、basic-auth、oidcなどのさまざまな認証戦略をサポートします。
|
||
|
||
## 主な利点
|
||
|
||
- **プロダクションレベル**
|
||
|
||
Alibabaで2年以上のプロダクション検証を経た内部製品から派生し、毎秒数十万のリクエストを処理する大規模なシナリオをサポートします。
|
||
|
||
Nginxのリロードによるトラフィックの揺れを完全に排除し、構成変更がミリ秒単位で反映され、ビジネスに影響を与えません。AIビジネスなどの長時間接続シナリオに特に適しています。
|
||
|
||
- **ストリーム処理**
|
||
|
||
リクエスト/レスポンスボディの完全なストリーム処理をサポートし、Wasmプラグインを使用してSSE（Server-Sent Events）などのストリームプロトコルのメッセージをカスタマイズして処理できます。
|
||
|
||
AIビジネスなどの大帯域幅シナリオで、メモリ使用量を大幅に削減できます。
|
||
|
||
- **拡張性**
|
||
|
||
AI、トラフィック管理、セキュリティ保護などの一般的な機能をカバーする豊富な公式プラグインライブラリを提供し、90％以上のビジネスシナリオのニーズを満たします。
|
||
|
||
Wasmプラグイン拡張を主力とし、サンドボックス隔離を通じてメモリの安全性を確保し、複数のプログラミング言語をサポートし、プラグインバージョンの独立したアップグレードを許可し、トラフィックに影響を与えずにゲートウェイロジックをホットアップデートできます。
|
||
|
||
- **安全で使いやすい**
|
||
|
||
Ingress APIおよびGateway API標準に基づき、すぐに使用できるUIコンソールを提供し、WAF保護プラグイン、IP/Cookie CC保護プラグインをすぐに使用できます。
|
||
|
||
Let's Encryptの自動証明書発行および更新をサポートし、K8sを使用せずにデプロイでき、1行のDockerコマンドで起動でき、個人開発者にとって便利です。
|
||
|
||
|
||
## 機能紹介
|
||
|
||
### AIゲートウェイデモ展示
|
||
|
||
[OpenAIから他の大規模モデルへの移行を30秒で完了
|
||
](https://www.bilibili.com/video/BV1dT421a7w7/?spm_id_from=333.788.recommend_more_video.14)
|
||
|
||
|
||
### Higress UIコンソール
|
||
|
||
- **豊富な可観測性**
|
||
|
||
すぐに使用できる可観測性を提供し、Grafana＆Prometheusは組み込みのものを使用することも、自分で構築したものを接続することもできます。
|
||
|
||
|
||
|
||
|
||
- **プラグイン拡張メカニズム**
|
||
|
||
公式にはさまざまなプラグインが提供されており、ユーザーは[独自のプラグインを開発](./plugins/wasm-go)し、Docker/OCIイメージとして構築し、コンソールで構成して、プラグインロジックをリアルタイムで変更できます。トラフィックに影響を与えずにプラグインロジックをホットアップデートできます。
|
||
|
||
|
||
|
||
|
||
- **さまざまなサービス発見**
|
||
|
||
デフォルトでK8s Serviceサービス発見を提供し、構成を通じてNacos/ZooKeeperなどのレジストリに接続してサービスを発見することも、静的IPまたはDNSに基づいて発見することもできます。
|
||
|
||
|
||
|
||
|
||
- **ドメインと証明書**
|
||
|
||
TLS証明書を作成および管理し、ドメインのHTTP/HTTPS動作を構成できます。ドメインポリシーでは、特定のドメインに対してプラグインを適用することができます。
|
||
|
||
|
||
|
||
|
||
- **豊富なルーティング機能**
|
||
|
||
上記で定義されたサービス発見メカニズムを通じて、発見されたサービスはサービスリストに表示されます。ルーティングを作成する際に、ドメインを選択し、ルーティングマッチングメカニズムを定義し、ターゲットサービスを選択してルーティングを行います。ルーティングポリシーでは、特定のルーティングに対してプラグインを適用することができます。
|
||
|
||
|
||
|
||
|
||
## コミュニティ
|
||
|
||
### 感謝
|
||
|
||
EnvoyとIstioのオープンソースの取り組みがなければ、Higressは実現できませんでした。これらのプロジェクトに最も誠実な敬意を表します。
|
||
|
||
### 交流グループ
|
||
|
||
|
||
|
||
### 技術共有
|
||
|
||
WeChat公式アカウント：
|
||
|
||
|
||
|
||
### 関連リポジトリ
|
||
|
||
- Higressコンソール：https://github.com/higress-group/higress-console
|
||
- Higress（スタンドアロン版）：https://github.com/higress-group/higress-standalone
|
||
|
||
### 貢献者
|
||
|
||
<a href="https://github.com/alibaba/higress/graphs/contributors">
|
||
<img alt="contributors" src="https://contrib.rocks/image?repo=alibaba/higress"/>
|
||
</a>
|
||
|
||
### スターの歴史
|
||
|
||
[](https://star-history.com/#alibaba/higress&Date)
|
||
|
||
<p align="right" style="font-size: 14px; color: #555; margin-top: 20px;">
|
||
<a href="#readme-top" style="text-decoration: none; color: #007bff; font-weight: bold;">
|
||
↑ トップに戻る ↑
|
||
</a>
|
||
</p> |