higress/plugins/wasm-go/extensions/ai-load-balancer/README.md

title, keywords, description

title	keywords	description
AI负载均衡	higress llm load balance	针对LLM服务的负载均衡策略

功能说明

注意：

• Higress网关版本需要>=v2.1.5

对LLM服务提供热插拔的负载均衡策略，如果关闭插件，负载均衡策略会退化为服务本身的负载均衡策略（轮训、本地最小请求数、随机、一致性hash等）。

配置如下：

名称	数据类型	填写要求	默认值	描述
lb_type	string	选填	endpoint	负载均衡类型，可选endpoint,cluster
lb_policy	string	必填		负载均衡策略类型
lb_config	object	必填		当前负载均衡策略类型的配置

lb_type 为 endpoint 时支持的负载均衡策略包括：

• global_least_request: 基于redis实现的全局最小请求数负载均衡
• prefix_cache: 基于 prompt 前缀匹配选择后端节点，如果通过前缀匹配无法匹配到节点，则通过全局最小请求数进行服务节点的选择
• endpoint_metrics: 基于 llm 服务暴露的 metrics 进行负载均衡

lb_type 为 cluster 时支持的负载均衡策略包括：

• cluster_metrics: 基于网关统计的不同service的指标进行服务之间的负载均衡

全局最小请求数

功能说明

sequenceDiagram
	participant C as Client
	participant H as Higress
	participant R as Redis
	participant H1 as Host1
	participant H2 as Host2

	C ->> H: 发起请求
	H ->> R: 获取 host ongoing 请求数
	R ->> H: 返回结果
	H ->> R: 根据结果选择当前请求数最小的host，计数+1
	R ->> H: 返回结果
	H ->> H1: 绕过service原本的负载均衡策略，转发请求到对应host
	H1 ->> H: 返回响应
	H ->> R: host计数-1
	H ->> C: 返回响应

配置说明

名称	数据类型	填写要求	默认值	描述
serviceFQDN	string	必填		redis 服务的FQDN，例如: redis.dns
servicePort	int	必填		redis 服务的port
username	string	必填		redis 用户名
password	string	选填	空	redis 密码
timeout	int	选填	3000ms	redis 请求超时时间
database	int	选填	0	redis 数据库序号

配置示例

lb_type: endpoint
lb_policy: global_least_request
lb_config:
  serviceFQDN: redis.static
  servicePort: 6379
  username: default
  password: '123456'

前缀匹配

功能说明

根据 prompt 前缀匹配选择 pod，以复用 KV Cache，如果通过前缀匹配无法匹配到节点，则通过全局最小请求数进行服务节点的选择

例如以下请求被路由到了pod 1

{
  "model": "qwen-turbo",
  "messages": [
    {
      "role": "user",
      "content": "hi"
    }
  ]
}

那么后续具有相同前缀的请求也会被路由到 pod 1

{
  "model": "qwen-turbo",
  "messages": [
    {
      "role": "user",
      "content": "hi"
    },
    {
      "role": "assistant",
      "content": "Hi! How can I assist you today? 😊"
    },
    {
      "role": "user",
      "content": "write a short story aboud 100 words"
    }
  ]
}

配置说明

名称	数据类型	填写要求	默认值	描述
serviceFQDN	string	必填		redis 服务的FQDN，例如: redis.dns
servicePort	int	必填		redis 服务的port
username	string	必填		redis 用户名
password	string	选填	空	redis 密码
timeout	int	选填	3000ms	redis 请求超时时间
database	int	选填	0	redis 数据库序号
redisKeyTTL	int	选填	1800s	prompt 前缀对应的key的ttl

配置示例

lb_type: endpoint
lb_policy: prefix_cache
lb_config:
  serviceFQDN: redis.static
  servicePort: 6379
  username: default
  password: '123456'

最小负载

功能说明

gateway-api-inference-extension 的 wasm 实现

sequenceDiagram
	participant C as Client
	participant H as Higress
	participant H1 as Host1
	participant H2 as Host2

	loop 定期拉取metrics
		H ->> H1: /metrics
		H1 ->> H: vllm metrics
		H ->> H2: /metrics
		H2 ->> H: vllm metrics
	end

	C ->> H: 发起请求
	H ->> H1: 根据vllm metrics选择合适的pod，绕过服务原始的lb policy直接转发
	H1 ->> H: 返回响应
	H ->> C: 返回响应

配置说明

名称	数据类型	填写要求	默认值	描述
metric_policy	string	必填		如何使用llm暴露的metrics做负载均衡，当前支持[default, least, most]
target_metric	string	选填		要使用的metric名称，metric_policy 取值为 least 或者 most 时生效
rate_limit	string	选填	1	单个节点处理请求比例上限，取值范围0~1

配置示例

使用 gateway-api-inference-extension 中的算法

lb_type: endpoint
lb_policy: metrics_based
lb_config:
  metric_policy: default
  rate_limit: 0.6 # 单个节点承载的最大请求比例

根据当前排队请求数进行负载均衡

lb_type: endpoint
lb_policy: metrics_based
lb_config:
  metric_policy: least
  target_metric: vllm:num_requests_waiting
  rate_limit: 0.6 # 单个节点承载的最大请求比例

根据当前GPU中正在处理的请求数进行负载均衡

lb_type: endpoint
lb_policy: metrics_based
lb_config:
  metric_policy: least
  target_metric: vllm:num_requests_running
  rate_limit: 0.6 # 单个节点承载的最大请求比例

跨服务负载均衡

配置说明

名称	数据类型	填写要求	默认值	描述
mode	string	必填		如何使用服务级指标做负载均衡，当前支持[LeastBusy, LeastTotalLatency, LeastFirstTokenLatency ]
service_list	[]string	必填		路由后端服务列表
rate_limit	string	选填	1	单个服务处理请求比例上限，取值范围0~1
cluster_header	string	选填	x-envoy-target-cluster	通过取该header的值得知需要路由到哪个后端服务
queue_size	int	选填	100	根据最近的多少个请求进行观测指标的计算

mode 各取值含义如下：

• LeastBusy: 路由到当前并发请求数最少的服务
• LeastTotalLatency: 路由到当前RT最低的服务
• LeastFirstTokenLatency: 路由到当前首包RT最低的服务

配置示例

lb_type: cluster
lb_policy: cluster_metrics
lb_config:
  mode: LeastTotalLatency # 策略名称
  queue_size: 100 # 统计指标时使用的最近请求数
  rate_limit: 0.6 # 单个服务承载的最大请求比例
  service_list:
  - outbound|80||test-1.dns
  - outbound|80||test-2.static