mirror of
https://github.com/alibaba/higress.git
synced 2026-02-22 19:51:03 +08:00
64 lines
3.0 KiB
Markdown
64 lines
3.0 KiB
Markdown
## 功能说明
|
||
`model-mapper`插件实现了基于LLM协议中的model参数路由的功能
|
||
|
||
## 配置字段
|
||
|
||
| 名称 | 数据类型 | 填写要求 | 默认值 | 描述 |
|
||
| ----------- | --------------- | ----------------------- | ------ | ------------------------------------------- |
|
||
| `modelKey` | string | 选填 | model | 请求body中model参数的位置 |
|
||
| `modelMapping` | map of string | 选填 | - | AI 模型映射表，用于将请求中的模型名称映射为服务提供商支持模型名称。<br/>1. 支持前缀匹配。例如用 "gpt-3-*" 匹配所有名称以“gpt-3-”开头的模型；<br/>2. 支持使用 "*" 为键来配置通用兜底映射关系；<br/>3. 如果映射的目标名称为空字符串 ""，则表示保留原模型名称。 |
|
||
| `enableOnPathSuffix` | array of string | 选填 | ["/v1/chat/completions"] | 只对这些特定路径后缀的请求生效 ## 运行属性
|
||
|
||
插件执行阶段：认证阶段
|
||
插件执行优先级：800
|
||
|
|
||
## 效果说明
|
||
|
||
如下配置
|
||
|
||
```yaml
|
||
modelMapping:
|
||
'gpt-4-*': "qwen-max"
|
||
'gpt-4o': "qwen-vl-plus"
|
||
'*': "qwen-turbo"
|
||
```
|
||
|
||
开启后，`gpt-4-` 开头的模型参数会被改写为 `qwen-max`, `gpt-4o` 会被改写为 `qwen-vl-plus`，其他所有模型会被改写为 `qwen-turbo`
|
||
|
||
例如原本的请求是：
|
||
|
||
```json
|
||
{
|
||
"model": "gpt-4o",
|
||
"frequency_penalty": 0,
|
||
"max_tokens": 800,
|
||
"stream": false,
|
||
"messages": [{
|
||
"role": "user",
|
||
"content": "higress项目主仓库的github地址是什么"
|
||
}],
|
||
"presence_penalty": 0,
|
||
"temperature": 0.7,
|
||
"top_p": 0.95
|
||
}
|
||
```
|
||
|
||
|
||
经过这个插件后，原始的 LLM 请求体将被改成：
|
||
|
||
```json
|
||
{
|
||
"model": "qwen-vl-plus",
|
||
"frequency_penalty": 0,
|
||
"max_tokens": 800,
|
||
"stream": false,
|
||
"messages": [{
|
||
"role": "user",
|
||
"content": "higress项目主仓库的github地址是什么"
|
||
}],
|
||
"presence_penalty": 0,
|
||
"temperature": 0.7,
|
||
"top_p": 0.95
|
||
}
|
||
```
|