feat(ai-proxy): add Fireworks AI support (#2917)

This commit is contained in:
aias00
2025-09-21 14:32:04 +08:00
committed by GitHub
parent 47827ad271
commit 88a679ee07
6 changed files with 569 additions and 0 deletions

View File

@@ -177,6 +177,10 @@ Grok 所对应的 `type` 为 `grok`。它并无特有的配置字段。
OpenRouter 所对应的 `type``openrouter`。它并无特有的配置字段。
#### Fireworks AI
Fireworks AI 所对应的 `type``fireworks`。它并无特有的配置字段。
#### 文心一言Baidu
文心一言所对应的 `type``baidu`。它并无特有的配置字段。
@@ -1018,6 +1022,63 @@ provider:
}
```
### 使用 OpenAI 协议代理 Fireworks AI 服务
**配置信息**
```yaml
provider:
type: fireworks
apiTokens:
- "YOUR_FIREWORKS_API_TOKEN"
modelMapping:
"gpt-4": "accounts/fireworks/models/llama-v3p1-70b-instruct"
"gpt-3.5-turbo": "accounts/fireworks/models/llama-v3p1-8b-instruct"
"*": "accounts/fireworks/models/llama-v3p1-8b-instruct"
```
**请求示例**
```json
{
"model": "gpt-4",
"messages": [
{
"role": "user",
"content": "你好,你是谁?"
}
],
"temperature": 0.7,
"max_tokens": 100
}
```
**响应示例**
```json
{
"id": "fw-123456789",
"object": "chat.completion",
"created": 1699123456,
"model": "accounts/fireworks/models/llama-v3p1-70b-instruct",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "你好!我是一个由 Fireworks AI 提供的人工智能助手,基于 Llama 3.1 模型。我可以帮助回答问题、进行对话和提供各种信息。有什么我可以帮助你的吗?"
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 15,
"completion_tokens": 45,
"total_tokens": 60
}
}
```
### 使用自动协议兼容功能
插件现在支持自动协议检测,可以同时处理 OpenAI 和 Claude 两种协议格式的请求。
@@ -1982,6 +2043,7 @@ provider:
}
}
```
### 使用 OpenAI 协议代理 NVIDIA Triton Interference Server 服务
**配置信息**
@@ -2011,6 +2073,7 @@ providers:
"stream": false
}
```
**响应示例**
```json