Đại lý bán lại/Định tuyến nhà cung cấp

Chọn nhà cung cấp và thứ tự

Một mô hình có thể được nhiều nhà cung cấp phục vụ; ví dụ, deepseek-v4.1-flash có thể được phục vụ bởi deepseek, opencode hoặc volcengine. Theo mặc định, nền tảng chọn nhà cung cấp theo mức ưu tiên và chuyển sang nhà cung cấp tiếp theo khi một nhà cung cấp không khả dụng. Giá chỉ phụ thuộc vào mô hình, không bao giờ phụ thuộc vào nhà cung cấp nào phục vụ yêu cầu. Để tự kiểm soát, hãy thêm đối tượng provider vào thân yêu cầu.

Trên trang nàyexpand_more

Trường providerlink

only

Chỉ dùng các nhà cung cấp được liệt kê, ví dụ {"only": ["deepseek"]}.

ignore

Không bao giờ dùng các nhà cung cấp được liệt kê, ví dụ {"ignore": ["opencode"]}.

order

Thử các nhà cung cấp được liệt kê theo thứ tự này, chuyển sang nhà cung cấp kế tiếp khi một nhà cung cấp không khả dụng. Các nhà cung cấp bạn không liệt kê vẫn được dùng sau cùng để dự phòng; để loại trừ chúng, hãy kết hợp order với only hoặc ignore.

ID nhà cung cấplink

provider chỉ có tác dụng với mô hình có nhiều hơn một nhà cung cấp. Các mô hình đóng như Claude, GPT, Gemini và Grok chỉ do nhà cung cấp chính thức phục vụ nên không cần chỉ định. Các ID nhà cung cấp đang dùng hiện nay được liệt kê bên dưới. Những nhà cung cấp phục vụ một mô hình cụ thể được hiển thị ở hàng Nhà cung cấp trên trang chi tiết mô hình đó (theo thứ tự ưu tiên mặc định) và trong trường providers của GET https://wokey.ai/api/models.

ID nhà cung cấpNhà cung cấp
deepseekDeepSeek (chính thức)
moonshotKimi (chính thức, Moonshot AI)
zhipuGLM (chính thức, Zhipu)
minimaxMiniMax (chính thức)
volcengineVolcengine Ark: Doubao, cùng một số mô hình DeepSeek, GLM, Kimi và MiniMax
opencodeOpenCode Go: Tencent Hy4, cùng một số mô hình DeepSeek, GLM, Kimi và MiniMax
ollamaOllama Cloud: một số mô hình DeepSeek, GLM, Kimi và MiniMax

Ví dụlink

cURL
curl https://api.wokey.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4.1-flash",
    "messages": [
      { "role": "user", "content": "Hello" }
    ],
    "provider": {
      "order": ["volcengine", "deepseek"],
      "ignore": ["opencode"]
    }
  }'

OpenAI và Anthropic Python SDK từ chối các tham số cấp cao nhất không xác định, vì vậy hãy truyền provider trong extra_body.

Python
from openai import OpenAI

client = OpenAI(base_url="https://api.wokey.ai/v1", api_key="YOUR_API_KEY")

response = client.chat.completions.create(
    model="deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={"provider": {"only": ["deepseek"]}},
)
print(response.choices[0].message.content)

Lưu ýlink

  • /chat/completions, /responses và /messages đều chấp nhận trường này theo cùng một dạng.
  • ID nhà cung cấp không xác định sẽ trả về 400 invalid_request_error. Chỉ định loại trừ mọi nhà cung cấp của mô hình sẽ trả về 404 no_eligible_provider.
  • provider chỉ thu hẹp lựa chọn. Nó áp dụng cùng với mọi giới hạn nhà cung cấp đặt trên khóa API và không thể bật lại nhà cung cấp mà khóa đã loại trừ.
  • Để giữ bộ nhớ đệm prompt, một cuộc hội thoại đã chuyển sang nhà cung cấp khác sẽ ở lại đó thay vì quay về nhà cung cấp đầu tiên trong thứ tự.
  • provider là chỉ thị định tuyến dành cho nền tảng và không bao giờ được chuyển tiếp lên upstream.