Reseller/Routing vendor

Memilih vendor dan urutannya

Satu model dapat dilayani oleh beberapa vendor; misalnya, deepseek-v4.1-flash dapat dilayani oleh deepseek, opencode, atau volcengine. Secara default platform memilih vendor berdasarkan prioritas dan beralih ke vendor berikutnya saat salah satunya tidak tersedia. Harga hanya bergantung pada model, tidak pernah pada vendor yang melayani request. Untuk mengaturnya sendiri, tambahkan objek provider ke body request.

Di halaman iniexpand_more

Field providerlink

only

Hanya gunakan vendor yang tercantum, misalnya {"only": ["deepseek"]}.

ignore

Jangan pernah gunakan vendor yang tercantum, misalnya {"ignore": ["opencode"]}.

order

Coba vendor yang tercantum sesuai urutan ini, lalu pindah ke vendor berikutnya jika satu vendor tidak tersedia. Vendor yang tidak Anda cantumkan tetap menjadi fallback di urutan terakhir; untuk mengecualikannya, gabungkan order dengan only atau ignore.

ID vendorlink

provider hanya berpengaruh pada model yang memiliki lebih dari satu vendor. Model tertutup seperti Claude, GPT, Gemini, dan Grok hanya dilayani oleh vendor resminya dan tidak memerlukan preferensi. ID vendor yang dipakai saat ini tercantum di bawah. Vendor yang melayani suatu model ditampilkan di baris “Vendor” pada halaman detail model (dalam urutan prioritas default) dan di field providers dari GET https://wokey.ai/api/models.

ID vendorVendor
deepseekDeepSeek (resmi)
moonshotKimi (resmi, Moonshot AI)
zhipuGLM (resmi, Zhipu)
minimaxMiniMax (resmi)
volcengineVolcengine Ark: Doubao, serta model DeepSeek, GLM, Kimi, dan MiniMax tertentu
opencodeOpenCode Go: Tencent Hy4, serta model DeepSeek, GLM, Kimi, dan MiniMax tertentu
ollamaOllama Cloud: model DeepSeek, GLM, Kimi, dan MiniMax tertentu

Contohlink

cURL
curl https://api.wokey.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4.1-flash",
    "messages": [
      { "role": "user", "content": "Hello" }
    ],
    "provider": {
      "order": ["volcengine", "deepseek"],
      "ignore": ["opencode"]
    }
  }'

SDK Python OpenAI dan Anthropic menolak argumen tingkat atas yang tidak dikenal, jadi kirim provider di dalam extra_body.

Python
from openai import OpenAI

client = OpenAI(base_url="https://api.wokey.ai/v1", api_key="YOUR_API_KEY")

response = client.chat.completions.create(
    model="deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={"provider": {"only": ["deepseek"]}},
)
print(response.choices[0].message.content)

Catatanlink

  • /chat/completions, /responses, dan /messages menerimanya dalam bentuk yang sama.
  • ID vendor yang tidak dikenal mengembalikan 400 invalid_request_error. Preferensi yang mengecualikan semua vendor model tersebut mengembalikan 404 no_eligible_provider.
  • provider hanya mempersempit pilihan. Ia berlaku bersama pembatasan vendor yang diatur pada API key dan tidak dapat mengaktifkan kembali vendor yang dikecualikan oleh key.
  • Agar prompt cache tetap terjaga, percakapan yang sudah pindah ke vendor lain tetap di sana dan tidak kembali ke vendor pertama dalam order.
  • provider adalah arahan routing untuk platform dan tidak pernah diteruskan ke upstream.