Đại lý bán lại/ID người dùng cuối và giới hạn

ID người dùng cuối

Nếu một tài khoản hoặc một khóa API phục vụ nhiều người dùng cuối của riêng bạn, hãy gửi header X-End-User-Id trong mọi yêu cầu để cho biết yêu cầu thuộc về người dùng cuối nào. Khi một người dùng cuối liên tục vi phạm, Wokey chỉ hạn chế người dùng cuối đó, những người dùng khác của bạn vẫn hoạt động, và một thông báo trong ứng dụng cho bạn biết đó là ai.

Trên trang nàyexpand_more

Gửi headerlink

cURL
curl https://api.wokey.ai/v1/messages \
  -H "x-api-key: YOUR_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "X-End-User-Id: u_3f8a2c1e9b7d" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5-5",
    "max_tokens": 1024,
    "messages": [
      { "role": "user", "content": "Hello" }
    ]
  }'
  • Giá trị là ID người dùng cuối của chính bạn: từ 1 đến 128 ký tự ASCII hiển thị được (chữ cái, chữ số và ký hiệu; không có khoảng trắng hoặc ký tự ngoài ASCII). Hãy dùng UUID, ID nội bộ hoặc giá trị băm của chúng, không bao giờ dùng địa chỉ email, số điện thoại hay thông tin cá nhân khác. Giá trị bạn đang gửi dưới dạng safety_identifier của OpenAI hoặc metadata.user_id của Anthropic có thể dùng nguyên như vậy. Với người dùng chưa đăng nhập, hãy gửi ID phiên hoặc bỏ header; một giá trị cố định như anonymous hay guest sẽ biến nhiều người thành một người dùng cuối và bị giới hạn chung.
  • Chat Completions, Responses và Messages đều chấp nhận header này. Header chỉ dành cho Wokey và không bao giờ được chuyển tiếp lên upstream. Với SDK, hãy thêm nó cho toàn bộ client bằng default_headers (Python) hoặc defaultHeaders (Node.js), hoặc cho từng yêu cầu bằng extra_headers.

Giới hạnlink

  • Quy tắc giống các giới hạn cấp tài khoản nhưng chỉ áp dụng cho riêng người dùng cuối đó: một người dùng cuối vi phạm nhiều lần trên một mô hình trong thời gian ngắn sẽ trước tiên bị giới hạn tốc độ trên mô hình đó (1 yêu cầu đồng thời, 10 yêu cầu mỗi phút); nếu tiếp tục vi phạm, mô hình đó sẽ bị tạm dừng với người dùng cuối này trong 24 giờ rồi tự động mở lại; nếu có nhiều mô hình bị tạm dừng trong vòng 30 ngày, mọi lệnh gọi mô hình của người dùng cuối đó sẽ bị tạm dừng cho đến khi bộ phận hỗ trợ khôi phục.
  • Yêu cầu vượt quá giới hạn tốc độ của người dùng cuối sẽ trả về HTTP 429 rate_limit_exceeded, còn yêu cầu từ người dùng cuối đang bị tạm dừng sẽ trả về HTTP 403 request_blocked. Cả hai đều không đến upstream và không bị tính phí. Khi một người dùng cuối bị tạm dừng, bạn sẽ nhận được thông báo trong ứng dụng kèm ID người dùng cuối, mô hình và thời điểm được mở lại; các thông báo trong cùng một giờ được gộp làm một.
  • Header không bao giờ nới lỏng giới hạn trên tài khoản của bạn: vi phạm vẫn được tính vào tài khoản dù có hay không có header, theo các giới hạn cấp tài khoản. Yêu cầu từ người dùng cuối đang bị tạm dừng không còn đến upstream, nên không còn được tính vào tài khoản của bạn. Yêu cầu thực sự gây ra vi phạm vẫn bị tính phí xử lý vi phạm như bình thường.

Phí xử lý vi phạm và hạn chế →

Quản lý trong bảng điều khiểnlink

Tài khoản doanh nghiệp và đại lý có thể xem các người dùng cuối bị giới hạn cùng lý do từ chối trong 7 ngày gần nhất ở thẻ Người dùng cuối của bảng điều khiển API, và tự gỡ giới hạn tốc độ hoặc tạm dừng. Mỗi người dùng cuối chỉ được gỡ theo cách này một lần mỗi 24 giờ; người dùng cuối bị tạm dừng trên mọi mô hình vẫn cần bộ phận hỗ trợ. Liên hệ bộ phận hỗ trợ để bật thẻ này.

Giá trị không hợp lệlink

Giá trị không hợp lệ (quá dài, chứa khoảng trắng hoặc ký tự ngoài ASCII, hoặc header được gửi hai lần trong một yêu cầu) được xử lý như không có header: yêu cầu vẫn hoàn tất bình thường, và mỗi khóa API nhận một lời nhắc trong ứng dụng mỗi ngày.