跳轉至

輪轉 LiteLLM Router

Summary

此筆記介紹如何透過 LiteLLM Router 設定 API 輪轉與自動故障轉移(Fallbacks),以解決沉浸式翻譯插件在調用模型時遇到的 429 請求過頻錯誤。文中並提供具體的 YAML 設定範例及針對 OpenAI 設定的優化建議。

Concepts

Source Info

  • Quality: high
  • Raw file: raw/輪轉 LiteLLM Router.md
  • Ingested: 2026-08-02