Hermes
概述¶
Hermes 是一個基於 litellm 構建的 AI 代理服務,負責處理系統內的自動化任務與路由請求。作為核心基礎設施的一部分,Hermes 支援靈活的模型切換機制,並整合於 n8n 的工作流與 gitops 自動化維護流程中。
功能特性¶
Hermes 主要依賴 litellm 的路由與模型管理能力,支援以下關鍵功能:
- 動態模型切換:透過指令腳本(如
azure-switch-to-deepseek.sh),Hermes 可以在不同模型服務提供商之間進行切換,確保在 Azure Credit 額度或成本限制觸發時,系統能自動切換至 deepseek 或其他模型以維持運作穩定性。 - 數據流安全:與 qwenpaw 的儲存層加密策略不同,Hermes 側重於「資料流脱敏」(Scrubbing)。它會在執行模型調用前,對工具輸出(Tool Result)中的敏感信息(如 API Key、Secret、JWT 等)進行原地遮罩,以保護系統憑證安全。
- 路由優化:Hermes 配置了分層路由策略(Tiered Routing),能夠根據請求的複雜度(SIMPLE、MEDIUM、COMPLEX、REASONING)將任務發送至對應的最優模型,並支援透過 cron 定時檢查 API 健康狀態與產出執行報告。
系統維護¶
- 配置管理:Hermes 的預設配置(如
max_tokens與模型優先級)由自動化腳本管理。若發生自動切換,Hermes 會依照既定的回退鏈(Fallback)策略運行。 - 集成監控:其狀態通過 n8n 的每日檢查機制進行監控。當系統監測到 Azure 額度異動時,會自動觸發 Hermes 的配置更新。
- 性能調優:為了減少 Token 消耗,Hermes 的架構設計參考了 n8n 與 fastmcp 的分析數據,並持續優化 JSON Schema 約束以降低處理噪音。
相關聯結¶
- litellm: Hermes 的底層調度引擎。
- Azure: 主要的模型計算資源供應商。
- n8n: 用於 Hermes 的執行與監控工作流。
- qwenpaw: 協作的安全加固層,提供額外的密鑰遮罩支持。
Sources¶
- 對話摘要 2026 08 11