模型設定
設定問答時可以選用的雲端 API 模型或本地 GPU 模型,新增後會即時同步到 LiteLLM 閘道,不用重建容器。
尚未設定任何模型
新增模型
預設模型
知識庫問答面板、Workflow Builder 的 LLM 節點沒有另外選擇時,會用這裡設定的模型。
預算與花費
每人預算是累計制(沒有週期重置),掛在每個使用者的 LiteLLM 虛擬 key 上;花費是即時查詢 LiteLLM,非同步寫入,剛呼叫完可能還沒反映最新一筆。
設定問答時可以選用的雲端 API 模型或本地 GPU 模型,新增後會即時同步到 LiteLLM 閘道,不用重建容器。
尚未設定任何模型
知識庫問答面板、Workflow Builder 的 LLM 節點沒有另外選擇時,會用這裡設定的模型。
每人預算是累計制(沒有週期重置),掛在每個使用者的 LiteLLM 虛擬 key 上;花費是即時查詢 LiteLLM,非同步寫入,剛呼叫完可能還沒反映最新一筆。