模型設定

設定問答時可以選用的雲端 API 模型或本地 GPU 模型,新增後會即時同步到 LiteLLM 閘道,不用重建容器。

尚未設定任何模型

新增模型

本地模型不填成本則以 0 計費;雲端模型建議填實際費率,否則預算控管會失準(見 README 已知限制)。

預設模型

知識庫問答面板、Workflow Builder 的 LLM 節點沒有另外選擇時,會用這裡設定的模型。

預算與花費

每人預算是累計制(沒有週期重置),掛在每個使用者的 LiteLLM 虛擬 key 上;花費是即時查詢 LiteLLM,非同步寫入,剛呼叫完可能還沒反映最新一筆。