Duaer

集成

在 Duaer 里使用 Ollama Chat Model

在 Duaer 里,Ollama Chat Model 是 AI 子节点,接到 AI Agent、Basic LLM Chain 或其它 AI 根节点 的「聊天模型」(Chat Model)输入上。

在 Duaer 里接上 Ollama Chat Model

  1. 在 Duaer 画布上,点 AI Agent、Basic LLM Chain 或其它 AI 根节点 下方的「Chat Model」输入,选 Ollama Chat Model。
  2. 在 Credential to connect with 里选择或新建 Ollama 凭证。
  3. 填写 Model。
  4. 需要时点 Add Option,添加下文列出的可选设置。
  5. 运行 AI Agent。Ollama Chat Model 随它一起运行,调用记录显示在执行记录的该节点下。

Duaer 里 Ollama Chat Model 的参数

Model。

Duaer 里 Ollama Chat Model 的可选设置

Add Option 下有 Enable Thinking、Sampling Temperature、Top K、Top P、Frequency Penalty、Keep Alive、Low VRAM Mode、Main GPU ID、Context Batch Size、Context Length、Number of GPUs、Max Tokens to Generate。

常见问题

报错原因和修法见 Duaer 里 Ollama Chat Model 的常见问题。

常见问题

Duaer 里 Ollama Chat Model 接在哪里?

在 Duaer 里,Ollama Chat Model 接到 AI Agent、Basic LLM Chain 或其它 AI 根节点 的「Chat Model」输入上,不会单独运行。

Duaer 的 Ollama Chat Model 用哪种凭证?

Duaer 的 Ollama Chat Model 使用 Ollama 凭证。密钥保存在凭证里,不写进节点参数。

同组