Duaer

集成

在 Duaer 里使用 Hugging Face Inference Model

在 Duaer 里,Hugging Face Inference Model 是 AI 子节点,接到 AI Agent、Basic LLM Chain 或其它 AI 根节点 的「聊天模型」(Chat Model)输入上。

在 Duaer 里接上 Hugging Face Inference Model

  1. 在 Duaer 画布上,点 AI Agent、Basic LLM Chain 或其它 AI 根节点 下方的「Chat Model」输入,选 Hugging Face Inference Model。
  2. 在 Credential to connect with 里选择或新建 Hugging Face API 凭证。
  3. 检查节点上的 Model。
  4. 需要时点 Add Option,添加下文列出的可选设置。
  5. 运行 AI Agent。Hugging Face Inference Model 随它一起运行,调用记录显示在执行记录的该节点下。

Duaer 里 Hugging Face Inference Model 的参数

Model。

Duaer 里 Hugging Face Inference Model 的可选设置

Add Option 下有 Custom Inference Endpoint、Frequency Penalty、Maximum Number of Tokens、Presence Penalty、Sampling Temperature、Top K、Top P。

常见问题

Duaer 里 Hugging Face Inference Model 接在哪里?

在 Duaer 里,Hugging Face Inference Model 接到 AI Agent、Basic LLM Chain 或其它 AI 根节点 的「Chat Model」输入上,不会单独运行。

Duaer 的 Hugging Face Inference Model 用哪种凭证?

Duaer 的 Hugging Face Inference Model 使用 Hugging Face API 凭证。密钥保存在凭证里,不写进节点参数。

同组