Files
LangBot/docs/zh/usage/models/readme.md
T

46 lines
1.8 KiB
Markdown

# 配置模型 (Models)
## LangBot Models
LangBot Models 是 LangBot 官方提供的模型服务。当您使用 LangBot Space 账户初始化本地实例时,可用模型将被自动添加到您的实例中,无需进行任何配置。您将会获得一定的免费额度用于快速上手。
<img src="/assets/image/zh/deploy/models/langbot_models.png" alt="langbot_models" />
具体可用模型,请查看[LangBot Space](https://space.langbot.app/models)。
## 自定义模型
您也可以添加其他来源的模型。
### 对话模型 (LLM Model)
对话模型将被流水线用于处理消息,您配置的第一个模型将被设置为默认流水线的模型。
![arch](/assets/image/zh/deploy/models/arch.png)
可以添加多个模型,然后再流水线中选择具体使用什么模型
<img width="400px" src="/assets/image/zh/deploy/models/model_config.png" alt="model_config" />
填入这四个参数`模型名称`、`模型供应商`、`请求 URL`、`API Key`,然后提交即可
模型能力方面,请根据具体模型特性来选择:
- 视觉能力:需要启用才可以识图
- 函数调用:需要启用才可以在对话中使用 Agent 工具
### 嵌入模型 (Embedding Model)
嵌入模型将被用于计算消息的向量,若您需要使用知识库,请配置此模型。
<img width="400px" src="/assets/image/zh/deploy/models/embedding_model.png" alt="embedding_model" />
填入这四个参数`模型名称`、`模型供应商`、`请求 URL`、`API Key`,然后提交即可,之后请在知识库中配置使用此模型。
### 使用 seekdb 内置嵌入模型(零配置)
系统已集成 seekdb 提供的官方嵌入模型,无需填写任何参数。
- 在“嵌入模型”页面选择「seekdb-内置」;
- 点击「保存」即可立即使用;
- 后续在知识库中选择该模型即可生效。