> ## Documentation Index
> Fetch the complete documentation index at: https://octop.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# 如何在 Octop 中配置 LLM 提供商与模型

> 在 Octop 中添加腾讯云、OpenAI、Anthropic、DeepSeek、Ollama 或任意自定义端点，并让自动路由为每条消息挑选最合适的模型。

Octop 内置了大量 LLM 提供商预设，也支持接入任意自定义端点。提供商由管理员在**管理 → 模型**中配置，启用后其模型会进入一个共享的模型池，供所有专家使用。

## 添加提供商

```text theme={null}
管理 → 模型
```

![模型管理](https://mintcdn.com/octop/P_aBdthWeK4YndCE/images/ui-models.png?fit=max\&auto=format\&n=P_aBdthWeK4YndCE\&q=85\&s=6a2563aba21600a6c402a6014dac18bb)

在**云端**或**本地**中选择一个预置提供商，填入 API 密钥并启用。该提供商的模型会立即对您账户下的专家可用。语音与搜索设置也在同一**模型**页。

## 预置提供商

**云端**标签页覆盖各类托管服务：

| 预设 | 协议 |
| - | - |
| 腾讯云（含 Token Plan 企业版与 Hy 套餐）、Kimi、MiniMax、OpenCode、SiliconFlow、Aliyun、Volcano Engine、Zhipu | `openai`，多站点可选 |
| OpenAI、OpenAI (ChatGPT)、OpenRouter、DeepSeek、Google Gemini、Groq、ModelScope、Xiaomi MiMo | `openai` |
| Anthropic | `anthropic` |

**本地**标签页提供 **Ollama (Local)** 预设，默认指向 `http://localhost:11434/v1`。如果都不合适，可以用**自定义供应商**填写自己的 Base URL 和密钥。

> [!NOTE]
>
> 预设按其使用的 API 协议标注——`openai` 表示 OpenAI 对话补全规范，`anthropic` 表示 Anthropic Messages API。任何遵循这两种规范的端点都可以作为自定义提供商接入。

## 可用模型池与自动路由

已启用提供商的模型会汇入页面顶部的**可用模型池**。Octop 可以为每条消息自动路由，选择最合适的模型；被标记为 ⭐ 偏好的模型在没有特殊需求时会被优先使用。

模型池中会显示每个模型的类型和上下文长度，方便您判断哪些适合处理长文本。

## 为专家设置模型

若未为专家单独指定，它会使用全局默认模型。您可以按专家覆盖——例如日常对话用便宜的模型，复杂任务用更强的模型。

每个账户还可以在个人设置中保存**首选模型**以及按模型的**推理**默认值。这些偏好只作用于该用户的新对话，不会改共享的提供商目录。

> [!TIP]
>
> 在终端配置提供商与模型可以用 `octop models config`、`octop models list`、`octop models active`，详见[专家命令](https://octop.mintlify.site/zh/cli/agent-commands.md#octop-models)。

## 使用 Ollama

在**本地**标签页启用 **Ollama (Local)** 预设即可，无需 API 密钥，Octop 会连接 `http://localhost:11434/v1`。

> [!NOTE]
>
> 向使用 Ollama 的专家发送第一条消息前，请确保 Ollama 已在运行。可以用 `octop models ollama-list` 和 `octop models ollama-pull` 查看和下载本地模型。

## 知识库用的模型

知识库可以在本机为文档建立索引，也可以使用在线嵌入模型。管理员在**知识库 → 知识库设置**中选择模型，或在**模型**页下载本地模型。详见[知识库](https://octop.mintlify.site/zh/concepts/knowledge.md)。

## 火山方舟图像与视频

启用火山引擎（方舟）提供商后，可配置 Seedream 图像与 Seedance 视频生成，并在页面中测试与预览结果。这些生成模型与对话补全相互独立。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.