跳转到主要内容
Octop 内置了大量 LLM 提供商预设,也支持接入任意自定义端点。提供商由管理员在管理 → 模型中配置,启用后其模型会进入一个共享的模型池,供所有专家使用。

添加提供商

模型管理
在云端或本地中选择一个预置提供商,填入 API 密钥并启用。该提供商的模型会立即对您账户下的专家可用。语音与搜索设置也在同一模型页。

预置提供商

云端标签页覆盖各类托管服务: 本地标签页提供 Ollama (Local) 预设,默认指向 http://localhost:11434/v1。如果都不合适,可以用自定义供应商填写自己的 Base URL 和密钥。
预设按其使用的 API 协议标注——openai 表示 OpenAI 对话补全规范,anthropic 表示 Anthropic Messages API。任何遵循这两种规范的端点都可以作为自定义提供商接入。

可用模型池与自动路由

已启用提供商的模型会汇入页面顶部的可用模型池。Octop 可以为每条消息自动路由,选择最合适的模型;被标记为 ⭐ 偏好的模型在没有特殊需求时会被优先使用。 模型池中会显示每个模型的类型和上下文长度,方便您判断哪些适合处理长文本。

为专家设置模型

若未为专家单独指定,它会使用全局默认模型。您可以按专家覆盖——例如日常对话用便宜的模型,复杂任务用更强的模型。 每个账户还可以在个人设置中保存首选模型以及按模型的推理默认值。这些偏好只作用于该用户的新对话,不会改共享的提供商目录。
在终端配置提供商与模型可以用 octop models config、octop models list、octop models active,详见专家命令。

使用 Ollama

在本地标签页启用 Ollama (Local) 预设即可,无需 API 密钥,Octop 会连接 http://localhost:11434/v1。
向使用 Ollama 的专家发送第一条消息前,请确保 Ollama 已在运行。可以用 octop models ollama-list 和 octop models ollama-pull 查看和下载本地模型。

知识库用的模型

知识库可以在本机为文档建立索引,也可以使用在线嵌入模型。管理员在知识库 → 知识库设置中选择模型,或在模型页下载本地模型。详见知识库。

火山方舟图像与视频

启用火山引擎(方舟)提供商后,可配置 Seedream 图像与 Seedance 视频生成,并在页面中测试与预览结果。这些生成模型与对话补全相互独立。