Skip to content

模型管理 ​

用户端能选哪些对话模型,取决于模型管理。这里至少要配置一个可用模型,否则用户无法正常发起对话,Agent 也无法执行任何工具。

  • 后台入口:AI 能力 / 模型管理

列表字段 ​

字段说明
排序控制模型在前台或后台列表中的展示顺序
模型名称给用户看的名称,例如 GPT-4.1、DeepSeek
绑定模型实际发送给模型服务商的模型 ID
多模态标记模型是否支持图片、PDF 文档、视频、音频理解
调用次数当前模型累计调用次数
已用 Token当前模型累计使用 Token
状态控制模型是否可用

新增模型 ​

点击“添加模型”,进入模型表单。

基础信息 ​

配置项说明建议
状态是否启用该模型测试通过后再开启
排序展示顺序,数字越小越靠前常用模型填更小的数字
模型名称展示给用户看的模型名称使用清晰名称,不要只写代号
模型简介简短描述模型特点说明它更适合处理哪类任务
模型图标模型头像或图标地址可上传 PNG、JPG、WebP、ICO、SVG
调用频率每小时允许调用次数免费或高成本模型建议适当收紧
计费系数每次对话消耗的积分和套餐价格、模型成本一起评估
Token 计费是否按 Token 计费成本波动大的模型建议开启
计费比例每多少 Token 扣一次积分只在 Token 计费开启时生效

计费系数、Token 计费、计费比例只有装载商业包时才产生扣费,没有商业包的站点这三项不影响调用。

API 配置 ​

配置项用途从哪里找示例
供应商模板选择常见服务商后自动填充调用协议、基础地址和模型后台下拉选择可选;没有合适模板时手动填写下方字段
调用协议决定后端按哪种接口协议组装请求后台选择下拉只列出当前部署已装载的协议:内核自带 OpenAI Chat Completions / 兼容接口,扩展包提供 OpenAI Responses、Anthropic Messages、Gemini GenerateContent 与 OpenCode Go,按服务商实际能力选择
绑定模型实际发送给模型服务商的模型 ID服务商模型文档或后台模型列表gpt-4.1、deepseek-chat
API Key模型服务商提供的调用密钥服务商控制台的 API Keys、API-KEY 管理或访问凭证页面sk-...
基础地址服务商接口的基础地址,可以带代理前缀或版本段(如 /v1、/v4)服务商 API 文档中的 Base URL / Endpointhttps://api.example.com
Endpoint Path接在基础地址后的请求路径服务商接口文档留空时按调用协议使用默认端点路径(见下方),大多数服务可留空

实际请求地址 = 基础地址 + 端点路径。Endpoint Path 留空时按调用协议使用默认端点路径:

调用协议默认端点路径基础地址为 https://api.example.com 时的请求地址
OpenAI Chat Completions / 兼容接口、OpenCode Go/v1/chat/completionshttps://api.example.com/v1/chat/completions
OpenAI Responses/v1/responseshttps://api.example.com/v1/responses
Anthropic Messages/v1/messageshttps://api.example.com/v1/messages
Gemini GenerateContent非流式 /v1beta/models/{模型}:generateContent;流式 /v1beta/models/{模型}:streamGenerateContent,并带 ?alt=ssehttps://api.example.com/v1beta/models/gemini-2.5-pro:streamGenerateContent?alt=sse(流式)

拼接规则:

  • 基础地址以版本段结尾(/v1、/v4、/v1beta 这类)时,不再重复默认端点路径里的版本段:例如 https://open.bigmodel.cn/api/coding/paas/v4 的请求地址是 https://open.bigmodel.cn/api/coding/paas/v4/chat/completions。服务商接口是 /api/v3/chat/completions、/compatible-mode/v1/chat/completions 这类路径时,把基础地址填到版本段即可。
  • 基础地址里的代理前缀会保留:https://proxy.example.com/api/llm/openai 的请求地址是 https://proxy.example.com/api/llm/openai/v1/chat/completions。
  • 基础地址已经是完整端点(以 /chat/completions、/responses、/messages、:generateContent 等结尾)时直接使用、不再拼接;这时不要再填写 Endpoint Path,否则地址预览或实际调用时会报错(保存本身不拦截)。

填写基础地址和 API Key 后,后台会尝试读取服务商的远程模型列表。读取到远程模型时,“绑定模型”只显示远程返回的模型;没有读取到远程模型时,才回退显示系统内置预设模型,也可以手动输入模型 ID。

常见模型服务商入口 ​

服务商API Key 获取位置基础地址示例备注
OpenAIOpenAI Platform → API keyshttps://api.openai.com/v1只在服务端填写,前端和公开文档不要暴露
DeepSeekDeepSeek Platform → API keyshttps://api.deepseek.com系统会自动补 /v1,也可按服务商文档填写完整兼容地址
阿里云百炼 / 通义千问阿里云百炼控制台 → API-KEY 管理https://dashscope.aliyuncs.com/compatible-mode/v1不同地域可能有不同兼容地址,以百炼控制台和文档为准
火山方舟 / 豆包火山方舟控制台 → API Key 管理https://ark.cn-beijing.volces.com/api/v3模型 ID 通常使用方舟推理接入点或模型名称
OpenCode GoOpenCode Go 文档https://opencode.ai/zen/go选择“OpenCode Go”供应商模板或 OpenCode Go Chat Completions 协议;系统自动添加所需请求头,不要改用普通兼容协议
自建网关 / 代理你的网关管理后台https://llm.example.com/v1确认网关兼容 OpenAI Chat Completions 协议

如果服务商文档给出的地址已经包含 /v1、/api/v3 或其他版本号,按服务商原文填写即可。不同服务商的模型 ID、计费和多模态能力不一样,添加后建议先用“真实探针”自动验证文本、当前协议可发送的多模态能力和全部推理档位。

多模态、推理强度和上下文 ​

“多模态支持”和“推理强度”都应按模型实际能力勾选;“上下文长度”单独填写。

配置项说明
多模态支持:图片解析允许模型读取图片
多模态支持:PDF 文档允许模型读取 PDF 文档
多模态支持:视频解析允许模型读取视频
多模态支持:音频解析允许模型读取音频
推理强度决定用户端可选择哪些思考档位
默认强度用户首次使用或原档位不适用于新模型时采用的档位
上下文长度模型可接受的上下文长度

点击“真实探针”后,系统会先明确提示最多请求次数;管理员确认后,才会向当前模型发送文本、当前协议能够发送的所有图片、文档、视频或音频探针,并检查“关闭”到“最高”的全部七档推理强度。每个能生成独立供应商控制参数的推理档位都会发起真实请求;没有实际控制参数,或与另一档位使用同一参数的项目会明确显示“跳过”,不会重复计为独立能力。探针范围不依赖当前表单是否已经勾选,因此可以发现尚未配置的能力。探针使用轻量内置素材,真实请求仍可能产生少量 Token 与费用。文本探针失败时会立即停止;其余项目最多四项并行、单项等待不超过 45 秒,页面最长等待四分钟。测试完成后可点击“应用通过项”把成功的多模态能力和推理档位写回当前表单,再由管理员确认保存;若所有实际发起的推理档位均失败,系统不会应用失败结果。

推理探针验证的是服务能否接受该档位的独立控制参数并完成回答,不能证明服务商内部一定使用了不同计算量;最终能力仍应结合服务商文档判断。协议本身不能发送的多模态类型不会列入探针范围,也不会被误判为支持。

推理强度共有“关闭、极低、低、中、高、超高、最高”七档。用户端只显示当前模型已勾选的档位;切换模型后,如果原档位不受新模型支持,系统会自动采用新模型的默认强度。

不同服务商对推理强度的支持并不相同。例如,有些模型只有“关闭 / 开启”,有些模型支持“低 / 中 / 高”,只有少数模型支持“超高”或“最高”。请以服务商当前模型文档为准,不建议为了让选项更多而全部勾选。默认强度必须属于已勾选档位。

原生搜索 ​

“原生搜索”用于 OpenAI Responses 模型。启用后,系统会在调用该模型时加入 OpenAI 内置的 web_search 工具,由模型按需要自行联网检索;对话过程中会展示 OpenAI 原生搜索活动,并在模型返回引用时展示来源信息。

配置项说明建议
启用 OpenAI web_search是否允许该模型使用 OpenAI 内置搜索只给真实 OpenAI Responses 模型开启
搜索模式自动判断或强制搜索普通对话建议“自动判断”,必须核验实时信息的模型可选“强制搜索”
工具类型web_search 或兼容预览类型新接入优先使用 web_search;旧接口报错时再切到 preview 类型
上下文量搜索结果占用的上下文预算默认“中”,需要更完整网页信息时再调高
展示搜索来源请求模型服务返回搜索查询和来源网页建议开启,便于用户确认联网搜索依据

启用 OpenAI 原生搜索后,模型会自行完成联网搜索。非 OpenAI Responses 模型、国内兼容接口或自建模型如需联网,请由部署人员接入提供搜索能力的 MCP 服务器。

全局配置 ​

配置项说明建议
预设类型关闭、附加或覆盖系统预设普通模型用“关闭”或“附加”
系统预设该模型专属系统提示词不要写过长,避免影响用户任务
附加参数额外传给模型接口的 JSON默认留空;仅在供应商明确要求时填写合法 JSON

附加参数默认不填,切换供应商模板或内置模型也不会自动填入。model、messages、tools、temperature、stream 等由系统控制的字段不能填写,保存时会提示是哪个字段。只有供应商明确要求额外字段时再填写,例如:

json
{
  "max_tokens": 8192
}

导入、复制和测试 ​

操作说明
复制复制当前模型配置,适合为同一服务商新增不同模型;API Key 不会被复制,保存前要重新填写
导入/导出在表单内导入或导出模型配置 JSON;导出不含 API Key,导入也从不修改 API Key(编辑已有模型时沿用已保存的密钥,新建时用表单里填写的);只应用类型正确的字段
真实探针经管理员确认后,实际测试文本、协议可发送的全部多模态能力和全部七档推理强度;测试结果可应用到表单
删除删除不再使用的模型配置

列表里的 API Key 只显示脱敏值。测试连接、获取远端模型列表时,已保存的模型可以直接用脱敏值(由服务端换成已保存的密钥);新建或复制出来的模型要先填写 API Key,否则会提示「请重新填写 API Key」,不会把脱敏值发给服务商。

常见问题 ​

模型显示“启用”但用户端不能用? ​

先检查 API Key、基础地址、Endpoint Path 和绑定模型是否正确,再用“真实探针”确认接口是否可调用。

计费系数和 Token 计费怎么选? ​

如果模型每次调用成本差不多,用固定计费系数即可。如果成本主要随 Token 增长,建议开启 Token 计费。

多模态全部勾上可以吗? ​

不建议。只勾选服务商实际支持的能力,否则用户上传文件后可能调用失败。

推理强度应该怎么选? ​

普通模型可只保留“关闭”;开关型推理模型可配置“关闭”和一个开启档位;支持分级推理的模型再按服务商文档勾选“极低”到“最高”。不确定时直接运行真实探针,它会逐档测试并允许应用通过项;服务接受请求不等于供应商内部一定使用了不同计算量,仍应结合官方文档判断。

Claude(Anthropic Messages)的推理强度怎么生效? ​

后台按模型 ID 识别 Claude 的具体型号(网关前缀、Bedrock / Vertex 写法、日期后缀和 -latest 都能识别),再换成该型号接受的参数:

  • 新模型(Opus 5.5、Sonnet 5.5、Fable 5.1、Mythos 5.1、Fable 5、Mythos 5、Opus 5、Sonnet 5、Opus 4.8 / 4.7 / 4.6、Sonnet 4.6)按档位发自适应思考与强度。Opus 5.5、Fable、Mythos 不能关闭思考,没有「关闭」档(旧配置里的「关闭」按「低」发送);Sonnet 5.5 的「关闭」表示只在工具调用之间思考;Sonnet 4.6 没有「超高」。
  • 手动思考的模型(Opus 4.5、Sonnet 4.5、Haiku 4.5 及更早的 Claude 4 / 3.7)按思考预算发送:「低」2048、「中」8192、「高」及以上 16384 token(Opus 4.5 另带强度)。从模型目录新选这些模型时默认「关闭」;已经添加的模型保持原来的默认档位,如需默认关闭,在模型设置里把默认强度改成「关闭」。
  • Claude 3.5 / 3 不支持思考,推理强度不生效。
  • 识别不出的模型(例如网关自定义的别名)不会自动加推理参数,只原样发送附加参数里手写的 thinking / output_config;选「关闭」时去掉 thinking 和 output_config 里的强度(effort),output_config 的其他字段保留。

其他会随型号自动调整的参数:

  • 输出上限:附加参数没写 max_tokens 时,新模型开思考默认 16384,手动思考为「预算 + 4096」,其余 4096。这只是上限,按实际输出计费,但可能比以前多用输出 token。附加参数或系统内部设置的上限不会被提高,手动思考的预算会缩到上限以内;连最低预算(1024)都放不下时,这次请求不开思考。
  • 采样参数:Claude 4.7 及以后与 5 系列不接受 top_p、top_k(以及非默认温度),会自动去掉并在服务端日志里提示;4.6 及更早只在开思考时受限(去掉 top_k,top_p 只保留 0.95 – 1)。
  • 强制调用工具:Opus 5.5、Sonnet 5.5、Fable 5.1、Mythos 5.1 以及开着手动思考时不支持,会改为由模型自行决定。

“真实探针”按同样的规则报告:型号不支持的档位显示“跳过”;手动思考模型的「超高 / 最高」与「高」参数相同,也显示“跳过”。对识别出的型号,探针会暂时忽略附加参数里手写的 thinking 与强度,逐档如实测试;识别不出的模型照常带上手写参数。

开着思考的 Claude、Gemini 多次调用工具时,思考会带回给模型吗? ​

会。在一次回复里(同一个模型),服务端把模型上一步的思考块与签名(Claude)、思考签名(Gemini)原样带回下一次请求,这是两家在工具调用中保持推理连续的要求:

  • 带回用的签名与回放内容只保存在这次回复的内存里:不写进对话记录,不出现在页面、日志和工具的输入里;思考过程的正文与以前一样会显示,并随轮次记录保存。下一条消息开始的新回复不带以前的思考状态。
  • Claude:较早的对话被整理(上下文接近上限时压缩),或附件这次没能读取、使之前的内容变了时,之前的思考块不再带回;手动思考的模型(Opus 4.5、Sonnet 4.5 等)这时在本次回复余下的工具调用里不开思考,下一条消息恢复按档位发送。带着思考块的请求被拒(HTTP 400,例如中转服务改动了请求内容)时,自动去掉全部思考状态重试一次;Sonnet 5.5 的「关闭」档在去掉思考块后仍可能被拒,这时按原错误提示。被拒的请求是否计费取决于模型服务或中转服务,这里不作承诺。
  • Gemini:签名按记录原样带回,不做上面的整理判定;记录与历史对不上时,Gemini 3 系列给原本带签名的调用补官方文档给出的占位值,尽量避免请求被拒,但不能保证。思考摘要显示为思考过程,不再混进回复正文。

OpenCode Go 拉取到模型,但对话提示请求无效? ​

确认“调用协议”是 OpenCode Go Chat Completions,基础地址是 https://opencode.ai/zen/go,Endpoint Path 是 /v1/chat/completions。OpenCode Go 要求编码客户端携带专属客户端标识和稳定会话标识;99Agent 只会在独立 OpenCode Go 协议中自动补齐这两个请求头。

OpenCode Go 虽然使用统一账号与基础地址,但会按模型路由到 Chat Completions、Responses 或 Messages 三类端点。当前模板按 OpenCode 官方端点表,只显示 16 个 Chat Completions 模型;选择其中一个模型时,后台会直接填入由 Pi 注册表、供应商资料与实网验证共同维护的名称、上下文、图片输入和推理档位预设,不需要管理员逐项猜测。远程列表用于确认账号当前可见模型,“真实探针”用于复核预设并发现当前端点额外接受的能力。Grok、GPT 5.6 Luna、Muse、MiniMax 与 Qwen 等使用 Responses / Messages 的模型不能混用当前 Chat 协议,否则会出现“能看到模型但请求无效”。OpenCode Go 协议允许真实探测图片输入,deepseek-v4.1-flash 当前已通过图片探针。修改协议后先用“真实探针”验证,再开启模型。

相关文档 ​