接入与调用模型
开发者调用已开通的模型;平台 管理员负责配置模型来源、上游凭据和服务状态。本文将这两类任务分别说明。首次调用示例见快速开始。
查询可用模型
调用模型前,可通过 GET /v1/models 查询可用模型列表。传神社区的接口地址为 https://ai.space.opencsg.com/v1/models。
在运行环境中设置网关凭据 CSGHUB_API_KEY 后,执行:
curl --request GET 'https://ai.space.opencsg.com/v1/models' \
--header "Authorization: Bearer ${CSGHUB_API_KEY}"
从返回列表中选择模型标识,填写到后续调用的 model 参数中。自部署环境请将域名替换为实际网关地址,保留 /v1/models 路径。各模型支持的接口与参数,请结合模型服务说明查看。
选择服务来源
| 来源 | 接入方式 | 相关操作 |
|---|---|---|
| 公共推理 | 管理员从资产管理的模型详情页创建,启动后在 AI 网关的公共推理列表管理 | 公共推理管理、调用公共推理 |
| 专属实例 | 用户从模型页面创建实例,查看实例 API 地址与调用示例 | 创建专属实例、使用专属实例 |
| 商业 API | 管理员在 AI 网关的商业 API 中配置模型名称、Endpoint 和供应商凭据 | 商业 API 管理 |
这些管理操作和来源的可用范围取决于部署版本与权限。公共推理需先从模型详情页创建并启动,随后在网关的公共推理列表中管理。
接入第三方商业 API
- 进入管理员后台的 AI 网关 → 商业 API。
- 新建服务,填写对外使用的模型名称和相关模型信息。
- 添加上游 Endpoint URL 与对应供应商凭据;多个上游需提供相同的目标模型能力。
- 设置模型能力、启用状态及需要的内容检测选项。
- 保存后检查可用状态,使用服务的调用地址和模型名称验证一次请求。
需要多上游时,继续配置路由策略。应用使用平台发放的网关 Key;供应商凭据由管理员配置在上游,不交给各应用分别维护。
网关支持适配不同供应商的上游认证方式,包括认证请求头名称和凭据前缀。应用仍使用网关 API Key,无需随上游供应商变化而分别维护认证逻辑。
调用端点
下表列出网关提供的接口类型。实际可用端点、参数与模态由部署、上游和模型决定;代理路径中的占位符必须使用已注册的资源标识。
| 能力 | 端点 | 说明 |
|---|---|---|
| 模型列表 | /v1/models | 通过 GET 请求查询可用模型 |
| 文本生成 | /v1/chat/completions | 支持流式与非流式调用 |
| 响应生成 | /v1/responses | 支持 OpenAI Responses API 协议调用 |
| 文本向量化 | /v1/embeddings | 将文本转换为向量表示(Embedding) |
| 文本重排序 | /v1/rerank | 重排序(Rerank)扩展接口,不属于 OpenAI 标准端点 |
| Anthropic 消息 | /v1/messages | Anthropic 协议代理,使用该服务的认证及请求说明 |
| 图像生成 | /v1/images/generations | 模型支持的图像生成任务 |
| 语音转文字 | /v1/audio/transcriptions | 音频转录 |
| 视频生成 | /v1/videos | 模型支持的视频生成任务 |
| MCP 代理 | /v1/mcp/* | MCP 服务转发 |
| Agent 代理 | /v1/agent/:type/* | Agent 服务代理 |
| 沙盒代理 | /v1/sandboxes/:name/* | 已部 署沙盒服务的代理入口 |
Responses API 与 Chat Adapter
对于以 Chat Adapter 模式承载 Responses API 的上游,网关支持将 Responses 请求转换为上游 Chat 请求,让应用通过 Responses 接口使用兼容的 Chat 模型服务。
适配能力包括推理模式的启用与禁用、推理等级映射,以及不同模型所需的扩展参数。具体支持范围由适配配置与上游模型能力共同决定;该能力不代表所有上游都原生支持 Responses API 的全部功能。
接入 SDK 与处理模型差异
OpenAI 兼容的文本接口可使用 OpenAI SDK,通过修改 base_url 和 api_key 接入,示例见快速开始。专属实例也提供 Python、JavaScript 和 cURL 调用示例。
- 以服务页面的模型名称和 API 地址为准;不要将上游供应商地址与网关地址混用。
- 流式输出、工具调用、结构化输出和多模态参数需要所选模型与接口共同支持。
- 同一套客户端可以访问多个服务,但模型间的参数、上下文长度和输出能力可能不同。
- 模型文件的版本管理与运行中服务的版本不是同一件事,切换上游后应重新验证应用调用。