跳到主要内容

公共推理实例(Serverless API)

公共推理适合直接调用已开通的模型,无需自行申请并维护推理实例。模型支持的任务与参数由服务配置决定。

公共推理由本实例管理员创建与维护,使用本实例模型、地址和 API Key;不是自动调用传神社区服务。

在页面中试用​

在已启用公共推理的模型详情页找到试用窗口或“公共推理实例”入口,输入一条简短请求验证服务。

公共推理实例

页面没有入口时,先确认模型是否已开通公共服务,而不是直接创建重复实例。

通过 API 调用​

  1. 在当前站点的个人或组织设置中创建 API Key,确认对目标服务有访问权限。
  2. 点击模型页面的“查看代码”,复制接口地址、模型标识和示例。使用网关 API Key 作为调用凭据,不使用 Git Access Token。
  3. 先执行一次非流式请求,确认收到模型回复,再按模型支持情况使用流式或其他参数。
  4. 核对请求结果与用量记录;失败时先检查地址、模型标识、Key 过期状态、权限和额度。

用量与费用​

EE 记录调用用量与配额,不进行平台扣费;已开通计费功能的站点按服务定价与试用额度计费。商业运营环境的 Token 费用归入调用 Key 对应的个人或组织账户,不支持算力券抵扣。

公共服务的伸缩、并发和缓存行为由管理员及上游配置决定;客户端仍应设置超时并处理服务繁忙的情况。

需要独立资源或自定义运行参数时,参见 创建专属实例。

完整调用示例见 网关快速开始,费用边界见 额度、计量与费用。