跳到主要内容

公共推理实例（Serverless API）

简介​

CSGHub 公共推理实例（Serverless API）提供了一种快捷、高效的方式来访问传神社区的模型，支持文本、图像、语音等多种任务。无需部署或维护基础设施，即可快速进行测试和原型开发。

为什么选择公共推理实例？​

公共推理实例能够适配多种机器学习任务，适用于原型开发、测试和实验。其主要特点包括：

  • ⚡ 快速上手：直接在模型页面访问，免费试用。
  • 🚀 生产级 API：提供高效推理能力，并支持自动扩展。
  • 💡 即时原型开发：无需配置，即可调用强大模型。
  • 🎯 多样化场景支持：涵盖文本、图像、语音等多种任务。
  • 🔧 开发者友好：简洁的 API 设计，快速响应。

主要功能​

  • 适用于 文本生成、图像生成 等任务。
  • 依托 GPU 加速，显著提升推理速度。
  • 支持 超大模型，免去复杂部署的困扰。
  • 生产级平台，内置自动扩展、负载均衡和缓存优化。

使用方法​

直接使用推理服务​

对于已启用 Serverless API 的模型，用户可在模型详情页直接找到 公共推理实例 入口，点击即可使用。

公共推理实例

使用API​

点击【查看代码】按钮可以查看API的调用方式，使用平台提供的token可以直接调用。

如果想要创建您私有的推理实例，请参考 专属实例。