一键推理

什么是“一键推理”？

传神社区提供一键推理功能，帮助用户在支持的模型页面快速分配算力并启动推理服务，无需复杂的环境配置。

核心优势

• 即开即用：免去繁杂配置，自动拉起包含完整依赖的容器环境。
• 框架丰富：支持 vLLM、llama.cpp、SGLang、TGI 等多种主流推理框架。
• 灵活调用：提供直观的 Web 界面进行对话测试，同时生成标准 API 接口供业务代码调用。

操作演示

您可以参考以下说明视频，了解一键推理的操作流程：