用户角色
👩💻 算法工程师
👨💼 业务开发者
🔧 系统管理员
🤖 Agent / 三方应用
💡 数据标注员
↓
🌐
接入层 — 开发者与开放平台
🔑
平台业务 API
RESTful 接口全覆盖资产与用户管理;Swagger/OpenAPI 标准文档;Token 认证 + 限流防护
REST API
OpenAPI
Rate Limiting
⚡
推理 API Gateway
完全兼容 OpenAI 规范的推理调用接口;Serverless API 按 Token 计费;商业 API Key 管控 + 预算限额
OpenAI Compatible
Serverless
API Key
🔌
MCP Gateway
集中注册管理远端 MCP Server;统一对外提供工具调用入口;支持 SSE / HTTP 连接类型
MCP Protocol
Tools API
SSE
🐍 Python SDK
轻量化客户端,支持直接操作平台所有核心资产:上传/下载模型数据集、调用推理 API、管理 Space
等
pypi install csghub-sdk
dataset / model / inference
↓
📦
核心资产管理层 — 全要素 AI 资产托管中心
🤖
模型库
模型卡片、模型树、跨资产关联、多框架元数据
Model CardTree
🗂️
数据集
在线预览 Parquet/CSV/JSON,Dataset Card,版本管理
ViewerGit LFS
💻
代码仓库
标准 Git 工作流,PR/Issue 协作,分支管理
GitPR
🚀
应用空间
Gradio · Streamlit · Docker · Nginx · MCP Server 托管
GradioDocker
💬
提示词库
可视化管理 Prompt,支持分类与版本迭代
PromptVersioning
🛠️
技能库 / MCP
SkillHub 技能组件 + MCP 仓库管理,一键部署
SkillHubMCP Repo
统一生命周期 Git 版本追踪 + 跨资产关联复现
·
·
·
·
↓
⚙️
计算服务层 — 模型全生命周期开发
🌐
模型推理
Serverless 公共推理按 Token 计费
专属实例 独享 GPU 长驻服务
vLLMTGITritonNIM
🎓
模型微调
可视化参数配置,多框架支持,微调结果自动导出回资产库
LLaMA-FactoryMS-SWIFT
📊
模型评测
标准基准 + 自定义数据集评测,多维度评分报告
OpenCompassEvalScopelm-eval
📓
Notebook 沙盒
深度学习框架开箱即用研发环境,动态生命周期管理
Jupyter LabPyTorchTF
↓
🔬
数据工具链 — DataFlow 数据处理底座
🕸️
多源数据采集
文档一键抽提、数据库汇接、网络爬取多渠道汇聚
Web CrawlDB Connector
🔄
格式转换
多格式文档互转,结构化/非结构化数据统一处理
PDF/CSV/JSONParquet
🧹
可视化清洗流
100+ 专业算子拖拽编排,过滤/去重/脱敏/打标,Celery 分布式调度
100+ OperatorsCeleryDAG
🏷️
数据标注
集成 Label Studio,支持文本/图像/音频多模态标注任务分发
Label StudioMultimodal
↓
🖥️
算力管理中心
调度与资源编排
集群纳管、节点划分、K8s + Volcano 调度引擎
GPU 虚拟化与切分
HAMi 软切分 vGPU + MIG 硬切分,资源隔离
算力可观测性
全局健康大盘、负载监控、节点告警体系
实例与作业管理
长驻服务 + 离线作业全局托管、异常干预
算力计量与用量分析
GPU-Hours 消费回溯、多维统计、报表导出
🛡️
平台基础与权限管控
用户与组织 (RBAC)
三级权限体系,多租户隔离,细粒度资源管控
统一认证 SSO
可插拔接入 Casdoor、Paraview、自定义 IdP
安全审计与合规
敏感词过滤、操作审计日志、合规风控
计量计费系统
SKU 定价、充值/账单/开票、GPU-Hours / Token 多维计量
管理后台
资产管理、运营配置、系统监控仪表盘、License 管理
↓
💰
算力商业化服务平台
🪙
Serverless 按需计费
按实际 Token 消耗付费,自动扩缩容,零管理开销,多维度计量(LLM/Audio/Image)
Token BillingAuto-Scale
📅
专属实例按时计费
按分钟级时长计费,支持 Notebook/推理/微调/评测;包年包月资源预留与折扣模型
ReservedDedicated GPU
📈
商业化运营能力
订单管理、分润体系、自助发票
Revenue ShareSpotInvoice
↓
🏗️
基础设施层
☸️
Kubernetes
集群编排底座,Volcano 调度器,多集群纳管
🎮
GPU 集群
国内外主流 GPU 适配,国产算力(华为昇腾等)深度支持
🗄️
分布式存储
大文件 Git LFS + 对象存储 + XNet 加速下载
📨
消息与调度
Celery 分布式任务队列,异步任务编排与监控
🔭
可观测性
Prometheus + Grafana 指标监控,操作审计日志
版本矩阵
🪶
CSGHub Lite
桌面单机版,离线安装,零依赖,适合个人研发与内网快速验证
本地部署CLIGUI
🌱
CSGHub CE Community
开源社区版,完整核心功能,社区资源同步
开源K8sOpenCSG 社区同步
🏢
CSGHub EE Enterprise
企业版,算力管理、商业化计费、SSO、多源同步配额、高可用部署
多源同步RBACBillingHA