部署说明
概述
CSGHub是一个开源、可信的大模型资产管理平台,可帮助用户治理LLM和LLM应用生命周期中涉及到的资产(数据集、模型文件、代码等)。基于CSGHub,用户可以通过Web界面、Git命令行或者自然语言Chatbot等方式,实现对模型文件、数据集、代码等资产的操作,包括上传、下载、存储、校验和分发;同时平台提供微服务子模块和标准化API,便于用户与自有系统集成。
CSGHub致力于为用户带来针对大模型原生设计的、可私有化部署离线运行的资产管理平台。CSGHub提供类似私有化的Huggingface功能,以类似OpenStack Glance管理虚拟机镜像、Harbor管理容器镜像以及Sonatype Nexus管理制品的方式,实现对LLM资产的管理。
说明
本 Helm Chart 目前处于测试发布阶段,如遇到任何问题可以以下方式提交反馈:
- 发送邮件到support@opencsg.com
- 提交议题到CSGHub-helm
本 Helm Chart 使用 helm 包管理器在 Kubernetes 集群上引导启动 csghub 运行环境。默认情况下此 Helm Chart 仅提供非生产环境的测试以及试用用途,如用于生产环境部署,请通过以上方式获取支持。
对于生产部署,您应该具备丰富的 Kubernetes 使用经验,因为此种方式和 docker-compose 部署方式相比会有诸多不同。此种方式提供了便利部署的同时也带来了维护的复杂性。
此种架构中存在多个有状态组件,因此 PV 的动态配置(Dynamic Provisioning)是程序运行所必须的。如果您是自部署的 Kubernetes 集群,使用sig-storage-local-static-provisioner 作为动态 PV 管理是一种不错的方式,除此之外您可能需要自己创建 PV 以及绑定 PVC。
有状态组件如下:
- PostgreSQL
- Minio
- Registry
- Redis
- Gitea
- Builder
- Nats
当前每个组件仅包含启动所必须的必要资源文件的声明,扩展特性会在将来逐步添加,同时也期待您的贡献。
版本映射
Chart version | Csghub version | Remark |
---|---|---|
0.8.x | 0.8.x | |
0.7.x | 0.7.x | |
0.5.x | 0.5.x |
- 说明:当前版本中可能存在交叉映射,尽量使用最新版本进行部署。