一键部署开源大模型,打造企业私有问答机器人
📌 场景概述
适用对象:政府机关 / 国企单位 / 大型企业 IT 部门
使用产品:CSGHub 企业版 + CSGChat 私有化部署
核心目标:在企业私有网络中部署开源大模型,实现企业员工可用的内部知识问答助手,保障数据安全、响应高效、易于集成。
🧭 操作流程
1. 在企业内网部署 CSGHub
- 通过私有化部署方案,将 CSGHub 安装在企业自有服务器或专属云环境中;
- 启用企业身份认证和权限系统,确保内部人员可控访问。
2. 同步开源模型资源
- 登录 CSGHub 后,进入【模型中心】,使用多源同步功能,从“传神开源社区”获取最新大模型;
- 支持 DeepSeek、Qwen、InternLM 等模型的同步与版本管理;
- 同步完成后模型保存在企业局域网内,确保全流程离线运行。
3. 部署模型为公共服务 API
- 管理员进入【后台管理】模块;
- 将需要用于问答的模型(如 Qwen-7B)部署为公共推理服务;
- 部署完成后,模型详情页右侧出现“推理API”入口,可以直接在页面中使用模型服务;
- 企业的应用均可通过 API 调用该模型服务;
4. 部署 CSGChat
- 部署 CSGHub 配套组件 CSGChat,在 CSGChat 后台配置部署的模型 API 地址;
- 在 CSGHub 中可部署多个公共模型 API,在CSGChat中可以切换不同模型进行问答。