CSGHub 是一个开源、可信的大模型资产管理平台,可帮助用户治理 LLM 及其应用生命周期中涉及到的资产(数据集、模型文件、代码等)。基于 CSGHub,用户可以通过 Web 界面、Git 命令行或者自然语言 Chatbot 等方式,实现对模型文件、数据集、代码等资产的操作,包括上传、下载、存储、校验和分发;同时平台提供微服务子模块和标准化 API,便于用户与自有系统集成。
CSGHub 致力于为用户带来针对大模型原生设计的、可私有化部署离线运行的资产管理平台。CSGHub 提供类似私有化的 Hugging Face 功能,以类似 OpenStack Glance 管理虚拟机镜像、Harbor 管理容器镜>像以及 Sonatype Nexus 管理制品的方式,实现对 LLM 资产的管理。
提示:
- 从 v0.9.0 版本开始, CSGHub 将使用 Gitaly 作为默认的 Git 服务,并且不在继续提供 Gitea 支持。
- Docker 和 Helm Chart 部署方式的文档中提供了快速部署 k8s 服务的脚本,但仅用于测试.
当前项目介绍了部署 CSGHub 的多种方式, 主要有以下:
- Docker Engine/Docker Desktop
- Docker Compose
- Helm Chart
- Docker Engine 部署方式提供最简易部署(包含完整功能),目前处于测试阶段。
- Docker 部署方式分为快速部署和完整部署两部分,快速部署不包含部分高级功能,例如 Space 应用托管、模型推理与微调等。
- 完整功能体验需要 Kubernetes 集群支持部署,文档中已包含快速部署方式(仅供测试与功能体验)。
- 更多详细信息请参考这里。
- 此方式仅用于测试开发用途,生产环境建议使用 Helm Chart 部署方式。
- Docker Compose 部署方式作为 Docker 的增强部署方式,同样需要依赖 k8s 才能体验完整功能,目前的部署方式不包含 k8s 部署。
- 更多详细信息请参考这里。
- Helm Chart 部署方式适用于对稳定性和可用性要求较高的场景,例如生产环境。
- Helm Chart 仅支持
gitaly
作为 git 服务器后端,不支持gitea
。 - 更多详细信息请参考这里。
有关 CSGHub 的更多详细信息请参见这里。