Skip to content

Latest commit

 

History

History
43 lines (28 loc) · 2.45 KB

README_cn.md

File metadata and controls

43 lines (28 loc) · 2.45 KB

安装 CSGHub

概述

CSGHub 是一个开源、可信的大模型资产管理平台,可帮助用户治理 LLM 及其应用生命周期中涉及到的资产(数据集、模型文件、代码等)。基于 CSGHub,用户可以通过 Web 界面、Git 命令行或者自然语言 Chatbot 等方式,实现对模型文件、数据集、代码等资产的操作,包括上传、下载、存储、校验和分发;同时平台提供微服务子模块和标准化 API,便于用户与自有系统集成。

CSGHub 致力于为用户带来针对大模型原生设计的、可私有化部署离线运行的资产管理平台。CSGHub 提供类似私有化的 Hugging Face 功能,以类似 OpenStack Glance 管理虚拟机镜像、Harbor 管理容器镜>像以及 Sonatype Nexus 管理制品的方式,实现对 LLM 资产的管理。

提示:

  • 从 v0.9.0 版本开始, CSGHub 将使用 Gitaly 作为默认的 Git 服务,并且不在继续提供 Gitea 支持。
  • Docker 和 Helm Chart 部署方式的文档中提供了快速部署 k8s 服务的脚本,但仅用于测试.

当前项目介绍了部署 CSGHub 的多种方式, 主要有以下:

  • Docker Engine/Docker Desktop
  • Docker Compose
  • Helm Chart

部署方式

Docker Engine/Docker Desktop

  1. Docker Engine 部署方式提供最简易部署(包含完整功能),目前处于测试阶段。
  2. Docker 部署方式分为快速部署完整部署两部分,快速部署不包含部分高级功能,例如 Space 应用托管、模型推理与微调等。
  3. 完整功能体验需要 Kubernetes 集群支持部署,文档中已包含快速部署方式(仅供测试与功能体验)。
  4. 更多详细信息请参考这里

Docker Compose

  1. 此方式仅用于测试开发用途,生产环境建议使用 Helm Chart 部署方式。
  2. Docker Compose 部署方式作为 Docker 的增强部署方式,同样需要依赖 k8s 才能体验完整功能,目前的部署方式不包含 k8s 部署。
  3. 更多详细信息请参考这里

Helm Chart

  1. Helm Chart 部署方式适用于对稳定性和可用性要求较高的场景,例如生产环境。
  2. Helm Chart 仅支持gitaly作为 git 服务器后端,不支持gitea
  3. 更多详细信息请参考这里

有关 CSGHub 的更多详细信息请参见这里