extended-reading.html

快速构建高并发微服务

English | 简体中文

0. 为什么说做好微服务很难

要想做好微服务，我们需要理解和掌握的知识点非常多，从几个维度上来说：

基本功能层面
1. 并发控制 & 限流，避免服务被突发流量击垮
2. 服务注册与服务发现，确保能够动态侦测增减的节点
3. 负载均衡，需要根据节点承受能力分发流量
4. 超时控制，避免对已超时请求做无用功
5. 熔断设计，快速失败，保障故障节点的恢复能力
高阶功能层面
1. 请求认证，确保每个用户只能访问自己的数据
2. 链路追踪，用于理解整个系统和快速定位特定请求的问题
3. 日志，用于数据收集和问题定位
4. 可观测性，没有度量就没有优化

对于其中每一点，我们都需要用很长的篇幅来讲述其原理和实现，那么对我们后端开发者来说，要想把这些知识点都掌握并落实到业务系统里，难度是非常大的，不过我们可以依赖已经被大流量验证过的框架体系。go-zero 微服务框架就是为此而生。

另外，我们始终秉承 工具大于约定和文档 的理念。我们希望尽可能减少开发人员的心智负担，把精力都投入到产生业务价值的代码上，减少重复代码的编写，所以我们开发了 goctl 工具。

下面我通过短链微服务来演示通过 go-zero 快速的创建微服务的流程，走完一遍，你就会发现：原来编写微服务如此简单！

1. 什么是短链服务

短链服务就是将长的 URL 网址，通过程序计算等方式，转换为简短的网址字符串。

写此短链服务是为了从整体上演示 go-zero 构建完整微服务的过程，算法和实现细节尽可能简化了，所以这不是一个高阶的短链服务。

2. 短链微服务架构图

这里只用了 Transform RPC 一个微服务，并不是说 API Gateway 只能调用一个微服务，只是为了最简演示 API Gateway 如何调用 RPC 微服务而已
在真正项目里要尽可能每个微服务使用自己的数据库，数据边界要清晰

3. goctl 各层代码生成一览

所有绿色背景的功能模块是自动生成的，按需激活，红色模块是需要自己写的，也就是增加下依赖，编写业务特有逻辑，各层示意图分别如下：

API Gateway
RPC
model

下面我们来一起完整走一遍快速构建微服务的流程，Let’s Go!🏃‍♂️

4. 准备工作

安装 etcd, mysql, redis

安装 goctl 工具

# go 1.16 及以下版本
GO111MODULE=on GOPROXY=https://goproxy.cn/,direct go get -u github.com/zeromicro/go-zero/tools/goctl@latest
# go1.16 以上版本
GO111MODULE=on GOPROXY=https://goproxy.cn/,direct go install github.com/zeromicro/go-zero/tools/goctl@latest

安装 protoc , protoc-gen-go

goctl env install --verbose --force

以上安装详细教程可以参考

goctl 安装
protoc 安装

创建工作目录 shorturl 和 shorturl/api

mkdir -p shorturl/api

在 shorturl 目录下执行 go mod init shorturl 初始化 go.mod

module shorturl

go 1.20 // 这里的版本取决于你本地 golang 版本，并非完全一致

5. 编写 API Gateway 代码

在 shorturl/api 目录下通过 goctl 生成 api/shorturl.api：
```
goctl api -o shorturl.api
```

编辑 api/shorturl.api，替换内容为如下：

type (
  expandReq {
    shorten string `form:"shorten"`
  }

  expandResp {
    url string `json:"url"`
  }
)

type (
  shortenReq {
    url string `form:"url"`
  }

  shortenResp {
    shorten string `json:"shorten"`
  }
)

service shorturl-api {
  @handler ShortenHandler
  get /shorten(shortenReq) returns(shortenResp)

  @handler ExpandHandler
  get /expand(expandReq) returns(expandResp)
}

type 用法和 go 一致，service 用来定义 get/post/head/delete 等 api 请求，解释如下：

service shorturl-api { 这一行定义了 service 名字
@server 部分用来定义 server 端用到的属性
handler 定义了服务端 handler 名字
get /shorten(shortenReq) returns(shortenResp) 定义了 get 方法的路由、请求参数、返回参数等

在 api 目录下，使用 goctl 生成 API Gateway 代码

goctl api go -api shorturl.api -dir .

生成的文件结构如下：

.
├── api
│   ├── etc
│   │   └── shorturl-api.yaml         // 配置文件
│   ├── internal
│   │   ├── config
│   │   │   └── config.go             // 定义配置
│   │   ├── handler
│   │   │   ├── expandhandler.go      // 实现 expandHandler
│   │   │   ├── routes.go             // 定义路由处理
│   │   │   └── shortenhandler.go     // 实现 shortenHandler
│   │   ├── logic
│   │   │   ├── expandlogic.go        // 实现 ExpandLogic
│   │   │   └── shortenlogic.go       // 实现 ShortenLogic
│   │   ├── svc
│   │   │   └── servicecontext.go     // 定义 ServiceContext
│   │   └── types
│   │       └── types.go              // 定义请求、返回结构体
│   ├── shorturl.api
│   └── shorturl.go                   // main 入口定义
├── go.mod
└── go.sum

执行 go mod tidy 整理依赖
启动 API Gateway 服务，默认侦听在 8888 端口
```
go run shorturl.go -f etc/shorturl-api.yaml
```

测试 API Gateway 服务

curl -i "http://localhost:8888/shorten?url=https://go-zero.dev"

返回如下：

HTTP/1.1 200 OK
Content-Type: application/json; charset=utf-8
Traceparent: 00-a9e12f21fa866a09fadf19a29c8d86cb-9d4be07f5c2c789a-00
Date: Thu, 10 Aug 2023 02:06:20 GMT
Content-Length: 4

null%

可以看到我们 API Gateway 其实啥也没干，就返回了个 null，接下来我们会在 rpc 服务里实现业务逻辑

可以修改 internal/svc/servicecontext.go 来传递服务依赖（如果需要）
实现逻辑可以修改 internal/logic 下的对应文件
可以通过 goctl 生成各种客户端语言的 api 调用代码
到这里，你已经可以通过 goctl 生成客户端代码给客户端同学并行开发了，支持多种语言，详见文档

6. 编写 transform rpc 服务

在 shorturl 目录下创建 rpc/transform 目录
```
mkdir -p rpc/transform
```

在 rpc/transform 目录下编写 transform.proto 文件

可以通过命令生成 proto 文件模板
```
goctl rpc -o transform.proto
```
修改后文件将内容替换如下：

syntax = "proto3";

package transform;

option go_package = "./transform";

message expandReq{
  string shorten = 1;
}

message expandResp{
  string url = 1;
}

message shortenReq{
  string url = 1;
}

message shortenResp{
  string shorten = 1;
}

service  transformer{
  rpc expand(expandReq) returns(expandResp);
  rpc shorten(shortenReq) returns(shortenResp);
}

用 goctl 生成 rpc 代码，在 rpc/transform 目录下执行命令
```
goctl rpc protoc transform.proto --go_out=. --go-grpc_out=. --zrpc_out=.
```
注意：不能在 GOPATH 目录下执行以上命令

文件结构如下：

rpc/transform
├── etc
│   └── transform.yaml              // 配置文件
├── internal
│   ├── config
│   │   └── config.go               // 配置定义
│   ├── logic
│   │   ├── expandlogic.go          // expand 业务逻辑在这里实现
│   │   └── shortenlogic.go         // shorten 业务逻辑在这里实现
│   ├── server
│   │   └── transformerserver.go    // 调用入口, 不需要修改
│   └── svc
│       └── servicecontext.go       // 定义 ServiceContext，传递依赖
├── transform
│   ├── transform.pb.go
│   └── transform_grpc.pb.go
├── transform.go                    // rpc 服务 main 函数
├── transform.proto
└── transformer
    └── transformer.go              // 提供了外部调用方法，无需修改

执行 go mod tidy 整理依赖
启动 etcd server
启动 rpc 服务直接可以运行，如下：
```
$ go run transform.go -f etc/transform.yaml
Starting rpc server at 127.0.0.1:8080...
```
查看服务是否注册，以下值为参考值，主要观察 etcd 有注册到 transform.rpc 的 key 和 8080 端口即可，各自机器的 ip 结果不一样。
```
$ETCDCTL_API=3 etcdctl get transform.rpc --prefix
transform.rpc/7587872530397098244
192.168.3.37:8080
```
etc/transform.yaml 文件里可以修改侦听端口等配置

7. 修改 API Gateway 代码调用 transform rpc 服务

修改配置文件 shorturl-api.yaml，增加如下内容
```
Transform:
  Etcd:
    Hosts:
      - localhost:2379
    Key: transform.rpc
```
通过 etcd 自动去发现可用的 transform 服务

修改 shorturl/api/internal/config/config.go 如下，增加 transform 服务依赖

type Config struct {
  rest.RestConf
  Transform zrpc.RpcClientConf     // 手动代码
}

修改 shorturl/api/internal/svc/servicecontext.go，如下：

type ServiceContext struct {
  Config    config.Config
  Transformer transformer.Transformer                                          // 手动代码
}

func NewServiceContext(c config.Config) *ServiceContext {
  return &ServiceContext{
    Config:    c,
    Transformer: transformer.NewTransformer(zrpc.MustNewClient(c.Transform)),  // 手动代码
  }
}

通过 ServiceContext 在不同业务逻辑之间传递依赖

修改 shorturl/api/internal/logic/expandlogic.go 里的 Expand 方法，如下：

func (l *ExpandLogic) Expand(req types.ExpandReq) (types.ExpandResp, error) {
  // 手动代码开始 
  rpcResp, err := l.svcCtx.Transformer.Expand(l.ctx, &transformer.ExpandReq{
      Shorten: req.Shorten,
  })
  if err != nil {
      return nil, err
  }

  return &types.ExpandResp{
      Url: rpcResp.Url,
  }, nil
    // 手动代码结束
}

通过调用 transformer 的 Expand 方法实现短链恢复到 url

修改 shorturl/api/internal/logic/shortenlogic.go，如下：

func (l *ShortenLogic) Shorten(req types.ShortenReq) (types.ShortenResp, error) {
  // 手动代码开始
  rpcResp, err := l.svcCtx.Transformer.Shorten(l.ctx, &transformer.ShortenReq{
      Url: req.Url,
  })
  if err != nil {
      return nil, err
  }

  return &types.ShortenResp{
      Shorten: rpcResp.Shorten,
  }, nil
  // 手动代码结束
}

有的版本生成返回值可能是指针类型，需要自己调整下

通过调用 transformer 的 Shorten 方法实现 url 到短链的变换

至此，API Gateway 修改完成，虽然贴的代码多，但是其中修改的是很少的一部分，为了方便理解上下文，我贴了完整代码，接下来处理 CRUD+cache

8. 定义数据库表结构，并生成 CRUD+cache 代码

注意：这里需要开发者自行安装一个本地的 mysql-server，并创建一个数据库 gozero，建议用 docker 安装，这里不再赘述

shorturl 下创建 rpc/transform/model 目录：mkdir -p rpc/transform/model

在 rpc/transform/model 目录下编写创建 shorturl 表的 sql 文件 shorturl.sql，如下：

CREATE TABLE `shorturl`
(
  `shorten` varchar(255) NOT NULL COMMENT 'shorten key',
  `url` varchar(255) NOT NULL COMMENT 'original url',
  PRIMARY KEY(`shorten`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

在 mysql-server 的 go-zero 数据库下新增如上表结构

在 rpc/transform/model 目录下执行如下命令生成 CRUD+cache 代码，-c 表示使用 redis cache

goctl model mysql ddl -c -src shorturl.sql -dir .

也可以用 datasource 命令代替 ddl 来指定数据库链接直接从 schema 生成

生成后的文件结构如下：

rpc/transform/model
├── shorturl.sql
├── shorturlmodel.go              // 扩展代码
├── shorturlmodel_gen.go          // CRUD+cache 代码
└── vars.go                       // 定义常量和变量

9. 修改 shorten/expand rpc 代码调用 crud+cache 代码

修改 rpc/transform/etc/transform.yaml，增加如下内容：

DataSource: root:password@tcp(localhost:3306)/gozero # 用户名和密码为你本地 mysql-server 密码，并非完全一致
Table: shorturl
Cache:
  - Host: localhost:6379

可以使用多个 redis 作为 cache，支持 redis 单点或者 redis 集群

修改 rpc/transform/internal/config/config.go，如下：

type Config struct {
  zrpc.RpcServerConf
  DataSource string             // 手动代码
  Table      string             // 手动代码
  Cache      cache.CacheConf    // 手动代码
}

增加了 mysql 和 redis cache 配置

修改 rpc/transform/internal/svc/servicecontext.go，如下：

type ServiceContext struct {
  c     config.Config
  Model model.ShorturlModel   // 手动代码
}

func NewServiceContext(c config.Config) *ServiceContext {
  return &ServiceContext{
    c:             c,
    Model: model.NewShorturlModel(sqlx.NewMysql(c.DataSource), c.Cache), // 手动代码
  }
}

修改 rpc/transform/internal/logic/expandlogic.go，如下：

func (l *ExpandLogic) Expand(in *transform.ExpandReq) (*transform.ExpandResp, error) {
  // 手动代码开始
  res, err := l.svcCtx.Model.FindOne(l.ctx,in.Shorten)
  if err != nil {
    return nil, err
  }

  return &transform.ExpandResp{
    Url: res.Url,
  }, nil
  // 手动代码结束
}

修改 rpc/transform/internal/logic/shortenlogic.go，如下：

func (l *ShortenLogic) Shorten(in *transform.ShortenReq) (*transform.ShortenResp, error) {
  // 手动代码开始，生成短链接
  key := hash.Md5Hex([]byte(in.Url))[:6]
  _, err := l.svcCtx.Model.Insert(l.ctx,&model.Shorturl{
    Shorten: key,
    Url:     in.Url,
  })
  if err != nil {
    return nil, err
  }

  return &transform.ShortenResp{
    Shorten: key,
  }, nil
  // 手动代码结束
}

至此代码修改完成，凡是手动修改的代码我加了标注

注意：

undefined cache，你需要 import "github.com/zeromicro/go-zero/core/stores/cache"
undefined model, sqlx, hash 等，你需要在文件中

import "shorturl/rpc/transform/model"

import "github.com/zeromicro/go-zero/core/stores/sqlx"

10. 完整调用演示

在 shorturl 目录下执行 go mod tidy 整理依赖
重新依次启动 redis-server,etcd-server,mysql-server, rpc 服务

# etcd,redis,mysql 自行根据找教程安装启动
# 启动 rpc 服务
cd rpc/transform
go run transform.go -f etc/transform.yaml

新开终端启动 api 服务

cd api
go run shorturl.go -f etc/shorturl-api.yaml

shorten api 调用

# 新开终端调用
curl -i "http://localhost:8888/shorten?url=https://go-zero.dev"

返回如下：

HTTP/1.1 200 OK
Content-Type: application/json; charset=utf-8
Traceparent: 00-fe81053320bb99d1d924021a110765bd-fa915fae41db454d-00
Date: Thu, 10 Aug 2023 03:32:05 GMT
Content-Length: 20

{"shorten":"b0434f"}%

expand api 调用

# shorten 值为上一步返回的值为准，每个人返回的值不一样
curl -i "http://localhost:8888/expand?shorten=b0434f"

返回如下：

HTTP/1.1 200 OK
Content-Type: application/json; charset=utf-8
Traceparent: 00-0b11aab486c47a35586d6ed08236afb2-b12387d8cc1e3508-00
Date: Thu, 10 Aug 2023 03:32:54 GMT
Content-Length: 29

{"url":"https://go-zero.dev"}%

11. Benchmark

因为写入依赖于 mysql 的写入速度，就相当于压 mysql 了，所以压测只测试了 expand 接口，相当于从 mysql 里读取并利用缓存，shorten.lua 里随机从 db 里获取了 100 个热 key 来生成压测请求

可以看出在我的 MacBook Pro 上能达到 3 万 + 的 qps。

12. 完整代码

https://github.com/zeromicro/zero-examples/tree/main/shorturl

12. 总结

我们一直强调 工具大于约定和文档。

go-zero 不只是一个框架，更是一个建立在框架 + 工具基础上的，简化和规范了整个微服务构建的技术体系。

我们在保持简单的同时也尽可能把微服务治理的复杂度封装到了框架内部，极大的降低了开发人员的心智负担，使得业务开发得以快速推进。

通过 go-zero+goctl 生成的代码，包含了微服务治理的各种组件，包括：并发控制、自适应熔断、自适应降载、自动缓存控制等，可以轻松部署以承载巨大访问量。

有任何好的提升工程效率的想法，随时欢迎交流！👏

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

shorturl.md

shorturl.md

DEPRECATED: PLEASE MOVE TO https://go-zero.dev/cn/extended-reading.html

快速构建高并发微服务

0. 为什么说做好微服务很难

1. 什么是短链服务

2. 短链微服务架构图

3. goctl 各层代码生成一览

4. 准备工作

5. 编写 API Gateway 代码

6. 编写 transform rpc 服务

7. 修改 API Gateway 代码调用 transform rpc 服务

8. 定义数据库表结构，并生成 CRUD+cache 代码

9. 修改 shorten/expand rpc 代码调用 crud+cache 代码

10. 完整调用演示

11. Benchmark

12. 完整代码

12. 总结

Files

shorturl.md

Latest commit

History

shorturl.md

File metadata and controls

DEPRECATED: PLEASE MOVE TO https://go-zero.dev/cn/extended-reading.html

快速构建高并发微服务

0. 为什么说做好微服务很难

1. 什么是短链服务

2. 短链微服务架构图

3. goctl 各层代码生成一览

4. 准备工作

5. 编写 API Gateway 代码

6. 编写 transform rpc 服务

7. 修改 API Gateway 代码调用 transform rpc 服务

8. 定义数据库表结构，并生成 CRUD+cache 代码

9. 修改 shorten/expand rpc 代码调用 crud+cache 代码

10. 完整调用演示

11. Benchmark

12. 完整代码

12. 总结