The miaosha from jormin

概览

本项目是基于 lumen5.6 + swoole(4.5.3) + redis + mysql(5.7.13) 开发的秒杀系统，仅包含秒杀抢购接口和生成订单数据部分

架构图

使用

启动服务

为了配合压测，配置中限定了 web 服务使用 4个物理核心 + 8G内存，所以启动的时候需要增加 --compatibility 选项

Building web
Step 1/3 : FROM ccr.ccs.tencentyun.com/jormin/php-swoole:0.0.1
 ---> 6c409524d0f8
Step 2/3 : COPY src /var/www/html/
 ---> 707e77f3757a
Step 3/3 : RUN cd /var/www/html && composer install && chmod -R 777 storage
 ---> Running in 24a7ffa9911b
Loading composer repositories with package information
Installing dependencies (including require-dev) from lock file

.......

Use the `composer fund` command to find out more!
Removing intermediate container 24a7ffa9911b
 ---> b29ad162632c

Successfully built b29ad162632c
Successfully tagged miaosha_web:latest
WARNING: Image for service web was built because it did not already exist. To rebuild this image you must use `docker-compose build` or `docker-compose up --build`.
Creating miaosha-mysql ... done
Creating miaosha-web   ... done
Creating miaosha-redis ... done

监听 docker 容器状态

可以看到 web 容器已经被限制使用 8G 内存，实际压测中，内存也并不是瓶颈，并且 cpu 也没有拉满，最多只达到了 500% 左右

➜  miaosha git:(master) ✗ docker stats
CONTAINER ID        NAME                CPU %               MEM USAGE / LIMIT     MEM %               NET I/O             BLOCK I/O           PIDS
abc73f28641a        miaosha-web         0.02%               6.84MiB / 8GiB        0.08%               1.07kB / 0B         0B / 0B             3
9c55b523df8a        miaosha-mysql       0.22%               170MiB / 9.736GiB     1.70%               1.07kB / 0B         0B / 0B             27
36f2eec86124        miaosha-redis       0.65%               2.852MiB / 9.736GiB   0.03%               1.07kB / 0B         0B / 0B             5

开启一个新的窗口进入 web 容器进行数据初始化及开启生成订单队列

➜  ~ docker exec -it miaosha-web /bin/sh
# 生成测试数据
/var/www/html # php artisan mock
清理旧数据
生成数据表
Migration table created successfully.
Migrating: 2020_09_03_153808_create_table_activity
Migrated:  2020_09_03_153808_create_table_activity
Migrating: 2020_09_04_012939_create_table_order
Migrated:  2020_09_04_012939_create_table_order
Migrating: 2020_09_04_013641_create_table_product
Migrated:  2020_09_04_013641_create_table_product
Migrating: 2020_09_04_061404_create_jobs_table
Migrated:  2020_09_04_061404_create_jobs_table
Migrating: 2020_09_04_061831_create_failed_jobs_table
Migrated:  2020_09_04_061831_create_failed_jobs_table
添加模拟数据
Seeding: SeederProduct
Seeding: SeederActivity
清理缓存数据
写入秒杀活动缓存
模拟测试准备完成

# 开启生成订单队列
/var/www/html # php artisan queue:work --queue=generate-order

开启一个新的窗口进入web容器进行开启服务

➜  ~ docker exec -it miaosha-web /bin/sh
/var/www/html # php artisan swoole:http start
Starting swoole http server...
Swoole http server started: <http://0.0.0.0:8080>

开启一个新的窗口进入web容器，查看当前活动数据

压测前活动数据：缓存数据中活动总量为1000，库存为1000，总用户量和成功用户量都为0，数据库信息中商品销量为0，库存1000，活动总量和库存都为1000，订单总数为0，数据正常

/var/www/html # php artisan activity-info 1
************************************* 缓存信息 *************************************
秒杀活动缓存：
+------------+------------+------------+--------+------+------------+-------+------------+----+
| created_at | start_time | product_id | amount | rate | end_time   | stock | deleted_at | id |
+------------+------------+------------+--------+------+------------+-------+------------+----+
| 1599397545 | 1599397545 | 1          | 1000   | 10   | 1599483945 | 1000  | 0          | 1  |
+------------+------------+------------+--------+------+------------+-------+------------+----+
总请求量：
总用户量：0
成功用户量：0

************************************* 数据库信息 *************************************
商品信息：
+----+-------+------+-------+------------+------------+------------+
| id | price | sale | stock | created_at | updated_at | deleted_at |
+----+-------+------+-------+------------+------------+------------+
| 1  | 9900  | 0    | 1000  | 1599397545 | 1599397545 | 0          |
+----+-------+------+-------+------------+------------+------------+
活动信息：
+----+------------+------------+------------+--------+-------+------+------------+
| id | product_id | start_time | end_time   | amount | stock | rate | created_at |
+----+------------+------------+------------+--------+-------+------+------------+
| 1  | 1          | 1599397545 | 1599483945 | 1000   | 1000  | 10   | 1599397545 |
+----+------------+------------+------------+--------+-------+------+------------+
订单总数信息：0

压测后活动数据：缓存数据中活动总量为1000，库存为0，总请求量为10000，成功用户量为1000，数据库信息中商品销量为1000，库存0，活动总量1000，库存为0，订单总数为1000，数据正常

/var/www/html # php artisan activity-info 1
************************************* 缓存信息 *************************************
秒杀活动缓存：
+------------+------------+------------+--------+------+------------+-------+------------+----+
| created_at | start_time | product_id | amount | rate | end_time   | stock | deleted_at | id |
+------------+------------+------------+--------+------+------------+-------+------------+----+
| 1599397545 | 1599397545 | 1          | 1000   | 10   | 1599483945 | 0     | 0          | 1  |
+------------+------------+------------+--------+------+------------+-------+------------+----+
总请求量：10000
总用户量：9953
成功用户量：1000

************************************* 数据库信息 *************************************
商品信息：
+----+-------+------+-------+------------+------------+------------+
| id | price | sale | stock | created_at | updated_at | deleted_at |
+----+-------+------+-------+------------+------------+------------+
| 1  | 9900  | 1000 | 0     | 1599397545 | 1599397641 | 0          |
+----+-------+------+-------+------------+------------+------------+
活动信息：
+----+------------+------------+------------+--------+-------+------+------------+
| id | product_id | start_time | end_time   | amount | stock | rate | created_at |
+----+------------+------------+------------+--------+-------+------+------------+
| 1  | 1          | 1599397545 | 1599483945 | 1000   | 0     | 10   | 1599397545 |
+----+------------+------------+------------+--------+-------+------+------------+
订单总数信息：1000

开启一个新的窗口进行压测，本次压测采用的是 ab，100个并发量完成一万个请求

➜  ~ ab -c100 -n10000 -k http://127.0.0.1:8080/api/buy\?activityId\=1
This is ApacheBench, Version 2.3 <$Revision: 1843412 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking 127.0.0.1 (be patient)
Completed 1000 requests
Completed 2000 requests
Completed 3000 requests
Completed 4000 requests
Completed 5000 requests
Completed 6000 requests
Completed 7000 requests
Completed 8000 requests
Completed 9000 requests
Completed 10000 requests
Finished 10000 requests


Server Software:        swoole-http-server
Server Hostname:        127.0.0.1
Server Port:            8080

Document Path:          /api/buy?activityId=1
Document Length:        6 bytes

Concurrency Level:      100
Time taken for tests:   9.476 seconds
Complete requests:      10000
Failed requests:        0
Keep-Alive requests:    10000
Total transferred:      1920000 bytes
HTML transferred:       60000 bytes
Requests per second:    1055.34 [#/sec] (mean)
Time per request:       94.756 [ms] (mean)
Time per request:       0.948 [ms] (mean, across all concurrent requests)
Transfer rate:          197.88 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.3      0       4
Processing:    33   94  19.6     90     215
Waiting:       29   94  19.6     90     215
Total:         33   94  19.6     90     215

Percentage of the requests served within a certain time (ms)
  50%     90
  66%     97
  75%    102
  80%    106
  90%    119
  95%    131
  98%    146
  99%    157
 100%    215 (longest request)

测试完毕后销毁容器和构建的 web 镜像

➜  miaosha git:(master) ✗ bash destroy.sh
停止容器
miaosha-web
miaosha-redis
miaosha-mysql
删除容器
miaosha-web
miaosha-redis
miaosha-mysql
删除web镜像
Untagged: miaosha_web:latest
Deleted: sha256:049343ac365c2e10cf39b274ea0e4da90894dfc0cf94d8cad0844e3b746678fc
Deleted: sha256:7393c4f4eac8ae7249cb35f5163aaa9a0d4e75edc8d913cd8a5813b8942ddc42
Deleted: sha256:31ce7d77af52b15888e3dbb5046236eec9b23b455ca1e706868d6d2cf74f1dc6
Deleted: sha256:48e7e4bbb2047d8813246959f2d402d3b30d81752adfe68d8687352fac026da2
删除mysql和redis数据

从压测结果看出，100个并发量，一万个请求，全部成功，QPS 达到了 1055，请求平均响应时间为 94.756 ms

下图为压测过程中 http 服务的请求记录及生成订单队列的截图：

说明

本项目使用 docker 来运行，主要包含三个服务：web、redis、mysql，compose 目录即为对应的数据及日志，src 目录为 web 部分源码，目录结构如下：

.
├── Dockerfile                                // 采用 swoole 的 web 服务
├── Dockerfile.bak                            // 采用 fpm 的 web 服务
├── compose                                   // docker compose 映射目录
│   ├── mysql                           // mysql 服务数据
│   ├── redis                           // redis 服务数据
│   └── web                             // web 服务日志
├── destroy.sh                                // 清理容器及 web 镜像脚本
├── docker-compose.yml                        // docker compose 脚本
├── miaosha.nginx.conf                        // fpm 版 nginx 配置文件
├── miaosha.supervisor.ini                    // 生成订单队列的 supervisor 配置文件
├── readme.md                                 // Readme
├── src                                       // web 源码
└── start.sh                                  // fpm 版 开始脚本

web服务

web 服务采用 lumen5.6 + swoole(4.5.3) 开发，用 8080 端口对外提供服务

点击查看DB结构

点击查看Redis结构

1. 秒杀接口：/api/buy?activityId={活动ID}

秒杀接口是秒杀活动中的重中之重，一方面既要保证数据的完整性，不能超卖，也要保证接口的响应时间，本项目中依赖 redis 进行逻辑处理，仅处理生成订单前的部分逻辑，避免 mysql 成为项目的瓶颈.

在活动规则部分，各个秒杀活动都不一样，有先到先得类型，也有随缘类型，另外，针对每个用户也有单次或者多次的限制，本接口预留了随缘逻辑，默认每个用户只能调用一次，如果活动规则不一样，针对本接口进行调整即可。

秒杀接口为保证性能可以有很多中做法，如果预计参与人数与配置库存悬殊巨大的话，甚至可以在前端做随缘处理进行削峰，也可以针对IP、请求来源、单IP请求次数进行限制等，这个也涉及到了风险管控。

秒杀完整流程图如下：

2. 生成订单Job

秒杀接口处理的是生成订单前的部分逻辑，本 Job 处理的便是生成订单及之后的逻辑部分，并指定队列进行处理以及设定尝试次数，如果多次尝试依然失败，本 Job 会记录失败信息，并在最后一次失败时进行特殊处理，包括不限于记录日志、发送短信、发送语音电话、发送微信消息、发送IM报警等

流程图

3. 核心命令

初始化数据：php artisan mock
启动服务：php artisan swoole:http start
启动队列，该部分也可以配合 supervisor 或者 swoole 进程使用：php artisan queue:work --queue=generate-order
查看活动信息：php artisan activity-info {活动ID，默认1}

mysql服务

mysql 服务采用的版本为 5.7.13，本项目中，mysql重点用于生成订单 Job 环节

数据结构：

商品表

+------------+------------------+------+-----+---------+----------------+
| Field      | Type             | Null | Key | Default | Extra          |
+------------+------------------+------+-----+---------+----------------+
| id         | int(10) unsigned | NO   | PRI | NULL    | auto_increment |
| price      | int(10) unsigned | NO   |     | 0       |                |
| name       | varchar(255)     | NO   |     |         |                |
| cover      | varchar(255)     | NO   |     |         |                |
| pics       | varchar(1000)    | NO   |     |         |                |
| sale       | int(11)          | NO   |     | 0       |                |
| stock      | int(11)          | NO   |     | 0       |                |
| created_at | int(10) unsigned | NO   |     | 0       |                |
| updated_at | int(10) unsigned | NO   |     | 0       |                |
| deleted_at | int(10) unsigned | NO   |     | 0       |                |
+------------+------------------+------+-----+---------+----------------+

活动表

模拟测试的时候，秒杀活动设置的成功比例为10%，库存为1000，即预测最小 10000 的不重复请求

+--------------+---------------------+------+-----+---------+----------------+
| Field        | Type                | Null | Key | Default | Extra          |
+--------------+---------------------+------+-----+---------+----------------+
| id           | int(10) unsigned    | NO   | PRI | NULL    | auto_increment |
| product_id   | int(10) unsigned    | NO   | MUL | 0       |                |
| name         | varchar(255)        | NO   |     |         |                |
| price        | int(10) unsigned    | NO   |     | 0       |                |
| origin_price | int(10) unsigned    | NO   |     | 0       |                |
| start_time   | int(10) unsigned    | NO   |     | 0       |                |
| end_time     | int(10) unsigned    | NO   |     | 0       |                |
| amount       | int(10) unsigned    | NO   |     | 0       |                |
| stock        | int(10) unsigned    | NO   |     | 0       |                |
| rate         | tinyint(3) unsigned | NO   |     | 0       |                |
| created_at   | int(10) unsigned    | NO   |     | 0       |                |
| updated_at   | int(10) unsigned    | NO   |     | 0       |                |
| deleted_at   | int(10) unsigned    | NO   |     | 0       |                |
+--------------+---------------------+------+-----+---------+----------------+

订单表

+-------------+------------------+------+-----+---------+-------+
| Field       | Type             | Null | Key | Default | Extra |
+-------------+------------------+------+-----+---------+-------+
| id          | varchar(32)      | NO   | PRI | NULL    |       |
| activity_id | int(10) unsigned | NO   | MUL | 0       |       |
| user_id     | int(10) unsigned | NO   | MUL | 0       |       |
| product_id  | int(10) unsigned | NO   | MUL | 0       |       |
| amount      | int(10) unsigned | NO   |     | 0       |       |
| price       | int(10) unsigned | NO   |     | 0       |       |
| money       | int(10) unsigned | NO   |     | 0       |       |
| status      | tinyint(4)       | NO   |     | 0       |       |
| created_at  | int(10) unsigned | NO   |     | 0       |       |
| updated_at  | int(10) unsigned | NO   |     | 0       |       |
| deleted_at  | int(10) unsigned | NO   |     | 0       |       |
+-------------+------------------+------+-----+---------+-------+

redis服务

redis 采用最新版本镜像，本项目中，redis 重点用于秒杀接口中，也是各个提高秒杀接口性能、保障数据统一的关键部分

秒杀接口环节重点用了四个缓存，分别是：

key	数据类型	说明
request_num	string	记录接口请求量，每次请求时进行 incr 操作
activity_info_{活动ID}	hash	活动详情缓存信息
activity_stock_{活动ID}	list	活动库存列表
activity_all_user_ids_{活动ID}	set	所有参与活动的用户ID，也可以使用zset，记录用户参与时间
activity_success_user_ids_{活动ID}	set	所有秒杀成功的用户ID，也可以使用zset，记录用户成功时间

jormin / miaosha Goto Github PK

miaosha's Introduction

概览

使用

说明

web服务

1. 秒杀接口：/api/buy?activityId={活动ID}

2. 生成订单Job

3. 核心命令

mysql服务

redis服务

miaosha's People

Contributors

Watchers

Recommend Projects

React

Vue.js

Typescript

TensorFlow

Django

Laravel

D3

Recommend Topics

javascript

web

server

Machine learning

Visualization

Game

Recommend Org

Facebook

Microsoft

Google

Alibaba

D3

Tencent