App下載

Redis 實例對比工具之 Redis-full-check

猿友 2020-09-30 14:49:20 瀏覽數(shù) (3701)
反饋

文章來源于公眾號:Java極客技術(shù) 作者:鴨血粉絲

Hello 大家好,我是鴨血粉絲,前面一篇文章給大家介紹了 SpringBoot 項目是如何從單機切換接入集群的,沒看過的小伙伴可以去看一下 SpringBoot 項目接入 Redis 集群 。這篇文章給大家介紹一個 Redis 工具 redis-full-check,主要是用來校驗遷移數(shù)據(jù)過后的準確性,下面我們來看一下。

安裝

Redis-full-check 是阿里開源的一個工具,GitHub 地址 https://github.com/alibaba/RedisFullCheck,安裝前我們需要找一臺 Linux 機器,并且 GLIBC的版本需要高于 2.14,不然使用的時候會提示 /lib64/libc.so.6: version GLIBC_2.14 not found 。下載我們有兩種方式,第一種是在本地直接下載,然后上傳到服務(wù)器上面;另一個是直接在服務(wù)器上面執(zhí)行wget https://github.com/alibaba/RedisFullCheck/releases/download/release-v1.4.8-20200212/redis-full-check-1.4.8.tar.gz進行下載。下載完成過后解壓tar xzvf redis-full-check-1.4.8.tar.gz。具體的過程我們?nèi)缦逻M行:

  1. 檢查當前服務(wù)器的 GLIBC 版本,執(zhí)行命令strings /lib64/libc.so.6 |grep GLIBC_,如下圖,如果出現(xiàn)高于 2.14 的即可,如果沒有可以考慮換一臺服務(wù)器或者自己更新,但是更新有風(fēng)險請謹慎,具體的更新方法自行百度;

服務(wù)器的 GLIBC 版本

  1. 下載壓縮包,執(zhí)行:wget https://github.com/alibaba/RedisFullCheck/releases/download/release-v1.4.8-20200212/redis-full-check-1.4.8.tar.gz 下載完成后解壓。阿粉這里已經(jīng)下過了, 就不重復(fù)下載了,解壓后進入目錄,輸入./redis-full-check -v 如果能正常看到版本號就說明下載安裝成功了。

下載安裝成功

下載安裝成功

使用

在使用這個工具之前,你需要的是兩臺不同的 Redis 實例,阿粉這邊因為是從單機切換到集群,所以已經(jīng)有了。下面就有單機和集群給大家演示。我們執(zhí)行如下命令:./redis-full-check -s "172.20.xxx.xxx:6379" -p "sourcePassword" --sourcedbfilterlist=0 -t "172.20.xxx.xxx:6379;172.20.yyy.yyy:6379" -a "targetPassword" --targetdbtype=1

單機和集群演示

說明:

  1. -s: 表示源 Redis 實例
  2. p:源 Redis 密碼
  3. --sourcedbfilterlist:匹配指定的 db 庫,單集 Redis 是可以設(shè)置特定 db 庫的,集群環(huán)境不行,根據(jù)自己的情況決定是否采用;
  4. -t:目標 Redis,阿粉這邊是集群所以會有多個節(jié)點,每個節(jié)點用分號隔開,另外注意文檔上說這里必須填寫所有的 master 節(jié)點或者所有的 slave 節(jié)點,不能混合填寫。阿粉這里填的都是 master 節(jié)點是成功,但是全部 slave 好像沒成功,大家可以自己試試。
  5. -a:表示目標 Redis 的密碼
  6. --targetdbtype=1:目標 Redis 環(huán)境的類型,0:db(standalone單節(jié)點、主從),1: cluster(集群版),2: 阿里云

詳細的參數(shù)如下:

 -s, --source=SOURCE               源redis庫地址(ip:port),如果是集群版,那么需要以分號(;)分割不同的db,只需要配置主或者從的其中之一。例如:10.1.1.1:1000;10.2.2.2:2000;10.3.3.3:3000。
  -p, --sourcepassword=Password     源redis庫密碼
      --sourceauthtype=AUTH-TYPE    源庫管理權(quán)限,開源reids下此參數(shù)無用。
      --sourcedbtype=               源庫的類別,0:db(standalone單節(jié)點、主從),1: cluster(集群版),2: 阿里云
      --sourcedbfilterlist=         源庫需要抓取的邏輯db白名單,以分號(;)分割,例如:0;5;15表示db0,db5和db15都會被抓取
  -t, --target=TARGET               目的redis庫地址(ip:port)
  -a, --targetpassword=Password     目的redis庫密碼
      --targetauthtype=AUTH-TYPE    目的庫管理權(quán)限,開源reids下此參數(shù)無用。
      --targetdbtype=               參考sourcedbtype
      --targetdbfilterlist=         參考sourcedbfilterlist
  -d, --db=Sqlite3-DB-FILE          對于差異的key存儲的sqlite3 db的位置,默認result.db
      --comparetimes=COUNT          比較輪數(shù)
  -m, --comparemode=                比較模式,1表示全量比較,2表示只對比value的長度,3只對比key是否存在,4全量比較的情況下,忽略大key的比較
      --id=                         用于打metric
      --jobid=                      用于打metric
      --taskid=                     用于打metric
  -q, --qps=                        qps限速閾值
      --interval=Second             每輪之間的時間間隔
      --batchcount=COUNT            批量聚合的數(shù)量
      --parallel=COUNT              比較的并發(fā)協(xié)程數(shù),默認5
      --log=FILE                    log文件
      --result=FILE                 不一致結(jié)果記錄到result文件中,格式:'db    diff-type    key    field'
      --metric=FILE                 metric文件
      --bigkeythreshold=COUNT       大key拆分的閾值,用于comparemode=4
  -f, --filterlist=FILTER           需要比較的key列表,以分號(;)分割。例如:"abc*|efg|m*"表示對比'abc', 'abc1', 'efg', 'm', 'mxyz',不對比'efgh', 'p'。
  -v, --version

查看結(jié)果

執(zhí)行完上面的命令過后在當前目錄下會生成三個文件,分別是result.db.1,result.db.2,result.db.3。我們可以通過 sqlite3 工具進行查詢,如下所示:

查看結(jié)果

通過sqlite3 result.db.3 命令進入終端,然后從 key 表中查詢我們需要的數(shù)據(jù)。sqlite3 工具是一個類似 MySQL 的數(shù)據(jù)庫,大家可以自己研究下如何使用,后面有機會阿粉再跟大家分享。

從上面的圖中可以發(fā)現(xiàn),這個結(jié)果看起來很難受,阿粉再教大家?guī)渍?,讓看起來爽一點!進入終端后我們依次輸入下面圖中命令

優(yōu)化結(jié)果圖

  1. .header on 打開表頭,id 只是序號,key 表示源 Redis 中的 key,type 表示類型,db 表示 key 所在的源 Redis 的 db 庫,source_len,和 target_len 分別表示在源 Redis 和目標 Redis 的中 value 的長度。我們可以通過長度來快速查看不同的數(shù)據(jù)。
  2. .mode column 設(shè)置輸出模式
  3. .widht int int... 設(shè)置每列顯示的長度,更美觀
  4. .quit 退出終端

通過這個輸出結(jié)果我們可以明顯的看出哪些數(shù)據(jù)是不一致的,從而對比兩個 Redis 實例的數(shù)據(jù),需要注意的是 Redis-full-check 對比的是源實例是否是目標實例的子集

總結(jié)

今天阿粉給大家介紹了一個 Redis 實例數(shù)據(jù)對比的工具,能真正在生產(chǎn)上使用的一個阿里開源的很優(yōu)秀的工具,希望對大家有幫助!具體的更多使用細節(jié),大家可以自己研究研究,一個好的工具值得好好深入研究。

以上就是W3Cschool編程獅關(guān)于Redis 實例對比工具之 Redis-full-check的相關(guān)介紹了,希望對大家有所幫助。

0 人點贊