站長資訊網
        最全最豐富的資訊網站

        深入了解node?中怎么使用redis集群功能【配置詳解】

        node中怎么使用redis集群功能?下面本篇文章給大家詳解一下基于node的redis集群配置,希望對大家有所幫助!

        深入了解node?中怎么使用redis集群功能【配置詳解】

        關于nodejs中使用redis集群功能,沒有找到一篇比較完整且通俗易懂的文章,因此自己在開發調試的過程中也走了不少彎路。

        本文會詳細介紹了在本地如何搭建redis集群、在客戶端如何使用集群、在搭建過程中遇到的問題和錯誤匯總并說明,以避免下次使用的時候再走彎路,提高開發、工作效率。

        使用集群的背景是:在Redis單例模式下隨著用戶量、訪問量的提高,qps值急劇上漲??,大量的io操作導致某一時刻占滿cpu(100%),隨時有宕機的危險,同時通過批量處理redis等方式也是治標不治本,無法突破服務器性能的瓶頸。因此使用集群方案或增加redis實例就勢在必行。

        名詞解釋–集群

        集群一般是指服務器集群,區別于分布式系統,是將很多服務器集中起來一起進行同一種服務,在客戶端看來就像是只有一個服務器。集群可以利用多個計算機進行并行計算從而獲得很高的計算速度,也可以用多個計算機做備份,從而使得任何一個機器壞了整個系統還是能正常運行。(在redis3.0之前一般使用的都是 哨兵模式,但 哨兵的配置略微復雜,并且性能和高可用性等各方面表現一般)

        redis集群要求

        由于投票容錯機制要求超過半數節點認為某個節點掛了該節點才是掛了,所以2個節點無法構成集群,因此Redis集群至少需要3個節點。

        要保證集群的高可用、需要每個節點都有從節點(也就是備份節點),所以Redis集群至少需要6臺服務器。 (三主三從、三存三取、高可用、可備份)

        當然,我們在本地調試時不可能用這么多服務器,因此我們可以在本地模擬運行6個redis實例,事實上生產環境的Redis集群搭建和這里基本上一樣。

        mac 環境下搭建本地redis集群

        1. 下載安裝redis

        可以在官網選擇安裝,也可以用命名行安裝

        #安裝 brew install redis #啟動 redis-server #進入redis客戶端 redis-cli

        2. 通過redis配置集群環境

        首先要找到redis配置文件的位置

        • brew list redis # 查看redis安裝的位置
        • cd /opt/homebrew/Cellar/redis/6.2.4 # 根據位置進入版本號所在的文件夾
        • open . # 打開文件夾
        • Xcode.app打開homebrew.mxcl.redis.plist, 即可找到redis.conf所在的位置,如下所示:

        深入了解node?中怎么使用redis集群功能【配置詳解】

        深入了解node?中怎么使用redis集群功能【配置詳解】

        創建六個服務配置文件

        cd /opt/homebrew/etc/(上一步找到的配置文件目錄)

        # 需要在 /opt/homebrew/etc/ 路徑下 mkdir -p redis/cluster/7000 mkdir -p redis/cluster/7001 mkdir -p redis/cluster/7002 mkdir -p redis/cluster/7003 mkdir -p redis/cluster/7004 mkdir -p redis/cluster/7005

        修改配置文件

        /opt/homebrew/etc/redis.conf路徑下的配置文件不用去修改, 只要將其copy到上面創建的 redis/cluster/7000目錄下,然后再修改,步驟如下

        • 先復制一份配置文件修改
        cd /opt/homebrew/etc/ # 進入配置文件目錄 cp redis.conf redis/cluster/7000/7000.conf code redis/cluster/7000/7000.conf # 用編輯器打開或者用vim打開配置文件來進行修改
        • 進入到7000.conf后,修改以下屬性
        # Redis端口號(7000-7005每個配置文件都要修改) port 7000    # 開啟集群模式運行 cluster-enabled yes     # 集群內部配置文件配置文件路徑,默認nodes-6379.conf(7000-7005每個配置文件都要修改) cluster-config-file nodes-7000.conf   # 節點間通信的超時時間 cluster-node-timeout 5000    # 數據持久化 appendonly yes
        • 將7000.conf復制到每個redis服務的目錄下
        cd /opt/homebrew/etc/redis/cluster # 進入配置文件目錄  cp 7000/7000.conf 7001/7001.conf cp 7000/7000.conf 7002/7002.conf cp 7000/7000.conf 7003/7003.conf cp 7000/7000.conf 7004/7004.conf cp 7000/7000.conf 7005/7005.conf
        • 再修改7001.conf-7005.conf每個配置文件的port和cluster-config-file屬性

        注意:每個配置文件必需配置不一樣的port和cluster-config-file值(否則集群不會生效),上面是以端口區分。

        通過find /opt/homebrew -name nodes-7000.conf命令可查找到該配置文件的目錄


        3. 啟動和停止集群服務

        由于我們配置了6個服務,因此不可能一個一個的啟動或停止,需要借助shell腳本來實現

        進入/opt/homebrew/etc/redis/cluster目錄,創建start.sh和stop.sh文件

        # start.sh 文件 #!/bin/sh redis-server /opt/homebrew/etc/redis/cluster/7000/7000.conf & redis-server /opt/homebrew/etc/redis/cluster/7001/7001.conf & redis-server /opt/homebrew/etc/redis/cluster/7002/7002.conf & redis-server /opt/homebrew/etc/redis/cluster/7003/7003.conf & redis-server /opt/homebrew/etc/redis/cluster/7004/7004.conf & redis-server /opt/homebrew/etc/redis/cluster/7005/7005.conf &  # stop.sh 文件 #!/bin/sh redis-cli -p 7000 shutdown & redis-cli -p 7001 shutdown & redis-cli -p 7002 shutdown & redis-cli -p 7003 shutdown & redis-cli -p 7004 shutdown & redis-cli -p 7005 shutdown &

        執行./start.sh或者./stop.sh來啟停服務

        執行ps -ef |grep redis來查看已啟動的redis服務

        注意: 第一次執行./start.sh需要通過sudo chmod +x start.sh授權執行權限

        4. 相關命令

        redis-cli -p 7000 # 單個客戶端啟動 redis-server 7000/7000.conf  # 啟動單個服務端 redis-cli -p 7000 shutdown # 關閉服務端 sudo chmod +x start.sh # 開啟腳本執行權限  # 設置redis主從關系(三主三從) redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005  cluster nodes #查看集群節點情況(進入某個客戶端執行) cluster info #查看集群信息(進入某個客戶端執行)  查看所有key值:keys *  刪除指定索引的值:del key  清空整個 Redis 服務器的數據:flushall   清空當前庫中的所有 key:flushdb

        客戶端使用 ioredis 框架接入集群

        Redis.Cluster提供了在多個Redis節點上自動分片的功能,使用前面搭建好的六個redis服務器,然后在本地啟動node redis.js,就可以測試集群的效果了。ioredis

        // redis.js const Redis = require("ioredis");  const cluster = new Redis.Cluster([   {     port: 7000,     host: "127.0.0.1",   },   {     port: 7001,     host: "127.0.0.1",   }, ]);  cluster.set("foo", "bar"); cluster.get("foo", (err, res) => {   // res === 'bar' });

        使用bull框架(redis 隊列)

        import Queue from 'bull' // 創建redis隊列實例 const instance = new Queue('custom', {   prefix : '{myprefix}',   createClient(type) {     // cluster 集群實例同上     return cluster   } })  // 添加數據到redis隊列(生產者) instance.add(   'request',    {      ...params   },   {     removeOnComplete: false   } ).catch(e => {   console.error(e) })  // 消費者回調 instance.process('request', 5, async (job, done) => {   console.log('獲取當前消費的數據:', job.data)   // 執行異步操作   await new Promise((resolve)=>resolve())   done() })

        使用bull框架連接ioredis集群時存在問題: 每次有數據pushredis隊列時對應的回調函數可能會觸發多次,目前無法確定是使用的問題還是框架本身的問題(如果有了解的歡迎大家留言告知)。

        替代集群的方案:在不需要數據同步和數據遷移的情況下,可以在客戶端使用多個redis實例,結合Math.random()使數據平分到其中的一個redis,從而解決了單個實例硬件(cpu等)瓶頸的問題。

        問題處理

        1、Mac系統下連接redis報錯?

        控制臺錯誤提示:Could not connect to Redis at 127.0.0.1:6379: Connection refused

        原因:服務端沒有開啟或啟動失敗

        解決辦法:需要先啟動redis服務端redis-server

        參考鏈接

        https://blog.csdn.net/qq_23347459/article/details/104257529

        2、客戶端啟動、讀寫報錯?

        錯誤提示:ClusterAllFailedError: Failed to refresh slots cache.

        原因:每個服務下的配置文件中的cluster-config-file屬性一致。

        處理:修改成唯一的屬性值

        • 參考鏈接1

          https://stackoverflow.com/questions/57350961/ioredis-clusterallfailederror-failed-to-refresh-slots-cache

        • 參考2

          https://github.com/luin/ioredis/issues/711

        3、執行創建主從redis語句失敗?

        執行語句:redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

        提示錯誤:[ERR] Node 127.0.0.1:7000 is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

        原因:執行創建語句時,沒有清空數據和重置集群

        處理:清空數據和重置集群, 清除rdb和aof文件

        參考清除redis數據

        https://stackoverflow.com/questions/37206993/redis-server-cluster-not-working

        # 以7000端口的服務為例,7001-7005重復以下操作 $redis-cli -p 7000 127.0.0.1:7000> flushall 127.0.0.1:7000> cluster reset 127.0.0.1:7000> exit  # 使用find找到rdb和aof文件(也在rdb目錄下) find /opt/homebrew -name dump.rdb  # 重新執行創建語句成功 redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

        結語

        redis集群在客戶端的使用是非常簡單的,相比之下服務端的配置會比較繁瑣。

        客戶端的具體使用只做了一下簡單的說明,使用過程中要注意redis數據的同步和遷移等問題。

        使用集群雖然能提升服務能力、支持主從復制、哨兵模式、讀寫分離、平分服務器的壓力等特點。但不具備自動容錯和恢復功能,如果出現宕機會使部分讀寫請求失敗,降低了系統的可用性。在使用時根據業務情況分析、選擇不同的方案。

        本文轉載自:https://juejin.cn/post/7079928963107127327

        作者:tager

        贊(0)
        分享到: 更多 (0)
        網站地圖   滬ICP備18035694號-2    滬公網安備31011702889846號
        主站蜘蛛池模板: 国产精品成人观看视频| 日韩蜜芽精品视频在线观看| 久久亚洲国产精品123区| 99热成人精品热久久669| 亚洲AV永久精品爱情岛论坛| 国产在线观看一区精品 | 91精品国产福利在线观看麻豆 | 精品99又大又爽又硬少妇毛片| 91精品国产综合久久久久久| 欧洲精品色在线观看| 亚洲精品国产V片在线观看| 国产精品V亚洲精品V日韩精品| 国产欧美国产精品第一区| 精品9E精品视频在线观看 | 影院无码人妻精品一区二区| 欧美精品福利视频一区二区三区久久久精品| 成人国产精品日本在线观看| 国产精品岛国久久久久| 国产精品ⅴ无码大片在线看| 久久婷婷国产综合精品| 亚洲国产精品久久久天堂| 最新国产精品拍自在线观看| 免费视频精品一区二区| 久久免费国产精品| 精品国产不卡一区二区三区| 国内精品免费久久影院| 国产在线精品国自产拍影院| 国产精品亚洲精品日韩已方| 亚洲日韩精品欧美一区二区| 欧美精品亚洲精品日韩专区va| 91麻豆精品国产自产在线观看亚洲| 精品无码AV一区二区三区不卡| 午夜精品久久久久久毛片| 亚洲精品国产av成拍色拍| 亚洲国产精品一区二区久久hs| 无码人妻精品中文字幕免费| 亚洲AV永久纯肉无码精品动漫| 久久精品人人做人人爽97| 久久精品国产亚洲av麻豆色欲 | 国产精品午夜福利在线无码| 国产精品欧美亚洲韩国日本久久|