欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Redis腦裂深度解析:從主從復(fù)制到數(shù)據(jù)一致性防護

Redis腦裂深度解析:從主從復(fù)制到數(shù)據(jù)一致性防護 1. 這篇文章真正要解決的問題如果你負責過 Redis 生產(chǎn)環(huán)境或者用 Redis 搭過主從加哨兵的架構(gòu)大概率碰到過一個非常詭異的現(xiàn)象主節(jié)點明明還在運行日志里也沒有出現(xiàn)崩潰但業(yè)務(wù)卻突然寫入失敗或者部分數(shù)據(jù)悄悄丟了。等你去查監(jiān)控發(fā)現(xiàn)“不分青紅皂白”地出現(xiàn)了一個新的主節(jié)點而原來的老主節(jié)點變成了一臺孤立的“光桿司令”。更讓人懵的是當網(wǎng)絡(luò)恢復(fù)后老主節(jié)點仿佛被“降級”了一樣之前那幾分鐘寫入的數(shù)據(jù)全部沒了。你翻遍業(yè)務(wù)日志沒有發(fā)現(xiàn)任何顯式的報錯數(shù)據(jù)就是沒了。這就是 Redis 腦裂Split Brain的典型表現(xiàn)。很多人第一次聽到“Redis 腦裂”第一反應(yīng)是是不是 Redis 有 Bug是不是哨兵Sentinel不靠譜是不是主從復(fù)制出了問題這里先給一個明確判斷Redis 腦裂不是 Redis 本身的 Bug也不是哨兵的隨機抽風而是分布式系統(tǒng)中“網(wǎng)絡(luò)分區(qū) (Network Partition) 主備切換機制”共同作用下的必然結(jié)果。換句話說只要你用了 Redis 主從 哨兵模式又沒有對寫入方做任何保護腦裂就隨時可能發(fā)生。這不是概率問題而是時間問題。這篇文章我想把 Redis 腦裂這件事徹底講透。我會從主從架構(gòu)和哨兵的原理講起帶你看清楚腦裂發(fā)生的完整鏈路然后給你可以直接照做的排查命令、防腦裂配置和最佳實踐。如果你正在用 Redis 做緩存、做分布式鎖或者準備在生產(chǎn)環(huán)境搭建 Redis 高可用集群這篇文章建議先收藏。腦裂等出問題時再學代價往往已經(jīng)不太小了。2. 什么是腦裂從現(xiàn)實場景理解分布式系統(tǒng)的“人格分裂”腦裂這個術(shù)語最早來自醫(yī)學指的是連接左右腦半球的胼胝體受損后左右腦各自為政人體出現(xiàn)“兩個意識”的狀態(tài)。在分布式系統(tǒng)里腦裂的含義類似一個集群中因為網(wǎng)絡(luò)分區(qū)、節(jié)點假死等原因原本只有一個 Leader主節(jié)點的系統(tǒng)里同時出現(xiàn)了兩個或多個節(jié)點認為自己是 Leader繼續(xù)對外提供服務(wù)。對 Redis 來說腦裂的直接表現(xiàn)就是同一份數(shù)據(jù)同時有兩個主節(jié)點在寫。這里要區(qū)分一個概念Redis 腦裂并不是 Redis 主從復(fù)制本身壞了而是“容錯切換決策”和“實際存活狀態(tài)”之間出現(xiàn)了不一致。2.1 為什么會出現(xiàn)兩個主節(jié)點Redis 主從模式下正常情況下只有一個 master所有寫操作都走 master從節(jié)點slave/replica只同步數(shù)據(jù)不對外提供寫服務(wù)。當 master 出現(xiàn)故障時哨兵會發(fā)起故障轉(zhuǎn)移failover從從節(jié)點里選出一個新的 master。這個過程本身沒有錯。但問題是哨兵是怎么判斷 master 故障的答案是“主觀下線”和“客觀下線”。這部分后面細講簡單說就是如果 master 和哨兵之間的網(wǎng)絡(luò)斷了但 master 本身還在運行比如還在接收客戶端的寫請求那么哨兵會主觀認為 master 掛了然后發(fā)起故障轉(zhuǎn)移選出一個新 master。于是老 master 還在接受寫入。新 master 也在接受寫入。兩邊同時寫數(shù)據(jù)分叉。這就是腦裂。2.2 Redis 腦裂的本質(zhì)是 CAP 的取舍要真正理解腦裂不能只看 Redis 配置還要理解 CAP 理論。CAP 理論說的是一個分布式系統(tǒng)在網(wǎng)絡(luò)分區(qū)發(fā)生時P你只能在一致性C和可用性A之間二選一。Redis 做主從切換追求的是高可用A當主節(jié)點失聯(lián)時盡快選出新主讓業(yè)務(wù)不中斷。但代價是什么是可能犧牲一致性C在極端情況下舊主節(jié)點并沒有真正宕機它只是和哨兵網(wǎng)絡(luò)斷了用戶寫入的數(shù)據(jù)沒有同步到新主。所以更準確的說法是Redis 腦裂不是故障而是 Redis 在“網(wǎng)絡(luò)分區(qū)高可用切換”場景下默認選擇了“可用性優(yōu)先”的必然結(jié)果。理解這一點很重要因為它決定了你不能用“加幾個哨兵”來解決腦裂而要從架構(gòu)設(shè)計層面去約束“舊主”的行為。3. Redis 主從架構(gòu)與哨兵腦裂出現(xiàn)前的基礎(chǔ)設(shè)施在深入腦裂機制之前必須先梳理 Redis 主從和哨兵的工作流程。很多人對腦裂的理解模糊其實是基礎(chǔ)概念不牢固。3.1 主從復(fù)制Master-Slave ReplicationRedis 主從復(fù)制的作用簡單說就是把一臺 Redis 節(jié)點的數(shù)據(jù)實時同步到其他節(jié)點。主節(jié)點master處理寫請求把寫操作記錄到自己的內(nèi)存并異步發(fā)送給從節(jié)點。從節(jié)點replica只處理讀請求接收主節(jié)點的同步數(shù)據(jù)保證和主節(jié)點最終一致。主從復(fù)制的核心步驟是從節(jié)點向主節(jié)點發(fā)送PSYNC命令請求同步。主節(jié)點執(zhí)行BGSAVE生成 RDB 快照同時把新寫入的命令記錄到復(fù)制緩沖區(qū)。主節(jié)點把 RDB 文件發(fā)送給從節(jié)點。從節(jié)點加載 RDB 文件后主節(jié)點繼續(xù)把復(fù)制緩沖區(qū)中的寫命令發(fā)給從節(jié)點。后續(xù)主節(jié)點每執(zhí)行一條寫命令都會實時發(fā)送給從節(jié)點。注意第 5 步Redis 的復(fù)制默認是異步的。主節(jié)點執(zhí)行SET key value之后并不會等待從節(jié)點確認“我已經(jīng)寫好了”而是直接返回給客戶端。這意味著什么意味著主節(jié)點上存在一段“最近寫入但還沒有同步到從節(jié)點”的數(shù)據(jù)窗口。一旦主節(jié)點在這時發(fā)生故障或切換這部分窗口數(shù)據(jù)就可能會丟失。3.2 哨兵Sentinel如何工作Sentinel 是 Redis 提供的高可用解決方案它的職責是監(jiān)控所有 Redis 節(jié)點的健康狀態(tài)。當主節(jié)點出現(xiàn)問題時自動執(zhí)行故障轉(zhuǎn)移從從節(jié)點中選出新的主。把新主節(jié)點的信息通知給客戶端。哨兵有幾個關(guān)鍵概念概念解釋主觀下線SDOWN單個哨兵發(fā)現(xiàn)主節(jié)點沒有在down-after-milliseconds時間內(nèi)響應(yīng)標記為“主觀下線”客觀下線ODOWN多個哨兵達到 quorum 數(shù)量都認為主節(jié)點下線則標記為“客觀下線”故障轉(zhuǎn)移Failover客觀下線后哨兵們選出一個 Leader 哨兵從從節(jié)點中選出新主并修改配置這里就出現(xiàn)了第一個容易被忽略的點主觀下線只需要一個哨兵就能觸發(fā)。它依據(jù)的是哨兵和主節(jié)點之間的網(wǎng)絡(luò)通信狀態(tài)而不是主節(jié)點本身的存活狀態(tài)。如果 Redis 主節(jié)點所在的服務(wù)器只是網(wǎng)絡(luò)暫時抖動或者主節(jié)點 CPU 負載過高導(dǎo)致無法及時響應(yīng) Ping但主節(jié)點本身還在正常運行哨兵依然會判定它主觀下線。于是后面的事情就順理成章哨兵 A 發(fā)現(xiàn)主節(jié)點 ping 不通標記主觀下線。如果多個哨兵都收不到主節(jié)點的響應(yīng)達到 quorum標記客觀下線。哨兵觸發(fā)故障轉(zhuǎn)移從從節(jié)點中選出新主。而客戶端那邊呢如果客戶端還連在舊主上寫操作依然會成功。兩個主節(jié)點同時工作的局面形成了。4. Redis 腦裂的完整觸發(fā)過程從網(wǎng)絡(luò)抖動到數(shù)據(jù)丟失現(xiàn)在我們把上面的知識串起來完整走一遍 Redis 腦裂的生命周期。假設(shè)我們有這樣一個環(huán)境3 個 Redis 節(jié)點1 個 master、2 個 replica。3 個 Sentinel 實例。業(yè)務(wù)應(yīng)用通過哨兵獲取主節(jié)點地址連接 Redis。4.1 第一階段網(wǎng)絡(luò)分區(qū)發(fā)生假設(shè) Redis 主節(jié)點所在的機器因為交換機故障或者網(wǎng)絡(luò)擁塞和 Sentinel、從節(jié)點之間的網(wǎng)絡(luò)徹底斷了。但這里有個關(guān)鍵細節(jié)**主節(jié)點所在的機器本身沒有宕機Redis 進程也沒有崩潰。**主節(jié)點依然可以接受客戶端連接和寫入只是它再也聯(lián)系不上從節(jié)點和哨兵了。此時其實已經(jīng)形成一個“網(wǎng)絡(luò)分區(qū)”分區(qū) A舊 master 連接它的客戶端。分區(qū) B哨兵 兩個從節(jié)點 通過哨兵路由的客戶端。4.2 第二階段哨兵判定主節(jié)點下線哨兵節(jié)點每隔sentinel monitor配置的時間間隔會向主節(jié)點發(fā)送 Ping。因為網(wǎng)絡(luò)斷了哨兵收不到主節(jié)點的 Pong 響應(yīng)等待超過down-after-milliseconds后哨兵會把這個主節(jié)點標記為sdown主觀下線。如果 3 個哨兵都這樣認為并且配置的quorum值小于等于 2那么主節(jié)點被標記為odown客觀下線。于是哨兵開始執(zhí)行故障轉(zhuǎn)移流程。4.3 第三階段選出新主節(jié)點哨兵集群經(jīng)過投票選出一個 Leader 哨兵由它執(zhí)行故障轉(zhuǎn)移從兩個從節(jié)點中選出一個執(zhí)行SLAVEOF NO ONE提升它為新的 master。另一個從節(jié)點執(zhí)行SLAVEOF new_master_ip new_master_port變成新主的從節(jié)點。哨兵更新自己的配置通知客戶端新的主節(jié)點地址。從這一刻開始分區(qū) B 中已經(jīng)有自己的 master 了。4.4 第四階段舊主依然接收寫入腦裂形成關(guān)鍵問題來了在分區(qū) A 中舊 master 依然活著依然接收客戶端的寫請求。如果客戶端沒有通過哨兵動態(tài)感知主節(jié)點變更而是維護了一個靜態(tài)的主節(jié)點連接那么客戶端寫請求還是會打到舊 master 上。舊 master 接收到SET key value后它無法把這寫命令同步給從節(jié)點因為網(wǎng)絡(luò)斷了。但它會正常執(zhí)行并且告訴客戶端“寫入成功”。此時舊 master 上有最新的數(shù)據(jù)。新 master 上只有網(wǎng)絡(luò)斷開前同步過的老數(shù)據(jù)。兩個“主節(jié)點”同時接受寫請求數(shù)據(jù)開始分叉。這就是 Redis 腦裂的完成形態(tài)。4.5 第五階段網(wǎng)絡(luò)恢復(fù)和無情的數(shù)據(jù)丟失假設(shè)網(wǎng)絡(luò)修復(fù)了舊 master 和哨兵、從節(jié)點的連接恢復(fù)了。哨兵發(fā)現(xiàn)舊 master 還活著但此時新 master 已經(jīng)產(chǎn)生。那么哨兵會強制把舊 master 降級為從節(jié)點并向新 master 發(fā)起全量同步full resync。全量同步意味著什么意味著舊 master 會在同步前清空自己的數(shù)據(jù)然后加載新 master 的 RDB 快照。在腦裂期間舊 master 上多寫入的數(shù)據(jù)全部丟失。這個數(shù)據(jù)丟失不可恢復(fù)因為它從來沒有同步到任何其他節(jié)點。所以你看整個鏈路下來沒有任何一個環(huán)節(jié)是“故意丟數(shù)據(jù)”的但最終數(shù)據(jù)就是丟了。這就是分布式系統(tǒng)的一致性和可用性博弈的代價。5. 如何判斷 Redis 是否發(fā)生過腦裂腦裂發(fā)生的時候業(yè)務(wù)端不一定有明顯報錯數(shù)據(jù)丟失也常常是“悄悄發(fā)生”的。但我們可以通過一些跡象和命令來判斷。5.1 查看哨兵日志哨兵日志里會有明顯的故障轉(zhuǎn)移記錄。當你發(fā)現(xiàn)以下日志時說明發(fā)生過主備切換# 主觀下線 sdown master mymaster 192.168.1.10 6379 # 客觀下線 odown master mymaster 192.168.1.10 6379 #quorum 2/2 # 開始故障轉(zhuǎn)移 try-failover master mymaster 192.168.1.10 6379 # 選出了新主 switch-master mymaster 192.168.1.10 6379 192.168.1.11 6379switch-master后面那行就是切換前后的主節(jié)點地址??吹竭@一行就要意識到剛才可能發(fā)生過腦裂。5.2 檢查 Redis 節(jié)點的角色變化使用info replication命令可以查看當前節(jié)點的角色信息。在舊主節(jié)點上執(zhí)行redis-cli -p 6379 info replication正常情況下主節(jié)點的role應(yīng)該是master。如果發(fā)生了腦裂且網(wǎng)絡(luò)已恢復(fù)舊主會被降級為slave并指向新主。如果腦裂尚未恢復(fù)你可以看到舊主還是master但它的connected_slaves計數(shù)為 0說明沒有從節(jié)點連接它這就很可疑。# 舊主節(jié)點在腦裂期間的輸出 role:master connected_slaves:0 master_replid:xxxxx再看新主節(jié)點能看到它已經(jīng)有從節(jié)點了# 新主節(jié)點恢復(fù)后的輸出 role:master connected_slaves:1 slave0:ip192.168.1.12,port6379,stateonline,offset12345,lag05.3 查看命令統(tǒng)計中的延遲和拒絕如果配置了min-replicas-to-write參數(shù)后面會講腦裂期間舊主會拒絕寫入。此時通過info stats命令可以看到redis-cli -p 6379 info stats | grep rejected sync_rejected_writes:5sync_rejected_writes統(tǒng)計了因為從節(jié)點數(shù)量不足而被拒絕的寫命令數(shù)量。一旦這個值大于 0說明系統(tǒng)曾經(jīng)觸發(fā)過寫保護。5.4 客戶端側(cè)如何發(fā)現(xiàn)如果你用的是 Lettuce 或 Jedis 客戶端并且配置了哨兵模式當主節(jié)點變更時客戶端會收到重定向通知。但這里有個容易被忽略的坑舊主節(jié)點只是網(wǎng)絡(luò)分區(qū)并沒有真正宕機客戶端如果保持長連接它不會主動感知主節(jié)點變更。所以在實際項目中更可靠的做法是通過 Redis Sentinel 獲取當前主節(jié)點地址來建立連接并監(jiān)聽主節(jié)點切換事件。這樣在主節(jié)點切換時客戶端能重新建立連接。具體的處理邏輯各語言客戶端支持不同落地時要選對 API。6. 防止 Redis 腦裂后的數(shù)據(jù)丟失min-replicas 詳解明白了腦裂的原理現(xiàn)在要解決實際問題怎么防止腦裂時的數(shù)據(jù)丟失。有人可能會說那我不用主從、不用哨兵行不行當然可以但這就放棄了高可用。如果你的業(yè)務(wù)允許短暫停機單節(jié)點 Redis 反而是最簡單可靠的方案。但大多數(shù)生產(chǎn)系統(tǒng)需要高可用所以必須接受“主備切換可能發(fā)生”這個現(xiàn)實。在此基礎(chǔ)上我們能做的是讓舊主在失去從節(jié)點同步能力時主動拒絕寫入。這樣就算腦裂發(fā)生舊主上也不會產(chǎn)生新數(shù)據(jù)網(wǎng)絡(luò)恢復(fù)后降級為從節(jié)點數(shù)據(jù)不會丟。這個能力 Redis 早就提供了就是min-replicas-to-write和min-replicas-max-lag。6.1 配置項說明在 Redis 的配置文件中redis.conf主節(jié)點可以設(shè)置兩個參數(shù)# 當主節(jié)點擁有的健康的從節(jié)點數(shù)量小于該值時停止接受寫請求 min-replicas-to-write 1 # 從節(jié)點的數(shù)據(jù)同步延遲超過該值秒視為不健康 min-replicas-max-lag 10含義是min-replicas-to-write 1主節(jié)點必須至少有一個健康的從節(jié)點才允許接受寫請求。min-replicas-max-lag 10從節(jié)點的復(fù)制延遲lag不能超過 10 秒。如果超過就認為這個從節(jié)點不健康。兩個條件同時滿足才允許寫。也就是說如果健康的從節(jié)點數(shù)量 min-replicas-to-write拒絕寫入?;氐侥X裂場景網(wǎng)絡(luò)分區(qū)后舊主無法和從節(jié)點通信從節(jié)點 lag 不斷增長超過 10 秒。主節(jié)點檢查發(fā)現(xiàn)“健康從節(jié)點數(shù)量”變?yōu)?0小于配置的min-replicas-to-write 1。于是后續(xù)的寫請求被拒絕客戶端會報錯不是寫入超時而是直接被拒。這樣舊主就不會產(chǎn)生新的增量數(shù)據(jù)。網(wǎng)絡(luò)恢復(fù)后舊主降級為從節(jié)點數(shù)據(jù)依然一致不會丟失。6.2 動態(tài)配置如果你已經(jīng)部署了 Redis可以通過命令動態(tài)調(diào)整參數(shù)不用重啟# 登錄 Redis 后執(zhí)行 CONFIG SET min-replicas-to-write 1 CONFIG SET min-replicas-max-lag 10 # 同時寫入配置文件防止重啟后失效 CONFIG REWRITE6.3 這兩個配置有什么代價先說清楚min-replicas-to-write不是沒有代價的。假設(shè)你的主節(jié)點確實掛了但是從節(jié)點還沒有被哨兵提升為新主這期間客戶端寫入會失敗。相當于用“暫時不可用”換取了“數(shù)據(jù)不丟失”。這其實是把 Redis 從“可用性優(yōu)先”拉向了“一致性優(yōu)先”。對緩存場景來說寫入失敗問題不大緩存 miss 后下次再寫即可。但對分布式鎖、秒殺扣減庫存、訂單狀態(tài)更新等強一致場景寫入失敗比“寫入成功但數(shù)據(jù)丟失”要好得多因為前者至少能被業(yè)務(wù)方感知并重試后者是無聲丟失排查代價極高。所以在生產(chǎn)環(huán)境建議這樣配置場景建議只做緩存允許少量數(shù)據(jù)丟失可以不配置 min-replicas-to-write 或設(shè) 0緩存 數(shù)據(jù)一致性要求高配置min-replicas-to-write 1分布式鎖 / 強一致業(yè)務(wù)必須配置且要配合 RedLock 等方案做兜底6.4 配置參考示例以下是一個完整的 redis.conf 主節(jié)點相關(guān)配置示例可作為生產(chǎn)環(huán)境模板參考# 基本主從配置 replica-read-only yes # 腦裂保護 min-replicas-to-write 1 min-replicas-max-lag 107. 完整實踐搭建一個可復(fù)現(xiàn)腦裂的 Redis 環(huán)境理解了理論最好親手驗證一次。下面用一個最小化的本地環(huán)境模擬“主節(jié)點網(wǎng)絡(luò)分區(qū)導(dǎo)致腦裂和數(shù)據(jù)丟失”的過程。7.1 環(huán)境準備在本地安裝 Redis 后創(chuàng)建三個目錄分別模擬三個節(jié)點mkdir -p /tmp/redis-lab/{6379,6380,6381}分別創(chuàng)建三個配置文件。主節(jié)點配置 /tmp/redis-lab/6379/redis.confport 6379 daemonize yes dir /tmp/redis-lab/6379 logfile redis.log pidfile /tmp/redis-lab/6379/redis.pid # 腦裂保護配置 min-replicas-to-write 1 min-replicas-max-lag 10從節(jié)點 1 配置 /tmp/redis-lab/6380/redis.confport 6380 daemonize yes dir /tmp/redis-lab/6380 logfile redis.log pidfile /tmp/redis-lab/6380/redis.pid replicaof 127.0.0.1 6379從節(jié)點 2 配置 /tmp/redis-lab/6381/redis.confport 6381 daemonize yes dir /tmp/redis-lab/6381 logfile redis.log pidfile /tmp/redis-lab/6381/redis.pid replicaof 127.0.0.1 63797.2 啟動節(jié)點redis-server /tmp/redis-lab/6379/redis.conf redis-server /tmp/redis-lab/6380/redis.conf redis-server /tmp/redis-lab/6381/redis.conf啟動后在主節(jié)點上確認從節(jié)點已經(jīng)連上redis-cli -p 6379 info replication預(yù)期輸出類似# Replication role:master connected_slaves:2 slave0:ip127.0.0.1,port6380,stateonline,offset14,lag0 slave1:ip127.0.0.1,port6381,stateonline,offset14,lag07.3 模擬網(wǎng)絡(luò)分區(qū)為了模擬腦裂我們不能直接殺掉主節(jié)點進程因為 Redis 主節(jié)點如果真正宕機就不會再接受寫請求了。正確做法是使用 Linux 的iptables規(guī)則只阻斷主節(jié)點到從節(jié)點、哨兵的通信但保留主節(jié)點到客戶端的連接。在真實環(huán)境中網(wǎng)絡(luò)分區(qū)往往就是這么發(fā)生的。# 阻斷主節(jié)點 6379 訪問 6380 和 6381 的端口 iptables -A OUTPUT -p tcp --dport 6380 -j DROP iptables -A OUTPUT -p tcp --dport 6381 -j DROP7.4 觀察腦裂保護是否生效等 10 秒以上超過 min-replicas-max-lag 設(shè)定的 10 秒讓主節(jié)點察覺到從節(jié)點延遲超限。此時向主節(jié)點寫入數(shù)據(jù)redis-cli -p 6379 set name test-split-brain預(yù)期返回錯誤(error) NOREPLICAS Not enough good replicas to write.這個錯誤告訴我們主節(jié)點因為健康從節(jié)點數(shù)量不足已經(jīng)拒絕寫入。7.5 模擬未配置保護的后果現(xiàn)在我們?nèi)サ裟X裂保護配置再來一次redis-cli -p 6379 CONFIG SET min-replicas-to-write 0 redis-cli -p 6379 CONFIG SET min-replicas-max-lag 0再執(zhí)行寫入redis-cli -p 6379 set name data-without-protection # 輸出 OK這時主節(jié)點會返回OK。如果你在真實生產(chǎn)環(huán)境不小心出現(xiàn)過這種情況說明腦裂期間數(shù)據(jù)已經(jīng)開始分叉了。7.6 清理環(huán)境實驗結(jié)束后清除防火墻規(guī)則并停止 Redisiptables -F redis-cli -p 6379 shutdown nosave redis-cli -p 6380 shutdown nosave redis-cli -p 6381 shutdown nosave這里要額外提醒iptables -F會清空所有自定義規(guī)則如果在有業(yè)務(wù)流量的機器上執(zhí)行要謹慎。建議實驗環(huán)境使用專用的 namespace 或測試機生產(chǎn)環(huán)境不要直接操作防火墻規(guī)則來模擬分區(qū)。這個實驗的核心結(jié)論是不配置 min-replicas-to-write主節(jié)點會傻傻地持續(xù)接受寫入直到數(shù)據(jù)被覆蓋配置了之后主節(jié)點在失去從節(jié)點連接時會主動“暫停寫入”寧可報錯也不讓數(shù)據(jù)分裂。8. 生產(chǎn)環(huán)境 Redis 腦裂的常見問題與排查思路在實際生產(chǎn)環(huán)境腦裂的排查往往比模擬復(fù)雜得多。這里整理幾個高頻問題和對應(yīng)排查路徑。問題現(xiàn)象可能原因排查方式解決方案業(yè)務(wù)突然大批量報 NOREPLICAS 錯誤主節(jié)點健康從節(jié)點數(shù)量不足查看主節(jié)點info replication確認 connected_slaves 數(shù)量和 lag檢查從節(jié)點網(wǎng)絡(luò)、主從復(fù)制狀態(tài)根據(jù)業(yè)務(wù)容忍度調(diào)整 min-replicas 參數(shù)主節(jié)點日志出現(xiàn)switch-master但客戶端沒有感知客戶端沒有通過哨兵獲取主節(jié)點地址查看客戶端連接配置是否使用 Sentinel-aware 模式改用帶哨兵感知的客戶端 API訂閱主節(jié)點切換事件網(wǎng)絡(luò)恢復(fù)后舊主數(shù)據(jù)被清空哨兵將舊主降級為從節(jié)點并執(zhí)行全量同步檢查舊主info replication的 run_id 和數(shù)據(jù)量變化配置 min-replicas-to-write 從源頭避免舊主寫入腦裂期間寫請求超時而非報錯舊主網(wǎng)絡(luò)隔離但 TCP 連接未斷開請求遲遲得不到響應(yīng)抓包確認連接狀態(tài)查看應(yīng)用端超時配置在客戶端設(shè)置合理的超時時間配合 Redis 側(cè) min-replicas 快速拒絕哨兵判定主觀下線過于頻繁down-after-milliseconds設(shè)置過小主節(jié)點因負載高或 GC 停頓誤判查看哨兵日志中 sdown 的觸發(fā)時間和主節(jié)點負載調(diào)大 down-after-milliseconds降低誤判概率主節(jié)點切換后數(shù)據(jù)延遲很大從節(jié)點的復(fù)制積壓緩沖區(qū)設(shè)置過小導(dǎo)致切換后需要全量同步查看從節(jié)點日志中是否有 full resync調(diào)大 repl-backlog-size減少全量同步頻率8.1 排查思路的順序遇到疑似腦裂問題時建議按下面的順序排查先看哨兵日志確認是否發(fā)生過主備切換。再對比主從節(jié)點的run_id查看歷史上是否有多個 run_id 交替。然后檢查主從節(jié)點的info replication確認當前角色和數(shù)據(jù)同步狀態(tài)。最后通過slowlog和應(yīng)用日志定位數(shù)據(jù)丟失的時間窗口確認是否與主備切換時間吻合。要注意的是Redis 本身沒有直接記錄“腦裂事件”的日志項需要結(jié)合哨兵日志、節(jié)點角色變化、客戶端錯誤日志三份信息交叉驗證。9. 最佳實踐與工程建議Redis 腦裂這個問題越早做防護成本越低。下面這套配置和方案是我認為在實際項目里比較穩(wěn)妥的基線。9.1 配置層面至少做到這一步在所有的 master 節(jié)點上配置min-replicas-to-write 1 min-replicas-max-lag 10解釋一下為什么是 1 和 10min-replicas-to-write 1只要還有 1 個健康從節(jié)點主節(jié)點就繼續(xù)服務(wù)保證可用性當從節(jié)點全部失聯(lián)時拒絕寫入保證一致性。min-replicas-max-lag 10允許從節(jié)點最多延遲 10 秒。10 秒是一個相對合理的閾值既能容忍網(wǎng)絡(luò)的瞬時抖動又不會讓數(shù)據(jù)分歧窗口過大。如果你的業(yè)務(wù)對數(shù)據(jù)一致性要求極高比如用 Redis 存庫存、存訂單狀態(tài)可以進一步收緊min-replicas-to-write 2 min-replicas-max-lag 5但要注意配置越高可用性越低。如果只有一個從節(jié)點還宕機了主節(jié)點就會拒絕所有寫入這是必須要接受的權(quán)衡。9.2 架構(gòu)層面避免單點Redis 至少要一主兩從且三個節(jié)點分布在不同的物理機器上最好是不同機架。Sentinel 至少部署 3 個實例quorum設(shè)為 2保證故障轉(zhuǎn)移需要多數(shù)派同意??蛻舳吮仨毷褂蒙诒兄倪B接方式不要直連寫死的主節(jié)點地址。9.3 客戶端層面記住“收到成功不代表真的安全”Redis 主從復(fù)制是異步的主節(jié)點返回 OK 不代表數(shù)據(jù)已經(jīng)同步到從節(jié)點。這一點只要使用了主從模式就無法徹底消除。所以對于強一致業(yè)務(wù)比如分布式鎖、扣減庫存還要考慮引入 RedLock 這樣的多節(jié)點寫入方案或者把最終一致性交給數(shù)據(jù)庫Redis 只做加速層。9.4 監(jiān)控層面要能第一時間發(fā)現(xiàn)切換建議監(jiān)控以下指標master_link_down_since_seconds主從連接斷開時長。connected_slaves主節(jié)點的從節(jié)點數(shù)量。master_repl_offset與slave_repl_offset的差主從復(fù)制延遲。哨兵日志中switch-master的出現(xiàn)頻率。一旦發(fā)現(xiàn)主從切換就要查一下切換原因確認是真實的節(jié)點故障、還是網(wǎng)絡(luò)抖動誤判。不要讓腦裂成為“事后才知道”的事。9.5 上線前做一次故障演練很多團隊直到線上出問題才第一次見識腦裂。建議在測試環(huán)境做一次完整的故障演練搭建主從 哨兵環(huán)境。用 iptables 模擬主節(jié)點網(wǎng)絡(luò)分區(qū)。觀察哨兵是否發(fā)生切換。觀察舊主節(jié)點是否拒絕寫入。確認網(wǎng)絡(luò)恢復(fù)后數(shù)據(jù)是否一致。整個演練不會超過半天但能幫團隊提前暴露很多配置上的問題。腦裂這種問題演練時發(fā)現(xiàn)成本很低線上出現(xiàn)再復(fù)盤可能就是事故報告了。10. 總結(jié)與后續(xù)學習方向Redis 腦裂不是 Redis 特有的缺陷而是分布式系統(tǒng)在 CAP 約束下必然面對的問題。這篇文章核心講了四件事第一腦裂的本質(zhì)是網(wǎng)絡(luò)分區(qū)下舊主節(jié)點還在接收寫入而哨兵已經(jīng)選出了新主節(jié)點形成兩個主節(jié)點同時工作的局面。第二腦裂導(dǎo)致的數(shù)據(jù)丟失發(fā)生在網(wǎng)絡(luò)恢復(fù)后舊主被強制降級為從節(jié)點并執(zhí)行全量同步此前的增量寫入被直接覆蓋。第三最有效的預(yù)防手段是配置min-replicas-to-write和min-replicas-max-lag讓舊主在失去健康從節(jié)點時拒絕寫入用短暫不可用換取數(shù)據(jù)不丟失。第四生產(chǎn)環(huán)境不能只靠 Redis 側(cè)配置還要在客戶端、監(jiān)控、故障演練三個層面做好配套才能真正把腦裂的影響降到可控范圍。如果你想把這塊繼續(xù)深入下面幾個方向值得花時間Redis Sentinel 的選主算法和配置細節(jié)理解 quorum 和 majority 的區(qū)別。Redis Cluster 模式下的網(wǎng)絡(luò)分區(qū)處理機制它和主從 哨兵模式各有取舍。分布式鎖場景下 RedLock 的原理和爭議理解它為什么能降低腦裂風險。Redis 復(fù)制緩沖區(qū)repl-backlog和全量同步、增量同步的底層機制。建議先在自己本機把上面那個最小實驗跑一遍親手看到 NOREPLICAS 錯誤和數(shù)據(jù)分叉是什么感覺再去看源代碼和英文文檔會順暢很多。分布式系統(tǒng)的很多坑看十遍文檔不如親手踩一次。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色噜噜狠噜噜视频| 久久99人人| 六月婷婷视频| 五月天丁香啪啪啪啪| 丁香五月情| 激情五月婷婷欧美极品| 一起草无码| 91精品久久久久久综合五月天| 狠狠干青青草| 99综合在线| 色婷小说| 开心婷婷五月| 久久伦乱| 婷婷色av| 开心五月丁香综合久久| 欧美性爱五月天| 草草色情综合网| 丁香五月婷婷视频| 色 五月俺去也| 婷婷色五月天色| 五月婷丁香| 99久久综合| 第2色五月婷| 一本色道久久88加勒比—| 欧美激情综合色综合啪啪五月| 色五月av| 婷婷五月天另类网站| 狠狠色丁香| 9久热在线精品| 九九婷婷五月天| 丁香六月综合激情| 99综合| 天天综合网在线| 一区二区中文字幕| 亚洲性受XXXX五月丁香| 另类少妇人与禽zOZZ0性伦| 久久久精久人妻| 天天色情站| 狼人久草| 中文字幕在线日亚州9| 玖玖爱导航| 99热免费18| 久久色大香蕉| 国产精产国品一二三在观看| 香蕉久久国产AV一区二区| 这里只有精品网| 六月婷婷视频| 九九伊人网| 亚洲成人中文字幕| 成人丁香婷婷五月天| 色久婷婷五月| 狼人狠狠操| 欧美A片在线视频免费观看| 色99视频| 91色在线/日韩| 综合成人小说婷婷| 久久婷婷成人综合色怡春院| 99re在线这里只有精品视频首页| site:esunnet.com| 操操操av| 婷婷五月天伦理| 久久新地址| 九月综合| 久99久在线| 97人人操人人| 国产在线黄色| 五月在线婷色| 米奇激情婷婷| 性天天中文网| 国产色五月| 日本五月婷婷久久久六月丁香| 9l视频自拍九色9l视频在线观看| 99色日本| 99小视频在线| www..com色爱| 99在线观看精品视频| 五月天激情久久| 婷婷五月六| 五月丁香久| 六月激情综合| 天天色播| 中文字幕黄色片| 婷婷久久网| www久久久| 99在线精品免费视频| 综合aV在线| 亚洲岛国电影| 99精品一二三四视频| 黄色AV日韩| 热99精品视频观看| 天天舔天天操| 网站免费一站二站| 99婷婷色| 五月花婷婷在线精品视频| 伦乱美欧| 99色看| 九九色综合九九色| 性生活视频98791| 丁香六月欧美| 97香蕉碰碰人妻国产欧美| 亚洲区在线| 婷婷五月丁香人妻无码高清| 性爱七区| 色必久悠悠影院| 激情伊人| 人人草碰| 任你艹| 婷婷五月丁香伊人| 99性爱视频| 婷婷性爱五月天丁香网| 久久婷婷五月国产激情综合片| 色丁香久久久| 婷婷丁香18| 五月激情婷婷偷拍| 婷婷激情综合网| 五月天激情亚洲| 色婷婷影视| 一本色道久久88加勒比—| WWW,色五月| 人妻精品一区二区三区| 嫩草AV久久伊人妇女超级A | 婷婷在线视频| 女同在线9| 精热在线综合网| 婷婷六月综合基地| 真实熟女-91九色| 丁香久月| 色综合久久天天综合网| 99热成人| 996热| 久热超碰91| 99热最新| 婷婷六月花| 夜夜嗨一区二区三区直播内容| 日本激情ⅩXX免费视频| 婷婷丁香色五月| 色婷婷超碰| 色五月在线视频观看| 深爱婷婷丁香五月激情| 日韩中文字幕| 久久66er久久| 另类小说五月天| 大香蕉五月婷婷| 97色操| 夜夜AVV| 丁香五月无码| 665566 无码| 狠狠干青青草| 日本三级99人妇网站| 思思99热这里只有精品6| 亚洲欧美婷婷五月色综合| 久久hd| 国产婷婷五月| 婷婷五月天狠狠| 五月婷婷电影院| 五月青青草综合| 久久怕怕视频| 五月婷婷伦理| 大战熟女丰满人妻AV| 先锋男人99资源| 激情四射五月天| 五月丁香六月婷综合成人综合| 玖玖综合色| 亚洲永远av在线播放| 日本激情综合| 人人人操Av| 日欧一片内射VA在线影院| 久色中文| 色婷六月| 婷婷综合网站| 大香蕉五月天婷婷丁香91| 久色五月婷婷综合| 99丁香五月婷婷在线| 91成人电影| 婷婷丁香五月天影院| 日本啪啪天堂| 天天日日人| 亚洲中文字幕在线观看| 婷婷激情5月| 91丁香婷婷综合资源| 播五月开心婷婷欧美综合| 六月丁香六月婷婷欧美| 婷五月丁香| 九九热精品在线| 久热超碰91| 99啪啪| 亚洲性视频| 激情六月天婷婷| 欧美激情中文字幕| 婷婷五月天堂| 色综合色综合婷婷热| 色色欧美色色色| 久久A V无码视频| 九热视频精品| 性做爰1一7伦| 欧美久久网| 色五月丁香五月五月婷婷| 成人美女网| 欧美va在线观看| 丁香六月狠狠干| 狠狠干综合| 俺去也综合| 思思99热这里只有精品| 9999热精品| 开心激情网五月天| 99er精品视频| 五月伊人综合| 婷婷性爱视频在线| 97人人看| 成人丁香五月| 五月丁香欧美| henhencao国产在线| 婷婷五月激情黄色| www.天天干| 五月亭亭六月天| 亚洲激情99| 99精品一二三四视频| 97男人天堂| 九九热在线99| 久久多色| 五月天综合在线观看视频| 丁香五月婷婷色综合基地| 五月天婷婷久草丁香| 疯狂做受XXXX高潮A片| 日本欧美成人片AAAA| 人妻在线中文字幕久久| 综合色影| 丁香五月黄色| 人人草人人爱| 欧美Va在线| 色婷婷内射| 久久九⑨| 亚洲4区国产欧美| 激情色五月天| 国产精产国品一二三在观看| 天天噜噜| 婷婷五月天中文字幕| 韩国久久少妇视屏| 婷婷五月天干干| 综合五月亭亭9| 婷婷色婷婷| 伊人干综合| 日韩成人无码| 九九热最新地址| 色婷丁香| 亚洲色婷婷| 噜噜干日本| 99热免费精品| www99精品| 色婷婷欧美| 婷婷激情图片| 丁香五月天资源网| 五月花丁香婷婷| 亚洲中文av| 成人在线精品| 亚洲热手机在线观看| 成人噜噜网| 婷婷丁香五| 婷婷五月婷婷五月天| 婷婷久久在线| 激情五月婷| 九九精品自拍| 无码人妻少妇色欲AV一区二区| 91啪啪| 97在线观视频免费观看| 99热香港| 超碰91人人操| 精品亚洲国产成人A片在线鸭王| 开心激情婷婷| 七七色综合| 免费日本aⅴ中文字幕 | 狼人久草| 久久精品噜噜噜成人A∨色欲| 先锋资源婷婷| 午夜成人天堂久久无码日韩久久| 久久久思思热| 久久九九在线视频| 婷婷五月色惰| 亚洲天堂99| 激情五月婷婷老师| 蜜桃婷婷狠狠久久| 精品一区二区三区四区五区六区介绍| 99re久热只有精品6在线直播| 天天爽综合| 久久五月天综合| 日本一级| 97高清国语自产拍| 亚洲精品网址| 亚洲中文丁香| 97碰| 色婷婷五月天激情久久| 丁香色五月天| 99综合免费视频| 婷婷色情 | 欧美三日本三级少妇三99| 九九色色色| 五月婷六月| 国产毛多水多女人A片| 国产三级在线播放| 亚洲avjiujiur91| 米奇影视五月天| 色丁香影院| 婷婷五月天AV| 亚洲情色一区| 五月丁香91| 99爱免费视频| 玖玖婷婷五月天| 黄页免费一级视频懂色| 婷婷舔| 久久思思热| 丁香六月婷婷基地| 激情婷婷五月天伊人在线观看| 激情五月综合视频| se99视频| 婷婷香蕉精品| 影音先锋按摩| 婷婷五月天激情文学| 99热这里只有精品5| 婷婷五月丁香综合桃花色网| 激情啪啪五月天| 婷婷五月丁香六月天亚洲综合| 任你搞网站| 五月婷婷之综合激情在线| 五月婷婷六月丁香综合视频在线| 人妻久久婷婷| 国产4P视频精品五区| 五月天婷婷青青| 九九这里有精品| 国产精品美女| 亚洲色99| 啪啪色激情五月天| 五月婷六月综合在线观看| 超碰国产在线观看| 色 噜噜 九月 婷婷| 丁香色五月婷婷91桃色| 日本欧美成人片AAAA| 五月婷婷啪啪啪| 丁香六月婷婷久久综合| 综久久久| 丁香久久久| 五月天婷婷激情四射综合| 天天天日天天天干| 99久99久| 婷婷五月六| 人操人| 五月综合无码| 国产亚洲成人综合| 九九热最新视频| 91九色中文字幕女在线观看| 天天日天天操心| 91九色中文字幕女在线观看| 婷婷无码视频| 婷婷偷拍网| 色五月综合| 色久五月| 中文成人在线| 色欲久久久久久综合网综合网| 色色色色色色色色色色色色色97| 五月天丁香婷| 综合激情开心五月| 性做久久久久久久免费看| 激情丁香久久| αv中文字幕在线观| 婷婷五月无码| 欲色人妻| 亚洲av成人在线| 亚洲五月天色| 夜夜躁爽日日| 99热这只有| 亚洲综合欧美色丁香婷婷888月图片| 97色色网| 色婷綜合网| 色婷婷人人| 激情综合网五月| 国产 码在线成人网站| 精品欧美一区二区三区久久久| 99热这里只有精品国产首页| 色综合久久综合中文综合网| 婷婷五月丁香手机在线视频| 午夜九九九九九九九九九九九九九| 亚洲国产精品VA在线看黑人| 操操操www.com| 五月婷狠狠| 色五月色五天色情网| 激情综合色| 欧美精品在线观看| 综合在线色婷婷| 草操网| 色久99| 无码少妇高潮喷水A片免费| 亚洲日韩欧美综合VA| 久久综合干| 爆乳熟妇一区二区三区四区| 99久.| 成人人操| 综合网五月| 五月天激情.com| 97色视频网| 狠狠综合网| 久久精彩视频| 婷婷六月伊人| 国产老熟妇亲子乱对白| 国产又爽又猛又粗的视频A片| 丁香五月天激情网| 91要啪| 99色色| 色站9/| 大香蕉220| 中文字幕在线观看视频www| 色情免费视频播放| 超碰在线caop| 婷婷五月色播放| 天天综合在线网| 99免费视频精品| 華人性愛AV在線| 四虎成人精品永久免费AV九九| 国产乱轮一区二区三区| 日韩成人综合网| 久久婷五月天| 69精品人人人人| 2020日日干| 久久狠狠干| www.99情趣网| 色J香五月天| 色婷婷综合五月| 久久永久网址| 伊人网色婷婷五月天| 99热超碰在线| 99热偷拍| 国产性爱亚洲是图| 大香蕉久| 荡乳尤物3HP1V5| 开心五月婷婷六月丁香| 色婷婷激情小说网| 5月婷婷五月天| 欧美五月婷婷| 色色色综合网| 婷婷久月| 97伦色婷婷| 97热超碰| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 亚洲国产精品VA在线看黑人| 五月丁香六月欧美综合网站| 99精品视频网| 99热色精品| 五月大香蕉| 成人做爰黄A片免费看直播室男男| 大地资源色婷婷视频在线| 五月婷婷丁香深深爱| 丁香在线视频| 五月丁香在线精品| 亚洲性爱AV| 天天婷婷| 97资源碰碰| 亚洲激情四射| 新久久五月天激情| 久久AAAA片一区二区| 狠狠色丁香| 成人在线网| 欧美丁香婷婷天天操| 99在线观看精品| 欧美婷婷综合| 色色网站观看| 国产肥白大熟妇BBBB视频| 新伍月婷婷| 玖玖爱导航| 成久综合视频| 久久综合激情| www.久操| 九九婷婷网五月天| 91打屁股免费看| 丁香五月天激情四射网络不好| 色婷婷激情Av久久久| 91jiuseshunv| 激情性爱五月天| 亚洲AV成人片无码网站| 六月婷婷无码观看| 六月丁香久久| 婷婷五月天影院| 99国产精品久久久久久久久久久| 色婷婷色丁香色欲av| 丁香五月婷婷亚洲色图| 婷婷色播色五月五色五月天色妇| 五月综合在线婷婷图片| 来吧亚洲综合网| 婷婷激情五月| 五月天婷婷色色首页| www色色色com| 开心激情网在线| 九九精品热| 超碰69天堂| 亚洲AV网站| 伍月婷丁香花全集| 日韩成人综合网| 丁香五月天婷婷91| 99热这里只有精品96| 久大香蕉| 色综合综合综合| AV九九| 99热99热在线| 婷婷五月天网| 操操碰| 五月丁香成人小说| 老司机视频lsj爱就色| 热这里只有精| 九九AV在线| 99超碰在线免费| 26UUU精品一区二区Com| 五月丁香激情综合| 粉嫩av蜜桃av蜜臀av| 九九热视| 国产三级在线播放| 五月 婷婷 成人| 9久热精品在线视频| 四月婷婷五月色综合| 激情五月六月婷婷| 色综合激情图区| 亚洲AV综合在线观看| 天天舔天天爽| 日本一级大片| 欧美婷婷五月| 91九九九九| 男人综合网| 成人无码髙潮喷水A片| 天天插天天狠| 日本久久婷| 粉嫩av蜜桃av蜜臀av| 大香蕉天堂| 久热 91| 日韩久久视频| 成人中文字幕在线| 91激情五月开心| 久碰婷婷视频| 91综合国免费久入| 91色噜噜狠狠狠狠色综合| 久久激情天堂| 久久伊人婷| 五月丁香六月婷婷中文版| 久热亚洲| 婷婷六月丁香1| 在线观看免费人成视频无码| 婷婷激情五月天网站| 天天综合插插| 中文成人在线| 日日.c| 91丁香婷婷综合资源| 天天爱天天狠天天透| Www.久久| av在线免费网站| 亚洲综合久| 亚洲色综合| 九九热在线视频,| 91在线视频观看午夜福利| 色宗合久久五月婷婷| 婷婷五月天天| 丁香婷婷十月| 久久精品91视频| 能看的AV| 久噜久噜| 久久久久久99精品无码| 久久ww| 天堂综合久| 五月天婷婷基地| 欧美色色色色色色| 亚洲天堂久久| 婷婷婷婷婷婷婷婷| 99精品在线| 久久XX| 噜噜噜噜噜色| 中文字幕AV在线| 极品人妻VIDEOSSS人妻| 婷婷五月激情六月| 色噜噜狠狠色综合成人网| 国产在线aaa片一区二区99| 五月激情久久| 五月丁香 六月婷婷a| 99热 精品在线| 热99在线精品| 99久久思思| 大香人妻| 99热最新国内| 人妻AV在线| 日本视频99| 桃色五月天| 天天爽天天日| 五月婷婷六月激情网| 影音先锋噜一噜| 日本一级黄色片。| 色五月婷婷丁香五月| 久久久精品人妻录| 色五月激情问网站| 天天肏高清在线| 欧美精品中文字幕亚洲专区| 98永久精品| 天堂爱爱| 亚洲色图五月丁香| 超碰婷婷五月| 国产精品久久久爽爽爽麻豆色哟哟 | 丁香五月影| 99在线精品观看99| 日本色天堂| 五月天婷婷久久| 亚洲精品国产setv| www激情网| 日本女va| 天天肏夜夜肏| 婷婷丁香五月天熟女丝袜| 高潮毛片又色又爽免费| 五月丁香成人网| 久久人妻精品| 日日爽日日| 色色 9| www激情网| 激情小说五月天社区丁香 | 大香人妻| 天天操天天曰| 婷婷六月丁香色| 美女va| 激情综合色图| 欧在线一区| www.色色色com| 五月丁香综合| 亚洲天堂热| 亚洲俩性性爱图片久久第六页| 91丨九色|PRNY熟妇| 国产44页| 天堂成人久久| 久久色天堂| 伊人网碰碰| 五月丁香啪。| 成人精品一区日本无码网| 天天操天天曰| 狠狠爱婷婷五月天| 色优久久| 婷婷欧美激情综合| AA片在线观看视频在线播放| www,av好吊操| 天天做天天爱高潮片| 99re6热在线精品视频播放速度| 丁香五月性| 人人爱干人人爱草| 色婷婷免费观看| 五月丁香六月激情欧美综合| 大天天伊人| 91美女艹逼网站| 五月天婷婷久久| 丁香六月婷婷色XXXX| 2021日韩无码| 久久婷婷影院| 五月天·www·com| 亚洲殴洲精品Av在线| wwwxxx五月婷婷小说| 久久99大| 五月丁香色婷婷色| 婷婷五月天天| 清纯唯美 激情四射| 天天射天天射一道本日本社区| 亚洲成人在线播放| 综合久久六月| 91ncm视频| 五月天婷婷色综合| 天天草天天爱| 蒲京久久无码视频| 五月婷婷丁香狠狠撸久久| 4399无码视频| 婷婷五月天综合久久| av在线激情| 五月婷婷天| www,欧美干干干干干干| 天天操婷婷| 久久精品99国产精品日本 | 无码视频国内精品久久久| 色婷婷五月天视频网站| 99视频久久| 播丁香五月婷婷欧美| 国产avapp 网| 婷婷色五月久久| AV在线不卡网站| 久久久精品色| 开心激情五月天网| 色色五月天网站| 99综合免费视频| 天天干-天天日| 天天操综合网| 婷婷五月丁香六月| 四月婷婷丁香五月| 婷婷色5月天在线。| 秋霞少妇毛片| AA片在线观看视频在线播放| 久久久91| 99视频热| 丁香色五月婷婷17C| 99在线资源视频| 5月丁香六月婷婷| 色婷婷天堂| 3DAV亚洲香蕉久久 一区二区| 色哟哟精品| 亚洲丁香婷婷五月天综合色| 日本三级网址| 怡春院天天干| 色色五月天婷婷| 六月丁香av| 婷婷丁香综合成人| 久热这里只精品| 2022人人操人人看| 婷婷六月综合基地| 久久98| 六月色国内综合| 精品婷婷五月天| www.激情五月天。com| 五月丁香花激情综合网| 久久婷婷免费| 五月天激情小说| 色色99| 啪啪操超碰| 99视频这里只有久久精品| 色综合九九色综合88| 色97啪啪| 9久热在线精品| 中文字幕日产A片在线看| 亚洲超碰在线| 八戒青柠影视剧在线观看| www.狠狠| 大香网伊人久久综合| 日本久久婷婷| www.五月天色色.com| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 一本久道综合色婷婷五月| 很很干在线视频| 亚洲成人网无码| 婷婷在线精品| 丁香五月天人体| 色综合久久44| 99在线观看| 狠狠综合久久| 婷婷五月丁香基地在线视频官网| 任你擦免费视频| 99久高清视频| 中文精品在| 99热亚洲| 丁香丁婷五月激情| 天天综合天天做天天综合| 99re思思热这里| 日本AAAAAAAAAAAAAA片| 五月婷婷六月丁香激情| 综合XX网| 五月丁香啪综合| 涩涩五月天| 五月天天久久香| 噜噜色五月| xx色综合| WWW.夜夜| 五月婷婷激情中文字幕| 伊人久久婷婷| 五月婷婷大香蕉| 国产69久久久欧美黑人A片| 97超碰色| 欧美在线看| 五月激情婷婷综合| 婷婷天天舔| 99成人小视频| 婷婷色婷婷| 尔尔AV一区| 丁香五月六月| 人与禽A片啪啪| 久久婷婷五月综合色欧美| 色噜婷婷| 五月激情丁香五月| 久久在线人妻| 丁香六月综合激情| 人碰人人人玩91| 97色视频网| 久草大| 国产va在线视频| 欧美α√| 极品人妻VIDEOSSS人妻| www.久久色.com| Www99热| 色婷| 五月婷婷九| 久9视频免费播放| 麻豆AV一区二区三区| 丁香婷婷五月人体| 婷婷九月激情网| 久热这里| 色狠狠综合| 91嫩草久久| 亚洲乱码在线观看| 五月婷婷六月基地| 五月丁香婷中文| 日本天天操| 五月天另类图片区99| 国产成人精品一区二三区熟女在线| a色婷婷| 五月视频日本免费观看| 色婷婷丁香五月天在线观看| 99无码视频| www.激情五月天.con| 色噜噜狠狠色综合AV兰草影视| 米奇影视五月天| 婷婷丁香五月麻豆| 少妇被下春药玩弄A片| 五月婷在线观看| 日韩1区2区| 国产精品a无线| 久久精品婷婷五月丁香| 五月丁香AV在线| 五月丁香婷婷啪啪| www.五月婷| 久久婷婷五月综合色播| 成人短视频在线观看| 国产AV熟妇人震精品一品二区| 成人免费视频一区| 亚洲人妻一区二区| 国产看真人毛片爱做A片| 五月天婷综合| 蜜臀av在线成人电影| 丁香五月天堂网| 丁香婷婷五月六月久久| 香蕉人在线香蕉人在线 | 丁香五月天大香蕉啪啪| 日日婷婷不卡| 婷婷亚洲天堂| 99久久99九九99九九九| 天天天干夜夜夜操| 99热午夜精品| 激情婷婷丁香色情五月天| 丁香五月色情| 丁香婷婷五月色成人网站| 色婷婷五月天视频网站| 99热这里| 婷婷五月五月丁香| 亚洲操人| 可以免费观看的av| 一起草AV入口| 久狠日av| 亚洲乱码日产精品BD| 亚洲视频五区| 婷婷五月天人妻| 亚洲乱码精品久久久久.. | 91操黄| 丁香丁香激情网| 色五月婷婷基地| 99久久人人| 五月丁香激情综合网官网| 综合色色色| aaa丁香五月天| 婷婷成人五月天| 五月丁香婷婷成人版| 99热中国| 99热免费18| 五月丁香色六月激情干大屄| 日本二级毛片二级毛片| 婷婷五月色網站| 激情五月天天| 99这里是精品| 欧美三级大片AA在线看| 丁香婷婷婷五月| 激情婷婷五月天丁香| 激情六月天婷婷| 九九热10| 色婷婷88| 欧美久热| 日本不卡高字幕在线2019| 亚洲综合婷婷五月天| 大香蕉视频婷婷| 91狠狠色丁香| 91超碰在线观看| 天天天天干| 天天久久综合| 双性美人被调教到喷水A片| 五月激情天天干| 婷婷丁香五月激情密臀av| 久久丝袜婷婷| 天天色综合天天| 亚洲激情四射色| 日本欧美国产| 精品一区久热| 一区二区乱码视频| 激情综合女人网五月播播| 国产精品第一国产精品| 九热网站| 色色色热热热| 久久婷婷五月综合色奶水99啪| www色婷婷| 色婷婷丁香香香蕉视频| 99久超碰| 成人免费120分钟啪啪| 天天激情| 久久在这里有精品| 97热超碰| 精品一二三区久久AAA片| 99re这里只有精品在线观看| 五月婷色色| 少妇人妻丰满做爰XXX| 99综合色| 九九久久精品| 色婷婷色和| 99久在线精品99re8热| 丁香五月亚综合图片| 婷婷婷色五月| 嫩草视频观看| 六月婷综合| 久久激情网| 色哟哟精品| 五月丁香六月情| 久久久思思热| 亚洲操B视频| 色色色色综合网| 日本成人噜噜噜| 这里只有精品99视频| 亚洲蜜乳AV| 99精品视频在线观看| 99激情在线| 99热精品一区| 大香蕉啪啪| 婷婷丁香五月天影院 | 六月丁香五月婷婷| 婷婷五月婷| 99热骚货| 天天狠狠插| 五月天激情黄色小说在线观看| 午夜婷婷久久| 国产亚洲99久久| 色婷婷综合电影| 操久久精| 免费观看日韩成人av| 国产暴力强伦轩1区二区小说| 成人在线精品| AV网站免费在线| 久色激情| 日亚二欧美| 激情五月婷| 五月天激情小说网| 综合网啪| 亚洲成人中心| 超碰在线中文字幕| 激情网婷婷五月天| 超碰亚洲天堂| 婷婷亚洲综合| 狠狠精品干练久久久无码中文字幕| 99久久婷婷国产综合| 精品人人操| 天天干夜晚夜操| 狠狠操狠狠| 免费视频在线观看的网站| 国产欧美精品AAAAAA片| 久久久久久久,99精品视频| 九色成人AV在线| 婷色视频| 丁香蜜臀黄色婷婷五月天| 操99| 6月丁香婷婷激情| 欧美色色色| 五月婷婷之综合激情| 综合色五月| 激情五月丁香亭亭| 久热无码| 在线中文AV| 996黄色片| 久99久在线| 五月丁香六月在线欧美| 伦乱美欧| 99热这里只有精品18| 久99| 嫩草AV久久伊人妇女超级A| 国产精品扒开腿做爽爽爽A片唱戏| 天堂成人A片永久免费网站| 一本到不卡高清DVD| 《久久综合九色综合97婷婷| 91色综合网| 99九色视频在线观看| 亚洲十月婷婷综合| 婷婷五月天天天| 超碰在线看| 色色五月婷婷网| 婷婷五月天午夜激情影院| 五月天激情综合首页| 婷婷色五月色妇| 97色色网| 婷婷天堂站| 在线播放 精品| 激情文学久久| 亚州性爱99| 婷婷综合亚洲| 亚洲AV无码成人电影| 91打屁股视频网站| 这里只有精品,日韩视频| 狠色狠色综合久久| 思思热99热| 九九色插| 激情播丁香| 五月婷婷综合在线视频小说| 丁香五月手机在线| 国产原创视频91九色| 五月天无码| 婷婷成人五月天成人文学小说| 欧美婷婷综合| 91色性感五月婷婷丁香| 五月激情丁香久久综合网| 综合噜噜| 色狠狠婷婷| 九九色综合网| 欧美草久久五月天91| 狠狠色综合网| 亚洲激情Av| 插少妇综合网| 91九色精品| 九九久久偷拍| 激情丁香婷婷五月天| 丁香五月综合婷婷| 玖玖综合玖玖| 婷婷五月天国产手机在线视频观看| 五月天国产| 91色综合久久| 婷婷丁香五另类网站| 日本久久网| 99热综合在线| 伊人狠狠干| 丁香色五月天| 99热亚洲| 91精品国产99久久久久久天美| 国产成人精品一区二三区熟女在线| 婷婷99狠狠躁天天| 婷婷 伊人 久久| 日韩精品无码AV| 天天成人综合| 久久三级视频| 91欧美| 丁香五月91| 色婷婷AⅤ| 99久久6| 激情色五月天| 另类综合国产| 日操夜操天天操不卡| 丁香婷婷五月天亚洲| 久久久久久人妻| 懂色av蜜臀av粉嫩av永陈冠希| 色综合色色色| 超碰在线个人观看| 五月天婷爱综合| 五月天婷婷综合色| 丁香五月天激情综合网| 99色在线| 99这里只有精品国产| 亚洲天堂久久| 人人干天天舔| 丁香五月伊人| 丁香六月色香蕉视频| 天天色色天天| 久久99这里只有精品| 国产精品久久久久久喷浆| 在线,国产,色,热视频| 少妇性BBB搡BBB爽爽爽视頻| 婷婷丁香五月天欧美| 国产69精品久久久久999小说| 6080av| 夜夜嗨一区二区三区直播内容| 极品人妻videosss人妻| 欲求不满的人妻| 日本久久性| 天天肏夜夜肏| 国产亚洲精品久久久久久郑州| 97操资源婷婷| 99久热| 久久综合性| 五夜婷婷| 伊人超碰| 丁香熟女乱| 色婷婷色99国产综合精品| 国产操B视频| 丁香久久久| 丁香 婷婷 激情 综合 五月| 2018国产大陆天天弄| 森林影视大全,最好看的2019年视频 | 五月天色在线| 久久机热探花| 丁香五月偷拍| 色九月激情综合网| 五月婷av| 五月停亭六月,六月停亭的英语 | 被强行糟蹋的女人A片| 色了色综合| WWW.久久久久久久| 国产午夜精品AV一区二区麻豆| 玖玖在线资源视频| 日韩精品一区二区亚洲AV观看 | 婷婷色狠狠| 五月婷婷综合久久| 黄页大全十八禁| 99小视频在线观看| 涩综合婷婷| 白天AV月月| 3DAV亚洲香蕉久久 一区二区| 国产美女视频久| 888精品福利地址| 日韩大片艹艹| 人妻久久久久久| 超碰人人色| 欧美色必爱| 可以看的av| 五月叮香啪| 久久女人天堂| 丁香狠狠操| 极品人妻VIDEOSSS人妻| 日本99在线| 五月天色婷婷基地| 日日爱678| 婷婷五月六月丁香| 国产69精品久久久久999小说| 97碰碰视频在线观看免费| 深爱激情久久| 五月丁香成人| 五月婷综合| 欧美性做爰大片免费看办公室| av在线免费网站 | 伊人五月婷婷| 久久日本wwww色| 99在线精品免费视频| 婷婷六月综合激情| 色情五月停停丁香| 丁香六月婷婷综合色| 99综合视频| 五月花激情网| 九九无码| 五月天播播| 国产激情在线| 久久婷婷五月综合色和| 综合激情五月丁香| 色综合色综合网| 六月丁香中文字幕| 六月激情网| 久久99草五月婷婷| 成人五月天综合网| 婷婷丁香六月| AA丁香综合激情| 大香蕉综合网| 深爱激情综合| 六月婷婷激情| 色婷婷久久综合| 色婷婷精品视频| 丁香婷婷婷五月| 激情五月天综合图片小说网站| 欧美激情综合| 色五月婷婷婷婷婷婷婷婷婷婷| 久久大香蕉同僚| 日韩啪| 五月婷婷熟女| 色婷婷久久综合久色综| 五月天综合久久丁香91| 十区AV| 六月婷婷香蕉| 激情丁香久久久久久| xxxx五月天色色| 亲子乱AV-区二区三区| 久久五月天精品视频| 成人性生活免费观看。| 超碰婷婷五月| 69久久久| 偷拍九九五月丁香婷婷| 久久精品日| 激情久久 婷婷| 激情九月天天天天婷婷| 一操久久| 综合在线观看99| 99日本视频在线观看专区| 色五月婷婷91在线| 婷婷欧美综合| 丁香花色色网| 激情欧美婷五月| 五月婷婷丁香六月在线| 久狠日av| www.五月天色色.com| 久久婷婷六月综合| 五月丁香在线| 97色一二三| g00d人体西西| 亚洲无码成人| 99 频99热国里只有精品| 在线不卡的视频| 中文字幕在线不卡视频| 狠狠久久婷五月| 99热在线中文字幕| 99热日韩| 久久精品婷婷| 久99久视频精品| 任你躁XXXXX麻豆精品| 爽tv | 天堂五月婷婷| 99久99热| 99免费在线| 超碰色综合| 操91| 999九九九久久久99HD| 区美毛片子| 色A网| 色五月 五月婷婷| 91狠狠色丁香婷婷综合久久精品| 色区域网站视频| 九九热九九| 超碰五月婷婷五月天| 日韩色五月| 色五月婷婷激情五月| 97色啪| 综合网色| 超碰永久在线| 激情综合自拍五月婷婷色五月| 99热精品一区| 婷婷色五月婷| 日韩av手机在线观看| 99欧州偷拍视频| 色播五月丁香婷婷| 婷婷丁香六月| 天天日色情| 4399在线日本A片| 色婷婷丁香五月天| 丁香九月婷婷| 久久久久久久久久久jjjj| 超碰人人操人人干| 婷婷涩涩五月天| 婷婷五月综合在线| 色婷婷激情Av久久久| 亚洲av网站在线观看| 这里只有久久精99| 成人AV在线中文版| 狠狠干天天内射| 激情久久久久| 99偷拍视频在线日本| 九九一综合精品| 六月丁丁香| 我爱大香蕉| 九月综合| 婷婷丁香大香蕉| 九九99视频精品| 五月天激情久久| 一本久道综合99| 四月婷婷丁香五月| 超碰69天堂| 99热6这里之有精品| 五月激情啪啪啪| 伊人丁香五月婷婷潮吹| 五月婷婷综合色啪| 99热免费| av电影在线播放| 黄色笑话深爱激情网丁香五月婷婷啪啪啪啪啪| 久热免费| 九九综舍久久| 99成人免费热视频| 91啪啪视频| 99噜噜| 丁香六月婷婷色播| 99久精品| 色综合色综合色综合色综合| 99热99精品在线观看| 五月五丁香婷婷| 丁香五月影| 日本在线免费中文com.| 91操人| 丁香五月综合激情久久潮喷| 色综合色综合网| 99熟女视频| 日韩操人| 综合五月草| www.婷婷六月天| 久久精品小视频| 99在线看视频|