欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連 最近我把一套跑在RKE集群上的Rancher管理平臺(tái)從舊機(jī)器整體遷到了新環(huán)境。Rancher本身不復(fù)雜復(fù)雜的是它管理的一堆下游集群——每個(gè)下游集群里的agent都只認(rèn)原來(lái)的server-url和證書。遷移過(guò)程中先后經(jīng)歷了備份、恢復(fù)、agent重連、證書替換最后還要處理一堆歷史配置殘留。這篇文章把我這次基于RKE部署的Rancher管理平臺(tái)遷移的完整過(guò)程、關(guān)鍵命令和后來(lái)復(fù)盤出來(lái)的幾個(gè)坑都寫出來(lái)希望給要做同樣事情的人一個(gè)參考路徑。全文涉及Rancher版本與K8s版本的對(duì)齊、backup operator備份恢復(fù)、下游集群重連驗(yàn)證以及幾個(gè)我在遷移過(guò)程中踩過(guò)的典型問(wèn)題。1. 先想明白R(shí)KE架構(gòu)下Rancher遷移到底在遷什么1.1 RKE與Rancher的分工梳理RKERancher Kubernetes Engine是一個(gè)通過(guò)一條命令拉起Kubernetes集群的工具它用cluster.yml描述節(jié)點(diǎn)信息和集群配置執(zhí)行rke up后生成一套可用的K8s集群。而Rancher是跑在這套集群上的容器化應(yīng)用通過(guò)helm chart安裝到cattle-system命名空間用來(lái)管理它所在的local集群以及其他外部集群。這兩個(gè)層次一定要分清楚RKE負(fù)責(zé)“蓋房子”Rancher負(fù)責(zé)“住進(jìn)去做管理”。遷移的時(shí)候房子要重新蓋但里面的家具、賬本、住戶登記信息都要盡量原樣搬過(guò)去。這里的“賬本”主要就是Rancher在K8s里持久化的各種自定義資源CRD、configmap、secret、RBAC以及底層etcd中的狀態(tài)。1.2 為什么不能直接“打包拷貝”很多人第一次接觸Rancher遷移時(shí)會(huì)想Rancher不是一堆容器嗎把鏡像、數(shù)據(jù)目錄復(fù)制過(guò)去不就行了實(shí)際上Rancher管理平臺(tái)的狀態(tài)高度依賴Kubernetes的API對(duì)象和etcd它內(nèi)部還有多個(gè)controller通過(guò)watch機(jī)制同步信息。直接拷貝鏡像和靜態(tài)文件完全沒(méi)有意義因?yàn)镽ancher生成的密碼、token、私鑰存在secret里單獨(dú)復(fù)制一份出來(lái)并不代表可用對(duì)象之間的引用關(guān)系必須一起帶過(guò)去。下游集群通過(guò)agent和Rancher保持心跳agent里記錄的是server-url和證書信息單純復(fù)制會(huì)導(dǎo)致agent指向錯(cuò)誤的地址。Kubernetes本身是分布式系統(tǒng)它的etcd數(shù)據(jù)包含節(jié)點(diǎn)IP、證書等不能把一套集群的etcd直接丟給另一套集群用。可以把這個(gè)過(guò)程類比成搬家搬家具容易但你得先把戶籍、水電燃?xì)膺@些登記信息同步過(guò)去不然新家里通電通水了原來(lái)的賬單還是寄到舊地址。遷移的本質(zhì)是“數(shù)據(jù)、身份、網(wǎng)絡(luò)信任”三者的整體搬遷。1.3 遷移完成后的目標(biāo)狀態(tài)遷移完成后我們希望達(dá)到如下?tīng)顟B(tài)新集群上的Rancher版本和舊環(huán)境一致或者至少滿足升級(jí)兼容矩陣。登錄賬號(hào)、權(quán)限角色、全局設(shè)置、用戶密碼全部保留。下游集群仍然被Rancher管理agent自動(dòng)重新注冊(cè)。審計(jì)日志、監(jiān)控配置等可選組件按需保留。為此遷移前需要把舊環(huán)境的信息完整記錄下來(lái)建議用表格逐項(xiàng)填寫Rancher版本、Helm chart版本、K8s版本、RKE版本、server-url、證書類型、外部認(rèn)證方式、下游集群數(shù)量、以及是否有自定義的CRD或存儲(chǔ)配置。記錄項(xiàng)示例值用途rancher/rancher鏡像版本v2.7.8新環(huán)境安裝時(shí)需要對(duì)應(yīng)helm chart版本103.1.5避免restore時(shí)版本沖突rke --versionv1.4.10新環(huán)境RKE版本對(duì)齊server-urlhttps://rancher.example.com下游agent連接的關(guān)鍵證書類型受信CA證書 / 自簽證書決定是否要遷移私鑰認(rèn)證方式本地用戶 / LDAP / OIDC決定外部認(rèn)證是否需要二次配置下游集群數(shù)量7個(gè)遷移后驗(yàn)證清單1.4 常見(jiàn)遷移方案對(duì)比方案ARancher backup-restore-operator備份恢復(fù)。在舊集群安裝backup operator創(chuàng)建Backup CR把Rancher關(guān)鍵資源resourceSet備份到S3兼容對(duì)象存儲(chǔ)或本地路徑新環(huán)境反向操作Restore。優(yōu)點(diǎn)是備份粒度精準(zhǔn)、官方維護(hù)、適合遷移場(chǎng)景。缺點(diǎn)是這個(gè)工具只覆蓋Rancher自身狀態(tài)底層K8s的網(wǎng)絡(luò)插件、ingress等需要另建。方案B對(duì)承載Rancher的K8s集群做etcd快照然后在新環(huán)境用相同的RKE配置重建集群再恢復(fù)快照。優(yōu)點(diǎn)是Rancher本身幾乎無(wú)感知。缺點(diǎn)是對(duì)新舊環(huán)境的pod CIDR、service網(wǎng)段、甚至node名稱一致性要求很高靈活性差不太適合換機(jī)器、換機(jī)房的場(chǎng)景。方案C全新部署Rancher再手工配置或通過(guò)API遷移用戶、項(xiàng)目。優(yōu)點(diǎn)是環(huán)境干凈。缺點(diǎn)是工作量大、極易遺漏而且有很多不可復(fù)制的內(nèi)容比如agent注冊(cè)token、審計(jì)日志歷史、部分CRD狀態(tài)。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景backup operator遷移官方維護(hù)、粒度精準(zhǔn)、狀態(tài)完整只覆蓋Rancher資源換機(jī)器、換機(jī)房、版本不變或小版本升級(jí)etcd快照恢復(fù)整個(gè)集群狀態(tài)整體搬遷對(duì)網(wǎng)絡(luò)段、節(jié)點(diǎn)名要求高純硬件遷移且網(wǎng)絡(luò)規(guī)劃不變?nèi)虏渴鹗止づ渲脽o(wú)歷史包袱工作量大易遺漏舊環(huán)境已不可用且業(yè)務(wù)允許重建我這次采用的是方案A為主B作為備選兜底。這也是官方推薦路徑下文主要圍繞它展開(kāi)。2. 動(dòng)手前先把家底盤清楚必須帶走的數(shù)據(jù)和狀態(tài)2.1 資源清單不止cattle-system一個(gè)命名空間Rancher在K8s里并不是只往cattle-system里寫數(shù)據(jù)。備份的時(shí)候至少要考慮這些對(duì)象cattle-system命名空間Rancher pod、service、相關(guān)configmap。cattle-pipeline流水線相關(guān)配置。cattle-logging、cattle-monitoring、cattle-alerting日志、監(jiān)控、告警配置如果沒(méi)啟用就沒(méi)有。management.cattle.io組下的CRDCluster、Project、User、GlobalRole、Setting、Token等。secret包括admin密碼hash、服務(wù)賬戶token、agent注冊(cè)token等。RBAC自定義的角色綁定和權(quán)限設(shè)置。使用backup operator時(shí)它默認(rèn)的resourceSet已經(jīng)覆蓋了這些主流對(duì)象。實(shí)際操作中我在Backup CR里顯式使用官方預(yù)置的resourceSetName這樣不容易漏。不建議手工指定一堆命名空間因?yàn)楹苋菀茁┑裟硞€(gè)CRD等恢復(fù)后缺數(shù)據(jù)再排查就很被動(dòng)了。2.2 版本和配置信息盤點(diǎn)遷移前必須記下來(lái)除了數(shù)據(jù)還有幾類配置信息必須提前記錄。否則遷移到一半會(huì)發(fā)現(xiàn)server-url指向舊地址AI大模型都救不了你rancher/rancher鏡像版本以及helm chart版本用helm ls -n cattle-system查看。RKE版本用rke --version查看。K8s版本用kubectl version查看或者看RKE cluster.yml里的kubernetes_version。server-url在Rancher UI的全局設(shè)置里查看這是下游agent連接的關(guān)鍵。認(rèn)證方式如果用的是本地用戶備份里有密碼hash恢復(fù)后原密碼仍可用如果接的是外部LDAP或OIDC遷移后需要在新環(huán)境重新配置認(rèn)證提供方地址或信任關(guān)系。ingress證書類型自簽還是受信CA簽發(fā)。如果在遷移中更換域名或IP證書也要同步更新。強(qiáng)烈建議把上面這些寫到一個(gè)固定文檔里遷移過(guò)程中每一步都對(duì)照著核對(duì)。我的經(jīng)驗(yàn)是文檔里漏掉一個(gè)版本號(hào)后面恢復(fù)時(shí)可能多花兩個(gè)小時(shí)來(lái)排查。2.3 備份實(shí)操安裝backup operator并創(chuàng)建Backup CRbackup operator通過(guò)helm chart安裝命名空間是rancher-backup。安裝完成后創(chuàng)建一個(gè)Backup CR結(jié)構(gòu)類似apiVersion: resources.cattle.io/v1 kind: Backup metadata: name: rancher-backup spec: storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set encryptionConfigSecretName: backup-encryption-secret幾個(gè)字段的意圖說(shuō)下storageLocation備份文件存到S3兼容對(duì)象存儲(chǔ)也可以配置local存到節(jié)點(diǎn)路徑。生產(chǎn)環(huán)境建議S3兼容存儲(chǔ)方便新環(huán)境讀取。encryptionConfigSecretName可選。如果舊環(huán)境有敏感數(shù)據(jù)需要加密就得用同樣的加密配置否則新環(huán)境restore時(shí)解不開(kāi)。resourceSetName官方預(yù)置的資源集默認(rèn)使用rancher-resource-set。創(chuàng)建后觀察狀態(tài)等狀態(tài)變?yōu)镃ompleted表示備份完成。備份文件會(huì)生成一個(gè)tar.gz包里面是包含Rancher資源和CRD定義的一個(gè)清單。備份成功后確認(rèn)一下輸出的文件名后面Restore要用到。提示關(guān)于加密secret如果舊集群里配置了新集群安裝backup operator時(shí)也要把這個(gè)secret一起建出來(lái)并且內(nèi)容一致否則restore會(huì)直接失敗。這是最容易忽略的坑。2.4 備份完成后的驗(yàn)證備份狀態(tài)Completed不代表萬(wàn)事大吉。建議先下載備份文件確認(rèn)tar.gz包大小不是0字節(jié)再用tar解壓看一眼里面的資源列表。我遇到過(guò)備份文件生成成功但因?yàn)镾3接口兼容問(wèn)題文件內(nèi)容是殘缺的到restore階段才暴露。提前解壓驗(yàn)證幾秒的事能省下后面一整天的排查。3. 新環(huán)境搭建RKE拉起集群時(shí)的版本對(duì)齊與資源規(guī)劃3.1 版本對(duì)齊是遷移的第一原則先決定新環(huán)境的K8s版本。原則是新集群的版本與舊集群一致或者至少位于Rancher版本對(duì)應(yīng)的支持矩陣之內(nèi)。版本差太大的話Rancher chart在restore過(guò)程中可能出現(xiàn)CRD版本沖突、API group變更等問(wèn)題導(dǎo)致升級(jí)不動(dòng)、pod起不來(lái)。RKE本身也分版本舊環(huán)境用哪個(gè)版本生成的RKE新環(huán)境最好也用同一個(gè)版本。RKE生成的集群里kube-system下的一些組件版本和配置會(huì)有細(xì)微差異版本不一致會(huì)加大后面排查的難度。另外如果這次遷移同時(shí)想升級(jí)Rancher大版本我的建議是分兩步走先按舊版本遷移穩(wěn)定運(yùn)行后再做升級(jí)。不要邊遷移邊升級(jí)一次只引入一個(gè)變量否則出了問(wèn)題你不知道是遷移導(dǎo)致的還是升級(jí)導(dǎo)致的。3.2 cluster.yml的關(guān)鍵配置保持一致性在RKE集群的cluster.yml里有幾個(gè)參數(shù)會(huì)影響Kubernetes網(wǎng)絡(luò)層和證書層遷移時(shí)盡量跟舊環(huán)境保持一致network.plugin最常用canal或flannel新舊環(huán)境建議一致。services.kube-controller的service_cluster_ip_range與cluster_cidr集群內(nèi)部地址段建議保持與舊集群一致。如果變了Rancher里已存在的服務(wù)路由和網(wǎng)絡(luò)策略可能會(huì)出問(wèn)題。kubernetes_version保持同版本。nodes配置可以用新的主機(jī)名和IP這是允許變化的因?yàn)镵8s節(jié)點(diǎn)身份會(huì)重新生成。老規(guī)矩改節(jié)點(diǎn)IP沒(méi)問(wèn)題但pod CIDR和service網(wǎng)段不能隨意改遷移后很多已創(chuàng)建的服務(wù)地址和網(wǎng)絡(luò)策略都是基于原網(wǎng)段的。3.3 新環(huán)境節(jié)點(diǎn)資源規(guī)劃Rancher管理平臺(tái)自身不重但也不要太寒酸。承載Rancher的K8s集群至少用3個(gè)節(jié)點(diǎn)組成etcdcontrolplane角色生產(chǎn)建議每個(gè)節(jié)點(diǎn)4核8G起步磁盤用SSD并且40G以上。如果還要在下游集群上使用監(jiān)控、告警資源再往上浮。RKE要求節(jié)點(diǎn)能訪問(wèn)公開(kāi)鏡像倉(cāng)庫(kù)或者提前把鏡像推到私有倉(cāng)庫(kù)并在cluster.yml里配置registry認(rèn)證。新環(huán)境的節(jié)點(diǎn)時(shí)間同步也一定要做好K8s證書和agent錨定時(shí)間偏差太大會(huì)直接握手失敗。這些基礎(chǔ)項(xiàng)出了問(wèn)題后面恢復(fù)Rancher時(shí)出現(xiàn)的報(bào)錯(cuò)會(huì)非常奇怪。3.4 初始化后先做基礎(chǔ)驗(yàn)證別急著恢復(fù)執(zhí)行rke up之后先用kubectl get nodes -o wide確認(rèn)所有節(jié)點(diǎn)Ready再用kubectl get pods -A確認(rèn)kube-system和ingress-nginx的pod全部Running。這時(shí)候先不要急著裝Rancher或者做restore先把網(wǎng)絡(luò)層驗(yàn)證一遍。比如隨便跑一個(gè)測(cè)試服務(wù)確認(rèn)集群內(nèi)部DNS正常、pod之間可以通信。等基礎(chǔ)集群穩(wěn)定后再用helm安裝Rancher chart。安裝時(shí)用一個(gè)臨時(shí)的bootstrapPassword即可后續(xù)會(huì)被備份數(shù)據(jù)覆蓋。4. 恢復(fù)數(shù)據(jù)那一刻backup operator restore實(shí)操細(xì)節(jié)4.1 恢復(fù)前置準(zhǔn)備新環(huán)境恢復(fù)之前先把backup operator裝上命名空間同樣是rancher-backup。這一步和舊環(huán)境安裝基本一致需要注意兩點(diǎn)如果備份時(shí)用了encryptionConfigSecretName新環(huán)境要先創(chuàng)建同名secret內(nèi)容保持一致。如果備份文件在S3兼容對(duì)象存儲(chǔ)新環(huán)境要確保網(wǎng)絡(luò)可以訪問(wèn)這個(gè)地址尤其是私有化部署的對(duì)象存儲(chǔ)防火墻規(guī)則要提前配好。4.2 restore CR的編寫restore CR示例apiVersion: resources.cattle.io/v1 kind: Restore metadata: name: rancher-restore spec: backupFilename: rancher-backup-xxx.tar.gz storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set prune: true幾個(gè)字段的意圖backupFilename必須指向備份時(shí)生成的文件名。prune恢復(fù)時(shí)是否刪除目標(biāo)集群中已有的、不在備份里的Rancher資源。強(qiáng)烈建議設(shè)為true否則新環(huán)境安裝Rancher chart時(shí)會(huì)預(yù)創(chuàng)建一些默認(rèn)對(duì)象和備份數(shù)據(jù)混在一起容易沖突。storageLocation和備份時(shí)保持一致。創(chuàng)建restore后backup operator會(huì)在cattle-system里啟動(dòng)Rancher pod并恢復(fù)數(shù)據(jù)期間UI可能短時(shí)不可用需要耐心等。觀察restore狀態(tài)到Completed再刪除restore對(duì)象。4.3 恢復(fù)后的首次登錄和原始憑據(jù)恢復(fù)完成后Rancher會(huì)自動(dòng)重啟。用舊環(huán)境的管理員賬號(hào)密碼登錄如果用臨時(shí)bootstrapPassword是登不進(jìn)去的。如果舊環(huán)境密碼也沒(méi)記錄在恢復(fù)前提前從舊集群的secret里把a(bǔ)dmin密碼hash導(dǎo)出或者干脆在遷移前重置一次管理員密碼并記錄下來(lái)。登錄之后全局設(shè)置里的server-url非常關(guān)鍵。如果新環(huán)境地址變了要立刻改過(guò)來(lái)。改server-url時(shí)Rancher會(huì)嘗試重新生成下游集群的agent注冊(cè)配置。4.4 為什么順序必須是先有Rancher基礎(chǔ)chart再restore有人問(wèn)為什么不能在一臺(tái)空K8s集群上直接安裝backup operator然后restore因?yàn)閞estore本質(zhì)上是把Rancher自身的資源對(duì)象覆蓋進(jìn)去但它沒(méi)有能力重建Rancher chart全部初始化流程所依賴的骨架。比如cattle-system命名空間的基礎(chǔ)對(duì)象、ingress、serviceAccount等。先安裝Rancher chart可以把這些骨架搭好然后再用備份數(shù)據(jù)覆蓋血肉。骨架和血肉來(lái)自同一個(gè)版本時(shí)最穩(wěn)。4.5 恢復(fù)后的第一輪驗(yàn)證登錄Rancher UI后先看全局設(shè)置、用戶列表、角色權(quán)限是否完整。再進(jìn)入local集群看節(jié)點(diǎn)負(fù)載是否正常。此時(shí)下游集群大概率顯示Disconnected不用慌這一步正常下一步處理。5. 遷移后最麻煩的部分下游集群怎么重新接回Rancher5.1 失聯(lián)原因分解下游集群失聯(lián)的直接原因通常是agent注冊(cè)時(shí)保存的server-url還是舊地址DNS切換后連不上。證書不匹配TLS握手失敗。Rancher服務(wù)端生成的新token沒(méi)有分發(fā)下去。防火墻或安全組沒(méi)放行新的管理集群端口??梢赃@么理解下游集群的agent就像一臺(tái)老式電話機(jī)號(hào)碼簿里記的還是舊號(hào)碼。你要讓Rancher這邊的座機(jī)先確認(rèn)自己的新號(hào)碼然后想辦法把新號(hào)碼通知給所有電話機(jī)。5.2 先讓server-url和證書確定下來(lái)遷移后第一件事是把全局設(shè)置里的server-url改為最終對(duì)外地址并確認(rèn)證書有效。如果地址變化導(dǎo)致證書不匹配通常需要更新Rancher ingress的TLS secret換成覆蓋新地址的證書。在Rancher UI的Settings里觸發(fā)配置刷新。之后下游集群的agent如果自動(dòng)重連失敗再手動(dòng)重發(fā)。如果舊環(huán)境用了自簽證書遷移時(shí)要保留私鑰和完整證書鏈不能只帶一個(gè)crt。私鑰不匹配的話agent全部握手失敗報(bào)的都是x509錯(cuò)誤。5.3 自動(dòng)重連與手動(dòng)兜底大部分情況下只要server-url正確、網(wǎng)絡(luò)通暢cattle-cluster-agent和cattle-node-agent會(huì)在幾分鐘內(nèi)恢復(fù)正常。判斷方法在Rancher UI查看下游集群的狀態(tài)從Disconnected慢慢變回Active。在下游集群執(zhí)行kubectl get pods -n cattle-system看cattle-cluster-agent和cattle-node-agent是否Running。如果仍異常查看agent日志常見(jiàn)的是x509證書錯(cuò)誤或request timeout。手動(dòng)兜底路徑在Rancher UI進(jìn)入對(duì)應(yīng)集群的編輯頁(yè)面找到Registration Token重新生成或查看kubeconfig。拿到該集群的agent manifest。在下游集群里刪除舊的agent Deployment/DaemonSet讓它們重新拉取最新配置。更直接的做法在目標(biāo)集群對(duì)應(yīng)頁(yè)面用Edit Cluster重新保存一次Rancher會(huì)重新下發(fā)注冊(cè)命令。5.4 驗(yàn)證每類角色的狀態(tài)可以用一張表輔助驗(yàn)證檢查對(duì)象參考命令預(yù)期結(jié)果Rancher管理集群節(jié)點(diǎn)kubectl get nodes全部ReadyRancher podkubectl get pods -n cattle-systemRunning下游集群cattle-cluster-agentkubectl -n cattle-system get podsRunning或重建后正常下游集群cattle-node-agentkubectl -n cattle-system get daemonset正常調(diào)度Rancher UI集群列表集群管理-集群狀態(tài)為Active5.5 證書和token的實(shí)操經(jīng)驗(yàn)如果要保留原有自簽證書新環(huán)境必須把舊證書的私鑰、證書鏈完整帶入不能只帶一個(gè)crt。如果是遷移后重新簽發(fā)證書那么下游集群必須能通過(guò)新地址驗(yàn)證服務(wù)端身份否則agent全部握手失敗。比較省事的做法是遷移后直接換成受信CA簽發(fā)的域名證書一勞永逸。還有一個(gè)細(xì)節(jié)Rancher的agent注冊(cè)token是有有效期的如果遷移間隔太久token可能已經(jīng)過(guò)期。這種情況下重新生成新token即可。6. 復(fù)盤走過(guò)的彎路典型失敗場(chǎng)景與排查鏈路6.1 場(chǎng)景一恢復(fù)后Rancher UI起來(lái)了但登錄一直報(bào)錯(cuò)我遇到過(guò)restore完成后頁(yè)面反復(fù)提示Unauthorized的情況。排查下來(lái)發(fā)現(xiàn)是臨時(shí)裝的Rancher chart和備份數(shù)據(jù)的版本不一致導(dǎo)致admin用戶相關(guān)CRD沖突。解決方法是把Rancher chart卸載重新裝到與舊環(huán)境一致的chart版本再restore。所以恢復(fù)前核對(duì)chart版本絕對(duì)不要省。這一條異常重要。6.2 場(chǎng)景二下游集群顯示Disconnectedagent日志報(bào)TLS錯(cuò)誤agent日志里的典型錯(cuò)誤是certificate signed by unknown authority或x509: certificate is valid for xxx。這說(shuō)明agent拿到的證書和當(dāng)前server-url不匹配。處理步驟確認(rèn)server-url和實(shí)際訪問(wèn)地址一致。確認(rèn)ingress證書是新地址的有效證書。在下游集群刪除cattle-system下agent相關(guān)pod強(qiáng)制重建。如果還不行直接在Rancher里重新生成registration token并apply。6.3 場(chǎng)景三新集群上的Rancher pod一直ImagePullBackOff新環(huán)境通常還沒(méi)配好鏡像倉(cāng)庫(kù)的登錄信息特別是從私有鏡像倉(cāng)庫(kù)拉Rancher鏡像時(shí)。處理手段是提前在節(jié)點(diǎn)上配置docker login或者在cluster.yml和Rancher chart的values里配置imagePullSecrets。舊環(huán)境用了哪些鏡像建議提前導(dǎo)出鏡像清單避免新環(huán)境臨時(shí)找鏡像。6.4 場(chǎng)景四prune沒(méi)開(kāi)恢復(fù)后Rancher里混著一堆重復(fù)對(duì)象臨時(shí)安裝的Rancher chart會(huì)預(yù)創(chuàng)建默認(rèn)的集群對(duì)象。如果restore時(shí)prune沒(méi)開(kāi)備份里沒(méi)有的默認(rèn)對(duì)象會(huì)留在系統(tǒng)里看起來(lái)像多出來(lái)幾個(gè)服務(wù)或項(xiàng)目。它們的資源類型和正常對(duì)象混在一起排查很費(fèi)勁。所以restore時(shí)prune盡量設(shè)成true。6.5 排查思路的層次總結(jié)幾條排錯(cuò)順序第一層網(wǎng)絡(luò)通不通。從下游集群節(jié)點(diǎn)執(zhí)行curl -k https://新server-url:443。第二層證書對(duì)不對(duì)。檢查證書域名、有效期。第三層server-url對(duì)不對(duì)。在Rancher全局設(shè)置里看。第四層Token和agent配置有沒(méi)有更新??碼gent日志和registration token。第五層版本和CRD有沒(méi)有沖突。看Rancher pod日志和CRD版本。按這個(gè)順序走大部分問(wèn)題的根因都能定位到前四層。如果真的到第五層基本就是版本規(guī)劃的問(wèn)題需要回到備份和chart版本匹配這條線上重新對(duì)齊。6.6 一個(gè)小建議遷移前先完整演練一遍如果你的環(huán)境比較復(fù)雜比如下游集群非常多、有自定義RBAC、有外部認(rèn)證強(qiáng)烈建議先搭一個(gè)臨時(shí)環(huán)境完整演練一遍備份、恢復(fù)、下游重連、驗(yàn)證。演練過(guò)程能暴露大部分問(wèn)題也會(huì)讓你對(duì)restore的耗時(shí)和UI中斷時(shí)間有預(yù)期真遷的時(shí)候心里有底?;氐介_(kāi)頭說(shuō)的那次遷移。整個(gè)過(guò)程讓我印象最深的不是restore那一下而是備份清單和版本記錄是否完整。只要這些基礎(chǔ)信息是齊的遷移就像按照地圖走一遍反過(guò)來(lái)最基礎(chǔ)的版本不匹配就能讓你卡住半天。以后再接到類似的Rancher遷移任務(wù)我會(huì)先花半小時(shí)盤點(diǎn)版本、server-url、證書和備份文件再動(dòng)手。遷移窗口期盡量選在業(yè)務(wù)低峰restore過(guò)程中的UI中斷時(shí)間通常不會(huì)太長(zhǎng)但下游集群重新注冊(cè)的時(shí)間取決于集群數(shù)量和網(wǎng)絡(luò)狀況??傮w來(lái)看基于RKE部署的Rancher遷移只要把握住數(shù)據(jù)、身份、網(wǎng)絡(luò)信任這三件事不會(huì)出大問(wèn)題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香五月婷婷五月| 婷婷伊人视婷婷婷| 日本专区久久| 免费看欧美成人A片无码| 婷婷六月插屄激情| 超碰91在线| 色色色热| 久久免片| 超碰高清在线| 婷婷色基地| 色域五月婷婷丁香| 婷婷五月色花丁香社区| 欧美日韩中文国产一区发布| 亚洲免费99| 能看的av片| 99久超碰| 亚洲色基地| 亚洲色婷婷| 九九热在线精品| 色波激情五月天| www.五月婷| 婷婷五月色| 亚洲色99| 五月丁香六月婷婷综合| 五月丁香六月合| 大香蕉伊人99| 五月丁香综合成人社区| 色原狠狠综合| 99视频在线观看视频| 开心五月色婷婷综合开心网| h在线看免费版在线看| 秋霞AV淫| 九月丁香婷婷综合| 99色色网| 婷婷五月天激情网| 婷色五月天| 五月丁香婷婷在线| 色婷婷久久综合中文久久一本 | 九九99久久| 亚洲人成色A777777在线观看| 激情五月综合网最新 | 丁香五月五月婷婷五月天激情四射| 五月天激情站| 六月丁香婷婷网| 99热99ai| 天天做天天要天天爽| 九九Av| 久久精热| 色婷婷五月综合在线| 99视频这里有精品免费观看| 丁香久久| 久9久9久9久9久9久9| 丁香五月激情网| 色综合久久88色综合天天99| 五月婷婷影院| 天天干天天干天天| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 五月天综合婷婷| www.五月天色色.com| 久久久27操| 91大屁股精品| AV性爱在线| 91九色网| 五月婷婷黄色网址| 啪啪黄页网| 久久狠狠干| 国产熟女大叫受不了| 99爽视频| 欧美性丁香色色五月天综合爱爱| 激情五月天色婷婷| 婷婷九月激情| 中文字幕网伦射乱中文| 国内久久婷婷| 99色天堂| 激情五月六月丁香| 天天搞天天色综合| 亚洲精品国产熟女久久久| 日本欧美成人片AAAA| 狠狠爱青青草| 色噜噜97视频在线观看| 亚洲色婷婷激情| 另类小说婷婷色| 色欲AV导航| 久久国产色| www.91.com黄| 99色综合| www91在线| 欧美操人| 婷婷五月花西瓜| 2020日日干| 97久久超碰| 色色操| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 五月天五月色婷婷综合| 玖玖资源站中文| 婷婷五月在线观看| 99精品视频免费观看,| 婷婷深爱网| 五月婷婷亚洲| 最近中文字幕在线中文视频| 激情九色| 婷婷五月天亚洲精品| 这里只有精品在线视频在线观看| 麻豆AV一区二区三区| 国产精品24r| 在线观看av网站| 婷婷激情五月天天天开心| 人人爽亚洲| 俺去也五月| 操91综合网| 婷婷久久性爱| 欧美成人A片AAA片在线播放| 极品少妇XXXX精品少妇偷拍| 青青草轻轻操| 这里只有精品在线视频在线观看| 国产精品色情AAAAA片软件| 日韩三及成人AV片| 99热在线免费| 日本精品人妻无码77777| 丁香激情五月| 深爱激情五月婷婷| 婷婷D区| 久操热线| 五月丁香久人妻中文| 噼里啪啦完整版中文在线观看| 色很久综合| 五月天激情站| 九九热在线视频观看| 久久久久久婷| 狠狠狠狠狠操| 99国产精品久久久久久久久久久| 97色色色色色色色| 99热最新| 人妻AV在线观看| 色五月激情综合| 久热伊人| 亚洲综合久| 丁香五月婷婷色情综合| 丁香五月色情av| 五月色丁香综合| 久久久久亚洲AV成人无码电影| 成人在线观看精品| 婷婷亚洲丁香五月| 免费观看全黄做爰的视频| 五月丁香亭亭操逼| 五月天婷婷免费| 69人人操人人爽| 丁香伊人综合| 天天碰夜夜操| 丁香五月婷婷综合网| 久久久久9| 丁香五月综合激情啪啪| 国产成人在线精品| 99热婷婷| 综合色播| 99 这里只有精品| 开心五月婷婷激情| 精品九九视频| 99婷婷综合| 久久婷婷五月综合激情国产| 五月天久久色| 99成人小视频| 丁香狠狠操| 九九久久五月天综合伊人| 天天弄天天操| 岛国av电影网站| 五月婷婷之六月丁香| 天天舔天天爽| 婷婷综合网伊人| 婷婷亚洲综合| 亚洲另类婷婷五月综合| 亚洲mm免费| 综合五月天婷婷色| 东北黄色一级| 大香蕉五月丁香| 任你日视频| 另类专区在线| 深情六月婷婷综合久久| 九九操屄| 五月婷婷丁香六月| 激情网战码亚洲A| 五月婷婷五月天| 伊人五月天日日夜夜久久久天天| 中文字幕乱码亚洲精品一区| 婷婷丁香五月亚洲免费| 丁香五月天.com| 9热精品| 丁香五月婷婷天堂大香蕉| 婷婷国产成人| 亚洲综合色色| 色99色| 久久精品4| 人人97碰| 国产精品久久久99视频| 五月天激情国产综合婷婷婷| 天天做 天天爱| a免费在线| 激情网婷婷婷| 五月婷中文字幕| 香蕉久久国产AV一区二区| 色激情综合| 99色色视频| 色色综合色视频| 777精品久无码人妻蜜桃| 久九男女天堂| 天天射夜夜爽| www.金莲av| 丁香婷婷色五月合集| 亚洲成人在线在线| 大香蕉久久久| 五月情四婷婷| 激情丁香久久久久久| 99热这里都是精品| 蜘蛛女免费观看完整版高清电影| 五月四色激情| 无码人妻激情| 中文字幕婷婷五月天在线观看| 日本大逼91| 丁香美女五月天婷婷| 婷婷少妇激情| 影音先锋日本三级资源| 色色色色色色色色色色色色色97| 色色色精品无码区| 激情国产五月| 亚洲色婷婷| 五月色丁香婷婷中文字幕| 婷婷天堂伊人| 午夜丁香婷婷| 少妇人妻综合色6699| 六月色激情| 久久香蕉网| 狠狠干五月丁香| 五月婷婷偷拍| 97色射| 色婷婷综合亚洲| 亚洲激情综合色站| 一本色道久久综合狠狠躁小说| 99欧美| 天天成人综合视频| 99久久久久| 无码少妇高潮喷水A片免费| 亚洲色激情| 99热国产精品| 丁香五月人妻| 婷婷六月中文字幕| 九九这里只有精品在线视频| 五月情涩综合婷婷| 成人国产欧美大片一区| 人人干人人看| 丁香激情四射| 九九热在线99| 蜜桃婷婷丁香| 99热 免费| 啪啪黄页网| 国产肥白大熟妇BBBB视频| 久久婷婷五月| 日本色色色| AV九九| 另类图片五月天婷婷| 久综合网| 丁香五月性爱| 九九热精品99| 永久精品| 激情六月综合| 五月天婷婷中文字幕在线播放| 伊人99热| 99re免费精品视频| 久久婷婷丁香| 欧美WW在线网| 久久精品五月| 丁香婷婷老熟女综合网| 99网| 开心五月婷婷激情| 狠狠干夜夜干| www久久久| 激情综合激情五月一起草| 五月婷婷六月丁| 婷婷伊人综合| 老司机视频lsj爱就色| 思思热视频在线| 丁香五月婷婷基地| 五月丁香在线综合| 丁香丝袜五月| 伊人久久五月天| 99久久99热| 97久久精品| 婷婷99狠狠躁天天久久久九九九| 夜夜操狠狠操| 国产免费一区二区三区三州老师F1F1.CC| 亚洲六月婷婷| 蜜臀av无码久久久久久久久| 六月色播| 91黄址| 日日干夜夜干| 婷婷人人操| 久久9视频| 成人国产欧美大片一区| 九九精品re免费视频| 武则天精品久久| 激情五月婷黄版| 国产特黄色精品一区二区三区精品无广告| 亚洲激情五月婷婷日日| 亚洲综合婷婷| 国产三级在线播放| 91日韩在线| 影音先锋xfplay资源男人网| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 久99| 亚洲欧洲另类| 成人短视频在线| 久草x色在线观看99| 密视AV综合在线| 久久五月天合网| 婷婷激情丁五月| 中文字幕日产A片在线看| 丁香丁婷五月激情| 色婷婷婷av| 日韩啪啪视频| 99re在线视频精品,这里只有精品18,| 国产精品操| 4399在线观看免费高清黄色视频| 亚洲AV网站在线观看| 久久丝袜婷婷| 久久婷婷五月综合97色一本| 欧美婷婷五月激情| 激情五月天的婷婷| 五月激情婷婷四射| 婷婷六月色开| 中文字幕精品无码一区二区| 激情五月天婷婷| www.久热| seuuu婷婷| 日韩人妻在线播放| 六月丁香久久| 婷婷大乡焦噜噜| 色婷丨日丨天丨综合久久| 91九色成人原创视频| 超碰免费人人| 九九综合久久| 日韩中文欧美| 久久xxxx| 天天色综网| 色五月AV| 97操资源婷婷| 丁香六月激情综合| 婷香五月网在线| 26uuu国自产精品| 亚洲丁香五月天在线视频| 五月天自拍视频| 婷婷瑟瑟五月天| 丁香五月久久| 激情图片亚洲| 伊人干综合| 色婷婷五月影视| www.五月天。com| 99亚洲精品视频| 婷婷五月色| 亚洲第一成人无码A片| 91n啪啪| 久草五月婷婷| 五月婷婷五月天亚洲无码| 日本久久婷| 性做爰1一7伦| 99乱视频| 亚洲狠狠操| 啪啪婷婷五月天激情| 婷婷伊人| 色v综合网| 五月丁香六月婷婷玖玖| 色综合伊人网| 久久精品五月天| 亚洲五月婷婷在线| 色婷婷综合亚洲| 91无码色色| 日韩欧美成人片| 熟女五月天久久综合| 五月激情网综合| 五月丁香综合在线| 丁香五月婷婷欧美激情-中文天堂最新版在线观看| 黄网在线播放| 五月丁香激情怕怕| 26uuu国产激情视频| 色色五月天激情| 久久久久久99日本| 丰满老熟妇BBBBB搡BBB| 五月丁香六月色婷婷综合五月天| 婷婷五月天久久| 麻豆AV一区二区三区| 中文字幕成人影视| 深爱激情六月| 丁香五月之久操视频| 综合久久久婷| 五月天色不卡| 99精品久| 另类综合网| 99精品在线| 久久久精品99| 开心五月天激情网站| 五月综合久久| 99久久a线观| 色色丁香五月天| 激情五月天第四色| 色欲久久久久| 五月婷婷综合在线视频| 涩五月丁香| 五月开心网| 婷婷久久五月天丁香| 亚洲欧美一区二区三区四区爱爱动图| 精品二区| 亚州日本欧州韩美高青高潮一| 特级西西4444www无码| 久久久久99精品成人网站| 六月狠狠综合| www.久99| 人人草人人看| 99热九九在线| 五月婷婷五月天| 亚洲婷婷综合视频| 人人视频人人干人人做| 黄色99热| 婷婷丁香五月综合免费视频百花| 99热1| 五月天桃色深爱网| 91九色 婷婷| 亚洲成人婷婷| 99亚洲精美视频在线观看| 开心五月婷婷婷美女| 亚洲成人日韩无码精品| 综合激情视频| 五月婷婷精品| 欧美激情综合色综合啪啪五月| 亚洲AV无码一区二| www.精品99| 色婷婷婷婷| 久久看婷婷| 99久久婷婷国产综合精品草原| 99自拍视频网站| 色久女| 涩五月婷婷| 99无码视频| 婷婷五月天综合网| 五月婷婷六月爱| 久久久婷婷五月天| 这里只有精品免费视频| 大香蕉婷婷丁香视频在线| av在线免费播放| 亚洲欧美成人在线| 国产全是老熟女太爽了| 性生活久久朋友人妻| 中文AⅤ大全| 五月婷婷婷婷| 91啪啪视频| 色噜噜综合网| 久8色色| 最近免费中文字幕大全高清大全1| 丁香婷五月| 婷婷碰碰| 激情图片婷婷| 不卡在线超碰| 综合网亚洲| 91操在线视频| 婷婷色五月大香蕉在线| 免费观看大片视频 丁香婷婷 六月欧美| 久久婷婷五月综合成人d啪| 色五月首页| 婷婷六月丁香1| 老师高潮流白浆喷水的A片| 婷婷六月五月天综合| 色九月欧美| 无码少妇高潮喷水A片免费| 婷婷五月噜噜| 大香蕉精品视频| 99热久久这里只有精品| 亚洲人成色A777777在线观看| 婷婷丁香综合在线| 色色五月天婷婷| 人妻精品久久久久久久| 996热re视频精品视频| www.久久| 深爱五月婷婷| 天天插综合在线| 狠狠综合色网| 国产欧美性成人精品午夜 | 婷婷五月四狠狠| 久9久视频精品| www.99婷婷| 伊人在线婷婷草| 色涩影院六月丁香| 91久久精品国产91性色TV| 五月婷婷色五月| 亚洲丁香五月深爱五月| www.maotanji.com| 丁香六月丁香婷婷激情| 日日操天天操| 免费视频无码| 九九精品在线网| VA五月激情在线| 国产免费av网站| 网站免费一站二站| 青青草原伊人网| 久久婷婷欧美| 色婷婷五月天av在线| 9久久网| 国产AV一区二区三区最新精品| 天天日夜夜爽| 亚洲性爱区无码区| 丁香伊人激情| 激情综合啪啪啪| 婷婷成人av| www.夜夜| 五月丁香婷婷六月| 综合狠狠干| 色色色色网色色网色色| 婷婷爱综合| 久久久婷婷| 婷婷中文字幕网| 久久婷婷五月综合色区| 香蕉久久国产AV一区二区 | WWW、日本色丁香、co m| 99性爱| 婷婷中文无码| 99精品无码| 久久久久久性爱视频| 欧美婷| 激情宗合哪里能看| 97人人干| 色五月成人| 色玖玖玖| 欧美 日韩 成人| 99热亚州综合| 超碰免费观看| 五月停性愛| 中文字幕人成乱码在线观看| 激情文学第四色婷婷丁香五月| 亚洲天堂制| 色99综合色88| 2025神马午夜福利| 色吧婷婷五月亚洲| 日本色色色色色色色色一色二色| www,黄色在线,con| 婷婷99视频在线| 99国产精品久久久久久久久久久| 五月丁香激情综合| 五月婷婷激情| 成人无码髙潮喷水A片| 日本人妻伦在线中文字幕| 天天日天天插| 国产精产国品一二三在观看| 五月天啪啪| 色五月婷婷五月| 夜夜撸天天操| 99在线精品免费视频| 激情婷婷五月天| 婷婷九月色| 99热自拍| 国产伦亲子伦亲子视频观看| 99精品在线| 国产乱子轮XXX农村| 六月婷婷激情| 亚洲xx在线| 人妻在线观看视频| 开心五月婷婷综合在线精品素人| 五月丁香六月色| 丁香五月婷婷激情尤物| 丁香婷婷五月六月久久| 婷婷丁香五| 亚洲天堂AAA| 精品皮股午夜AV| 丁香五月开心婷婷| 婷婷娌伦网| 91久久久久久| 国产乱妇无乱码大黄AA片| 国产在线aaa片一区二区99| 无遮挡国产高潮视频免费观看 | 99久久精| 成人狠狠成人狠狠成人狠狠成人狠狠| 婷婷激情五月天视频在线| 99无码黄色视频| 99色热视频| 亚洲天天操| 无码激情AAAAA片-区区| 婷婷色基地在线看| 生活片五区| 色的色综合| 色狠狠色综合| 色综合色五月| 香蕉久久国产AV一区二区| 波多野结衣不卡AV| 97人操| 婷婷五月天成人网| 这里只有精品在线免费视频| 97色啪| 日本三级韩三级99久久| 色色亚洲99com| 久久停停超碰| 丁香五月欧美色综合| 天天干天天爽| 熟女少妇内射日韩亚洲| av第一二区| 热99视频精品| 五月婷婷六月天| 丁香成人五月天| 婷婷五月日本| 热的国产99热| 婷婷欧美激情综合| 色狠狠六月| 另类激情中文| 99免费视频| 丁香六月婷婷社区| 欧美性爱特黄一级aaaassss| 荷兰av一级| 免费无码毛片一区二区A片| 久青草大香蕉| 婷婷五月天无码熟女| h亚洲| 岛国在线观看91| 久久99网址| 色色婷婷综合网| 色婷婷操逼| 老师的粉嫩小又紧水又多A片视频| 亚洲无码黄色| 婷婷五月天激情综合网| 夜夜干天天操| 91丨九色丨熟女丰满| 亚洲美女婷婷五月天| 天天干一干| 色婷婷六月| 色婷婷香蕉| 婷婷综合网| 国产毛片欧美毛片久久久| 丁香婷婷五月六月久久| 五月婷婷之综合激情| 丁香六月婷婷综合| 91操片| 天天色域综合网| 夜夜撸夜夜骑| 久9久9热久热| 亚洲第一综合| 国内精品免费一区二区2009| 情欲综合网| 色色亚洲| 91狠狠综合久久久久久| www.色9| 天天综合网色欲香| 五月丁香婷婷激激激综合网色播| 江苏少妇性BBB搡BBB爽爽爽 | 丁香六月天婷婷色| 久热这里只有精品66| 久久人妻精品| 色性综合| 五月天婷婷激情小说电影| 9精品视频在线| 久久A区B区| 国产精品美女久久久久AV超清| 色色99| 色五月丁香五月| 日本一道久久| 啊V视频在线观看| 五月婷婷深深爱| 丁香五月欧美| 日韩AV片| 九九色中文| 丁香激情久久| 久久9久| 91综合国免费久入| AV中文在线| 青青草激情网| 人人色婷婷五月天| 激情小说五月天| 欧美色色色色色色色| www.婷婷五月天.com| 99色视频在线观看最新| 亚洲第一黄网| 五月天狠狠网站| 91九色网| 99色热视频| 精品热九九| 玖玖资源站蜜臀| 任你躁XXXXX麻豆精品| 激情丁香婷婷五月天| 色欲天天综合| 色色色777| 96精品成人无码A片观看金桔| 五月婷婷色丁香| 9国产在线视频| 99在线看片| 玖玖婷婷免费| 97se视频在线| 五月开心婷婷极品激情| 最近韩国日本免费高清观看| 99色看| 国产超碰av| 99色色视频| 丁香综合网| 久久婷婷六月综合| 色狠狠色狠狠| 99九九玖玖| 色色a| 夜夜爽日日躁| 久热爱大香蕉在线蜜臀悦色| 久99久在线| 996er在线观看| co超碰在线观看| 色播五月| 久久6这里只有精品| 深夜婷婷 丁香| 婷婷精品性视频| 欧美大香蕉视频| 婷婷亚洲综合| 丁香五月欧美色综合| 丁香五月婷婷Av| 日日色综合| 亚洲色色精品| 午夜天堂啪啪| 六月婷婷色色网| 91精品久久久久久久久| 久热这里只有精品在线观看| 超级97碰碰| 久久综合性| 婷婷五月天日日日干干干| 天堂久久大香蕉| 日本天天色| 五月丁花六月丁香综合| 色狠狠五月天| 奇米影视在线视频| 欧美成人精品A片免费一区99| 精品国产va久久久| 99色综合网| 九九久久偷拍| 九九亚洲| 成人丁香| 五月天成人手机在线视频| 色婷婷久久视屏| 五月婷婷丁香| 色欲五月婷婷| 婷婷五月天亚洲综合| 猫咪伊人久久| 深爱激情五月天婷婷网| 婷色五月| 欧美色色日韩| 欧美色男人网站| 五月婷婷影院| 精品久久这里热66| α久久| 色5月婷婷| 日韩美一级毛卡片| 伊久大香蕉| 婷婷五月天激情文学| 久久人妻视步| 伊人久久婷婷五月天激情四射| 91色在线/日韩| 天天久久婷婷| 99精品国产乱码久久久人妻| 色色五月丁香| 五月婷婷狠狠干| 五月第四色| 天天操天天操| 九九人妻福利| 好好干Av| 丁香五月中文字幕| 91丁香| 天堂在线伊久| 琪琪色五月婷婷老师| 丁香五月成人社区| 综合久久影院| 色婷婷五月天| 久久人妻精品| 国产婷婷五月色情综合| 丁香色情五月综合网站| 日韩一区二区三区无码| 再次出发二| 色婷婷久久| 伊人www22综合色| 99热一本久道| 伊人五月天97| 色五月婷婷影视| 国模九区| 五月婷婷啪啪啪啪| 91人人人人人| 国产成人精品一区二区三区视频| 99热综合| 亚州美女| 亚洲国产无线乱码在线观看| 日日操天天操| 人人草人人舔| 99色色| 日本天天操| 99在线精品观看99| 色婷婷网| 狼人久草| 亚洲第一综合| 可以看的av| 人妻肉射免费观看| 激情婷婷丁香色情五月天| 99这里只有精品国产| WWW.激情| 内射激情在线| 色综合久久88色综合中文字幕| WwW天天干| 五月天婷婷色播在线网| 亚洲国产精品综合色区| 啄木鸟丝袜美女福利视频| 婷婷五月天美女视频| 秋霞午夜理论| 色婷婷狠狠色| 天天婷婷色六月| 五月天激情www| 婷婷操超碰| www,久久久| 天天干夜晚夜操| AV九九| 天天爱天天天射AV| 99天堂网最新| 色色激情五月| 婷婷五月综合激情| 99er在线观看| 激情深爱综合网| 99啪啪网| 欧美婷婷| 九一娱乐在线观看视频| 久久狠婷婷| 婷婷99丁香| 四色永久成人网站| 六月婷婷狠狠| 26uuu亚洲精品国产| 激情丁香九九五月综合网| 国产成人99久久亚洲综合精品| 五月综合久久| 97操碰人免费| 久久人人九九| 亚洲视频丁香网va| 99热中文字幕久久| 成人AV中文字幕| 色色色色网| 国产日产亚洲系列最新| 婷婷色一二三区波多野结衣| 97在线综合| 六月婷婷狠狠色在线观看| 99爱在线视频观看| 婷婷五月天视频| 五月天激情国产综合婷婷| 无码激情AAAAA片-区区| 五月天婷婷涩涩| 色波激情五月天| 欧美久久婷婷| caop在线视频| 亚洲色无码A片一区二区麻豆| 婷婷五月超碰| 99噜噜噜在线播放| WWW.99热| 婷婷在线播放| 欧美日韩日韩成人| 国产xxxxx在线观看| 久久ab| 欧美性爱五月天| 任我肏视频精品| av人人干| 91热久| 99热永久在线观看| 五月婷婷在线播放| 欧美大片免费播放器| 色婷婷AⅤ| 婷婷在线操| 夜夜爽天天干| 无码人妻少妇色欲AV一区二区| 天天色综| 激情五月婷婷啪啪| 九九精品热| 亚洲视频久久| www.色婷婷。com| av在线观看免费| www.99.色| 玖热精品综合视频| 99九九在线视频| 黄色片久久| 激情五月综合网| 国产精品久久久60086| 国产成人亚洲综合A∨婷婷| 婷婷国产五月天17c| 亚洲国产精品五月天| www.色婷婷.com| 亚洲AV日韩在线观看| 在线国产精品色| 综合色五月| 精品夜夜澡人妻无码AV| 五月丁香啪啪综合网| 久久久久人妻中文| 少妇性BBB搡BBB爽爽爽视頻| 好看的国产精品| 这里只有精品1| 婷婷丁香久久网| 狠狠 婷婷| 色婷婷久久| 午夜成人网站在线观看| 婷婷六月丁香欧美视频在线| 超碰97在线操| 色综合久久88色综合天天99| 久热亚洲| 丁香五月天堂网AV| 色欲资源网| 色青青电影色五月| 天天干天天日天天插| 另类图片天天影视在线观看| 丁香五月欧美色综合| 五月天成人小说| 丁香花大香蕉婷婷综合| 思思热再线视频| 99色综合| 五月天婷综合网站| 超碰av在线| 六月丁香婷婷视频综合在线观看| 五月婷婷啪啪啪| 色色五月激情| 人人干人人操人人摸| 五月婷婷久久网| 精品无码av丁香五月激情| 欧美精品999| 熟女色专区| 五月丁香六月激情欧美综合| 日本一级一级一级一级| 99视频在线精品免费观看2| 亚洲第一成人无码A片| 1024国产| 99操视频| 婷婷色五月天在线| 五月丁香婷婷无码中文| 久久精彩视频| 丁香五月婷婷少妇| 黄桃AV无码免费一区二区三区 | 黑人糟蹋人妻HD中文字幕| 爱超碰性| 开心五激情网| 欧美三级巜人妻互换| www.俺去也com| 亚洲一二三网| 99久久激情视频| 免费成人网在线观看| 99精品在线观看视频| 九九九午夜影院成人| 婷婷五月,偷窥偷拍网| 182无码| 天天色域综合网| 91色碰| 香焦网五月天| 亚洲啪啪视频| 99热这里| 成人婷婷五月天| 91无码一区人妻A片蜜| 五月天婷婷视频| 日亚二欧美| 97AV在线视频| 天天草天天舔| 亚州男人天堂婷婷五月| 亚洲婷婷免费| 五月婷婷久久综合| 嫩草AV久久伊人妇女超级A| 色色五月天婷婷| 天天久综合网永久入口18| 日韩在线五月天婷婷| AAA级久久久精品| 激情綜合W W W,激情五月天| 婷婷精品在线| 思思99热| 婷婷五月丁香久久| av第一二区| 99超级碰免费视频| 性99网站| 99热99久久| 日本不卡一区二区三区| 婷婷五月激情五月激情| 丁香五月首页| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 亚洲色图81p| 婷婷色五月天在线观看| 丁香五月冃欧美| 欧美性爱中文字幕| 日本久久99| 色五月丁香婷婷在线观看| 99精品国产热久久91色欲| 国产AV国片偷人妻麻豆| 婷婷色五月婷| 99极品视频| 超级碰人人操人人干| 五月丁香六月激情在线| 五月丁香六月花| 伊人婷婷大香蕉| 婷婷影院A成人| 亚洲色夜| va婷婷在线| 欧美日本97| 亚洲天堂热| 五月六月伦理| 综合综合色色| 中文网婷婷字幕婷| 成熟妇人A片免费看网站| 可以免费看的AV网站| 久久五月天激情美女| 激情婷婷网| 五月丁香综合激情| 人人视频色| 五月六月丁香激情视频| www,99色| 中文字幕视频色婷婷| 亚洲综合草草| 婷色影院| www色色色com| 婷婷五月免费视频| 激情五月天之六月婷婷| 色5月婷婷色| 丁香五月激情图片婷婷| 超碰免费人人| www.9797国产| 丁香五月天啪啪激情综和网| 激情深爱综合| 综合色网站| 在线视频九色97| 亚洲精品又粗又大又爽A片| 五月天婷婷伊人| 丁香婷婷六月在线资源观看| 国产色色网址网站| 日韩色五月| 奇米网大香蕉| www.wuyuetian啪啪| 79精品视频在线观看,| 在线观看免费狠狠色丁香香综合| 激情婷婷六月| 99热免费网站| 九九Av| 大香蕉婷婷丁香| 97婷婷五月激情六月丁香伊人| 香蕉久久国产AV一区二区| 9色在线| 大香蕉啪啪| 丁香五月婷婷六月丁香| 特级片神马电影| 天插天啪天啪天啪| 丁香六月天AV| 色色日韩| 久久久999精品| 超碰人人99| 97超级操操| 国产亚洲99久久精品熟女| 亚洲综合激情五月久久| 天天色宗合| 五月婷婷亚洲| 午夜成人天堂久久无码日韩久久| 天天操婷婷| 午夜五月天| 5月丁香啪啪啪| 婷婷五月丁香久久| 天天爽天天做| 亚洲狠狠狠| 99热这里只是精品| 激情综合色五月丁香六月亚洲| 婷婷五六日| 色婷婷六月综合| 99激| 婷婷丁香五| 五月色婷婷综合丁香精品无遮挡| 最新日本A片| 天天AV导航网| 五月伊人综合| 五月天婷婷一起草| 激情综合色五月六月婷婷| 翔田千里aV中文字幕| 天天狠狠插| 人人干天天操五月丁香| 天天综合天天做天天综合| 逼逼AV| 久久成人天| 99re思思热久久| 五月叮香啪| 人人操av| 丁香九月婷| 婷婷伊人| 亚洲熟妇AV乱码在线观看| 97精品人人A片免费看| 极品人妻VIDEOSSS人妻| 五月综合人妻| 色婷婷yy久| 日本免费91| 玖玖爱综合网| 五月丁香大相交| 激情婷婷色色| 99久久免费性爱视频`| 91精品婷婷国产综合| 久久久人妻不卡| 激情综合网婷婷久久| 五月婷婷开心丁香| 五月开心久久| 丁香婷婷五月天激情四射| 7777激情基地| 亚洲天堂亚洲色色色| 五月天色婷婷基地| 婷婷六月激情丁香| 天天综合亚洲| 人妻av在线| 五月婷在线| 啪啪色激情五月天| 九九99热| 国产97色在线| 激情婷婷五六月天| 丁香婷在线| 亚洲第一成人无码A片| 激情五月天网站| 丁香五月玖玖| 欧美啪啪9| 激情四射五月天偷偷看婷婷| 色狠狠综合| 丁香五月六月婷婷综合| 99综合| 五月天婷婷激情六月久久| AV在线免费网站| 这里只有精品视频国产| 婷婷开心六月| 日日干天天射| 在线观看免费人成视频无码| 国产精产国品一二三在观看| Av在线不卡一区| www.91九色| 中文字幕丁香五月| 99在线精品视频| 99∨VTV| 婷婷伊人綜合| 九九99在线观看视频| va婷婷在线| 九九综合88| 成人五月天丁香婷| 色亚洲色宗合| 玖玖爱综合网| 国产真实乱了老女人视频| 成人午夜在线视频| 丁香五月香蕉在线| 99re视频精品| 欧洲色色| 牛牛色av| 五月丁香婷婷成人伊人网| 久久久免费精彩视频| 香蕉久久国产AV一区二区| 色婷六月| 岛国av电影网站| 人妻熟妇国产精品| 丁香六月婷婷| 9久久AV| 五月丁香拍拍激情综合| 91干视频| 丁香五月狠狠在线观看| 天天摸.天天mo| 99热在线只有精品| 中文字幕网伦射乱中文| 99re视频在线播放| 五月婷婷在线综合| 九九热在线精品视频| 日本一级淫| 丁香女人五月天| 午夜婷婷久久 | 二色av| 亚洲五月天婷婷综合| 五月婷婷丁香| 波多野结衣AV无码Porn| 99re在线这里只有精品视频首页| 激情六月综合| 国产三级片91| 久热A| 国产婷婷婷| 熟女色专区| 九九热欧美| 色99www.| 淫视馆av三区| 久久婷婷激情五月天一区二区| 婷婷午夜丁香| 久久色午夜在线导航| 五月天色婷婷基地| 开心五月激情网| 九九精品综合| 五月天婷婷久久视频| 内射人妻视频国内| 亚洲国产婷婷色五月| 91精品国产综合久久密臀| 色婷婷丁香五月| 婷婷五月色| 丁香九月久久| 9 1在线视频| 狠狠草在线观看| 久久五月天影院| 夜夜夜叫天天天做| 五月天婷婷色| 亚洲激情99| 99精品热| 亚洲小视频免费看| www.99在线| 国产免费AV网站| 激情久久久久久久久久| 小泽玛利亚视频一区二区| 国产玖玖资源| 狠狠色噜噜色狠狠狠综合色| 色婷婷丁香AV综合| 狠狠爱成人综合网| 色婷婷六月开心中文字| 日本激情综合| 婷婷丁香五月六月激情| 久久综合九色综合97婷婷| 26uuu.| 性做爰A片免费视频A片直播| 色五月婷婷成人视频| 亚洲国产精品二二三三区| 九九sese| 青草青草视频2免费观看| 色婷婷五月基地在线| 精品人妻午夜一区二区三区四区| 丁香狠狠| 婷婷五月天综合亚洲| 国际国外精品欧洲南美洲专区无码不卡| 4399无码视频| 夜夜人妻五月天| 婷婷丁香六月天| 精品视频这里只有精品| 精品夜夜澡人妻无码AV| 五月丁香六月婷婷色| 亚洲天堂色| 蜜桃五月天| 日韩操女| 五月天激情久久| 天天色天天搡| 99色| 婷婷综合六月| 碰超在线九色| 久久久久久激情| 五月天狠狠网站| 天天射网站| anquye五月| 五月丁香毛片| 六月丁香综合| aaaaaa片| 婷婷五月丁香五月| 操丝袜视频影院导航| 1234操逼网| 99视频九九热| 免费日韩99| 香蕉AV777XXX色综合一区| 色五月婷婷综合| 超碰99久久| 国产美女无遮挡裸体毛片A片| 激情五月视频| 碰97久久| 色五月天婷婷| 精品皮股午夜AV| 婷婷婷久久| 色五月色图| 成人色五月天| 97干在线免费| 日韩AV大全| 精品99网站| 大香蕉人在线65| 欧美色婷婷| 97丁香五月| 色婷婷AV在线| 亚洲婷婷五月天| 日日舔夜夜操| 97视频.干com| 密着浓厚中出乚交尾GvG935| 激情五月婷婷综合| 国产色丁香| 久久ri精品视频| 久久婷婷六月综合综合| 综合激情视频|