欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

kexec原理與實戰(zhàn):跳過重啟實現(xiàn)秒切Linux內(nèi)核的完整指南

kexec原理與實戰(zhàn):跳過重啟實現(xiàn)秒切Linux內(nèi)核的完整指南 1. 從“重啟”到“秒切內(nèi)核”kexec到底解決了什么痛點我在生產(chǎn)環(huán)境折騰內(nèi)核不是一天兩天了。早些年每次升級內(nèi)核或者調(diào)試一個新的內(nèi)核特性最讓人頭疼的就是“重啟”這兩個字。一臺承載著業(yè)務(wù)的服務(wù)機動不動就要等上幾分鐘甚至十幾分鐘的BIOS自檢、硬件初始化、引導加載程序掃描然后才是內(nèi)核解壓、驅(qū)動加載、服務(wù)拉起。如果是一臺需要快速切換內(nèi)核的測試機倒還好但如果是在線上環(huán)境每多等一秒都意味著業(yè)務(wù)中斷時間被拉長。有沒有一種辦法能跳過那堆冗長的硬件自檢和引導流程直接從當前正在運行的Linux內(nèi)核“跳”到一個新內(nèi)核答案就是題目里這個命令kexec。kexec是Linux內(nèi)核提供的一個機制它的全稱是“Kernel EXecution”直白地說就是讓當前正在運行的內(nèi)核直接加載并切換到一個新內(nèi)核不需要經(jīng)過傳統(tǒng)的重啟流程。底層對應(yīng)一個系統(tǒng)調(diào)用用戶態(tài)配套的工具也叫kexec。它的工作方式相當于你在辦公室里正開著會突然要換一間會議室但你不是走出大樓再從大門進來而是直接推開隔壁會議室的門坐下——省掉了所有重復(fù)的入場流程。這個能力在不少場景下都非常值錢。比如線上內(nèi)核升級后需要驗證新內(nèi)核是否穩(wěn)定你不想經(jīng)歷漫長的停機窗口再比如你在調(diào)試一個會導致系統(tǒng)崩潰的內(nèi)核模塊希望崩潰時能自動跳到一個保留的“急救內(nèi)核”去抓取現(xiàn)場信息這就是后面要聊的kdump機制的基礎(chǔ)。作為Linux運維、內(nèi)核開發(fā)者或者底層系統(tǒng)愛好者掌握kexec幾乎是必修課。這篇內(nèi)容我盡量用實際操作的角度把kexec的原理、用法、坑點和配套場景都講透確保你不僅能看懂還能直接拿去用。2. kexec的兩種核心工作模式與系統(tǒng)級架構(gòu)2.1 加載式的兩階段操作kexec -l 與 kexec -ekexec這個工具的使用邏輯非常清晰一共就兩大步先加載再執(zhí)行。第一步用kexec -l把新內(nèi)核和它的initrd初始根文件系統(tǒng)加載到當前內(nèi)核已經(jīng)預(yù)留好的內(nèi)存區(qū)域中同時把啟動參數(shù)一并準備好。執(zhí)行完這一步新內(nèi)核其實是“待命”狀態(tài)當前系統(tǒng)一切照常運行沒有任何切換發(fā)生。第二步在你準備好的時機執(zhí)行kexec -e當前內(nèi)核會立即停止一切正?;顒又苯犹D(zhuǎn)到之前加載好的新內(nèi)核入口地址。整個切換過程非??焱ǔ>褪且粌擅氲氖赂緵]有傳統(tǒng)重啟那樣的硬件重置和引導流程。這兩個步驟分開設(shè)計是刻意為之。因為加載內(nèi)核是一個相對耗時的過程需要讀取內(nèi)核文件、解壓縮、把各段放入內(nèi)存、組裝啟動參數(shù)而執(zhí)行切換是瞬間動作。把加載和執(zhí)行解耦意味著你可以提前很多時間把新內(nèi)核準備好然后在業(yè)務(wù)低峰期一鍵切換。我在實際使用中經(jīng)常提前幾分鐘把內(nèi)核加載好反復(fù)檢查啟動參數(shù)無誤最后執(zhí)行真正的切換動作。需要注意kexec -l參數(shù)后面可以直接指定內(nèi)核鏡像文件路徑比如/boot/vmlinuz-xxx。同時幾乎都必須配合--initrd指定initrd文件否則新內(nèi)核可能因為缺少必要的驅(qū)動模塊而無法掛載根文件系統(tǒng)。至于啟動參數(shù)可以用--command-line手動指定但如果懶得一個個敲直接用--reuse-cmdline復(fù)用當前內(nèi)核的啟動參數(shù)也是一種省事且穩(wěn)妥的做法。2.2 立即執(zhí)行的kexec系統(tǒng)調(diào)用與一次性的頂層封裝上面說的兩階段是針對kexec工具的使用流程。在系統(tǒng)調(diào)用層面其實還有一個更加猛烈的封裝kexec_load系統(tǒng)調(diào)用可以直接完成從加載到執(zhí)行的整個過程因為加載和執(zhí)行本質(zhì)上是一個連續(xù)的動作。只是內(nèi)核出于安全考慮通常會要求調(diào)用者具備CAP_SYS_BOOT權(quán)限而且大多數(shù)發(fā)行版默認不會把這種“自殺式”調(diào)用暴露給普通用戶。實際日常操作中我們使用kexec工具就足夠了。kexec工具在加載階段會把內(nèi)核鏡像、initrd等數(shù)據(jù)通過kexec_load系統(tǒng)調(diào)用交給內(nèi)核但并不會觸發(fā)立即切換。而kexec -e執(zhí)行的其實是另一個系統(tǒng)調(diào)用reboot(LINUX_REBOOT_CMD_KEXEC)相當于告訴內(nèi)核“我已經(jīng)準備好了你現(xiàn)在可以跳轉(zhuǎn)過去了”。此外如果你的系統(tǒng)使用systemd作為init系統(tǒng)還有一個更省事的入口systemctl kexec。這個命令會讀取systemd預(yù)設(shè)的kexec加載配置通常是/run/systemd/system/kexec.conf或者由systemd-kexec服務(wù)在啟動時配置然后自動完成加載并執(zhí)行切換。對很多場景來說直接用systemctl kexec比手工敲kexec -l加kexec -e要省心很多但前提是你得先把加載信息提前配置好。3. 為什么kexec能跳過重啟深入內(nèi)核的切換機制3.1 跳過固件與引導加載程序的關(guān)鍵設(shè)計傳統(tǒng)啟動的路徑是電源上電 - BIOS/UEFI自檢 - 引導加載程序如GRUB加載內(nèi)核到內(nèi)存 - 內(nèi)核初始化硬件 - 掛載根文件系統(tǒng) - 啟動init進程。這個過程中BIOS/UEFI自檢和引導加載程序的掃描往往是耗時的大頭很多時候不需要每次都完整執(zhí)行。kexec的核心思想是當前內(nèi)核已經(jīng)完成過硬件初始化這些硬件狀態(tài)其實都還活著不需要重新初始化一遍。新內(nèi)核只需要接管這些已經(jīng)被初始化好的硬件即可。所以kexec在加載新內(nèi)核的時候會把新內(nèi)核鏡像放入一段特定的內(nèi)存區(qū)域然后在新內(nèi)核入口點執(zhí)行時它并不會像傳統(tǒng)引導那樣重新掃描總線、重新枚舉設(shè)備而是盡可能繼承當前內(nèi)核已經(jīng)建立的硬件上下文。這就像你換了個新的大腦來接管一個已經(jīng)正常運行的身體而不是讓整個身體推到手術(shù)室重新組裝一遍。當然實際操作中新內(nèi)核還是會做大量的軟初始化工作比如重新初始化內(nèi)存管理、進程調(diào)度、中斷等核心子系統(tǒng)但硬件層面的重復(fù)枚舉確實被大幅簡化了。3.2 內(nèi)存布局與加載地址的指定邏輯kexec加載內(nèi)核時有一個很重要的概念是加載地址。使用kexec -l加載時系統(tǒng)默認會選擇一段“安全”的內(nèi)存區(qū)域來放新內(nèi)核。這個安全區(qū)域通常是當前內(nèi)核未使用的物理內(nèi)存段由內(nèi)核在啟動時預(yù)留或者動態(tài)分配。在某些特殊場景下你可能需要手動指定加載地址比如當默認加載區(qū)域被某些固件或驅(qū)動占用時會報出kexec: Cannot allocate memory或者類似的內(nèi)存沖突錯誤。這時可以通過--load參數(shù)配合地址選項手動指定。但絕大多數(shù)情況下內(nèi)核自帶的這個內(nèi)存分配邏輯已經(jīng)足夠智能會自動避開正在使用的內(nèi)存區(qū)域。這里要特別提醒一個點kexec加載新內(nèi)核時必須保證新內(nèi)核鏡像的完整性并且新內(nèi)核運行時需要的物理內(nèi)存區(qū)域覆蓋范圍不能和當前內(nèi)核正在使用的關(guān)鍵數(shù)據(jù)結(jié)構(gòu)沖突。否則切換后可能出現(xiàn)無法解釋的隨機崩潰。我在調(diào)試時遇到過好幾次類似問題最后都發(fā)現(xiàn)是加載地址選擇不當造成的。3.3 內(nèi)核配置選項與kexec的依賴關(guān)系要在你的Linux系統(tǒng)上使用kexec首先內(nèi)核必須開啟相應(yīng)的配置項最常見的有三個CONFIG_KEXEC、CONFIG_KEXEC_FILE和CONFIG_CRASH_DUMP。CONFIG_KEXEC是支持傳統(tǒng)kexec加載機制的開關(guān)CONFIG_KEXEC_FILE是指基于文件描述符的加載方式也就是用kexec -s參數(shù)時走的那條路徑。基于文件的加載方式在安全性上要更好一些因為內(nèi)核會對鏡像簽名做校驗尤其在啟用了Secure Boot的機器上這種方式幾乎成了唯一選擇。如果你的內(nèi)核編譯時沒開這兩個選項即使你裝了kexec工具執(zhí)行時也會提示不支持。所以在折騰kexec之前先確認一下你的內(nèi)核配置zgrep KEXEC /proc/config.gz或者如果你的發(fā)行版沒有把config導出到/proc/config.gz那就檢查一下/boot/config-$(uname -r)文件。確認有CONFIG_KEXECy或CONFIG_KEXEC_FILEy之后再進行下一步。4. 實操篇kexec的安裝、加載與切換全流程4.1 安裝kexec-tools不同發(fā)行版的差異kexec的用戶態(tài)工具一般叫kexec-tools幾乎所有主流Linux發(fā)行版都提供了對應(yīng)的軟件包。在Debian/Ubuntu系列上安裝命令是sudo apt install kexec-tools安裝過程中會詢問你是否允許系統(tǒng)在重啟時自動使用kexec快速啟動如果沒有特殊需求可以先選擇否手動控制更穩(wěn)。在RHEL/CentOS/Fedora系列上安裝命令是sudo yum install kexec-tools或者在新版本上用sudo dnf install kexec-tools在openSUSE上則是sudo zypper install kexec-tools安裝完成后先用kexec --version驗證一下工具是否正??捎?。版本號不同參數(shù)解析上會有細微差異但核心操作邏輯基本一致。4.2 加載新內(nèi)核到內(nèi)存一個完整的kexec -l示例下面我以一個實際的升級場景來演示。假設(shè)當前系統(tǒng)跑的是5.15內(nèi)核你要切換到剛裝好的6.1內(nèi)核但暫時不想執(zhí)行真正的重啟動作。首先確認新內(nèi)核和initrd文件已經(jīng)放在了/boot目錄下ls /boot/vmlinuz-6.1* /boot/initrd.img-6.1*確認無誤之后執(zhí)行加載命令sudo kexec -l /boot/vmlinuz-6.1.0-rc3-generic \ --initrd/boot/initrd.img-6.1.0-rc3-generic \ --reuse-cmdline這里--reuse-cmdline會自動復(fù)用當前內(nèi)核的啟動參數(shù)在很多場景下是最省事的選擇。但如果你的新內(nèi)核需要額外的啟動參數(shù)比如要預(yù)留內(nèi)存給kdump那就需要手動指定sudo kexec -l /boot/vmlinuz-6.1.0-rc3-generic \ --initrd/boot/initrd.img-6.1.0-rc3-generic \ --command-lineroot/dev/mapper/vg-root ro crashkernel256M quiet這里有一個小提醒手動指定啟動參數(shù)時root一定要寫對否則新內(nèi)核起來后會因為找不到根文件系統(tǒng)而直接進入initramfs的緊急模式甚至直接panic。如果你不確定當前根文件系統(tǒng)的設(shè)備路徑可以先執(zhí)行findmnt /查看。4.3 執(zhí)行切換kexec -e與systemctl kexec加載完成之后你可以通過kexec -e立即執(zhí)行內(nèi)核切換。但執(zhí)行前務(wù)必確認幾件事所有重要的數(shù)據(jù)已保存當前服務(wù)的狀態(tài)可以接受中斷。因為kexec -e執(zhí)行后當前內(nèi)核幾乎不會有任何優(yōu)雅的退出流程所有用戶態(tài)進程會直接消失未落盤的數(shù)據(jù)可能會丟失。如果你用的是systemd更優(yōu)雅的替代方案是sudo systemctl kexecsystemctl kexec會觸發(fā)systemd先執(zhí)行一些基本的服務(wù)停止操作然后再調(diào)用kexec切換。注意它并不是完整地執(zhí)行關(guān)機流程而是會盡量在短時間內(nèi)停掉部分服務(wù)、卸載部分文件系統(tǒng)然后快速切換。優(yōu)點是比kexec -e稍微溫和一些缺點是沒有完整關(guān)機那么干凈。從我個人的經(jīng)驗來看如果是測試機或者你能扛得住服務(wù)直接中斷的場景直接kexec -e反而更簡單直接因為加載階段你已經(jīng)準備好了一切。systemctl kexec多執(zhí)行的那些步驟有時候反而會引入額外的變量。4.4 用腳本一鍵完成“加載-切換”的自動化實踐如果你經(jīng)常需要切換不同的內(nèi)核寫一個簡單的腳本可以省去每次手動輸入?yún)?shù)的麻煩。下面是一個我常用的shell腳本模板#!/bin/bash KERNEL$1 INITRD$2 EXTRA_CMDLINE${3:-} if [ -z $KERNEL ] || [ -z $INITRD ]; then echo Usage: $0 kernel-image initrd-image [extra-cmdline] exit 1 fi echo Loading kernel: $KERNEL echo Initrd: $INITRD CMD if [ -n $EXTRA_CMDLINE ]; then CMD--command-line$EXTRA_CMDLINE else CMD--reuse-cmdline fi sudo kexec -l $KERNEL --initrd$INITRD $CMD echo Kernel loaded. Run sudo kexec -e to switch.使用時就執(zhí)行./kexec-switch.sh /boot/vmlinuz-6.1.0-rc3-generic /boot/initrd.img-6.1.0-rc3-generic這個腳本只負責加載切換動作留給使用者手動觸發(fā)避免腳本誤觸發(fā)導致意外重啟。5. kdump場景kexec的另一半江山5.1 crashkernel預(yù)留內(nèi)存與kdump機制講到kexec不可能不提kdump。kdump是Linux內(nèi)核崩潰轉(zhuǎn)儲機制的核心它依賴的正是kexec技術(shù)。在系統(tǒng)啟動時通過內(nèi)核參數(shù)crashkernel256M預(yù)留一塊物理內(nèi)存這塊內(nèi)存專門用于在系統(tǒng)崩潰時加載和維護一個“捕獲內(nèi)核”。平時這個捕獲內(nèi)核并不會運行它只是被kexec預(yù)先加載到預(yù)留內(nèi)存中處于待命狀態(tài)。當主內(nèi)核發(fā)生panic時它會直接跳轉(zhuǎn)到這個捕獲內(nèi)核捕獲內(nèi)核啟動后會盡可能保存崩潰現(xiàn)場的內(nèi)存映像也就是生成一個vmcore文件供后續(xù)離線分析。這背后的流程是系統(tǒng)正常啟動時用kexec -p加載捕獲內(nèi)核。這里-p參數(shù)的含義是panic內(nèi)核加載目標是一段獨立的預(yù)留內(nèi)存。等到真正崩潰時主內(nèi)核無法繼續(xù)執(zhí)行但它會跳轉(zhuǎn)到這段預(yù)留內(nèi)存中運行捕獲內(nèi)核。捕獲內(nèi)核不依賴被崩潰破壞的根文件系統(tǒng)而是從預(yù)先加載好的initrd啟動然后把主內(nèi)核的內(nèi)存轉(zhuǎn)儲到磁盤上。5.2 配置kdump的完整步驟與參數(shù)說明配置一套可用的kdump環(huán)境其實很簡單。首先在GRUB的內(nèi)核啟動參數(shù)中加入crashkernel256M這個大小取決于你的系統(tǒng)內(nèi)存總量和需要轉(zhuǎn)儲的內(nèi)存大小。一般建議至少預(yù)留系統(tǒng)內(nèi)存的1/16比如系統(tǒng)有8G內(nèi)存預(yù)留512M會比較穩(wěn)。修改/etc/default/grub中的GRUB_CMDLINE_LINUX加上參數(shù)然后執(zhí)行sudo update-grub重啟后確認預(yù)留內(nèi)存已生效cat /proc/iomem | grep Crash kernel這一步如果沒有任何輸出說明crashkernel參數(shù)沒有生效需要檢查是不是GRUB配置沒寫對。接著安裝kdump工具sudo apt install kdump-tools安裝完成后kdump-tools服務(wù)會自動用kexec -p把當前內(nèi)核的捕獲內(nèi)核加載到預(yù)留內(nèi)存中。驗證是否加載成功可以看kdump-config show正常情況下會顯示ready to kdump狀態(tài)。最后測試一下崩潰轉(zhuǎn)儲是否生效sudo sysctl -w kernel.panic_on_oops1 sudo echo c /proc/sysrq-trigger這條命令會強制觸發(fā)內(nèi)核panic然后系統(tǒng)應(yīng)該會快速跳轉(zhuǎn)到捕獲內(nèi)核并生成vmcore。注意執(zhí)行這條命令后系統(tǒng)會短暫不可用生產(chǎn)環(huán)境別亂試。測試成功后重啟回到正常內(nèi)核檢查/var/crash目錄下是否有vmcore文件生成。5.3 捕獲內(nèi)核與主內(nèi)核的資源隔離問題kdump有一個容易被忽略的問題捕獲內(nèi)核和主內(nèi)核共享物理硬件但預(yù)留內(nèi)存是獨立的。如果捕獲內(nèi)核加載了和主內(nèi)核沖突的驅(qū)動或者在轉(zhuǎn)儲時訪問了被主內(nèi)核破壞的硬件寄存器可能導致轉(zhuǎn)儲失敗。為了減少這種概率很多發(fā)行版會為捕獲內(nèi)核準備一個專門的initrd里面只包含最基礎(chǔ)的驅(qū)動模塊。實際操作中如果發(fā)現(xiàn)kdump經(jīng)常轉(zhuǎn)儲失敗大概率是initrd里包含了太多不必要或者有副作用的驅(qū)動模塊。這時候可以考慮精簡initrd只保留磁盤控制器、網(wǎng)卡等必要驅(qū)動。不過需要注意的是精簡initrd是個技術(shù)活搞不好反而會讓捕獲內(nèi)核根本起不來。我在這里的建議是先用發(fā)行版默認的initrd跑一遍測試確認基本可用后再考慮優(yōu)化。6. 我踩過的坑kexec使用中的常見問題與排查技巧6.1 kexec -l 報錯內(nèi)核鏡像格式或權(quán)限問題最常見的問題之一是在執(zhí)行kexec -l時直接報kexec: Loading kernel failed或者Invalid file format。這類錯誤通常有兩個原因。第一是權(quán)限不夠。kexec加載內(nèi)核需要root權(quán)限如果你用的是普通用戶記得加上sudo。第二是內(nèi)核鏡像文件格式不對。部分發(fā)行版在/boot目錄下的vmlinuz文件不是標準的Linux內(nèi)核鏡像而是帶EFI stub的混合鏡像某些舊版本的kexec-tools識別不了。解決辦法是使用kexec -s走基于文件描述符的加載方式它會用內(nèi)核內(nèi)部的kexec_file_load接口來處理兼容性通常更好。另外還有一個小概率問題內(nèi)核鏡像文件損壞。檢查一下文件的校驗值是否和發(fā)行版的發(fā)布值一致。如果文件不完整加載時內(nèi)核在解壓階段就會失敗。6.2 切換后新內(nèi)核起不來initrd問題與模塊缺失kexec -e執(zhí)行后如果新內(nèi)核一直黑屏或者反復(fù)重啟大概率是initrd有問題。initrd的作用是在真正的根文件系統(tǒng)掛載前提供必要的驅(qū)動和工具讓內(nèi)核能找到根設(shè)備。如果你沒有指定initrd或者initrd和內(nèi)核版本不匹配新內(nèi)核會因為沒有磁盤驅(qū)動而無法掛載根文件系統(tǒng)。遇到這種情況我的排查思路是這樣在kexec -l之前先檢查一下initrd里是否包含了對應(yīng)的磁盤控制器驅(qū)動??梢杂靡韵旅畈榭磇nitrd內(nèi)容lsinitramfs /boot/initrd.img-6.1.0-rc3-generic如果發(fā)現(xiàn)缺少必要模塊可以用update-initramfs -c -k 6.1.0-rc3-generic重新生成initrd。另外一個容易被忽略的點是部分驅(qū)動模塊依賴固件文件而固件文件在initrd中缺失導致驅(qū)動加載失敗。這種問題通常會在系統(tǒng)日志中留下firmware: failed to load之類的記錄。排查時如果黑屏看不到任何輸出可以考慮在內(nèi)核啟動參數(shù)里加上noreplace-paravirt earlyprintk這類調(diào)試選項讓啟動早期信息輸出到串口或VGA上。6.3 Secure Boot場景下的簽名校驗問題現(xiàn)在不少服務(wù)器默認開啟Secure Boot這種情況下直接加載未簽名的內(nèi)核鏡像會被固件攔截。使用傳統(tǒng)kexec -l通常會直接失敗或者雖然在加載階段通過了但在執(zhí)行切換時被固件中止。正確的做法是使用帶簽名的內(nèi)核鏡像并且使用kexec -s基于文件描述符的加載方式讓內(nèi)核自己去做簽名校驗。如果你需要簽名的工具鏈可以在發(fā)行版?zhèn)}庫里找sbsigntool用自己的Machine Owner KeyMOK對內(nèi)核鏡像簽名。簽完名后加載時會比傳統(tǒng)方式稍微復(fù)雜一點但整體動作還是那幾步。如果你只是為了在本地測試不想折騰簽名最簡單的方案是在BIOS設(shè)置里臨時關(guān)閉Secure Boot。但要注意生產(chǎn)環(huán)境不建議為了圖省事關(guān)閉安全啟動這會大大降低系統(tǒng)安全性。6.4 切換后網(wǎng)卡名變化導致網(wǎng)絡(luò)失聯(lián)的應(yīng)對這是一個非常實際的問題。當你從一個內(nèi)核切換到另一個內(nèi)核時如果新內(nèi)核使用的網(wǎng)絡(luò)驅(qū)動命名規(guī)則不同比如從eth0變成了enp0s3你的網(wǎng)絡(luò)配置可能全部失效遠程連接的機器會直接斷線。解決辦法是在新內(nèi)核的啟動參數(shù)中固定網(wǎng)卡命名規(guī)則或者提前在initrd和系統(tǒng)配置中預(yù)置好新環(huán)境下的網(wǎng)絡(luò)配置。最簡單粗暴的辦法是在切換前確保新內(nèi)核的驅(qū)動模塊和udev規(guī)則和舊內(nèi)核一致。如果你用的是現(xiàn)代發(fā)行版通常系統(tǒng)的網(wǎng)絡(luò)管理服務(wù)會自動處理網(wǎng)卡重命名但還是建議在切換前把網(wǎng)卡的配置文件檢查一遍。我這里還有一個實用的小技巧如果你必須遠程操作一臺機器做kexec切換最好準備一個IPMI或者帶外管理口。萬一切換后網(wǎng)絡(luò)起不來你還能通過帶外方式恢復(fù)。這個教訓我是付出過代價的在沒有任何帶外管理的情況下遠程切換內(nèi)核結(jié)果只能跑去機房物理操作。6.5 內(nèi)存不足導致的加載失敗當系統(tǒng)可用內(nèi)存非常緊張時kexec -l可能會報錯Cannot allocate memory。這是因為kexec需要一段連續(xù)的物理內(nèi)存來存放新內(nèi)核和initrd。系統(tǒng)內(nèi)存碎片化嚴重時即使總可用內(nèi)存還有不少也找不到足夠大的連續(xù)區(qū)域。這時有兩個常用手段。一是嘗試用--load配合指定的加載地址嘗試不同的內(nèi)存段。這種情況通常需要根據(jù)/proc/iomem里的內(nèi)存布局來選擇合適的區(qū)域。二是先用echo 3 /proc/sys/vm/drop_caches釋放頁緩存減少內(nèi)存碎片。如果這兩個辦法都不行那基本只能等一些內(nèi)存占用大戶退出后再嘗試。6.6 常見問題速查表為方便快速定位問題我把上面提到的典型問題整理成一張速查表現(xiàn)象可能原因排查方向kexec -l 報 Invalid file format內(nèi)核鏡像格式不被識別嘗試 kexec -s 走文件描述符方式加載時報 Cannot allocate memory內(nèi)存碎片化或預(yù)留區(qū)域沖突釋放緩存或手動指定加載地址kexec -e 后黑屏initrd缺失或驅(qū)動模塊不完整檢查initrd內(nèi)容并重新生成Secure Boot攔截切換內(nèi)核鏡像未簽名使用簽名內(nèi)核或臨時關(guān)閉Secure Boot切換后網(wǎng)絡(luò)失聯(lián)網(wǎng)卡命名變化或驅(qū)動缺失提前確認新內(nèi)核網(wǎng)絡(luò)配置切換后系統(tǒng)反復(fù)重啟根文件系統(tǒng)參數(shù)不對檢查 command-line 里的 root 配置kdump轉(zhuǎn)儲失敗預(yù)留內(nèi)存不夠或模塊沖突調(diào)大 crashkernel 或精簡initrd這張表不能覆蓋所有場景但常見的坑基本都在這了。7. kexec的進一步擴展與GRUB、systemd和容器的協(xié)同使用7.1 和GRUB引導流程的對比何時用kexec何時用傳統(tǒng)重啟有人可能會問既然kexec這么方便為什么不把所有重啟都改成kexec答案在于kexec的適用范圍是有限的。傳統(tǒng)重啟的好處是徹底。硬件被完全重置、固件重新初始化能夠清掉很多潛在的不穩(wěn)定狀態(tài)。如果系統(tǒng)里某個硬件設(shè)備狀態(tài)異常傳統(tǒng)重啟很容易解決但kexec切換時硬件狀態(tài)是繼承的如果某個設(shè)備已經(jīng)處于不穩(wěn)定狀態(tài)新內(nèi)核也會跟著遭殃。所以我的經(jīng)驗法則是日常內(nèi)核升級和版本切換用kexec能顯著縮短停機時間但如果系統(tǒng)出現(xiàn)莫名其妙的硬件異常、驅(qū)動僵死、或者你要清理固件級別的異常狀態(tài)那就老老實實走完整重啟。不要迷信kexec它只是工具不是銀彈。7.2 systemd-kexec服務(wù)與內(nèi)核升級自動化systemd提供了一套和kexec協(xié)同的機制你可以通過配置/etc/systemd/kexec.conf來預(yù)設(shè)kexec加載信息。每當系統(tǒng)執(zhí)行systemctl kexec時systemd會根據(jù)配置完成加載并切換。同時在內(nèi)核升級自動化方面有些發(fā)行版會在安裝新內(nèi)核包后自動執(zhí)行kexec -l預(yù)加載新內(nèi)核。這樣用戶之后只需要執(zhí)行一條命令就能完成切換。Debian系的部分環(huán)境在安裝kexec-tools時會提示你配置這個行為。實際操作時我不太建議完全自動化畢竟內(nèi)核切換是一件影響面很大的動作提前預(yù)加載可以但真正的切換動作還是應(yīng)該由人來控制至少得留一個確認環(huán)節(jié)。7.3 kexec在容器和虛擬機快速迭代中的妙用在容器場景下kexec本身并不直接作用于容器但如果你是搞內(nèi)核開發(fā)的經(jīng)常需要測試新內(nèi)核在容器運行時環(huán)境下的表現(xiàn)kexec就能幫上大忙。比如某公司在物理機上跑著一堆容器需要快速驗證新內(nèi)核與容器運行時是否兼容。如果走傳統(tǒng)重啟可能要等很多容器重新調(diào)度。用kexec提前加載好新內(nèi)核在維護窗口一鍵切換整體服務(wù)中斷時間能壓縮到一分鐘以內(nèi)。虛擬化場景下的思路也類似。某些虛擬化平臺支持guest內(nèi)部用kexec快速切換內(nèi)核宿主機層面無感知對業(yè)務(wù)影響極小。但需要注意虛擬化平臺的某些特性比如動態(tài)內(nèi)存氣球、設(shè)備透傳在kexec切換后可能無法保持原有狀態(tài)測試時一定要驗證這些高級特性是否仍然正常工作。8. 實操記錄一次線上內(nèi)核升級的完整復(fù)盤最后分享一次我實際操作的案例。環(huán)境是一臺某公司的測試服務(wù)器跑著一個對網(wǎng)絡(luò)性能要求很高的應(yīng)用內(nèi)核版本從5.10升到5.15但那次升級不能走正規(guī)的重啟流程因為業(yè)務(wù)要求盡量減少中斷時間而完整的硬件自檢要花掉將近十分鐘。我的操作流程是這樣先把新內(nèi)核和initrd準備好檢查/boot目錄下的文件無誤然后執(zhí)行kexec -l預(yù)加載加載時手動指定了root設(shè)備和幾個必要的啟動參數(shù)沒有用--reuse-cmdline因為舊內(nèi)核的某些參數(shù)比如舊驅(qū)動專用的配置在新內(nèi)核上已經(jīng)不適用。加載完成后我用kexec -e執(zhí)行切換整個切換過程只花了大概兩秒鐘系統(tǒng)直接進入新內(nèi)核。新內(nèi)核啟動后我第一時間檢查了/var/log/kern.log確認沒有明顯的驅(qū)動報錯然后又檢查了網(wǎng)絡(luò)狀態(tài)和業(yè)務(wù)進程的運行情況一切正常。整個過程從發(fā)出切換指令到業(yè)務(wù)完全恢復(fù)用了不到三十秒。如果走傳統(tǒng)重啟這個數(shù)字至少要膨脹到十分鐘。再分享一個反面案例。另一次我圖省事沒有手動指定啟動參數(shù)直接用了--reuse-cmdline結(jié)果新內(nèi)核繼承了舊內(nèi)核里一個已經(jīng)廢棄的驅(qū)動參數(shù)導致驅(qū)動加載失敗網(wǎng)絡(luò)接口起不來最后只能跑機房處理。所以現(xiàn)在我在kexec -l這一步從來不敢偷懶啟動參數(shù)寧可花兩分鐘仔細核對也不要切換后花半小時收拾爛攤子。這里給你一個操作清單可以當作checklist用確認新內(nèi)核和initrd文件存在且完整檢查當前內(nèi)核啟動參數(shù)決定復(fù)用還是手動指定手動指定參數(shù)時確認root設(shè)備路徑正確確認預(yù)留內(nèi)存區(qū)域kdump場景沒有被新參數(shù)覆蓋切換前保存所有重要數(shù)據(jù)通知業(yè)務(wù)方執(zhí)行kexec -l后用kexec --status檢查加載狀態(tài)一切就緒后執(zhí)行kexec -e或systemctl kexec切換完成后立刻檢查內(nèi)核日志和關(guān)鍵服務(wù)狀態(tài)9. 個人經(jīng)驗與建議kexec雖好用但別忽視細節(jié)我用kexec已經(jīng)有比較長的時間了從最開始單純?yōu)榱思涌熘貑⑺俣鹊胶髞斫Y(jié)合kdump做崩潰分析再到線上內(nèi)核版本的低中斷升級這個工具確實幫了大忙。但我也想說kexec不是一個可以完全無腦使用的黑魔法它要求使用者對內(nèi)核啟動機制、內(nèi)存布局和硬件狀態(tài)都有足夠的理解。給剛接觸kexec的朋友幾個建議。第一先在虛擬機或者測試機上反復(fù)練習整個加載、切換、回退流程不要一上來就在生產(chǎn)環(huán)境上操作。第二切換前務(wù)必備份當前內(nèi)核的啟動參數(shù)和根文件系統(tǒng)配置一旦新內(nèi)核出了問題至少還能用傳統(tǒng)方式引導回舊內(nèi)核。第三如果條件允許配合串口控制臺使用。串口能讓你在屏幕黑掉的情況下也能看到內(nèi)核啟動日志這對排錯來說簡直是無價之寶。最后再分享一個小技巧如果你需要頻繁在不同的內(nèi)核版本之間切換測試建議在磁盤上保留至少兩個可引導的內(nèi)核版本并分別用GRUB菜單項固定好。這樣一來即使kexec切換失敗你重啟后還能通過GRUB選擇器回到原來的內(nèi)核。生產(chǎn)環(huán)境里的安全網(wǎng)越多越好這個習慣能幫你避免很多低級事故。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日本一级一片免费视频| www.夜夜騎夜夜狠| 99热这里有精品24| 91成人看| 日本视频99| 91热视频色网站| 91九色丨国产丨爆乳| 久热黄色| 青柠影视免费高清电视剧| 五月丁香久久综合精品| 热九九九九| 五月精品| 丁香婷婷五月天色综合| 丁香婷婷综合影院| 91久操| 就要爱综合| 色色五月天激情| 性婷婷| 亚洲欧美综合7777色亭亭| 九热视频| 欧美又粗又大一区二区在线观看| 色婷婷影视99| 综合网亚洲| 精品网站99| 97爱艹婷婷开心丁香激情综合| 日本99在线| 九热视频| www.成人婷婷综合| 精品五月视频婷婷在线观看| 婷婷中文字暮| 无码色| 婷婷六月情| 色色九九五月天| 九九综合精品| SESE无码AV| 色综合中文色综合网| 思思热99热| 激情丁香网| 超级97碰碰| 久久五月丁香| 婷婷五月视屏| 五月夜丁香| www.91在线看| 激情婷婷狠狠干综合| 色婷婷婷婷| 天天摸.天天mo| 人人综合色| 久久这里只有精品视频26| 亚洲中文AV网站| 婷婷婷婷婷婷婷五月丁香| 婷婷五月天六月综合| 香蕉色色网| 日本狠狠色| 99综合激情久久精品久久| WWW久| 色99视频| 色婷婷五月天在线观看| 另类图片 五月激情| 另类图片五月天婷婷| 九九综合色| 九九在线免费观看| 五月丁香婷婷在线| 色涩影院六月丁香| 电影91久久久| 久久99精品视频| 丁香色五月天| 丁香五月丁香伊人| 日韩啪啪视频| 99视频在线观看网址| 婷婷色五月激情| 婷婷色基地| 五月丁香久久综合91| 色色色婷婷五月| 精品国产va久久久久久久| 日日操夜夜操中国无码| 久久精品99国产精品日本| 久久久无码精品成人A片小说| 五月激情婷婷六月丁香| 91蜜桃婷婷狠狠久久综合9色| 四色五月婷婷| 免费无码毛片一区二区A片| 久久亚洲无码| 亚洲综合丁香五月天| 日本本土色网第一区| 91操在线| 久草婷| 日亚二欧美| 激情五月天色婷婷| 五月综合777| 淫视馆AV在线| 丁香婷婷五月综合影院| 99九精品| 黄页免费一级视频懂色| 丁香九月色| 婷婷91| 99人妻碰碰碰久久久久视| 五月丁香花激情综合网| 欧洲激情五月天| 99er日韩| 啪啪啪综合网| 91操操| 色射7856五月天激情四射| 日本人妻伦在线中文字幕| 亚洲视频五区| 五月色丁香| 天天色,天天日,天天做| 丁香六月激情综合啪啪| 亚洲色激情| 婷婷伊人网| 婷婷五月天网址| 伊人影院久久网| ..真实国产乱子伦对白在线_欧| 色吧五月婷婷| 午夜丁香婷婷| 性做久久久久久久免费看| 欧美日韩999| 久超超碰| av中文在线| 综合激情在线| 色色婷婷丁香| 亚洲天堂99| 香蕉婷婷色五月| 桃色五月天| 婷婷婷婷婷开心无码播放| 欧美综合五月丁香六月婷| 五月天色婷婷av| 综合激情网五月激情| 好好干Av| 丁香五月aV| 九九热只有这里是精品| 天天爱天天做综合| 伊人网色婷婷五月天| 久久av电影| www.国产亚洲69ty.久久久久久久久久久久| 日本久久精品18| 色婷婷91| 天天搞夜夜叫| 久久性爱网站| 五月婷亚洲精品| 这里只有久久精99| 97香蕉久久超级碰碰高清版| 另类激情综合| 久久R激情| 2025神马午夜福利| 婷婷激情五月天激情小说| 97人人操人人拍| 九色porny在线观看激情四射| 五月久久| 九九99免费视频| 五月丁香婷婷色| 五月色综合网欧美网| 激情五月丁香婷婷夜夜操| 精热在线综合网| 熟女婷婷网站一婷婷五月一丁香婷婷一婷婷激情网 | 五月色色色| 婷婷久久五月丁香| 亚洲一色色色色色色色色| 婷婷亚洲五| 婷婷五月天成人在线视频| 亚洲热手机在线观看| 色亭亭五月天网扯| 国产激情综合五月久久| 亚洲精品大片| 成人性生活免费观看。| 大香蕉九操| 超碰碰碰碰| 婷婷丁香六月五月天| 天堂婷婷五月色| 开心激情站婷婷五月天| 在线网黄| .青娱乐天天操B| 色碰97| 日本久久99久久| 婷婷九月激情| 欧美Va在线| 五月激情六月宗合| 婷婷丁香五月激情| www九九免费视频| 91性交在线播放| 欧美久久九九| 激情文学久久| 亚洲激情精品| 综合激情视频| 九九九九无码| 一本久久亚洲五月婷婷| 色99在线| 综合AV网| 婷婷五月av| 天天做天天爰天天爽天天无遮挡| 欧美狠狠色| 婷婷狠狠操| 天堂美国久久| 久这里只有精品99| 久色资源| 免费看欧美成人A片无码| 九月色婷婷综合亚洲| 激情综合网五月| 激情五月天之六月婷婷| 97碰久久| 尤物一区二区| 欧美噜噜久久久XXX| 五月婷婷开心六月激情小说| 丁香婷婷色五月| 九九99久久精品| 991国产精选视频在线播放下载| 欧美日韓成人亚洲精品另类| 丁香色色色| 色婷婷很很丝袜| 91人人操人人| 99操无码视频观看| 婷婷五月天成人网站| 97人人干| 99手机在线精品视频| 五月天婷婷色播综合在线| 99只有这里有精品在线视频| 色综合久久久综合久久网| 欧美色99| 99久精品视频| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 操操国产| 99久热这里只有精品| 91色久| 99免费青青蜜臀| 人人色性网| 欧美三日本三级少妇三99| 超碰婷婷色| 黄色片区子| 99在线精品视频免费观看20| 9热网站| 99热日韩| 一起草无码| 疯狂做受XXXX高潮A片动画| Av在线资源| 五月丁香六月色情网欧美| 色婷婷六月天| 噜噜狠狠色综合久| 色偷偷色婷婷| 色九月综合网| 亚洲色情在线| 97久久精品视频| 99热精在线九九久久保| 99久视频| 日操| 五月天久久久| 99综合视频在线| 激情六月天婷婷| 91欧美日韩| 六月丁香激情综合| 丁香五月影| 婷婷5月色| 日韩欧美颜射| 91色久| 婷婷五月天电影网| 久久色午夜在线导航| 婷婷五月天无码视频| 91在线日| 99九九在线观看免费| 色播播婷婷| 西西4r午夜剧场| 春色激情第四色| 五月天成人在线视频网站| 99干视频| 五月天色社区| 欧美噜噜久久久XXX| 久久久久亚洲AV成人无码电影| 百度4399有码精品V在线观看 | 综合五月草| 狠狠综合| 五月婷婷亚洲天堂激情在线| 精品夜夜澡人妻无码AV| 色视五月天婷婷| 性无码专区无码| 99精品色色| 激情五月综合亚洲另类| 91久久久久久久久| 99热成人| 99久久综合精品五月天| 天天色凹凸| 99色亚洲| 中文字幕五月久久婷| 99视频在线| 丁香视频| 91婷婷| 天天爽人人综合免费7799| 色婷五月天| 五月丁香六月婷| 婷婷综合色色| 草操AV在线| 亚洲成人网站在线观看| 婷婷五月天激情综合网| 丁香五月婷婷亚洲另类| 五月丁香另类图片| 日本99视频精品免费播放| 色综合另类| 色~性~乱~伦~噜| w婷婷五月婷婷w| 人人操99| 开心五激情网| 综久久久| 99热精品在线观看| 五月婷婷之激情五月| 亚洲视频码| 五月婷婷激情| 9精品视频在线观看| 爆乳熟妇一区二区三区爆乳| 一本久久亚洲五月婷婷| 另类图片五月天激情| 五月丁香另类图片| 9久热| 国产精品涩涩涩视频网站| 深爱五月天天| 五月激情射| 97在线精品| 婷婷五月天激情偷拍| 无码区婷婷五月花开| 亚洲成人av在线播放| 九九99久久| 色婷婷五月天成人网| 91色欲综合| 99欧州偷拍视频| 色色亚洲无码| 97伊人综合婷婷| www色色com| 五月激情偷拍婷婷| 在线中文亚洲| 久777| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 国产欧美日韩综合精品一区二区| 亚洲激情五月| 狠狠色丁香99| 婷婷操超碰| 色婷婷成人做爰A片免费看网站| 日日狠夜夜狠| 五月婷婷AV| 亚洲视频综合网| 91九色国产熟女| 午夜青草资源| 九九综合九九| 俺去婷婷 丁香| 超碰av在线| 久久aaaa片一区二区| 伊人激情综合网| 综合福利网| 国产在线黄色| 久久一品区| 五月丁香色情| 大香蕉久热| 天天色天天爱天天舔| 狠狠色综合网站久久久久| 色欲av伊人久久大香线蕉影院| 久久在线人妻| 六月丁香成人| 91色综合| 91打屁股视频网站| 中文字幕欧美精品久久| 丁香六月婷婷久久综合| 国产67194| 天天天久久人人人合| 99免费视频久久| 色五月婷婷自拍| 日本精品人妻无码77777| 色婷五月天| 六月综合在线| 狠狠狠狠狠操| 天天综合插插| 另类图片色五月| 综合一啪| www99精品日韩| 日韩啊啊啊| 婷婷婷久久久| 五月婷激情| 五月丁香婷婷激情久久| 欧美日韩AAAAA| xxxx久| 97热超碰| 十二区无码| 五月天婷婷基地| 轮奸综合网| 色婷婷五月天偷拍| 日韩黄色AV无码| 激情五月四色| 91精品激情9| 六月丁香五月婷婷| 激情六月天| 五月婷婷久久久| 天天夜夜六月丁香五月婷婷老师| 五月丁香婷婷六月天| 久久er视频6| 色天堂在线| 五月婷婷,六月婷婷| 成人网在线观看视频| 啪啪一区| 99热久久这里只有精品| 综合久| 99热最新| 久久人妻久久| 97五月天| 激情综合五月| 无码成人AAAAA毛片AI换脸| 亚洲AV网址| 99热精品在线观看| www.色婷婷| 综合在线色婷婷| 五月婷婷丁香社区| 日日色综合| 婷婷五月亚洲一本在线丁香| 婷婷五月天在婷| 天色综合网站| www.夜夜夜| 99精品色色| 激情无码五月天| 九九热这里有精品视频| 99在线免费视| 五月丁香啪啪啪啪| 99综合激情久久精品久久| 蜜桃婷婷丁香| 色婷婷亚洲六月婷婷中文字幕| 99视频久久免费视频| 99热精品在线播放观看| 嫩BBB槡BBBB搡BBBB视频| 欧美噜一噜| 五月丁香黄色| 亚洲色热| 大香蕉啪啪啪| 亚洲亚洲人成综合网络| 婷婷丁香色五月天| 百度一下国产精品A| 五月丁香婷婷伊人日韩| 五月天激情啪啪| 久久婷丁香五月| 91婷婷在线| 激情综合网五月在线播放| 六月99天天婷婷激情综合| av在线超清中文| 丁香五月激情六月综合| 激情五月婷婷网| 久久婷婷五月综合激情国产| jiZZdr| 天天射影院| W色综合| 五月天啪啪视频| 久久中文人妻系列| 激情婷婷丁香色五月| 五月丁香天堂网| 另类激情五月| 思思99热| 日本在线视频看se99| 日韩精品超碰在线观看| 亚洲精品五十一区| 国产日日夜夜操| 激情五月,婷婷五月,丁香五月| h亚洲| 五月天综合在线| 激情五月丁香五月| 亚洲色区17| 激情五月天综合网| 在线播放中文字幕| 五月婷六月天| 欧美色99| 久久人妻超碰一区| 一级韩国产精品毛| 婷婷丁香五月天哟啪| wwccc久久久| 天天日夜夜曹| 五月综合激情| xxxx五月天色色| 久久婷视频| 天天色综合色色色色色。| 六月婷婷亚洲| 久久色情| 亚洲av综合在线| 婷婷综合偷拍| www.精品99| 思思热精品在线视频| 91碰碰碰| 国产综合丁香五月天| 性五月激情| 性生活久久朋友人妻| 9久久久久久久久久久| 亚洲国产精品二二三三区| 一区三区视频有限公司| 怡红院院久久| 九九久久综合| 免费成人中文字幕| 亚洲婷婷丁香五月天激情小说| 色婷婷亚洲六月婷婷中文字幕| 日日撸夜夜操| 91热网址| 婷婷亚洲激情在线观看视频| 久久久com| 丁香婷婷五月综合欧美另类| 琪琪秋霞| 91一起艹| 五月天婷婷涩涩| 好吊操这里只有精品| www.婷婷五月| 99热这里是精品| 丁香五月婷婷欧美激情-中文天堂最新版在线观看 | 五月婷婷丁香深深爱| 狠狠做婷婷| 免费观看全黄做爰的视频| 丁香婷婷九月| 26uuu在线观看| 亚洲精品V天堂中文字幕| 国产原创视频91九色| 人人人操| 天天色宗合| 四LLL少妇BBBB槡BBBB| 五月天伊人综合| 婷婷爱综合| 九九婷婷综合| 五月婷婷六月丁香玖玖玫瑰91| 开心五月婷婷激情网| 99热只有这里有精品| 99久在线精品99re5热视频| 亚洲精品性色| 亚洲情综合五月天| 26uuu美女三级视频| 97久久人人操| 啪啪丁香五月| www.五月丁香| 大香蕉狠狠爱主页| 五月丁香免费看| 久草丁香婷婷1024| 色色婷婷综合网| 激情五月综合| 五月伊人网| 婷婷成人视频| AV在线收看| 午夜色丁香| 激情五月婷婷综合网| www.狠狠操.com| 99热最新| 六月婷婷激情| 久久五月天激情视频| www.超碰在线| 婷婷丁香六月五月天| 色五月天激情| 在线视频另类| 五月天婷婷色色| 日本色图综合| 婷婷综合网| 久久婷狠狠色| 丁香六月婷婷色播| 国产.亚洲.欧洲视频在线| 六月丁香啪啪啪| 久久电影五月天丁香电影| www夜夜操comwww| 1024成人免费看| 五月丁香六月婷婷综合网缴情| 成人草榴视频| 天天做天天摸| 视频1区2区| www,超碰| 色色丁香婷婷| 看片视频在线免费日产在线看| 97干在线| 极品人妻VIDEOSSS人妻| 六月婷婷色宗合| 99超碰欧美| 五月天六月婷| 婷婷六月偷拍| 色五月大| AAA久久| 开心深爱激情网| 狠狠大香婷婷爱| 久久久精品人妻| 99久久a线观| 国产精品色情AAAAA片软件| 操逼123网| 狠狠爱丁香婷| 五月亭亭六月天| 亚洲免费观看高清完整版AV线| 99ri精品在线| 九九色中文| 99爱在线免费视频| 色婷婷丁香社综合| 久久综合激情| 丁香亚洲婷婷五月| 五月丁香亭亭AV女优| 欧美大香蕉视频| 人人干人人干骚美女| 伊人激情影院| 丁香五月网络网络| 婷婷色资源| 人人摸人人| 在线婷婷| 九九99久久精品| 天天插AV丝袜中| www99久久| 337p大胆噜噜噜噜噜91Av| 内射丰满人妻| 五月天婷综合| 精品久久99| 米奇影视五月天| 金品在线视频99| 天天综合影院| 色五月综合激情| 国产精品99久久久久久久女警| 99小视频网站| 色婷婷丁香| 2018国产大陆天天弄| 激情综合激情五月一起草| 97久久超碰| 激情内射人妻1区2区3区| 99久久6| 色综天天综合| 丁香五月综合激情久久潮喷| 激情四射五月天| 亚洲瑟瑟精品在线| 激情婷婷五月| 婷婷色婷婷| 国产精品人人妻人人爽| 六月丁香婷婷综合色播| 丁香综合久久| 乱岳熟女50岁| 激情丁香九九五月综合网| 天天免费成年人视频| 337久久| 五月丁香六月香香蕉| 久久99热精品a片在线观看| 婷婷九月亚洲| 1024成人免费看| 久久综合首页| 五月天婷婷丁香花| 激情婷| 久久激情五月| 91热网址| 这里只有精品视频一区| www久久99com| 91久久五月天| 亚洲无码猫咪| 狠狠色丁香| 五月天久久婷婷| 狠狠久久婷五月综合色| 欧美综合五月丁香六月婷| 五月天激情网站| 毛片新网地| 色播婷婷五月天| 天天爽成人综合网站| 伊人玖玖网| 婷婷五月成人| 九九aV| 婷婷五月六月丁香| 天天综合.com| 丁香六月婷婷缴情欧美| 天久久久久| 超碰妻人人| 五月婷婷色| 九九色热| 激情久久肏屄视频| 色五月亚洲| 色欲久久久久| 日日夜夜天天爽| 久久99久久99精品免视看婷婷| 激情婷婷网| 欧美日韩婷婷五月天| 色婷五月天| 激情久久久久久久久久久| 婷婷综合精品视频97| 午夜精品777| 99国产er热视频| 人妻综合网| 久久久久久97| 9视频在线成人网站| 日本人妻伦在线中文字幕| 开心五月婷婷| 九九这里有精品| 色吧五月婷婷| 99精品免费欧美小视频| 五月丁香六月香综合激情| 26uuu国产精品| 狠色狠色狠色狠色狠色网| 天天色·欧美| 狠狠色狠狠干| 99精品色色| 久操人妻| 久久香蕉网| 天天色播| 99久久99视频只有精品| 亚洲激情综合色站| 开心五月激情| 欧美久久婷婷| 久热久色| 人妻内射麻豆视频| 五月丁香网中文字幕| 亚洲激情综合色站| 亚洲激情无码久久| 九九视频精品在线免费| www,8050,午夜三级| 色婷婷五月天激情| 天天日,天天射,天天插| 国产亚洲99| 美女五月天婷婷| 99成人网站| 天天插轮理| 99久久国产宗和精品1上映| 婷婷大美在线| 国产精品婷婷午夜在线观看| 热99AV网站| 婷婷五月激情六月| 色偷偷综合| 操日视频| 五月丁香啪啪| 色婷婷视频| 色欧美一级| 欧美韩国日本| 国产欧美精品AAAAAA片| 亚州男人天堂婷婷五月| 色色丁香色五月| 午夜丁香六月婷| 五月婷婷六月天| 秋霞三级色戒| 亚洲麻豆乱码国产2028| 色婷婷亚洲六月婷婷中文字幕| 五月婷婷六月丁香| 五月婷婷色综图片| www.婷婷| 婷婷丁香五月视频| www.色色五月天.com| 2015好吊操| 五月婷婷婷婷婷婷艺术| 深爱激情综合网| 在线中文字幕视频| 久久99国产综合精品免费 | 五月天激情小说| 久久人人添人人爽添人人片αV| 五月婷婷av在线| 大香蕉Av在线| 人人玩人人橾| 综合五月天完整| 97干免费视频| 欧美三级巜人妻互换| 五月丁香A片| 久久五月激情| 婷婷综合网伊人| 婷婷色激情五月天| 噜噜噜噜噜色| 99综合在线| 被强行糟蹋的女人A片| www.一起草av| 天天射夜夜爽| 麻豆123区| 色爱综合网| 九九热精品| 狠干综合| 五月色综合网欧美网| 五月天成人在线播放丁香| 99热热这里只精品996小说| 啪啪综合网| 国产色99| 91热er| 99精品视频在线观看| 色色五月婷婷| 草榴视频网| 五月婷婷激情综合在线| 狠狠狠狠狠草| 婷婷丁香五月亚洲| 丁香五月久久社区| www色婷婷久久综合久色 | 91操屁股| 五月丁香综合伦理片| 大香线蕉伊人| 成人婷婷色综合| 百度4399有码精品V在线观看| 丁香五月在线人妻| 丁香婷婷视频在线| 五月激情天| 99久久97久久欧美综合网| 色五月丁香激情| 99热这里只有精品1025| 色婷婷播放| 五月丁香色婷婷伊人| 噜噜在线| 久久44| 97色婷| 永久精品| 天天日中文| 玖玖视频福利| 丁XX 成人| 五月天色软件| 久久亚洲色导航| 欧美综合激情五月天| 五月丁香啪| 色婷婷a| 人人操人人爱丁香五月| 婷色五月| 玖玖在线视频| AV五月婷婷露脸| 无码少妇高潮喷水A片免费| 激情婷婷护士激情| 五月天成人手机在线视频| 久久六月天| 涩 五月 婷婷 狠狠| 婷婷五月天性| 激情五月综合网| 综合久久97| 噜噜狠狠色| 1024AV视频| 亚洲九九九九| 日日夜夜天天| 欧洲亚洲最新精品| 99精色| 91丨九色丨熟女|新版| WWW.婷婷| 伊人成综合五月婷婷| 婷婷第六色| 大香蕉人妻| 在线观看av网站| 婷婷天天综合| 伊人综合网站| 丁香婷婷啪啪| 嫩草视频在线观看| 色天堂在线| 99re这里只有精品视频了| 亚洲色就是色色色| 九九九成人在线视频| 青青青在线视频国产| 俺来也综合网精品一区| 丁香六月啪啪| 国产精品一区在线观看你懂的| 五月天激情综合在线| 狠狠色综合网| 久久视频婷婷| 五月天婷婷综合网| 久久99精品久久久久久三级| 狠狠色噜噜狠狠| 日韩AC在线免费观看| 色狠狠色狠狠| 狠狠色中色| 久久免费婷婷视频| 五月婷婷之综合激情在线| 五月天激情综合10p| 色婷婷在线电影| 丁香六月av| 色五月天在线观看| 狠狠干综合网| 久草性爱| www.97碰碰com| 91色五月| 第五婷婷伊人丁香色| ww久久| 久久久久久久8| 啪啪黄页网| 久久婷婷的综合色丁香五月| 五月丁香婷婷综合网| 另类国产欧美视频| 久久九九色| 99色在线视频观看| 99在线视频免费| 日本久久人| 久久婷婷色| 九九色中文| 久久激情视频| 婷婷色五月噜噜| 国产3p露脸普通话对白| 五区毛片七区毛片| 丁香五月天天| 天天舔天天操| 亚洲av成人在线| 色播播五月| www.91在线观看| www.精品99| 亚洲性天天| 极品精品一区二区三区在线| 天天综合社区| 9久久婷婷国产综合精品性色| 99热这里只有精品16| 99色视频在线观看最新| 五月开心久久| 99色在线观看| 久久婷婷亚洲无码一起| 丁香六月婷婷久久综合| 婷婷五月天美女| 六月丁香激情| 97人人干| 69久久久| 91久久99久久91熟女精品| 这里只精品| yw国产AV| 激情综合在线观看| 九九视频这里是精品五月| 久久婷婷五月综合色和| 五月天成人在线播放| site:hcxsz888.com| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 色国产五月| 蜜乳AV成人| 久久综合五月天| 99色看这里只有精品| 9色小视频在线观看| 欧洲亚洲免费视频9| 天堂婷婷五月色| 天堂久久大香蕉| 五月天激情婷婷| 五月天a婷婷伊人| 第四色五月婷婷| 九九热超碰| 人人摸人人摸| 丁香五月天信号| 91N 一起草| 9热视频在线观看| 五月婷婷和六月| 中国操逼99| 任你爽精品免费视频6| 日在线V视频在线播放| 亚洲乱码w在线观看| 午夜少妇在线观看视频| 五月婷婷亚洲色视频| 天天干夜夜操A片| 日韩一区二区A片免费观看| 亚洲成人无码网站| 五月丁香婷中文字幕 | 伊人婷婷大香蕉| 五月综合亚洲婷婷| 97久久人人操| 五月做爱| 婷婷99狠狠躁天天躁| 99综合| 综合激情伊人影视在线| 婷婷色六月| 亚洲亚洲人成综合网络| 99热亚洲| 婷婷色色欧美| 色五月丁香一区在线| 涩丁香91| 五月天综合视频| 99精品免费视频| 亚洲色精彩| 日韩日比视频| 丁香五月欧美色综合| 欧美综合五月丁香五月天| 天天做天天要天天爱| 婷婷五月激情综合网| AV五月丁香| 九九免费视频| a v色婷婷| 亚洲永久免费| enecarbon-materials.com污K127封锁请涟系@wip1688 | 九月婷婷激情| 黄色成人AV在线| 精品成人无码A片观看香草视频| 翔田千里 50岁 无码| 色五月婷婷亚洲| 久1色色| 色播六月| 六月久久婷婷| 婷婷五月激情综合啪啪| 色综合视频在线| 丁香五月综合| 五月丁香色综合| 色丁香影院| 天天综合亚洲综合| 丁香六月av| 99色综合| 91在线日| 26uuu丁香婷婷五月| 激情色五月天| 成人精品视频99在线观看免费| 国产日比| 99碰超| 五月丁香无码| 亚洲免费观看高清完整版AV线| 色婷婷亚洲精品天天综| SESE无码AV| 久久在这里有精品| 婷香五月网在线| 五月天色图| 级情九色| av在线资源| 9热在线视频| ady狠狠入| 另类图片五月天激情| 无码激情AAAAA片-区区| 丰满女老板BD高清A片| 超碰人人在线| 国产精品电影| 8区视频在线| 99热免| 五月婷婷片| 天天日天天做天天操| 另类小说婷婷色| 99热精品少| 开心婷婷五月天电影院| www.精品99| 五月综亚洲| 亚洲欧洲自拍图片专区五月天| 97激情五月天| 综合久久综合综合| 久久99日本精品视频免费观看| 色停停影院五月天| www.97干视频| 强伦轩人妻一区二区电影| 人人操人人干AV| 91色五月| 伊人网欧美在线男人天堂五月丁香| 五月丁香激情啪啪| 综合九九中文字幕| 男人的天堂五月丁香| 五月婷六月| 五月综合色| 26uuu.| 婷婷五月激情欧美大胆视频| 色综合爱综合| 狠狠色噜噜色狠狠狠综合久久成人波| 五月丁六月香| 99热碰碰| 五月婷婷性爱| AA丁香综合激情| 美女久久婷婷| 激情久久 婷婷| 色五月激情| 99色区| 丁香五月婷婷88在线| anquye五月| 小视频aaa久久久| 五月激情婷婷播播网| 丁香五月综合在线观看| 激情深爱五月天| www色婷婷| 色情婷婷| 久久综合久色欧美综合狠狠 | 五月婷在线| 色婷婷五月综合激情中文字幕| 肏日网在线看| 狠狠99| 婷婷激情丁香五月天综合| 激情综合激情五月| 久久色情综合免费网站| 久综合色| 亚洲字幕AV一区二区三区四区| 丁香香蕉婷婷| 国产成人网址| 狠狠色激情综合| 亚洲男女激情| 国产精品社区| 黑人糟蹋人妻HD中文字幕| AV片在线观看| 91大神操美女| 五月婷婷,六月激情| 亚洲情a| 婷婷久久色| 99热这里只有精品首页| 日韩人妻AV在线| 综合色网站| 午夜丁香婷婷| 丁香五月第四色88| 色色色色色网| 丁香五月性| 久久亭亭电影| 色五月婷婷中文字幕在线观看| 色情一区二区播放| 大香蕉婷婷五月| 国产精品久久久久久久久久| 日韩三及成人AV片| 色五月丁香五月激情五月激情| 五月色网| 欧美日韩aaa| 欧类av怡春院| 五月婷婷色影院| 丁香五月婷婷丫| 六月婷婷综合| 久久在线视频免费观看| 级人人91| 9l视频自拍9l视频自拍九色学生| 亚洲在线激情婷婷五月| www.99热视频| 图片区 小说区 区 亚洲五月| 狠狠 久久| 亚洲1区| 这里只有精品免费| 婷婷五月成人| 91九色欧美| 丁香久久五月天视频在线观看 | 任我干视频在线观看| 五月婷婷三级| 婷婷日日夜夜| 五月婷婷六月激情| 天天干天天av天天射| 狠狠搞五月天| 丁香五月六月| 超喷97免费在线视频| 色玖玖爱| 国产va在线视频| 丁香五月影视| 丁香六月综合| 久久九九免费大视频| 99视频在线播放大全| 碰99在线| 丁香五月天激情四射网| www.91有码.com| 97碰在线视频| 精品九九网| 天天干天天射综合网| 国产乱妇无乱码大黄AA片| 久久久精品婷婷五月天| 六月丁香五月婷婷首页| 丁香五月激情啪| 狠狠 久久| 蜜桃五月天色| 激情小说五月天| 97干在线观看视频| 狠狠干综合网| 少妇人妻丰满做爰XXX| 超碰av在线| 九九色综合视频| 免费无码毛片一区二区A片| 亚洲激情在线| 色狠久| 99爱在线视频| 国产精品久久99| 久久资源网五月婷| 久草丁香婷婷五月天婷| 美英法精品无码免费视频| 开心激情网五月天| 五月婷婷狠狠干| 丁香五月婷婷天| 丁香婷婷综合激情五月色| 亚洲婷婷五月天在线激情综合网| 99热激情| 超碰在线网站9| 日韩婷婷五月天| 色婷婷基地| 婷婷五月激情四月综合| 日日噜噜夜夜狠狠久久丁香五月| 91五月花丁香| 婷婷五月中文字幕国产| 五月丁香影视| 综合色影| 天天操人人干| 国产女人十八水真多1| 亚洲丁香网| 久久九九热38| 婷婷五月天亚洲精品| 六月五月天婷婷涩播在线| 99re热精品视频国| 日日综合网| 91色色色| 五月丁香激情综合啪啪| 69色婷婷| 91色吧网| 久久99激情| 五月激情综合美女久久| 欧美啪啪五月天| 婷婷深爱五月天| 一本色道久久综合狠狠躁小说| 伊人五月综合网| 丁香婷婷综合影院| 99性爱视频网站| 98热精品| 色色色网站| 人妻aV在线| 婷婷六月啪啪| 99色色爰| 99久久网站| 五月丁香在线婷婷蜜桃| 日本精品人妻无码77777| 26uu| 亚洲精品又粗又大又爽A片| 九九人妻福利| 囯产精品久久欠久久久久久九大| 97视频.干com| AV九九| 婷婷五月色影视先锋| 丁香五月天婷婷激情| 丁香五月久久社区| 丁香五月成人婷婷| 超碰com| www.激情五月| 激情婷婷另类| 97成人在线视频| 色综合伊人网| 色琪琪一综合久久激情五月视频| 91精品综合久久久久久五月丁香| 综合丁香婷婷五月天| 色播五月天激情| 丁香六月婷婷综合麻豆| 久久丁香综合香蕉| 开心激情五月天网| 成人版视频在线观看| 五月开心网| 久婷婷五月丁香在线观看| 9精品久久999| 欧洲永久精品| 五月婷成人网| 色色色色丁香| 激情五月天小说| 色色色五月天激情资源| 久久久免费精彩视频| 激情综合九月| 丁香婷婷大香蕉| 新激情五月天色播| 久久婷综合网| 思思热视频在线观看| 日韩激情人伦人| 五月丁香花成人社区| 激情亚洲色图片丁香综合| 九九色video| 五月婷婷狠狠干| 99热国内| 乱岳熟女50岁| 五月丁香六月综合激情无码软件亮点 | 99综合视频在线| 日韩成人中文| 成人短视频在线免费观看| 丁香婷婷人妻| 国产精品久久久久久久久久免费| 五月丁香在线综合| 五月丁香久久网| 激情 久久 婷婷| 五月天国产婷婷精品视频在线| av色婷婷| 国产精品美女久久久久AV超清| 丁香五月开心婷婷| 九月丁香| 亚洲天堂婷婷| 伦乱天堂| 99爱免费在线观看| 久久一伦| 天天噜日日噜综合无码| 涩涩五月天综合| 丁香六月欧美| 九九在线精品| 日日射天天射| 亚洲啪啪网| 色欲一区二区三区精品A片| 精品无吗va视频免费观看| 99在线精品视频观看免费下载| 久热精彩视频98| 丁香桃色网| 婷婷深爱网| www.婷婷| 爱狠射| 欧洲电影在线观看免费版英语版 | 九九干视频| 亚洲综合视频一下| 久久婷五月综合| 农村熟妇高潮精品A片| 97碰人人操| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 婷婷五月激情天| 丁香五月六月久久综合| 婷婷五月天天| 久久婷五月婷| 丁香欧美| 午夜大香蕉| 中文字幕婷婷9月天| 激情五月婷婷五月| 五月婷婷在线免费观看 | 五月婷婷香| 第五色色色婷婷| 99久久网站| 欧美婷婷色五月网| 精品夜夜澡人妻无码AV| 天天天天天天操| 天天操天天操| 只有精品视频在线观看| 伊人五月天97| 香蕉曰比| 草草视频91| 五月婷婷色播| 99热成人精品| 久久亚洲婷婷| www超碰com| 密着浓厚中出乚交尾GvG935| 狠狠干夜夜干|