欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署 做運(yùn)維的最煩的一類重復(fù)勞動是什么我個人的答案不是故障排查也不是上線變更而是裝系統(tǒng)。故障排查好歹有挑戰(zhàn)性上變更也算有點(diǎn)儀式感裝系統(tǒng)純粹是體力活。尤其是有幾十臺裸機(jī)需要交付的時候光盤加U盤一臺一臺懟一下午下來人都是麻的而且手動操作最容易出岔子機(jī)器配置稍有不同分區(qū)方案和基礎(chǔ)設(shè)置就容易弄亂。后來我把目光轉(zhuǎn)向PXE批量裝機(jī)才算是把這個環(huán)節(jié)真正從“人肉模式”切換到了“半自動流水線”。這篇文章就把我折騰PXE的完整過程、踩過的坑、以及最終沉淀下來的方案一次性說清楚。PXEPreboot eXecution Environment預(yù)啟動執(zhí)行環(huán)境簡單講就是讓機(jī)器通過網(wǎng)卡引導(dǎo)系統(tǒng)不需要任何本地存儲介質(zhì)介入。配合DHCP自動分配地址、TFTP傳輸引導(dǎo)文件、HTTP或NFS提供安裝源、Kickstart應(yīng)答文件自動填表一套批量裝機(jī)系統(tǒng)就能在半小時內(nèi)完成從規(guī)劃到上線。整個過程的核心思路是只在一臺服務(wù)器上做一次配置后面所有客戶端機(jī)器只要設(shè)好網(wǎng)絡(luò)啟動選項(xiàng)就能全自動完成系統(tǒng)的部署、分區(qū)、配置和基礎(chǔ)軟件安裝。這篇文章適合所有承擔(dān)過批量交付任務(wù)的運(yùn)維工程師、網(wǎng)管、以及想深入理解Linux網(wǎng)絡(luò)引導(dǎo)原理的學(xué)習(xí)者。不會只講命令怎么敲我會把每個關(guān)鍵組件“為什么這么設(shè)計”也一并講透并附上實(shí)操中真正會遇到的故障和對應(yīng)排查方法。1. 內(nèi)容整體設(shè)計與思路拆解1.1 裝機(jī)這件事為什么要“網(wǎng)絡(luò)化”先從需求說起。假設(shè)你面前有30臺配置相近的服務(wù)器需要統(tǒng)一安裝某個Linux發(fā)行版并預(yù)設(shè)同樣的主機(jī)名規(guī)則、分區(qū)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)和初始化用戶。傳統(tǒng)手工裝機(jī)的流程是制作啟動盤、逐臺插拔、選擇鏡像、分區(qū)、寫配置、裝系統(tǒng)、然后手工執(zhí)行后續(xù)腳本。操作周期的重復(fù)度非常高人工介入越久出現(xiàn)偏差的概率越大比如分區(qū)時手滑選錯盤或者軟件包列表沒勾全都可能在交付后暴露成線上問題。用PXE之后流程變成了所有機(jī)器上電開機(jī)網(wǎng)卡主動廣播DHCP請求獲得IP地址和引導(dǎo)文件位置再通過TFTP把引導(dǎo)程序拉下來引導(dǎo)程序去讀取指定安裝源按Kickstart文件里的答案自動完成整個安裝。人只需要在控制臺提前確認(rèn)好默認(rèn)引導(dǎo)菜單剩下的全部交給鏈路自動執(zhí)行。這解決了三個關(guān)鍵問題規(guī)模化交付、配置一致性、無人值守。從原理上看PXE起始于客戶端的網(wǎng)卡固件。網(wǎng)卡固件在啟動階段啟用PXE協(xié)議棧發(fā)出DHCP廣播DHCP服務(wù)器不僅返回IP地址還帶上引導(dǎo)信息比如文件名和服務(wù)器IP。隨后客戶端通過TFTP從引導(dǎo)服務(wù)器拉取引導(dǎo)文件這個文件通常是pxelinux.0或grub相關(guān)的引導(dǎo)器。引導(dǎo)器運(yùn)行后讀取菜單配置文件決定從哪個鏡像啟動最終加載內(nèi)核和解耦然后掛載安裝源開始系統(tǒng)安裝。1.2 方案選型一體化還是分離式搭建PXE環(huán)境有兩條主流路線。一條是用dnsmasq把所有服務(wù)合成一個進(jìn)程順帶把DHCP和TFTP都干了安裝源則用一個HTTP服務(wù)承載。另一條是分離部署DHCP用dhcpd、TFTP用tftp-hpa、HTTP用nginx或httpd各司其職。一開始我圖省事用了一體化方案確實(shí)上手快但等環(huán)境復(fù)雜到要管理多網(wǎng)段、多系統(tǒng)鏡像時單進(jìn)程配置就變得臃腫排障也要從一堆日志里撈。后來生產(chǎn)環(huán)境我全部改成了分離方案。分離方案的好處有很多。DHCP作為整個PXE鏈路的入口配置相對獨(dú)立調(diào)試時不會牽連其他服務(wù)TFTP服務(wù)只在引導(dǎo)階段工作傳輸量小獨(dú)立部署可以單獨(dú)調(diào)整超時和并發(fā)參數(shù)HTTP服務(wù)是安裝源的核心獨(dú)立出來天然支持多目錄、多版本鏡像并行。而且三個服務(wù)進(jìn)程獨(dú)立重啟不會出現(xiàn)一個配置錯了全家起不來的尷尬局面??刂品?wù)器建議用長期支持版本的系統(tǒng)比如Rocky Linux 9或Debian穩(wěn)定版分配一個靜態(tài)內(nèi)網(wǎng)IP。所有PXE相關(guān)的流量都建議在獨(dú)立管理網(wǎng)段中進(jìn)行避免和業(yè)務(wù)流量混跑。安全問題也不要忽略內(nèi)網(wǎng)雖然默認(rèn)可信但TFTP本身沒有認(rèn)證機(jī)制HTTP端口也經(jīng)常是弱防護(hù)區(qū)所以管理網(wǎng)段建議與業(yè)務(wù)網(wǎng)段物理或邏輯隔離至少要做好對應(yīng)的網(wǎng)絡(luò)訪問控制。1.3 鏈路階段拆解從網(wǎng)卡啟動到系統(tǒng)交付完整的PXE裝機(jī)鏈路在原理上可以分為五個階段。第一階段是預(yù)啟動環(huán)境也就是網(wǎng)卡固件發(fā)起DHCP廣播這一步需要客戶端在BIOS或UEFI中開啟網(wǎng)絡(luò)啟動選項(xiàng)并設(shè)置正確的引導(dǎo)順序。第二階段是引導(dǎo)加載階段客戶端通過TFTP獲取引導(dǎo)器引導(dǎo)器再加載內(nèi)核和解耦文件。第三階段是啟動安裝程序階段內(nèi)核掛載initrd后安裝程序開始運(yùn)行并通過引導(dǎo)參數(shù)中的路徑去獲取應(yīng)答文件。第四階段是系統(tǒng)安裝階段安裝程序根據(jù)應(yīng)答文件訪問HTTP安裝源完成文件拷貝、引導(dǎo)安裝和基礎(chǔ)配置。第五階段是首次啟動初始化安裝完成后重啟系統(tǒng)首次啟動執(zhí)行cloud-init、自定義腳本等收尾動作。這里面任何一個環(huán)節(jié)出問題表現(xiàn)都可能極其相似比如卡在某個界面不動、報超時、或者直接拿到一個空內(nèi)核環(huán)境。所以做PXE排障必須牢牢記住這條鏈路順序配合抓包和服務(wù)日志定位才不會亂猜原因。2. 核心組件解析與配置要點(diǎn)2.1 DHCPPXE鏈路的入口總開關(guān)DHCP是PXE啟動的起點(diǎn)。客戶端上電后網(wǎng)卡固件發(fā)出DHCP Discover服務(wù)器需要提供兩組信息一組是常規(guī)IP參數(shù)另一組是PXE引導(dǎo)參數(shù)。常規(guī)參數(shù)包括IP地址、子網(wǎng)掩碼、網(wǎng)關(guān)和DNS。PXE引導(dǎo)參數(shù)則通過DHCP Option 66TFTP服務(wù)器地址和Option 67引導(dǎo)文件名傳遞或者在新版協(xié)議中使用Option 150等擴(kuò)展字段。簡單起見配置時直接把next-server指向TFTP服務(wù)器IP把filename寫成引導(dǎo)文件名。dhcpd配置里相對容易踩的坑是子網(wǎng)聲明和網(wǎng)卡接口綁定。一臺PXE控制服務(wù)器往往有多個網(wǎng)口務(wù)必確認(rèn)DHCP服務(wù)監(jiān)聽的網(wǎng)卡就是通向客戶端網(wǎng)段的那個網(wǎng)卡。啟動服務(wù)后第一步不要急著連客戶端測試先在本機(jī)跑一下DHCP請求模擬驗(yàn)證確認(rèn)服務(wù)能正常分配地址再進(jìn)入下一步。這個習(xí)慣能省下大量神經(jīng)。配置DHCP時還有一個容易被新手忽略的細(xì)節(jié)如果目標(biāo)網(wǎng)段存在其他DHCP服務(wù)器一定要在配置里嚴(yán)格限定子網(wǎng)作用域甚至用allow unknown-clients結(jié)合MAC白名單來控制。PXE環(huán)境講究的是可控如果混進(jìn)來一個非法DHCP服務(wù)器所有客戶端引導(dǎo)都會亂套。2.2 TFTP經(jīng)典小步快跑瓶頸也在小TFTP的作用范圍很有限只在客戶端獲取引導(dǎo)器的初始階段用到。因?yàn)檫@個階段網(wǎng)絡(luò)棧還很簡單無法承載復(fù)雜協(xié)議所以選用TFTP這種基礎(chǔ)文件傳輸協(xié)議。TFTP默認(rèn)基于UDP 69端口數(shù)據(jù)包小且沒有復(fù)雜的握手和狀態(tài)機(jī)實(shí)現(xiàn)簡化到了極致。協(xié)議的代價是傳輸效率低尤其是默認(rèn)塊大小512字節(jié)時傳一個幾兆字節(jié)的引導(dǎo)文件都會有明顯延遲。解決效率問題有兩個辦法。一是調(diào)整引導(dǎo)器的pxelinux.0加載后的內(nèi)核和解耦文件傳送這是不可避免走TFTP的但引導(dǎo)器本身足夠小。二是讓引導(dǎo)器后期從HTTP獲取內(nèi)核和initrd繞過TFTP的低效率。SYSLINUX系列引導(dǎo)器支持菜單配置里直接用HTTP URL加載內(nèi)核。我生產(chǎn)環(huán)境就是用HTTP承載內(nèi)核和initrdTFTP只保底傳pxelinux.0和菜單文件實(shí)測安裝速度比純TFTP快不少。TFTP配置上不建議用xinetd管理的版本直接安裝獨(dú)立的tftpd-hpa在配置文件中明確指定blocksize 1468乃至更大值減少包往返次數(shù)。同時把超時時間調(diào)大一些否則幾十臺客戶端同時廣播請求時偶發(fā)的瞬時丟包會觸發(fā)重傳超時直接表現(xiàn)為客戶端拿不到菜單。2.3 HTTP安裝源鏡像、倉庫與目錄規(guī)劃PXE引導(dǎo)成功后系統(tǒng)的安裝數(shù)據(jù)就全部從安裝源獲取。安裝源用HTTP承載比用NFS省心得多不依賴特定協(xié)議棧瀏覽器、CIFS、普通抓包工具都能訪問排查也直觀。我通常用nginx作為安裝源服務(wù)器配置非常簡單設(shè)置一個根目錄把各類發(fā)行版的ISO鏡像掛在對應(yīng)子目錄同時目錄結(jié)構(gòu)保持清晰可讀。鏡像的加載方式有兩個選擇直接把整個ISO文件放在磁盤上然后通過loop掛載或者把ISO內(nèi)容解壓到目錄中通過目錄訪問。前者省磁盤空間但每次訪問都需要內(nèi)核處理loop設(shè)備后者浪費(fèi)點(diǎn)空間但訪問效率高、部署直觀。我推薦把ISO解壓到目錄然后軟鏈或nginx alias指向它。需要注意掛載ISO時用mount -o loop解壓時尤其不要遺漏隱藏文件因?yàn)長inux ISO中有些配置文件和校驗(yàn)文件是以點(diǎn)開頭的。HTTP服務(wù)的響應(yīng)速度和并發(fā)也值得關(guān)注。默認(rèn)nginx配置就行不必額外調(diào)優(yōu)。但如果客戶端數(shù)量很大比如同時有幾十上百臺機(jī)器在拉包可以考慮把HTTP的日志級別降低減少磁盤寫日志帶來的性能損耗。還有一點(diǎn)確認(rèn)HTTP服務(wù)對安裝源目錄沒有做目錄列表限制或鑒權(quán)攔截否則安裝程序會在從源讀取元數(shù)據(jù)時報403。2.4 Kickstart無人值守的關(guān)鍵開關(guān)Kickstart是一種自動化應(yīng)答文件安裝程序按它的內(nèi)容自動回答原本必須人工交互的每一項(xiàng)問題。文件包括磁盤分區(qū)方案、文件系統(tǒng)類型、軟件包列表、語言與鍵盤布局、時區(qū)、root密碼、網(wǎng)絡(luò)配置、安全策略、以及首次啟動要執(zhí)行的腳本。這個文件是整個PXE方案里最能體現(xiàn)設(shè)計水平的地方。一份好的Kickstart文件應(yīng)該把“通用的安裝邏輯”和“每臺機(jī)器的差異項(xiàng)”分開。通用的部分比如基礎(chǔ)軟件包組、分區(qū)模板、時區(qū)、語言統(tǒng)一寫在ks文件里。有差異的地方比如主機(jī)名、IP地址、部分服務(wù)開關(guān)通過引導(dǎo)參數(shù)傳遞再用%pre腳本動態(tài)處理。這樣一套配置文件就能管住一個機(jī)房的環(huán)境而不是為每種硬件規(guī)格寫一份單獨(dú)的ks。分區(qū)方案建議采用LVM預(yù)留足夠的/home或/data空間給業(yè)務(wù)數(shù)據(jù)/boot獨(dú)立出來swap大小按物理內(nèi)存的1到2倍規(guī)劃。對于服務(wù)器場景根分區(qū)容量可以適當(dāng)給足后續(xù)擴(kuò)容少折騰。軟件包選擇上用最小化安裝加必要工具組寧可裝少了后期再補(bǔ)也別一上來把整組圖形化都裝上。2.5 網(wǎng)絡(luò)規(guī)劃與安全邊界PXE依賴網(wǎng)絡(luò)的程度比日常運(yùn)維高一個量級對網(wǎng)絡(luò)環(huán)境的要求也苛刻一些。首先是交換機(jī)端口客戶端機(jī)器所在的交換機(jī)下聯(lián)口不建議開啟端口隔離或個別準(zhǔn)入策略至少要讓DHCP Discover、TFTP客戶端請求、HTTP請求都能順利穿過。其次是VLAN劃分管理網(wǎng)段和業(yè)務(wù)網(wǎng)段分開PXE服務(wù)只監(jiān)聽管理網(wǎng)段避免誤用DHCP干擾業(yè)務(wù)地址池。最后是網(wǎng)關(guān)和廣播域DHCP Discover是廣播報文客戶端和服務(wù)器必須在同一個二層廣播域里跨三層就需要配置DHCP中繼代理。安全方面TFTP默認(rèn)不限制訪問目錄建議在TFTP目錄內(nèi)部做好讀寫權(quán)限控制只開放必要的子目錄。HTTP服務(wù)如果沒有特殊需求不建議直接綁定到公網(wǎng)網(wǎng)口。PXE環(huán)境如果可能接觸不受信任的客戶端考慮在DHCP服務(wù)中啟用動態(tài)分配合約或IP/MAC綁定保證只有已知的客戶端才能獲得引導(dǎo)資格。3. 實(shí)操全流程從零搭建一套可用的PXE環(huán)境3.1 準(zhǔn)備工作與基礎(chǔ)環(huán)境初始化我以一套Rocky Linux 9服務(wù)器作為控制端客戶端統(tǒng)一安裝同版本系統(tǒng)為例??刂品?wù)器的IP規(guī)劃為192.168.110.10客戶端網(wǎng)段192.168.110.0/24。數(shù)據(jù)庫術(shù)語上我們稱這臺服務(wù)器為PXE控制器其他所有機(jī)器都作為PXE客戶端。開始之前先把本機(jī)系統(tǒng)更新好關(guān)閉或放行對應(yīng)的防火墻端口并安裝所需軟件包。涉及的核心服務(wù)端口有三類DHCP使用UDP 67、TFTP使用UDP 69、HTTP使用TCP 80。如果控制端啟用了防火墻需要提前放行這組端口。同時要確認(rèn)SELinux不會攔截HTTP服務(wù)讀取掛載目錄最簡單的方式是把安裝源目錄的標(biāo)準(zhǔn)上下文手動設(shè)置一下或者臨時調(diào)整SELinux布爾值我建議按目錄標(biāo)準(zhǔn)設(shè)定上下文而不是直接關(guān)閉SELinux。# 安裝所需軟件包 dnf install -y dhcp-server tftp-server syslinux-tftpboot nginx3.2 DHCP配置明確引導(dǎo)入口編輯/etc/dhcp/dhcpd.conf定義子網(wǎng)和PXE引導(dǎo)參數(shù)。這里核心是next-server和filename兩個選項(xiàng)。一個基礎(chǔ)配置模板如下subnet 192.168.110.0 netmask 255.255.255.0 { range 192.168.110.100 192.168.110.200; option routers 192.168.110.1; option domain-name-servers 192.168.110.10; option subnet-mask 255.255.255.0; next-server 192.168.110.10; filename pxelinux.0; default-lease-time 3600; max-lease-time 7200; }next-server告訴你TFTP服務(wù)器在哪里filename告訴該取什么引導(dǎo)文件。配置好之后啟動服務(wù)并檢查日志確認(rèn)沒有語法錯誤。有一點(diǎn)我后來又改進(jìn)了公司內(nèi)部有多個網(wǎng)段PXE客戶端跨越了VLAN這就需要在每個VLAN的網(wǎng)關(guān)設(shè)備上配置DHCP中繼或者用DHCP服務(wù)端同時監(jiān)聽多個子網(wǎng)有條件可以配置基于端口的動態(tài)分配。3.3 TFTP引導(dǎo)環(huán)境放置引導(dǎo)器和菜單安裝syslinux-tftpboot后把pxelinux.0、菜單模塊、內(nèi)核和解耦文件放到TFTP根目錄。這里的常規(guī)TFTP根目錄是/var/lib/tftpboot實(shí)際路徑看發(fā)行版差異。拷貝引導(dǎo)器cp /usr/share/syslinux/pxelinux.0 /var/lib/tftpboot/ mkdir -p /var/lib/tftpboot/pxelinux.cfg創(chuàng)建/var/lib/tftpboot/pxelinux.cfg/default作為默認(rèn)引導(dǎo)菜單。我先讓客戶端啟動到安裝程序所有具體的鏡像選擇都放在這個菜單里。默認(rèn)菜單內(nèi)容如下DEFAULT menu.c32 PROMPT 0 MENU TITLE PXE Boot Menu TIMEOUT 100 LABEL linux MENU LABEL Install Rocky Linux 9 x86_64 KERNEL images/rocky9/vmlinuz APPEND initrdimages/rocky9/initrd.img kshttp://192.168.110.10/ks/ks.cfg這段配置里KERNEL指向內(nèi)核文件在TFTP根下的相對路徑APPEND里的initrd參數(shù)告訴引導(dǎo)器加載哪個解耦文件ks參數(shù)用HTTP URL指定Kickstart文件位置。注意如果使用UEFI引導(dǎo)環(huán)境圖形化菜單模塊選用menu.c32可能不生效需要根據(jù)啟動模式針對性配置。TFTP根目錄、權(quán)限和SELinux上下文都要配套。TFTP服務(wù)默認(rèn)對目錄有讀取權(quán)限要求如果用tftp-hpa默認(rèn)用戶是tftp需要保證引導(dǎo)文件對tftp用戶可讀使用chmod 644即可。如果啟用了SELinuxtftp服務(wù)有對應(yīng)的布爾值開關(guān)我因?yàn)閳D省事踩過一整晚的坑最后是檢查/var/log/messages才定位到SELinux攔截了TFTP讀取。3.4 HTTP安裝源掛載ISO并配置訪問安裝源放在nginx目錄下。先把ISO鏡像拷貝到控制服務(wù)器或者直接掛載然后創(chuàng)建軟鏈接指向解壓目錄。我的做法是統(tǒng)一放在/data/pxe/iso每個鏡像一個目錄同時給客戶端訪問路徑以簡潔的URL展示。mkdir -p /data/pxe/iso mount -o loop rocky9.iso /mnt/rocky9 cp -a /mnt/rocky9/. /data/pxe/iso/rocky9/nginx配置指向這個目錄server { listen 80 default_server; root /data/pxe/iso; autoindex on; }autoindex on是必要的雖然Kickstart不一定需要目錄列表但調(diào)試時可以先用瀏覽器訪問目錄確認(rèn)鏡像文件是否完整可見。安裝時安裝程序會訪問repodata目錄抓取軟件包元數(shù)據(jù)所以目錄里必須有這個文件如果ISO拷貝不完整經(jīng)常會在安裝進(jìn)度走到一半時報倉庫加載失敗。3.5 Kickstart應(yīng)答文件編寫兼顧通用與個性Kickstart文件放在HTTP服務(wù)下路徑/ks/ks.cfg對應(yīng)磁盤路徑/data/pxe/ks/。下面這個腳本是適應(yīng)多機(jī)器的通用模板已在多臺物理機(jī)上跑通過。# 版式Kickstart 格式 install url --urlhttp://192.168.110.10/rocky9/ lang en_US.UTF-8 keyboard us timezone Asia/Shanghai rootpw --iscrypted $6$... authconfig --enableshadow --passalgosha512 selinux --enforcing firewall --disabled firstboot --disable # 磁盤與引導(dǎo)配置 zerombr clearpart --all --initlabel part /boot --fstypexfs --size1024 part pv.01 --size1 --grow volgroup vg0 pv.01 logvol / --fstypexfs --nameroot --vgnamevg0 --size40960 logvol swap --fstypeswap --nameswap --vgnamevg0 --size4096 logvol /data --fstypexfs --namedata --vgnamevg0 --size1 --grow # 軟件包配置 %packages core vim wget %end # 首次啟動自定義 %post --log/root/pxe-post.log echo PXE install completed /root/pxe-post.log %end這個文件的關(guān)鍵在于分區(qū)策略和軟件包配置。分區(qū)統(tǒng)一走LVM后續(xù)擴(kuò)展不再需要停機(jī)調(diào)整物理分區(qū)。%post腳本用于安裝完成后做定制操作比如寫主機(jī)名、配置SSH key、添加用戶等。我是習(xí)慣在%post里通過讀取DHCP的hostname或預(yù)設(shè)參數(shù)來生成每臺機(jī)器的主機(jī)名這樣就不需要每臺機(jī)器手工改主機(jī)名了。第一段代碼里的root密碼以密文形式存放。生成方法可以用openssl passwd -6或者grub-crypt絕對不要寫明文密碼。整個Kickstart文件在HTTP目錄中時確認(rèn)權(quán)限盡量收緊比如只用root可讀寫但如果需要遠(yuǎn)程修改也可以另設(shè)專用賬號。3.6 客戶端啟動驗(yàn)證與參數(shù)傳遞技巧配置全部就位后在一臺測試機(jī)上將其啟動方式設(shè)置為網(wǎng)絡(luò)啟動開始觀察安裝流程。理想情況下控制臺會依次出現(xiàn)PXE準(zhǔn)備階段、引導(dǎo)菜單、內(nèi)核加載、安裝程序初始化然后進(jìn)入無人值守安裝。全程大約10分鐘期間不需要任何人工干預(yù)。如果希望客戶端能自動區(qū)分不同主機(jī)名或不同分區(qū)配置可以使用Kickstart里的%pre腳本配合引導(dǎo)參數(shù)實(shí)現(xiàn)。引導(dǎo)器APPEND里可以帶自定義參數(shù)比如hostnameweb01然后在%pre中解析這些參數(shù)并寫入對應(yīng)配置文件。這種方式比客戶端都讀同一個模塊更靈活也方便和資產(chǎn)管理平臺打通。%pre --log/tmp/ks-pre.log hostname$(find /proc/cmdline -o -print | grep hostname | cut -d -f2) echo $hostname /etc/hostname %end還有一個小技巧是把menu.c32作為默認(rèn)引導(dǎo)菜單同時鍵盤快捷鍵可以快速進(jìn)入shell方便調(diào)試。實(shí)際使用中我在APPEND里經(jīng)常額外加一個ipdhcp參數(shù)確保安裝程序正確獲取網(wǎng)絡(luò)配置避免因?yàn)榫W(wǎng)卡名混亂導(dǎo)致連不上安裝源。4. 常見問題與排查技巧實(shí)錄4.1 客戶端卡在“PXE-E51: No DHCP or proxyDHCP offers”這個報錯說明DHCP階段就沒通。排查順序很明確看看DHCP服務(wù)是否在跑監(jiān)聽端口是否是67確認(rèn)客戶端和服務(wù)器在同一二層網(wǎng)絡(luò)檢查防火墻是否丟棄了UDP 67報文。如果服務(wù)正常再用tcpdump在服務(wù)器側(cè)抓包觀察DHCP Discover是否能收到。這類問題九成是網(wǎng)絡(luò)隔離或服務(wù)監(jiān)聽錯了接口。4.2 客戶端能拿到IP但TFTP下載引導(dǎo)文件超時此時DHCP已經(jīng)成功問題出在引導(dǎo)文件獲取階段。常見原因包括TFTP服務(wù)器沒放行UDP 69端口、pxelinux.0文件不存在、或文件權(quán)限不對。另外一個很容易忽略的是filename里如果寫了路徑比如filename pxelinux.0TFTP服務(wù)會把它當(dāng)作相對路徑拼接在根目錄之后路徑寫錯會直接404。建議先用tftp命令行手動測試一遍文件下載能手動下載成功再談客戶端引導(dǎo)。tftp 192.168.110.10 -c get pxelinux.04.3 引導(dǎo)菜單正常顯示但內(nèi)核啟動后黑屏或Kernel Panic這類問題一般和引導(dǎo)參數(shù)有關(guān)。最常見的是APPEND里沒有指定正確initrd或者vmlinuz和initrd.img與系統(tǒng)架構(gòu)不匹配。另一個常見坑是UEFI機(jī)器加載了BIOS版引導(dǎo)文件導(dǎo)致啟動協(xié)議不符。當(dāng)前架構(gòu)統(tǒng)一使用UEFI引導(dǎo)我配置時都會放兩套引導(dǎo)文件按啟動模式提供不同文件名從一開始避免混用。4.4 安裝程序已啟動但在獲取倉庫或安裝軟件包階段失敗安裝程序能跑起來說明引導(dǎo)鏈路OK之后的失敗通常都和HTTP源有關(guān)。建議先訪問http://192.168.110.10確認(rèn)目錄列表能看到ISO內(nèi)容。如果目錄能打開但安裝報404請看Kickstart里url --url寫的具體路徑是否與nginx目錄的alias或軟鏈路徑對應(yīng)。還有一個容易踩的坑如果通過mount -o loop臨時掛載ISO服務(wù)器一重啟掛載點(diǎn)就消失。我的建議是把ISO解壓到目錄后長期保留避免循環(huán)掛載依賴進(jìn)程狀態(tài)。4.5 Kickstart文件無法讀取如果引導(dǎo)器能找到kshttp://...但安裝程序提示解析錯誤或訪問失敗先用瀏覽器或curl確認(rèn)該URL可以正常返回內(nèi)容再檢查文件格式。Kickstart文件其實(shí)對行尾和編碼有要求Windows下編輯過再傳到服務(wù)器很容易栽在回車符差異上。另一個隱蔽的問題是文件中出現(xiàn)空行、注釋錯位或者使用了不支持的指令建議安裝前用ksvalidator做一次語法驗(yàn)證能省去大量現(xiàn)場調(diào)試時間。4.6 大規(guī)模并發(fā)安裝時的延時與資源瓶頸同時引導(dǎo)幾十臺客戶端時DHCP、TFTP、HTTP三個服務(wù)都可能成為瓶頸。DHCP層面可以把default-lease-time縮短讓地址盡早釋放TFTP層面引導(dǎo)器文件本身傳輸盡力減小必要時僅傳輸引導(dǎo)器內(nèi)核和initrd走HTTPHTTP層面建議把所有安裝源目錄的冗余日志級別關(guān)閉同時nginx開啟sendfile和aio并考慮采用proxy_cache做倉庫包緩存。實(shí)測中同樣的配置優(yōu)化HTTP路徑后并發(fā)20臺以上也能穩(wěn)定交付。4.7 安裝完成后首次啟動進(jìn)不了系統(tǒng)這類問題多出在引導(dǎo)加載器安裝和分區(qū)設(shè)計上。如果/boot分區(qū)存在但內(nèi)核沒寫入引導(dǎo)項(xiàng)檢查Kickstart里是否包含bootloader --locationmbr或UEFI相關(guān)參數(shù)。此外部分機(jī)器因固件原因在PXE安裝后還保留PXE啟動順序?qū)е轮貑⒂只氐骄W(wǎng)絡(luò)啟動菜單。處理辦法是在Kickstart%post階段寫一段腳本將啟動順序調(diào)整為本機(jī)磁盤優(yōu)先或者依靠UEFI的引導(dǎo)管理器設(shè)置。5. 擴(kuò)展場景與現(xiàn)實(shí)經(jīng)驗(yàn)PXE不止能裝單機(jī)系統(tǒng)稍微擴(kuò)展一下邏輯就能覆蓋多種運(yùn)維場景。比如配合模板鏡像可以用PXE引導(dǎo)一個內(nèi)存系統(tǒng)然后在內(nèi)存系統(tǒng)里執(zhí)行克隆、備份或抽檢硬件固件信息再比如把Kickstart文件里的軟件包列表換成某一業(yè)務(wù)組的常用軟件集合就相當(dāng)于批量交付了統(tǒng)一基線還能和監(jiān)控平臺打通讓安裝完成后的系統(tǒng)第一時間自動上報到CMDB。我在實(shí)際落地中還總結(jié)了一條經(jīng)驗(yàn)PXE的搭建代碼相對固定難的不是寫配置而是對網(wǎng)絡(luò)細(xì)節(jié)的理解和異常處理。每次導(dǎo)入一批新機(jī)型我都會先拿一臺樣機(jī)完整跑一遍安裝觀察日志里是否有新硬件導(dǎo)致的異常再決定是否批量執(zhí)行。如果機(jī)器網(wǎng)卡型號較新引導(dǎo)階段可能還需要嵌入廠商網(wǎng)卡驅(qū)動否則會出現(xiàn)內(nèi)核無法識別網(wǎng)卡而無法進(jìn)入安裝程序的怪問題。后來說個非常實(shí)用的小技巧建議把控制服務(wù)器上的配置做版本管理至少對dhcpd.conf、nginx配置和Kickstart腳本打上git標(biāo)簽。出現(xiàn)配置回退時幾秒鐘就能恢復(fù)。做PXE的樂趣就在于前期配置雖然瑣碎但換來的是一勞永逸的交付能力這種投入非常值得。祝各位順利跑通自己的PXE鏈路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月天婷婷黄色| 丁香五月综合婷婷| 婷婷五月天AV| 第五色婷婷| 嫩草AV久久伊人妇女超级A| 午夜微拍福利| 97caop| 无码动漫av| 丁香婷五月天| 欧美大奶熟女噜噜噜噜| 五月婷婷大香蕉| av五月丁香| 午夜少妇在线观看视频| 综合网激情| 久热免费视频| 五月丁香六月婷婷网| 9九热视频| 狠狠色网| 婷婷丁香91| 97色 五月天丁香| 亭亭五月丁香五月天激情| 色综合天天综合成人网| 色五月激情五月| 只有久久精品免费| 激情综合另类| 婷婷激情五月天在线| 五月色婷婷在线观看| 91久久五月天| 亚洲AV人人操| 亚洲1区| 欧美啪啪五月天| 日本欧美成人片AAAA| 丁香五月综合婷婷| 操一区| 99亚洲无码| 天天操天天日天天爱| 丁香六月欧美| 色婷婷在线影院| 午夜无码熟熟妇丰满人妻| 九九这里都是精品| 日本五月婷| 五月天色区| 欧美激情-区二区三区| 天天日日夜夜爽| 综合99视频| 亚洲a片免费观看| 粉嫩AV久久一区二区三区| 日日干天天射| 99久久99久久综合| 欧美婷婷五月丁香| 九九在线视频| 色五月情| 99精品视频免费观看近期发布| 亚洲精品国产成人AV在线| 色五月av| 99久久久久久| 久久伊人五月天| 视频一二区| 婷婷久久亚洲| 欧美丁香五月夫妻天| 日本欧美国产| 天天色天天| ji'qi'luan'ren'lun| 五月丁香婷中文| 99精品视频免费在线播放| 久久五月婷| 色丁香五月天| 五月天色狠狠| 99福利视频| 欧美综合在线五月天色婷婷| 婷婷色五月综合| 丁香综合网| 思思热久久久久思思热| 色婷婷五月天激情在线播放| 亚州AV超碰人人操| 免费精品99| 色五月综合资源推荐| 五月婷婷六月天| 久久久久久人妻| 亚洲色五月婷婷| 婷婷六月综合激情| 五月天.com| 色色色综合色| 久久九九激情五月天| 五月开心播播网| 色婷婷香蕉在线| 亚洲六月色| 97luluse| 九色视频91| 天天情天天狠天天透| 九九这里只有精品在线视频| 久99久热只有精品国产99| 丁香五月综合在线播放| 91大神操美女| 日韩一区二区A片免费观看| 狠狠综合网| 人妻啪啪啪| 丁香婷婷色五月| 五月婷婷激情五月| 亚洲色无码A片一区二区麻豆| 另类小说五月天| 九九香蕉网| 无码人妻AV久久久一区二区三区| 五月色丁香婷婷综合| Www.狠狠| 五月丁香狠狠爱婷婷综合| 天天日日夜夜爽。| 99九九视频| 9久久狠狠的| 热久免费视频9| 久久婷婷五月综合激情国产| www.狠狠操| 少妇人妻人伦A片| 色天使色综合| 成人深爱丁香五月| 123草逼网| 亚洲精品婷婷| 激情五月丁香六月综合AVXXXX| 超碰人人干| 婷色成人| 丁香五月激情啪啪| 啪啪色激情五月天| 国产色色网站网址| 色情丁香五月婷婷精品| 丁香影院五月综合| 五月丁香六月欧美综合| 五月婷网| 殴美日韩成人| 婷婷丁香激情五月天色色| 激情亭亭五月| 91九九九九九九| 99色婷婷| 久久婷狠狠色| 色色丁香色五月| 亚洲激情在线| 色婷婷日本| 久久免费精彩视频| 五月天久久www| 超碰精品手机在线| 国产精品色| 午夜日韩久久久网站| 国产夫妻操逼内射视频| 国产 码在线成人网站| www.9色色色| 激情五月婷婷欧美极品| 这里只有精品视频在线| 综合久久9| 99久久久| 日本三级日本黄色| A色色| 91超碰人人操| 五月丁香 啪啪| 激情综合色播| www.99操| 久久丁香久久| 亚州成人综合在线| 视色综合| 五月婷婷电影院| 91狠狠综合久久久久久| 深爱婷婷网| 天堂爱啪啪| 五月天激情社区| 六月激情婷婷| 激情综合五月激情| 久久精彩视频| 操操操av| 九九久久精品| 欧美99热| 亚洲精品一区中文字幕乱码| 国产成人AV人人爽人人澡Va| 国外亚洲成AV人片在线观看| 天天天添天天操| 激情综合婷婷| 午夜理论片最新午夜理论剧| 丁香五月激情综合| 五月丁香啪啪拍| www.天天日| 欧洲亚洲免费视频9| 中文AV在线观看| 亚洲韩国日产综合AV| 五月婷婷五月天天| 亚洲AV无码电影| 色婷婷色情| 91精品激情9| 久色中文| 伊人影院久久网| 99热这里只有精品搜| 91精品刘玥| 色狠狠图片| 影音先锋五月婷婷| 婷婷五月丁香手机在线视频| 五月婷婷六月综合| 欧美色色色| 99在线观看视频免费| 噜噜噜久久| 四射综合网| 色情五月天首页| 日韩人妻无码专区| 婷婷五月色网| 最新日韩久热免费视频看看| 99操逼| 久久激情视频| 亚洲V国产V欧美V久久久久久| 国产色色网址网站| 天天色凹凸| 五月天伊人网| 色综合夜夜| 99热思思| 色综合伊人网| 欧美激情 日韩无码 婷婷 五月天| 99精品在线| www.五月天性.com| 97久久五月丁香婷婷| 一起草无码| 激情综合五月| 婷婷成人av| 思思热在线| 丁香五月婷婷色情综合| 中国丰满熟女A片免费观| 26UUU在线观看| 婷婷色色色| 超碰九九热| 激情色中文| 亚洲亚洲人成综合网络| 91碰| 欧美Va在线| 五月天大香蕉AV| 日本一级黄色电影| 欧美日韩AAA| 久操激情| 五月天婷婷色播| 碰人人97| 五月婷婷性爱| 亚洲bt丁香五月天婷婷激情小说| 婷婷激情四射| 99久免费视频| 欧美成人精品三区综合A片| 九九无码视屏| 婷婷亚洲五| 123日本不卡在线| 激情综合99| VA国产在线综合网站| 久久婷鲁| 少妇性按摩无码中文A片| 新伍月婷婷| 91操片| 婷婷在线网| 色你久久| 色婷婷亚洲精品天天综| 综合五月亭亭9| 中文字幕+中文在线| 五月天另类激情在线| 婷婷日日夜夜| 狠狠狠狠狠狠草| 性色av大香综合| 专区无日本视频高清8| 另类小说激情五月天| 激情婷婷| 日本视频99| 1024国产在线| 国产亚洲成AV人片在线观黄桃| 少妇达人正片在线播放_ikun_福利吧| 天天爽曰日爽| 五月婷婷狠天天色综合| 婷婷五月天丁香花| 欧美大香蕉视频| 久久婷婷五月天丁香| 九久9精品| 五月草视频| 久1色色| 婷婷久久影院| 月丁香久久久| 少妇做爰免费视看片| 亚洲综合色棒| 538午夜激情| 久久网日本| 六月丁香婷婷综合影院| 沈娜娜av| 五月婷婷伊| 五月天久久婷婷| 日韩精品一区二区亚洲AV观看 | 五月香婷婷| Aα在线免费观看| 永久地址 色| 激情五月婷婷丁香六月| 久热欧美| 一区二区三区视频| 69热在线| 99热99在线| 欧美 日韩 成人 在线| 日本在线wwww| 91xxxx九色| 婷婷五月天丁香久久| 亚洲色就是色色色| 亚洲av| 丁香六月激情| 五月婷婷六月天| 深爱开心激情| 激情AV| 色综合婷婷| 婷婷综合| 五月激情综合网| 99热九九热| 玖玖无码中文| 无码任你操| 久月婷婷| 在线另类| 婷婷综合性爱网| 亚洲妇女熟BBW| 欧美S码亚洲码精品M码| 五月婷婷香蕉| 欧美操综合| 婷婷久久图片| 99热大香蕉| 91九色丨国产丨爆乳| 精品成人在线观看| 五月婷婷高清| 深爱激情四射| 人人草人人视| 天堂综合久久 | 丁香五月五月婷婷五月天激情四射| 综合深爱五月| 五月丁香性| 99乱视频| 欧美成人无码一区二区三区| 久久这里99| 五月丁香花婷婷玉莉AV| 婷婷五月综合久久中文字幕| 久热大香蕉| 久久久99精品免费观看| 五月婷婷丁香五月| 99综合免费视频| www.久久久久久久| 五月丁香啪啪网| 日本女天天爽| 久久这里有精品视频在线免费观看| 韩国三级五月天婷婷。| 亚洲第一黄网| 99精品偷自拍| 伊人玖玖网| 67194成I人在线观看线路1| 日本精品在线噜噜噜| 成人欧美一区二区三区在线观看| 婷婷色5月激情网| 精品99在线观看| 97色色色色色| 嫩草哈哈操| 五月色色网| 五月香蕉婷婷| 中文在线成人| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 97久久精品| 人人爽在线视频综合网| 天天做天天爱天天要| 婷婷久久五月天丁香| 日本片日本片祼观看网站在线看中文版网页在线看 | 激情综合网激情五月婷婷| AVV黄| av九九| 九九热在这里只有精品| 九九色精品| 一级AV片| 五月婷婷开心亚洲无| 思思热久久爱| 99热啪啪| 久久婷婷五月综合精品蜜芽| 亚洲 无码 中文字幕 中出| 另类综合色| 亚洲超碰在线| 99色在线观看视频| 亚洲人妻五月丁香婷婷| 亚洲天堂热| 99热亚州综合| 就爱操www com| 亚洲无码99| 日本不卡高字幕在线2019| 铁牛TV人妻| 就爱干 在线| 欧美综合五月丁香六月婷| 1024在线一区| 秋霞电影一级黄| 精品欧美一区二区三区久久久| www.99热在线| 久草婷婷网| 337p大胆噜噜噜噜噜91Av| 婷婷五月天久久久| 婷婷五月丁香青青草在线| 久久东京热婷婷五月| 欧美VA在线观看| 久久激情网| 国产综合81p| 亚洲av电影网站| 日韩成人网址| 99爽视频| 99资源在线| 人人天堂操| 99精品在线观看| 伊人大香蕉综合在线| 天天射射夜| 夜夜爱网站| www.婷婷,com| 天天干天天拍| 婷婷自拍| 五月天狠狠| 久久精品无码一区| 五月丁香六月婷婷中文版| 五月丁香| 热99国产精品| 色香欲综合| 91无码视频| 色亭亭五月天丁香综合AV - 百度 - 百度| 大香蕉福利导航| 色另类五月天| 五月天激情视频| 91久操| WWW.99视频| 久777| 99re热精品视频国| 任我肏| 日本久久婷婷| 五月丁香六月香香蕉| 在线观看996精品| 狠狠干,狠狠操| 日韩操啪| 久re热视频| 久久六月综合| 人妻少妇色综合| 97香蕉人人在线观看| 色情五月婷婷| 久久婷婷五月综合精品蜜芽| 99热爱爱干干日| 91九色国产| 色99在线观看| 涩综合婷婷| 日韩 欧美 国产 一区 二区| 大战熟女丰满人妻AV| 九九热这里有精品23| 91啪啪视频| 婷婷 久综合| 国产精产国品一二三在观看| 狠狠色五月激情| 狠狠五月天| 在线五月色播| 日本不卡高字幕在线2019| 五月久久亚洲| 琪琪色影音先锋| 丁香五月综合激情啪啪| 丁香五月婷婷激情小说| 极品人妻VIDEOSSS人妻| 色丁香影院| 91日精品| 久99久在线| 另类激情五月天。| 97人妻超级碰碰碰碰碰| 激情五月天com| 丁香五月激情网| 色婷婷狠狠爱| 五月色情网| 99ri6在线视频| 综合网啪| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 色综啪啪啪啪啪啪| 51avj视频大全| 岛国资源站| 九色91国产| 国产激情综合五月久久| 97啪在线观看视频| 99精品久久久| 99久久精品网| 亚洲最大在线| 97很鲁在线视频| 成年人丁香五月| 日韩成人精品中文字幕| 久久久全国免费视频| 欧美va在线观看| 亚洲日本激情| 热久久婷婷| 99久久久| 五月丁香久久激情综合| 91色久| 五月永久激情| 色综合大香蕉| 天堂伊人干| 殴美日韩成人| 99视频在线观看欧| 九九人人看| 五月开心网| 99视频网| oumeisesewang| 丁香五月九九| 亚洲精品又粗又大又爽A片 | 中美日韩成人在线| 久8色色| 日韩亚洲视频| 97人人操com| 99热这里只有精品55| 婷婷五亚洲| 婷婷丁香色五月亚洲| 久久久日韩特色特黄AAAA| 亚洲99热| 婷婷五月丁香欧洲| 99色 色| 在线视频色五月| 亚洲成人网站在线| 色狠狠婷婷| 欧美性丁香色色五月天干干| 桔色成人在线| 婷婷五月天男人影院色色网| 亚洲激情淫网| 午夜丁香婷婷| 玖玖午夜视频| 五月停亭久久电影| ..真实国产乱子伦对白在线_欧 | 99超在线| 久热伊人| 五月婷婷综合久久| 久久久久人妻精品| 婷婷五月天男人影院色色网| 97激情五月天| 婷婷五月天播| 狠狠操综合| 亚洲超级碰| 99久久综合狠狠综合久久| 天天爱天天爽| 5月丁香啪啪啪| 久久草婷婷丁香网站| 婷婷五月丁香花综合| 欧美三级巜人妻互换| 97福利视频| 丁香六月婷| 啪啪六月婷婷| 婷婷色爱| 激情六月日韩| 99精品免费欧美小视频| 99热这里只有精品搜| 丁香五月婷婷亚洲另类| 日日夜夜青青草| 婷婷丁香色五月天久久88| 秋霞性爱AV| 超碰93在线观看| 停停五月色宗合| 综合婷| 久久性都花花世界成人免费视频| 人人操9| 97色五月婷婷在线| 日韩野外 无套| 大香蕉久久综合网| 五月丁香六月停停停| .精品久久久麻豆国产精品| 亚洲综合激情五月久久| 国产毛片欧美毛片久久久| 狠狠操综合| 五月激情天| 天天拍天天操| 国产欧美精品AAAAAA片| 久久九九热38| 丁香五月婷婷色偷偷| 99热欧美精品| 大香蕉五月丁香| 97操碰| 人人亚洲| 丁香五月天婷婷中文| 襙逼网| 五月婷婷丁香综合| 夜夜撸夜夜骑| 欧美99| 丁香九月综合| 成人日韩欧美| 色五月色五天色情网| 丁香五月色五月婷婷宗合| 五月综合精品| 99热资源在线| 99精品在线观看视频| www.zbzhongsen.com| www.色婷婷| 色欲五月丁香| 欧美色碰| 99色综合网| 色的色综合| 色欲五月婷婷| 五月天丁香成人| 人妻久久久久久| 九九九九精品精| 性爱111111| 色婷婷影| 丁香六月 婷婷六月| 午夜不卡成人一区二区| 六月色国内综合| 丁香五月av在线| 色五月婷婷网| 色色婷| 婷久久久| 超碰99在线观看| 玖玖九九99| 五月丁香亭亭| .精品久久久麻豆国产精品| 99久久久精品| 色色色色色热| 亚洲操操操| 深爱激情丁香| 99玖玖视频| 天天人人综合| 思思久久99| 天天插天天射| 91疯狂操操操操| 久久99热这里只有精品23| 91精品综合久久久久久五月丁香 | 日日夜夜爽| 婷婷中文无码| 九九爱激情| 九九综合伊人| 丁香成人视频| 极品少妇XXXX精品少妇偷拍| 狠狠色噜噜色狠狠狠综合色 | 婷婷九月激情| 色色综合网。| 婷婷在线五月天观看| 99视频精品全部观看10| 欧美成人AAA片一区国产精品| www91在线| 伊人在线婷婷草| 五月丁香亭亭操逼| 岛国AAAV| 丁香五月综合激情久久潮喷| 亚洲乱码w在线观看| 国产古装妇女野外A片| 久9热视频在线观看| 日韩久久这里只有精品| 99精品在线| 五月婷婷碰碰| 五月丁香成人网| 免费视频99| 老美AA片| 狠狠大香婷婷爱| 玖玖五月| 综合婷| 亚洲国产婷婷色五月 | 五月综合色| 天天搡日日搡aaaaⅩ| 五月天 另类图片| 国产做爰视频免费播放| 99色色爰| 性爱网五月天| 久99久99精品免| 天天干天天叉| 性色做爰片在线观看WW| 久久五月天激情美女| 丁香婷婷性久久| 色综合9| 五月天久久www| 五月婷婷深深爱| 九九热AV| 丁香九月激情| 超碰在线视屏| 婷婷射丁香| 九月色婷婷综合| 国产成人99久久亚洲综合精品| 欧美三9久九观看| 樱花99视频| 色99视频| 美女亚洲五月丁香| 天天插天天干| 国产99美少妇| 可以免费观看的av| 五月激情婷婷开心五月| 色色色综合| 五月激情六月| 校花娇喘呻吟校长陈若雪视频| av婷婷丁香 六月| 人人操五月天| 99re这里只有精品国产99| 五月天激情四射| 四色永久成人网站| 亚洲色频| 激情开心五月婷婷| 成人做爰高潮A片免费视频| 99热99思午夜精品| 四川BBB搡BBB搡多人乱亂| 婷婷香五月综合激情| 久久久91精品| 色在线视频网2025| 啪啪操超碰| 国産精品| 婷婷基地成人五月天| 欧美三级A做爰在线观看| 五月婷伊人| 一级AV片| 五月天综合视频| 91色吧网| 激情五月婷婷网| 激情影院内射| 9精品久久999| 五月丁香六月激情欧美综合| 超碰2021| 五月天另类小说| 亚洲久久日| 玖玖精品视频| 狠狠草婷婷| 婷婷激情六月中文| 991精品在线视频| 五月丁欧美| 免费观看全黄做爰的视频| 日日夜夜小色哥| 在线99色| 欧美色五月| 五月丁香五月天现场视频| 99啪在线视频| 色婷婷www| 人人添人人| 久久久精品婷婷五月天| 天天色天天爱天天爱天天爱y| 香蕉久久六月| 女人高潮内射99精品| 亚洲国产va| 日韩啪| 婷婷六月天| 婷婷色五月丁香六月欧美啪| 丁香婷婷黄网站| 亚洲亚洲人成综合网络| 婷婷五月天综合网| 成人片久久网站| 久99久视频精选| 久久伊人五月天| 国产另类综合| 色五月丁香五月| 色婷婷六月精品| 97热在线精品| 亚洲精品V天堂中文字幕| 激情五月,激情综合网| www色色色com| 色色色五月| 色色色五月婷婷| 色婷婷亚洲六月婷婷中文字幕| 97人人操人人爽| 91热久88| 丁香五月激情五月| 夜夜谢天天干| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 婷婷五月亚洲一本在线丁香| 婷婷成人综合| 丁香天堂夜| 五月婷婷丁香| 超碰97人人操| 激情综合丁香五月| 五月激情另类| 日本久热| 97超碰欧美中文字幕| 九九无码| 大香蕉综合在线| 亚城区在线| 99热国产这里只有| 国产熟女大叫受不了| 91久久网站| 99色干| 婷婷五月天另类网站| 色亚洲无码| 日韩在线观看亚洲| 天堂网亚洲色图| 欧美大片| www超碰| 亚洲五月天婷婷| 色情五月停停丁香| 另类激情五月| 免费99情趣网视频| Av大香蕉| 色狠狠999综合| 五月婷婷亚洲色图| AV中文网| 极品人妻VIDEOSSS人妻| 五月综合视频| 婷婷五月天精品| 狼人婷婷久久| 殴美综合激情五月天免费视频| 久久这里只有精品1| 综合网激情五月天| 色婷婷五月天亚洲| 亚洲综合激情五月久久| 色婷婷婷婷| 五月丁香激情综合啪啪| 久草五月婷| 影院久久久| 91在线操逼视频| 精品一二三区久久AAA片| 成人片在线播放| 丁香五月激情婷婷| 婷婷亚洲综合| 中文字幕在线免费观看视频| 超碰女人天堂| 丁香激情网| 色碰碰| 超碰人人射| 日本熟妇精品99| 91综合国免费久入| 九九热啪啪| 99九九99九九九视频精彩| www99xxxx五月丁| Av免费网站在线| 操操操91| 国产精品国产| 五月婷婷丁香大陆免费| 91人人操人人| 青青热视频| 色婷婷91激情小说| 亚洲欧洲色色| 五月丁香婷婷人体| 伊人久久丁香婷婷六月五月综合| www.sd-xiangsu.cpm| 婷婷亚洲五月丁香综合在线| 五月六月丁香婷婷在线观看| 婷婷五月天视频小说| 99久久er| 五月丁香五月婷婷| 999激情视频| 九九久久网| 五月天成人综合| 天天色天天操天天射| 婷婷丁香色女人| 97碰碰电影| 久色网址| 五月熟妇婷婷久久| 五月天成人在线播放丁香| 五月婷婷无码| 五月丁香六月在线| 亚洲热视频在线| 亚洲V国产V欧美V久久久久久| 黄色片久久| 丁香九色不卡aaa| 香蕉久久六月| 五月天激情站| 日日狠夜夜狠| 99久久精品国产色欲| 草草视频91| 51精品国自产在线| 色婷婷最新域名| 9 1超碰九色| 丁香婷婷六月激情文学| 日韩精品无码99| 99热99美国在线观看| 婷婷99狠狠| 天天碰夜夜操| 色色色区| 五月丁香六月日逼| 噜噜色噜噜网| 色色色色热| httpwww色com日本| 久青操| 婷婷在线五月天观看| 丁香五月婷婷激情123| 色噜噜狠狠色综合成人网| 粉嫩AV久久一区二区三区| 国产性爱色| 天天日天天狠狠操| 激情五月色播五月| 激情美女五月天| 亚洲欧美国产高清vA在线播放| 久久精品视频99| 婷婷五月丁香基| 区美毛片子| 丁香婷婷五月六月天| www.色色色色| 在线婷婷| 五月婷婷综合在线视频| 久热精品视频在线观| 深爱激情六月天| 五月婷婷综合在线| 啪啪操操| 久久99久久99精品免观看软件| 婷婷激情视频| 国产精品成av人在线视午夜片| 精品人人操| 久久综合热17c| 99久在线精品| 婷婷五月天亚洲精品| caop在线视频| 婷婷五月娱乐在线| 日本va网站| 婷婷99视频精品| 欧美一级a| 婷婷色五月激情| 91成人电影| 97午夜一区二区| av在线观看免费| 五月丁香六月婷婷激情视频在线观看免费 | 五月丁香婷婷基地| 久久AAAA片一区二区| 欧洲毛片基地c区| 狠狠做深爱婷婷久久综合一区| 天天日天天色| 大香蕉综合| 六月丁香激情| 亚洲黄色操逼| 日韩 欧美 国产 一区 二区| 97色永久免费视频| 大香蕉懂9| 思思色综合网站| 日日夜夜天天| 五夜婷婷| 久久婷狠狠色| 91嫩草久久| 5月婷婷五月天| 国产XXXX搡XXXXX搡麻豆| 色婷婷综合影院| 这里只有精品视频在线| 日韩精品在线观看9| 伊人成人宗合网| 成人午夜无码视频| 婷婷激情五月综合| 久久六月天| 国产AV不卡福利| 狠狠草狠狠草| 色婷婷第四色| 天天撸天天干天天插| 丁香狠狠干| 99热r| 丁香六月综合激情| 99国产er热视频| 五月婷婷中文字幕| 婷婷九月丁香| 激情文学久久| 久久综合中文| 99久久网站| 99精品自拍视频| 操操人人| 視频福利乱色| 婷婷情色五月天| 亚洲色图五月丁香| 丁香五月激情啪| 热久国产| 9久精品| 亚洲色情久久| 综合色播| 久久久月丁香| 91久久久久久久久久18| 丁香五月天网友自拍啪啪啪视频| 五月停停99| 五月伊人婷婷| 99啊精典免费视频| 婷婷婷久久久| 综合婷婷久久| 六月丁香网| 丁香五月成人论坛| 97一区二区| 96五月丁香熟女| 婷婷天天日婷婷| 五月丁香久久丝袜啪啪| 亚洲精品在线视频| 久久98| 97人人干| 色高清无码视频| 亚洲成人电影在线免费观看| 天天日夜夜曹| 在线观看av网站| 99视频精品| 91热er| 1024欧美看片| 亚洲操操操| 九久9精品| 五月婷婷激情| 五月丁香婷婷激情澎湃四射| 欧美啪啪网| 五月婷婷在线综合| 亚洲天堂99| 强辱丰满人妻HD中文字幕| 丁香五月网在线观看| 色99免费视频中文| 国产 亚洲 在线| 婷婷另类开心| 91色色色视频| 黄色三级日本| 欧美婷婷五月激情| 大香蕉九九操| 五月丁香色婷婷| 99惹精品视频| 六月丁香婷婷色狠狠久久| 丁香婷婷五月| 婷婷深爱五月丁香网| 97碰免费精采视频| 婷婷五月婷婷| 天天 日综合| 99操免费视频| 99热色精品| 五月婷婷激情综合网 | 五月丁香久久激情综合| 天天舔天天爽| 日日操夜夜操狠狠操| 99青青草99| 色婷婷97| 婷婷丁香基地在线| 插逼综合网| 久热在线中文字幕色999舞| 国产精品VA在线| 99热偷拍| 丁香婷婷六月| 天天爱天天做天天操| 精品少妇蜜臀91| 久久作爱| 国产一级黄色影片,| 久久伊人婷婷| 这里只有精品视频一区| 99碰碰| www.99操.com| 五月综合激情网| 色婷婷五月天在线| 性色人人爽| 大香蕉在线观看9| 天天干天天插| 婷婷的色色五月天| 日逼免费视频| 色色五月天激情| 超爽内射| 丰满少妇猛烈A片免费看观看| 婷婷五月丁香啪啪| 婷婷五月天六月| 欧美天天爽| 啪啪夜久久| 碰碰人人人| 99热99在线| 丁香密臀AV激情网| 大香蕉 婷婷| 97福利视频| 久久与婷婷| 婷婷激情五月天视频在线| 丁香五月自拍| 综激情网| 丁香香蕉婷婷| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 九一99| 常久最新免费的色吊丝| 色婷婷四虎| 超碰碰碰碰| 一区二区免费看| 人人人操97| 五月天激情四射| 色一情一乱一乱一区9| 影音 五月 婷婷 久久| 久久伊人大香蕉| 人妻人人操| 五月婷婷AV| 丁香五月六月婷婷殴美综合| 97色五月天| 色欲五月婷婷| 九九视屏| 丁香色五月天| 五月天俺去也| 2025天天爽天天摸| 99久久国产宗和精品1上映| 超碰大香蕉网| 99黄色在线视频精品熟女| 综合在线观看99| 亚洲无AV在线中文字幕| 婷婷久久网| 99久久极情精品一区| 成人av播放| 久久婷婷综合国产| 五月婷婷丁香五月婷婷丁香| 日日日日操| 色性日本| 丁香六月激情蜜桃| 我爱va亚洲va52| 亚洲XX日本| 亚洲狠狠狠色婷婷综合激情久久久| 激情综合青草| 99免费热在线精品| 欧美精产国品一二三区| 99精品自拍| 97香蕉碰碰人妻国产欧美| 九九婷婷综合| 色婷婷丁香综合中文字幕| 九九热re99re6在线精品| 色五月大| 婷婷色五月激情强奸四射| 激情丁香五月| 六月婷婷综合激情| 人人综合久| 99久在线精品| 人人爱操| 五月色视频| 99热99日…..| 天堂五月婷婷| 精品婷婷五| 五月天婷婷乱| 五月天另类图片| 色色性爱视频| 超碰在线9| 久99久在线| 六月婷婷色综合| 九九AV| 色色国产| 久久91久久精品久久| 99热日本精品| 亚卅毛片| 激情小说五月天社区丁香| 九九这里有精品视频| 五月天激情综合在线| 激情五月亚洲综合网| 婷婷五月天综合色| 丁香婷婷社区| 亚洲激情AV| CHINESE熟女老女人HD视频| 九七色色六月丁香| 成人中文网| 啪啪操操| 亚洲性受XXXX五月丁香| 五月丁香网站在线播放| 亚洲狠狠狠| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 深爱五月激情| 综合99综合久久久久久久| 五月丁香六月激情在线| 九九九激情综合| a片在线免费观看一区| 99在线视频播放| 成人久久天天x资源站| 丁香五月五婷| 99re视频在线播放| 久久精品99国产精品日本| 情色五月天 网站| 伊人玖玖精品| 丁香九月综合| 五月天六月婷婷| 色婷婷影院| www日本熟妇99在线视频| 婷婷五月天网址| 第2色五月婷| 人妻久久久久久久久久久| 国产精品国产| 高潮毛片又色又爽免费| 9婷婷内射| 亚洲激情淫网| 激情五月天婷婷丁香| 婷婷六月激情| 在线综合啪| 日韩成人电影在线播放| Va另类视频| 天天综合五月天| 久久在线视频免费观看| 婷婷色六月| 久久综合激情五月天| 狠狠色婷婷777| 久久亚洲婷婷| 五月婷综合激情| 玖玖伦理电影| 天天干,天天日| 99精品成人无码A片观看金桔| 亚洲在线成人| 中文字幕黄色片| 天天天天天天操| 午夜不卡久久精品无码免费| 亚洲4区国产欧美| 91热er| 丁香五月综合激情啪啪| 牛牛澡牛牛爽| 婷婷色在线观看| 五月天婷婷在线AN| 噼里啪啦在线观看免费完整版视频| 色噜噜五月丁香婷婷| 都市激情五月婷婷综合| 99乱视频| 中文字幕在线免费看线人| 国产精品久久..4399| 日本五月天一页| 中文字幕按摩做爰| 五月久久婷婷| 天天日天天草| 不卡在线视频| 99r久久这里只有精品| 91视频一起草| 成片免费观看大全| 开心五月激情站| 欧美25p| av不卡网站| A色色| 99性爱| 亚洲成人综合在线| 婷婷色综合| 蜜乳AV成人| 亚洲综合婷婷| 五月丁香六月综合激情| 青吴乐视频| 国产婷婷五月中文字幕高清| 色色婷婷五月天| 99综合熟女| 99热精品免费| 亚洲AV成人无码电影| 久久欧洲综合网| 97色婷婷| 国产夫妻操逼内射视频| www.99视频| 色五月婷婷综合在线| 人人摸人人搞| 99碰碰碰| 婷婷香五月综合激情| 久久久国产精品黄毛片| 91丨九色丨丰满人妖| 99狠狠色| 色爽九九| 亚洲熟妇无码乱子AV电影| 丁香六月欧美| 天天综合网网欲色| 日韩AV免费| 天天色综合图片| 九九色婷婷Av| 嫩草AV久久伊人妇女超级a| 操操操97| 丁香狠狠| 情欲禁地| 26uu| 天天日天天肏天天奸| 亚洲看av的网站| 久婷狼色诱惑在线| 色情一区二区播放| 九月激情婷婷丁香| 婷婷综合五月色播| 色婷婷综合久久| 国产探花AV在线| 天久综合91综合首页| 婷婷六月激情丁香| 欧州婷婷五月天综合| 天天激情综合| 原琪琪色影院| 大香蕉婷婷丁香视频在线| 亚洲综合在线播放| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 日日日日做夜夜夜夜无码| 99∨VTV| 99人人干人人| 婷婷天天婷婷天天澡| 东京热免费视频网站| 六月合五月婷| 插逼综合网| 99这里只有| 思思视频精品| 97caop| 99热久久这里只有精品2010| 婷婷五月丁香亚洲| 色99网| 五月综合丁香婷婷| 老司机伊人| 九九视频这里只有精品在线播放 | 五月丁香毛片| 综合99综合久久久久久久| 97碰碰在线观看视频| 婷婷无码视频| 激情六月下句是什么| 国产精品久久久久9999小说| 人人爽亚洲| 超碰人人91| 欧美婷婷日本| 狠狠狠人妻| 密视AV综合在线| 婷婷五月天黄色| 色色永久| 97超美国视频在线观看| 日本99在线| 久热这里只有精品6官网亚洲| 国产毛多水多女人A片| 天天摸天天日天天舔| 铁牛TV人妻| 五月婷婷av| 天天成人综合视频| 五月丁香综合中文| 五月激情六月丁香| 亭亭五月天黑人2014| 色综合99色| 天天天天干| 五月婷婷六月开心|