欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地 文章目錄第一章:CPU使用率100%排查??核心判斷(top看%Cpu)??工具鏈??標(biāo)準(zhǔn)排查步驟??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM案例2:Java應(yīng)用CPU 100%??關(guān)鍵注意點(diǎn)第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行第一層:故障現(xiàn)象第二層:兩個(gè)根因第三層:排查步驟(面試口述版)第四層:兩個(gè)典型案例第五層:踩坑關(guān)鍵點(diǎn)第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)一、進(jìn)程狀態(tài)速覽二、故障根因D狀態(tài)(iowait高)Z僵尸進(jìn)程三、排查命令步驟1)全局觀察2)排查D狀態(tài)/iowait高3)排查Z僵尸進(jìn)程四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)五、高頻踩坑點(diǎn)第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑?Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景?Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用?Q4:怎么理解「過早優(yōu)化是萬惡之源」?結(jié)合運(yùn)維實(shí)戰(zhàn),什么情況該優(yōu)化,什么情況堅(jiān)決不要做優(yōu)化???終面綜合大題(可用于壓軸)第五章: Linux CPU性能Q1:線上CPU打滿,簡述完整故障排查閉環(huán),你會(huì)重點(diǎn)規(guī)避哪些坑?Q2:us高與sys高,分別代表什么?列舉典型場景與排查手段Q3:線上負(fù)載很高,但CPU idle還有20?30%,us/sy/wa都正常,請(qǐng)分析原因,能不能直接做CPU綁定?Q4:CPU優(yōu)化有算法優(yōu)化、緩存、CPU親和性、cgroup限制CPU;生產(chǎn)如何取舍,哪些手段慎用?Q5:perf采樣遇到哪些常見坑?(容器、Java、閾值、swapper)第六章: Linux虛擬內(nèi)存(終面)Q1:簡述Linux虛擬內(nèi)存核心原理,為什么要設(shè)計(jì)虛擬內(nèi)存?Q2:malloc底層brk、mmap分配機(jī)制,區(qū)別、優(yōu)缺點(diǎn)?Q3:free命令如何解讀?free、buff/cache、available有哪些線上坑?Q4:top VIRT / RES / SHR / %MEM含義,生產(chǎn)排查踩坑?Q5:內(nèi)存壓力下Linux三種內(nèi)存回收;OOM、oom_score、oom_adj原理?Q6:伙伴系統(tǒng)、slab分配器,slab是否用于用戶態(tài)malloc???SRE高頻拓展面試題Q7?1:缺頁異常分為哪幾類?Q7?2:HugePage大頁適合什么業(yè)務(wù)?有哪些生產(chǎn)代價(jià)?Q7?3:容器內(nèi)執(zhí)行free,顯示的是容器內(nèi)存還是宿主機(jī)整機(jī)?Q7?4:什么是內(nèi)部碎片、外部碎片???面試口述收尾(資深運(yùn)維必背)第七章: Buffer與Cache 資深運(yùn)維面試Q1:請(qǐng)講清楚Linux Buffer、Page Cache(buff/cache)區(qū)別?free命令中buff/cache是什么?Q2:`free`里`available`、`free`有什么本質(zhì)區(qū)別?很多運(yùn)維看到free很小就緊張,對(duì)不對(duì)?Q3:`echo 3 /proc/sys/vm/drop_caches`作用?線上生產(chǎn)環(huán)境能不能隨便執(zhí)行?3代表什么?Q4:slab中SReclaimable與SUnreclaim區(qū)別,會(huì)體現(xiàn)在free輸出哪里?Q5:vmstat中bi、bo是什么指標(biāo)?結(jié)合buffer/cache解釋寫文件流程。??SRE拓展深挖題Q6:怎么理解臟頁dirty page?臟頁過多會(huì)有什么線上問題?Q7:buff/cache持續(xù)占用很高,業(yè)務(wù)內(nèi)存充足,需要手動(dòng)drop_caches釋放嗎?Q8:free、vmstat數(shù)據(jù)來源于哪里???面試一句話收尾第八章: 系統(tǒng)Page Cache緩存 資深SRE面試題Q1:怎么評(píng)估系統(tǒng)頁緩存(page cache)的好壞?cachestat/cachetop/pcstat各自作用?O_DIRECT直接IO為什么cachetop看不到大量緩存未命中?Q2:線上業(yè)務(wù)IO慢,cachetop顯示進(jìn)程READ_HIT%=100%,但是業(yè)務(wù)讀延遲依舊很高,請(qǐng)分析原因與排查步驟?Q3:free看到buff/cache占用很高,free內(nèi)存很小,運(yùn)維要不要手動(dòng)執(zhí)行`echo 3 /proc/sys/vm/drop_caches`清理緩存?線上有什么風(fēng)險(xiǎn)?什么場景才適合執(zhí)行???面試一句話收尾??面試官備用深挖題第九章: 內(nèi)存泄漏 資深SRE面試題Q1:什么是內(nèi)存泄漏?堆、棧、數(shù)據(jù)段、文件映射段,哪些會(huì)發(fā)生內(nèi)存泄漏?線上內(nèi)存泄漏會(huì)帶來哪些連鎖危害?Q2:線上懷疑存在內(nèi)存泄漏,請(qǐng)描述完整排查流程,memleak工具原理,容器環(huán)境會(huì)遇到什么坑?Q3:C語言業(yè)務(wù)進(jìn)程RES持續(xù)上漲,怎么區(qū)分是真內(nèi)存泄漏還是偽泄漏?列舉常見偽泄漏場景。??面試口述收尾??面試官備用深挖題第十章: Linux內(nèi)存故障排查 資深SRE面試Q1:線上收到內(nèi)存告警,請(qǐng)描述完整排查思路,核心看哪些指標(biāo),如何區(qū)分是進(jìn)程、緩存、slab、Swap導(dǎo)致的壓力?Q2:什么是major主缺頁、minor次缺頁?線上指標(biāo)升高分別是什么現(xiàn)象,對(duì)業(yè)務(wù)有什么影響?Q3:Linux內(nèi)存調(diào)優(yōu)有哪些常用手段?哪些參數(shù)/命令生產(chǎn)環(huán)境嚴(yán)禁隨意操作,會(huì)帶來業(yè)務(wù)抖動(dòng)??面試速記小結(jié)(口述小結(jié),背完直接收尾)第十一章: 磁盤IO性能 資深SRE面試題Q1:線上業(yè)務(wù)接口響應(yīng)慢,top觀察iowait很高,請(qǐng)描述完整排查鏈路,關(guān)鍵工具與核心指標(biāo)?Q2:strace -p 綁定進(jìn)程PID,pidstat確認(rèn)該進(jìn)程大量寫IO,但是strace抓不到write調(diào)用,會(huì)是什么原因?Q3:iostat關(guān)鍵指標(biāo)%util、await、aqu?sz,解釋含義;哪些誤區(qū)容易誤導(dǎo)排障??面試速記小結(jié)第十二章: 數(shù)據(jù)庫慢查詢(系統(tǒng)層+MySQL層)資深SRE面試Q1:業(yè)務(wù)接口訪問MySQL,響應(yīng)耗時(shí)十幾秒,top看到iowait很高,請(qǐng)描述完整排查流程Q2:strace拿到mysqld的線程fd,直接把線程號(hào)傳給lsof卻查不到文件,是什么坑?Q3:除了SQL缺少索引,還有哪些外部系統(tǒng)因素,會(huì)導(dǎo)致MySQL查詢突然變慢??面試速記小結(jié)第十三章: Redis響應(yīng)延遲 資深SRE面試Q1:業(yè)務(wù)調(diào)用Redis查詢接口,查詢操作但接口響應(yīng)很慢,top看到iowait高,但iostat磁盤%util并不高,請(qǐng)描述完整排查鏈路Q2:容器內(nèi)運(yùn)行Redis,strace看到fdatasync耗時(shí)高,如何確認(rèn)這個(gè)fd對(duì)應(yīng)的socket還是磁盤文件?會(huì)遇到什么容器坑?Q3:iowait高,但iostat中磁盤%util不高,是什么原因??面試速記小結(jié)第十四章: Linux IO瓶頸快速定位 資深SRE面試Q1:線上業(yè)務(wù)變慢,收到iowait告警,請(qǐng)描述你快速定位IO瓶頸的完整套路?Q2:磁盤IO四大核心指標(biāo)是什么?考察時(shí)容易踩哪些誤區(qū)?Q3:文件系統(tǒng)層面有哪些容易忽略的IO性能指標(biāo)??面試速記結(jié)論第十五章: Linux網(wǎng)絡(luò)基礎(chǔ)與性能 資深SRE面試Q1:簡述Linux數(shù)據(jù)包收發(fā)完整流程Q2:衡量網(wǎng)絡(luò)性能核心指標(biāo)有哪些,分別含義?Q3:線上網(wǎng)絡(luò)變慢排查,你的排查步驟??面試速記小結(jié)第十六章:C10K / C1000K / C10M 速記?? 塔尖一句話一、三階段核心對(duì)比二、必背4個(gè)概念三、生產(chǎn)7大故障(按出題頻率排序)四、監(jiān)控必查命令(脫口而出)五、面試黃金收尾話術(shù)第十七章 tcpdump + Wireshark 面試一頁紙(3道面試題+總結(jié))面試題1:ping 訪問域名,單條ICMP延遲很小,但整個(gè)ping命令執(zhí)行耗時(shí)很長,可能是什么原因?如何定位解決?面試題2:線上服務(wù)器如何使用tcpdump和Wireshark做網(wǎng)絡(luò)故障排查,講完整操作流程,重點(diǎn)參數(shù)?面試題3:抓包中看到TCP斷開連接出現(xiàn)3個(gè)包,不是傳統(tǒng)的四次揮手,請(qǐng)解釋原理?一頁紙核心總結(jié)第十八章 DDoS(SYN?Flood)??核心概念??三大指標(biāo)?軟中斷 softirq??識(shí)別惡意流量(SYN洪水)??緩解手段iptablessysctl內(nèi)核調(diào)優(yōu)(寫入/etc/sysctl.conf,sysctl -p生效)分層防御??完整故障鏈路??面試必背短句第一章:CPU使用率100%排查??核心判斷(top看%Cpu)指標(biāo)高問題方向us/ni用戶業(yè)務(wù)代碼(死循環(huán)、大量計(jì)算、Java GC頻繁)sy內(nèi)核、頻繁系統(tǒng)調(diào)用、內(nèi)核線程wa磁盤IO瓶頸hi/si硬/軟中斷風(fēng)暴top按數(shù)字1,查看每個(gè)CPU核使用率??工具鏈top:定位高CPU進(jìn)程PID,默認(rèn)3s采樣pidstat 1 5:進(jìn)程細(xì)分 %usr / %system / %CPUperf(線上優(yōu)先,不中斷業(yè)務(wù))# 實(shí)時(shí)看熱點(diǎn)函數(shù)、調(diào)用棧perftop-g-pPID# 離線保存,適合轉(zhuǎn)瞬即逝問題perf record-g-pPID# Ctrl+C結(jié)束perf report??容器場景perf出現(xiàn)16進(jìn)制地址:宿主機(jī)生成perf.data,docker cp拷貝進(jìn)容器內(nèi)執(zhí)行report解析?GDB不適合線上:會(huì)暫停業(yè)務(wù)進(jìn)程Java專屬工具# 打印所有線程堆棧,定位高CPUJava線程jstackPID# 統(tǒng)計(jì)JVM各個(gè)內(nèi)存區(qū)域jstat-gcPID1000??標(biāo)準(zhǔn)排查步驟top觀察CPU分項(xiàng),確認(rèn)用戶態(tài)/內(nèi)核態(tài)/IO問題獲取高CPU進(jìn)程PID(top / pidstat)若是Java進(jìn)程:top?H -p PID找到高消耗線程tid,轉(zhuǎn)16進(jìn)制,配合jstack定位Java代碼;也可以使用perf采樣非Java進(jìn)程:perf采樣定位熱點(diǎn)函數(shù)根據(jù)函數(shù)/堆棧定位業(yè)務(wù)源碼,確認(rèn)根因(死循環(huán)、大量循環(huán)計(jì)算、頻繁FullGC等)修改代碼/配置,壓測驗(yàn)證修復(fù)效果??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM現(xiàn)象:php?fpm進(jìn)程CPU打滿,us98%ab壓測:ab -c10 -n10000 http://ip:10000top確認(rèn)php?fpm占用CPUperf top -g -p PID找到sqrt為熱點(diǎn)源碼:單次請(qǐng)求百萬次循環(huán)執(zhí)行sqrt,遺留測試代碼刪除循環(huán),QPS從11提升至2237案例2:Java應(yīng)用CPU 100%現(xiàn)象:Java進(jìn)程CPU持續(xù)100%,us占比極高排查流程:top發(fā)現(xiàn)Java進(jìn)程PID=2345,CPU占用接近100%top -H -p 2345,發(fā)現(xiàn)線程tid=2368CPU占比很高tid轉(zhuǎn)16進(jìn)制:printf "%x\n" 2368→940jstack 2345 jstack.log,在日志搜索0x940堆棧定位業(yè)務(wù)代碼:for無限死循環(huán),沒有sleep;或者集合大數(shù)據(jù)遍歷補(bǔ)充:如果jstat?gc觀察到頻繁FullGC,CPU高是內(nèi)存泄漏導(dǎo)致,優(yōu)先排查內(nèi)存問題??關(guān)鍵注意點(diǎn)CPU使用率是一段時(shí)間采樣差值計(jì)算的平均值,不同工具采樣間隔不一樣,對(duì)比要保持間隔統(tǒng)一/proc/stat原始數(shù)據(jù)是開機(jī)累計(jì)值,不能直接拿來算使用率偶發(fā)瞬時(shí)CPU沖高,登錄現(xiàn)場已消失:依靠監(jiān)控 + perf record離線采樣Java使用perf:需要安裝perf符號(hào),否則只能看到j(luò)vm內(nèi)部符號(hào);jstack更適合定位Java業(yè)務(wù)代碼問題/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行系統(tǒng)CPU整體很高,但top/pidstat看不到高CPU進(jìn)程,90%是短時(shí)進(jìn)程,其次是進(jìn)程反復(fù)崩潰重啟。第一層:故障現(xiàn)象top全局us/sy高,id低;但所有進(jìn)程CPU占比都很低top看到大量R(Running)運(yùn)行態(tài)進(jìn)程,PID快速不停變化pidstat所有進(jìn)程CPU加起來遠(yuǎn)小于系統(tǒng)總CPU第二層:兩個(gè)根因短時(shí)進(jìn)程(最常見):業(yè)務(wù)代碼exec/system/ProcessBuilder調(diào)用外部命令,進(jìn)程生命周期極短,小于工具采樣間隔,top/pidstat抓不到,海量頻繁創(chuàng)建銷毀累積消耗CPU。進(jìn)程反復(fù)崩潰重啟:程序崩潰,被監(jiān)控/K8s反復(fù)拉起,初始化邏輯消耗CPU,進(jìn)程存活時(shí)間很短。第三層:排查步驟(面試口述版)top:看全局CPU,重點(diǎn)觀察R狀態(tài)進(jìn)程數(shù)量、PID是否漂移;有execsnoop優(yōu)先執(zhí)行,直接捕獲exec調(diào)用,拿到子進(jìn)程和父PID;沒有execsnoop,用perf全系統(tǒng)采樣,必須加-a,不能指定PIDperf record-ag-gperf reportpstree追溯父進(jìn)程,定位業(yè)務(wù)服務(wù);審查源碼外部命令調(diào)用,查看dmesg/容器日志確認(rèn)是否崩潰重啟。第四層:兩個(gè)典型案例PHP:http請(qǐng)求exec調(diào)用stress,權(quán)限報(bào)錯(cuò)快速退出,大量短時(shí)進(jìn)程吃滿CPU。Java:ProcessBuilder高頻調(diào)用shell腳本,腳本執(zhí)行完立刻退出,Java主進(jìn)程CPU占用并不高。第五層:踩坑關(guān)鍵點(diǎn)perf排查短時(shí)進(jìn)程不能帶?p指定PID,必須?a全系統(tǒng)采樣,swapper是空閑內(nèi)核進(jìn)程直接忽略;top/pidstat是采樣平均值工具,進(jìn)程壽命短于采樣間隔就捕獲不到;容器perf符號(hào)缺失:perf.data復(fù)制進(jìn)容器內(nèi)做report解析。面試一句話總結(jié):CPU高找不到進(jìn)程,優(yōu)先懷疑短時(shí)進(jìn)程,用perf -a全系統(tǒng)抓,不要指定進(jìn)程PID。///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)面試/線上速查,現(xiàn)象:iowait高、負(fù)載上漲、大量D/Z進(jìn)程一、進(jìn)程狀態(tài)速覽狀態(tài)含義關(guān)鍵影響R運(yùn)行/就緒CPU調(diào)度隊(duì)列D不可中斷睡眠,等待硬件IO拉高平均負(fù)載,kill?9無效Z僵尸,子進(jìn)程已退出,父未回收資源耗盡PID,無法新建進(jìn)程;kill僵尸本身無效S可中斷睡眠正常等待事件,可被信號(hào)喚醒I內(nèi)核線程空閑態(tài)不會(huì)拉高負(fù)載T暫停/調(diào)試跟蹤gdb、SIGSTOP觸發(fā)重點(diǎn):短時(shí)D屬于正常;大量持續(xù)D、持續(xù)增長Z屬于故障。二、故障根因D狀態(tài)(iowait高)業(yè)務(wù)O_DIRECT直接IO,繞過pagecache頁緩存,直接操作物理磁盤,磁盤慢導(dǎo)致進(jìn)程阻塞D狀態(tài);??通俗:不使用內(nèi)存緩存,每一次讀都直接訪問硬盤,硬盤速度遠(yuǎn)慢于內(nèi)存,CPU大量時(shí)間等待磁盤返回。perf看到blkdev_direct_IO內(nèi)核函數(shù)就是證據(jù)。本地磁盤故障、RAID異常;NFS存儲(chǔ)服務(wù)端卡死,客戶端進(jìn)程阻塞IO。Z僵尸進(jìn)程fork()創(chuàng)建子進(jìn)程,父進(jìn)程未調(diào)用wait/waitpid回收子進(jìn)程退出狀態(tài);未注冊(cè)SIGCHLD信號(hào)處理函數(shù);子進(jìn)程退出速度快于父進(jìn)程處理。??通俗:子進(jìn)程干完活退出,父進(jìn)程代碼沒執(zhí)行“收尸”邏輯,子進(jìn)程就變成僵尸。父進(jìn)程退出,僵尸由init(1)自動(dòng)收割。三、排查命令步驟1)全局觀察top# 看load、wa(iowait),看S列D/Z;按1看各CPUdstat1# 同時(shí)對(duì)比CPU iowait與磁盤讀寫流量2)排查D狀態(tài)/iowait高pidstat -d 1全局看進(jìn)程IO讀寫;進(jìn)程轉(zhuǎn)瞬變?yōu)榻┦瑂trace無法attach,用全系統(tǒng)perf采樣(不加?p)perf record-ag-gperf report忽略swapper內(nèi)核空閑進(jìn)程;看到blkdev_direct_IO代表開啟直接磁盤IO。D狀態(tài)進(jìn)程kill?9殺不掉,需等待IO返回,硬件故障極端情況只能重啟。3)排查Z僵尸進(jìn)程ps-e-ostat,ppid,pid,cmd|grepZ# 拿到僵尸PID、父PPIDpstree-aps僵尸PID# 向上追溯父進(jìn)程臨時(shí)緩解:重啟父進(jìn)程,init自動(dòng)回收僵尸;根治:代碼增加wait/waitpid或SIGCHLD信號(hào)處理。四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)現(xiàn)象:iowait打滿,負(fù)載高,同時(shí)僵尸進(jìn)程持續(xù)增多;dstat確認(rèn)wa升高伴隨大量磁盤讀;pidstat?d看到app大量讀盤;進(jìn)程D狀態(tài)后迅速變成Z,strace attach失??;perf全系統(tǒng)采樣發(fā)現(xiàn)blkdev_direct_IO;?問題代碼:open(disk, O_RDONLY|O_DIRECT|O_LARGEFILE, 0755);開啟O_DIRECT繞過內(nèi)存緩存,大量直接磁盤IO,iowait飆升。?修復(fù):刪除O_DIRECT參數(shù),走操作系統(tǒng)頁緩存,iowait恢復(fù)。僵尸根因:wait()寫在死循環(huán)外面,代碼永遠(yuǎn)執(zhí)行不到//錯(cuò)誤:wait放在死循環(huán)外面,永遠(yuǎn)跑不到for(;;){for(inti=0;i2;i++){fork();}sleep(5);}while(wait(status)0);//?修復(fù):wait移入循環(huán)內(nèi)部,每輪循環(huán)回收子進(jìn)程for(;;){for(inti=0;i2;i++){fork();}while(wait(status)0);sleep(5);}wait挪入循環(huán),子進(jìn)程退出后立刻被回收,不再生成僵尸。五、高頻踩坑點(diǎn)iowait高≠磁盤瓶頸:少量IO也會(huì)拉高wa,必須結(jié)合實(shí)際磁盤讀寫量判斷;kill僵尸進(jìn)程不起作用,僵尸已經(jīng)死亡,必須處理父進(jìn)程;perf報(bào)告swapper是內(nèi)核空閑進(jìn)程,直接忽略;父進(jìn)程為1號(hào)init還殘留僵尸,業(yè)務(wù)無解,大概率內(nèi)核bug,只能重啟機(jī)器。?面試一句話總結(jié):D狀態(tài)優(yōu)先排查IO:直接IO(O_DIRECT)、本地磁盤、NFS,kill?9無效;僵尸不要?dú)⒔┦旧恚ㄎ桓高M(jìn)程,代碼做好子進(jìn)程回收。////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題考察:實(shí)戰(zhàn)閉環(huán)、權(quán)衡取舍、線上踩坑,金字塔答題,包含問題+完整參考答案+深挖追問+追問完整答案Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑??完整參考答案(金字塔)結(jié)論先行:CPU優(yōu)化不是找到瓶頸就直接改,必須走「確認(rèn)瓶頸→量化基線→方案選型→對(duì)比驗(yàn)證→評(píng)估副作用」完整閉環(huán);直接改代碼上線最大風(fēng)險(xiǎn):誤判根因、優(yōu)化帶來副作用、無法證明優(yōu)化收益。確認(rèn)真瓶頸,區(qū)分根因與衍生現(xiàn)象。很多指標(biāo)高只是現(xiàn)象,不是根源。例如iowait升高只是現(xiàn)象,根源是O_DIRECT直接IO;軟中斷CPU高是現(xiàn)象,根源是大量網(wǎng)絡(luò)小包。不能針對(duì)現(xiàn)象做優(yōu)化,要解決背后的根因。建立雙維度基線。不能只看系統(tǒng)CPU使用率;同時(shí)采集**業(yè)務(wù)指標(biāo)(QPS、延遲、錯(cuò)誤率)**和系統(tǒng)指標(biāo)(CPU、上下文切換)作為優(yōu)化前基準(zhǔn)。壓測客戶端要與業(yè)務(wù)服務(wù)隔離部署,防止壓測工具本身消耗資源,污染測試數(shù)據(jù)。多方案選型,綜合權(quán)衡。不能只看性能提升幅度,綜合評(píng)估:改造成本、代碼復(fù)雜度、可維護(hù)性、優(yōu)化副作用;拒絕拿來主義,不追求一步到位解決全部問題?;叶闰?yàn)證,對(duì)比優(yōu)化前后。不僅看系統(tǒng)資源指標(biāo),重點(diǎn)校驗(yàn)業(yè)務(wù)指標(biāo),防止出現(xiàn)CPU降了,但接口延遲升高這類負(fù)優(yōu)化。風(fēng)險(xiǎn)防控,警惕過早優(yōu)化。沒有真實(shí)業(yè)務(wù)壓力,不要提前堆砌緩存、異步、CPU綁定這類復(fù)雜邏輯,徒增維護(hù)成本。實(shí)戰(zhàn)坑舉例:直接對(duì)進(jìn)程做CPU綁定,業(yè)務(wù)流量波動(dòng)大時(shí),會(huì)破壞內(nèi)核調(diào)度均衡,出現(xiàn)單核打滿其余核空閑,整體性能反而變差。??面試官深挖追問 + 參考答案追問:優(yōu)化后CPU使用率降下來,但業(yè)務(wù)接口延遲反而升高,可能有哪些原因?答:① 優(yōu)化手段帶來額外開銷:例如引入緩存,增加鎖、緩存淘汰邏輯;② CPU綁定導(dǎo)致調(diào)度失衡,任務(wù)集中在個(gè)別CPU核,隊(duì)列排隊(duì);③ 算法優(yōu)化雖然降低CPU,但增加IO/鎖等待;④ 并發(fā)線程/進(jìn)程數(shù)量被限制,請(qǐng)求排隊(duì)堆積;⑤ 內(nèi)核參數(shù)調(diào)整,犧牲延遲換取CPU利用率。追問:怎么區(qū)分觀測到的指標(biāo)是根因,還是衍生現(xiàn)象?舉一個(gè)線上實(shí)際例子。答:根因是源頭,衍生現(xiàn)象是根因引發(fā)的結(jié)果。解決根因,衍生現(xiàn)象會(huì)自動(dòng)消失。例子:大量短時(shí)fork子進(jìn)程,會(huì)導(dǎo)致sys CPU高,sys高是現(xiàn)象;真正根因是業(yè)務(wù)頻繁調(diào)用exec創(chuàng)建短時(shí)進(jìn)程。修復(fù)業(yè)務(wù)不再頻繁創(chuàng)建進(jìn)程,sys CPU自然下降,而不是去調(diào)內(nèi)核參數(shù)壓制sys指標(biāo)。追問:如果環(huán)境不允許做完整壓測,只能線上灰度,基線數(shù)據(jù)該怎么獲?。看穑孩?取優(yōu)化前一段時(shí)間監(jiān)控歷史作為基線,保證流量、時(shí)間段盡量對(duì)齊;② 采用灰度發(fā)布,一部分實(shí)例優(yōu)化,一部分實(shí)例保持原樣,做同環(huán)境對(duì)照;③ 對(duì)比兩組實(shí)例的業(yè)務(wù)、系統(tǒng)指標(biāo);④ 小流量逐步放量,一旦指標(biāo)異常立刻回滾。Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景??完整參考答案(金字塔)結(jié)論先行:us高代表業(yè)務(wù)用戶態(tài)消耗CPU;sys高代表內(nèi)核態(tài)開銷;二者排查方向完全不同,先分清指標(biāo),再選擇工具定位。us(用戶態(tài)CPU高):CPU消耗來自業(yè)務(wù)代碼邏輯典型場景:死循環(huán)、高復(fù)雜度算法、大量計(jì)算、頻繁正則表達(dá)式、Java頻繁Full GC;工具:perf top -g -p pid定位業(yè)務(wù)熱點(diǎn)函數(shù);Java配合jstack、jstat -gc。sys(系統(tǒng)CPU高):CPU消耗來自內(nèi)核,由系統(tǒng)調(diào)用、上下文切換、中斷引發(fā)典型場景:大量fork/exec短時(shí)進(jìn)程;頻繁鎖競爭;海量細(xì)小系統(tǒng)調(diào)用;軟硬中斷風(fēng)暴;進(jìn)程數(shù)量多導(dǎo)致頻繁上下文切換;工具:perf record -ag -g做全系統(tǒng)采樣看內(nèi)核調(diào)用棧;pidstat -w觀察上下文切換;execsnoop捕獲短時(shí)exec調(diào)用。??重要坑:短時(shí)進(jìn)程場景,top、pidstat抓不到高CPU進(jìn)程,必須全系統(tǒng)perf采樣,不能指定?p pid。實(shí)戰(zhàn)區(qū)分小技巧:us高優(yōu)先懷疑業(yè)務(wù)代碼;sys高優(yōu)先懷疑系統(tǒng)調(diào)用、進(jìn)程創(chuàng)建、中斷,不要上來就修改業(yè)務(wù)代碼。??面試官深挖追問 + 參考答案追問:Java服務(wù)sys系統(tǒng)CPU很高,你會(huì)一步步怎么排查?答:① 先看pidstat -w,觀察自愿/非自愿上下文切換,如果非自愿切換很高,線程過多、爭搶CPU;② 使用perf record -ag -g全系統(tǒng)采樣,看內(nèi)核調(diào)用棧,看是系統(tǒng)調(diào)用、線程創(chuàng)建、鎖、還是中斷消耗;③ execsnoop排查是否Java通過ProcessBuilder大量創(chuàng)建外部短時(shí)子進(jìn)程;④ 查看JVM配置:線程數(shù)量是否過多;⑤ 排除硬件層面中斷風(fēng)暴。追問:為什么短時(shí)進(jìn)程,指定perf -p PID抓不到問題?答:短時(shí)進(jìn)程生命周期極短,執(zhí)行完立刻退出。perf-p需要進(jìn)程存活才能附著采樣;等執(zhí)行perf命令時(shí)進(jìn)程已經(jīng)消亡。必須?a全系統(tǒng)采樣,捕獲系統(tǒng)內(nèi)全部事件,不綁定特定PID。追問:sys高,但是沒有看到大量fork,還會(huì)有什么可能性?答:① 海量細(xì)小系統(tǒng)調(diào)用,如頻繁read/write、epoll_wait;② 大量線程上下文切換,線程數(shù)量過多;③ 硬中斷、軟中斷風(fēng)暴(網(wǎng)絡(luò)包量大);④ 頻繁鎖競爭,內(nèi)核態(tài)自旋鎖消耗;⑤ 內(nèi)存缺頁異常頻繁。Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用??完整參考答案(金字塔)結(jié)論先行:優(yōu)先應(yīng)用層業(yè)務(wù)邏輯優(yōu)化,其次緩存;系統(tǒng)層面CPU綁定、
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲激情色色| 久久久久久欧美精品se一二三四| 婷婷五月天AV| 婷婷五月天午夜激情影院| 婷婷五月丁香五月| 婷婷五月天综合网| 婷婷综合精品视频97| 五月婷婷久久久| 国产肥白大熟妇BBBB视频 | 丁香五月Av| 久9免费视频| 99视频在线观看地址| 婷婷五月天综合AV| 狠狠色噜噜狠狠狠狠综合| 色八月婷婷| 91碰碰视频在线观看| 91超碰在线观看| 久久只这里有精品| 六月婷五月丁香| 激情另类综合| 六月丁香婷| 丁香五月婷婷天| 99玖玖在线视频| 欧美在线ee日韩| 超碰免费人妻| 久久92| 婷婷五月天天| 777丁香六月青青草婷婷综合久月| 久9久成人精品视频| 婷婷久久色五月婷婷久久久| 丁香激情五月| 久久久天堂国产精品女人| 日韩狠狠色| 丁香五月综合在线视频| 国产婷婷色综合AV蜜臀AV| 天天做天天爱天天爽在| 婷婷综合五月天激情| 伊人婷婷大香蕉| 丁香深五月婷婷| 欧美人与性动交CCOO| www.五月婷婷| 久久精品人妻| 亚洲精| 最新色色五月天| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 久久女人九九| 丁香婷婷色色| 99亚色色色| 日本久久婷婷| 五月婷婷激情综合在线| 人人色AV| 国产综合网在线| 人人做人人看人人摸| 99er国产| 久久人妻伊人| 久久作爱| 国产亚洲精品AAAA片APP| 99∨VTV| 91操网| 五月色婷婷影院| 丁香五月色五月| 这里只有精品视频免费在线观看| 五月丁香色| 日韩成人电影在线播放| 欧洲色| 97色婷婷| 大香蕉中文| 国产精品美女| 色青青视频| 免费无码毛片一区二区A片| 亚洲精品色| 97天堂| 99国产精品久久久久久久久久久| 丁香五月婷婷综合激情哟哟哟| 97日本在线播放| 欧美色激情四射| 丁香六月欧美| 色婷婷色五月另类综合| 日韩欧美一级大黄网站| 婷婷五月天色播| 激情综合五| 久久您您综合网| 97人妻人人| 综合激情在线视频| 婷婷四色五月| 亚洲超碰在线| 免费观看日韩成人av| 久久婷婷五月激情综合| 婷婷色五月亚洲| 狠狠干伊人| 天天色综网| 在线观看亚洲AV| 日本久久精品| 一区视频网站| 黄急一级视频| 日本久久精品| 99热亚洲| 久久婷婷网址| 丁香五月大片| 色五月婷婷丁香五月| 久久久久久欧美精品se一二三四| 偷拍91九色| 久久网站免费亚洲| 67194中文字幕| www.色婷婷.com| 99re资源在线视频导航| 国语对白性爱视频播放| 97狠狠色| 99久久.www| 激情综合网五月天天| 激情五月天在线视频| 终合激情网| 爱超碰性| 丁香五月天在线观看视频| 99热这里只有精品50| 色欲av伊人久久大香线蕉影院| 成人国产欧美大片一区| 久久小视频| 在线观看免费狠狠色丁香香综合| 老司机伊人| 婷婷色综合| 草草影院爱爱| 天天爽夜夜操| 人人妻人人澡人人爽| site:wpjngj.com| 免费视频99| 国外亚洲成AV人片在线观看| 色,激情五月天| 思思热视频在线| 久久久99精品免费观看| 激情五月激情综合网一级丸片| 天天爽天天爽| 五月激情婷婷国产精品久久久久久| 午夜爱爱爱成人| 91超级碰| 99人妻碰碰碰久久久久禁片| 九九九色综合| 丁香色色网| 51国精产品自偷自偷综合| 亚洲12p| 色丁香五月婷婷| 五月亭亭开心网| 婷婷99狠狠躁| 日韩啪图| 成人av在线网址| 丁香影院五月综合| 色五月婷婷在线| www五月婷婷88导航| 久久久精品99亚洲综合| 天天爽夜夜操| 丁香欧美| 丁香五月97视频| 婷婷五月天天aV| 九九九激情综合| 三区激情四射av| 五月丁香六月色| 六月丁香花婷婷| 色欲久久综合| 五月丁香AV、伊人业余、性色熟妇| 亚洲色99| 色五月丁香一区在线| 色九月| 激情五月天综合图片小说网站| 99精品在线| 五月丁香婷婷在线综合蜜桃| 五月婷三级片| 五月天色色婷婷| 国产精品成人AV在线| 人人插9| 综合一区二区三区| 2020久久婷婷五月| 国产操逼网站| 人人干av| 婷婷丁香五月综合激情小说| 国产脫衣舞一区二区三区| 九九干视频| 亚洲情色一区| 91精品久久久久久久久久| 久久96热| 在线观看的av| 超碰亚洲欧美| 伊人网碰碰| 深夜男女福利刺激影院一区| 婷婷五月天天| 9久久久久| 另类色视频| 久久久天堂国产精品女人| 伊人AV五月婷| 婷婷久久欧美| 九九十99视频| 成人美女网| 日日综合网| 91大神操美女| 激情综合色婷婷啪啪五月天| 日本啪啪天堂| 97涩婷婷婷婷基地| 99久久久久| 狠狠色噜噜色狠狠狠综合久久成人波| 99精品在线播放| 青草青草视频2免费观看| 丁香 婷婷 亚洲 熟女| 国产色99| 亚洲182在线观看| 大香蕉久久婷婷精品综合| 色九九综合| 国产午夜精品一区二区三区四区| 九九色影视| 五月开心婷婷| 热99精品视频在线观看| 丁香五月婷婷偷拍| 丁香五月激情啪啪啪| 日本色天堂| 狠狠婷婷爱| 人碰91| 色婷婷丁香| 婷婷六月久久综合导航| 六月丁香婷婷天堂| 这里只有精品日韩精品| 婷香五月| 色人久夂| 国产精品国产| 中文字幕欧美精品久久| av操逼网| 亚洲成人AV高清字幕| 久久9精品视频| 人人爽人人爽人人爽人人爽| 电影爱拉战争免费观看| 久久女婷| 99爱视频在线观看| 夜夜干 夜夜操| 99愛国产| 丁香五月综合在线观看| 丁香五月天五码婷婷| 六月婷婷激情| 97干97色| 五月色网| 色婷婷黄色网络| 婷婷五月色色| 久久精品五月天| 综合精品啪啪| 97香蕉人人在线观看| 亚洲妇女熟BBW| 久色网址| 超碰碰碰碰| 五月婷婷啪啪综合网| 99热99热99热99热| Www.激情| 大婷婷色呦呦噜噜色呦呦噜噜| 深爱丁香激情| 六月婷婷久久大全| 亚洲热热视频| 成人电影在线免费试看| 超碰99在线观看| 久久五月激情综合| 激情图片五月天| 九九99在线免费在线观看视频| 9久国产| 26uuu成人网| 国产精品久久久久久久久久| 91嫩草国产线观看亚洲一区二区| 中文字幕综合色| 日本A片一区| 97偷拍对白视频| 玖玖九九超碰| 吊色AV男人的天堂| 香蕉综合网| 99小视频在线| 久久婷婷五月天激情| 天天插天天日天天爽| 天天综合激情| www.色擼擼.com| www,av好吊操| 亚洲啪啪啪啪| 疯狂做受XXXX高潮A片| 六月成人网| 99丁香婷婷综合网| 99九九热视频| 久久五月天合网| 97婷婷丁香五月天激情图片| 久久九九热视频| A1片久久久| 婷婷亚洲影院| 国产精品电| 五月婷婷综合色啪首页| 97久久草草超级碰碰碰| 五月天开心成人网| 五月天色区| 内射综合网| 亚洲第一第二网站| 久久久久久久久月丁| 大香蕉太香蕉视频97| 人橾人| 91久久久久久久| 中文人妻主播久久| 夜夜操狠狠操| 免费视频WWW在线观看网站| 亚洲日韩久久婷婷伊人| 久久五月视频| 五月婷婷色激情| 色婷婷婷婷| 九九热在线视频| 影音先锋AV资源男人站| 婷婷五月天成人五月天| www激情| 婷婷五月天久久久| 伊人久久大香线蕉AV最新午夜| 9久热在线视频精品| 激情深爱五月婷婷| 狼友超碰| 999热这里只有美国精品| 欧美日韩成人在线网站| 久久这里有精品在线观看| 天天插天天射| 久久久91精品| 五月激情六月| 色欲丁香| 97人妻碰碰碰久久久久-最近国语高清| 色999五月色| 精品人妻久久久久久久| 激情AV| 久久aaaaa| 人人操Av| 婷婷狠狠操| 国产女人十八水真多1| 婷婷激情五月| 丁香五月婷婷超碰在线| 日韩激情网站| 噜噜色com| www.yw尤物| 婷婷九月在线| 99乱视频| 五月婷九月| 99re热精品在线视频| 九九爱激情| 激情综合网激情五月天| 丁香六月婷婷久久综合| AAA久久| 日韩无码人妻一区二区| 久久久久久人妻久久久久久久久久人妻久久久| 亚洲AV在线免费看| 婷婷夜夜夜夜| 日本久久激情| 六月丁香婷婷在线波多| 五月婷三级片| 激情婷婷五月天在线观看| 99热99色| 99热6这里只有精品6| 综合色图区| 婷婷国产五月天17c| 极品人妻videosss人妻| 超碰在线免费观看日韩| 玖玖九九99| 亚洲精品V天堂中文字幕| www色婷婷| 激情六月丁香| 欧美性爱五月天| 丁香六月啪啪啪| 欧美精品久| 思思热在线播放| 91色性感五月婷婷丁香| 天天天天爽爽天干| 狠狠色噜噜狠狠| 99精品视频网| 伊人激情综合网| 99精品一二三四视频| 91oumei| 五月天婷婷久久| 成人片在线免费看| 久热91精品| 99re在线视频| 色色色99| 色综合综合网| 91丁香| www.久久爱.com| 五月婷婷色影院| 色婷婷九月| 色丁香五月天射婷婷爱婷婷| 777精品久无码人妻蜜桃| 亚色网站小视频| 免费观看全黄做爰的视频| 亚洲日韩26uuu| 超碰人人摸人人操| 偷拍91九色| 在线观看的av| 少妇性BBB搡BBB爽爽爽视頻| 久久人妻视步| 五月天综合在线| 五月天婷婷色色| 六月丁香综合网| 色色热日| 五月婷在线观看| 天天色一道本综合婷婷| 亚洲影院婷婷色| 欧美影院| 亚洲一色色色色色色色色| 91聚色综合网| 久草大| 日日干夜夜撸夜夜骑| AV亚洲在线| 超碰在线观看9| 日木狠狠干| 国产午夜精品AV一区二区麻豆| http://www.sd-xiangsu.com/| 色色婷婷丁香五月天| 日日综合网| 五月激情婷婷播播网| 日韩色色一区| 疯狂做受XXXX高潮A片| 日本婷婷色日| 六月激情婷婷综合| 成人在线不卡| 嫩草视频| 免费超碰在线观看| 久久婷色| 思思精品视频| 天天综合天天玩夜夜玩天天玩夜夜玩| 九九九色综合| 超碰在线观看caop| 97很鲁在线视频| 激情爱爱网站超大免费| 婷婷五月天首页| 9久热在线视频精品| 极品人妻VIDEOSSS人妻| 97资源碰碰| 欧美天天干天天草| 98毛片| 青青久久大香蕉| 国产欧美熟妇另类久久久| 五月天婷婷丁香基地在线观看| 噜噜噜噜噜日本视频| 91久久免费| 麻豆WWWCOM内射软件| 亚洲激情综| 丁香五月婷婷天| 婷婷五月在线免费| 大香蕉久久久| 久久玖玖综合| 任你搞在线观看视频| 天天爽夜夜操| 日本人妻A片成人免费看片| 狠狠搞狠狠操| 深爱五月激情| 婷婷久久综合久色| 亚洲夜夜操| 激情综合综合综合| 亚洲热手机在线观看| 六月丁香婷婷色狠狠久久| AV网在线| 操操综合网婷婷| 激情五月婷婷| 色五月综合| 色综合色| 婷婷激情五月综合| 俺去也婷婷| 亚洲精品在线视频| www.91九色| 久久色亭亭五月天| 偷偷操99| 五月激情啪啪啪| 久久婷婷五月天激情| 日本va欧美va国产激情| 亚洲热视频| 色色色色av色色色色| 亚洲综合狠狠艹| 亚洲性爱99在线| 91dy.av| 五月婷婷色综图片| 综合综合网| 五月婷婷在线网站| 亚洲成人黄色网| 人人人人人人人草| 五月开心久久| 丁香色色色| 亚洲激情视频在线观看| 色色婷婷丁香| AV成人在线网站| 亚洲国产精品成人午夜| 超碰五月婷婷五月天| 天天艹| 91综合在线观看首页| 91pornav在线| 日本老女人黄页在线播放| 婷婷月五天在线在线看| 久久香蕉婷婷五月天| 天天拍久久| 思思w99| 开心五月天激情网站| 深爱婷婷丁香五月激情| 久久婷婷综合基地| 青草青草视频2免费观看| 97超碰,人人舔,人人操,人人摸| 色99久草在线| 中文字幕,综合,91| 久月婷婷| 激情五月丁香激情综合网| 天天色官网| 亚洲国产精品VA在线看黑人| 4399在线观看免费毛片| 日韩五月婷婷| 五月婷视屏在线观看| 婷婷六月综合基地| 激情五月天网| 色五月丁香婷婷在线观看| 欧美婷婷综合| 色婷婷视频在线| 91精品国产综合久久久不卡电影| WWW.久久99| 成人在线网址| www.亚洲激情| 色噜噜狠狠色综无码久久合欧美| 任我肏视频精品| 婷婷五月天六点丁香五月| 色色色在线免费视频| 五月激情婷婷女| 影音先锋一区二区三区| 伊人99久久| 久草 天堂| 五月天婷婷永久免费视频| 精品99在线| 老美AA片| 国产67194| www九九免费视频| 97碰| 五月婷婷,六月丁香| 婷婷狠狠操| 激情婷婷丁香色五月| 热99国产精品| 久久99综合| 色丁香婷婷| 丁香五月天.com| WWW久| 涩 五月 婷婷 狠狠| 中文字幕高清av| 天啪天啪天啪天啪| WWW.久久久久久久久久久久久| 欧美五月婷婷综合| 激情淫乱男女| 欧美成人日韩| 中文字幕不卡+婷婷五月| 五月丁香好婷婷A片网| 五月丁香婷婷成人版| 色爽九九| 精品激情| 综合激情啪啪| 六月丁香五月激情网| 欧美噜一噜| 五月丁香黄色| 五月丁香香蕉| 日韩九区| 亚洲精品国产熟女久久久| 亚洲亚洲人成综合网络| 精品热九九| 97婷婷久久丁香| 9久操| 色婷婷国产精品综合在线观看| 丁香五月人妻| 婷香五月网在线| 婷婷五月天直播| 草婷婷在线| 99在线精品视频免费观看20| 另类视在线| 97婷婷色| 97在线观视频免费观看| 丁香9月婷婷| 91视频免费后入强操| 五月久熟女| 爱之国产色情综合| 天天操综合网站| 欧洲色| 久99| 久9综合| 婷婷丁香91| 天天色播| 淫荡综合网| 久久这里有精品| 成人短视频在线观看| 99国产精品久久久久久久久久久 | 一级A片天天操夜夜操| 蜘蛛女侠2003满天星免费观看| 成人看片网站| 天堂草在线观| 亚洲精品无码久久| 91av传媒高清在线视频网| 丁香五月婷婷激情中文| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 26UUU成人网| 五月丁香六月婷婷综合网缴情| 久色激情| 熟女少妇内射日韩亚洲| 日韩在线观看亚洲| 热99久久这里只有精品| 久久婷婷91| 国产精产国品一二三在观看| w婷婷五月婷婷w| 国产精品噜噜在线视频| 超碰在线超碰| 婷婷不干网| 91色逼| 婷婷丁香亚洲五月天| 五月天婷婷基地综合网| 国产乱子轮XXX农村| 久久婷婷五月综合啪| 六月色婷婷欧美| 天天综合色丁香| 欧美成人AAA片一区国产精品| 日本99视频精品免费播放| 五月天婷婷自拍图片在线观看| 99精彩视频| 欧美成人猛片AAAAAAA| 国产视频福利| 热99热9| 五月婷综合| 婷婷激情五月天激情小说| 天天日天天插天天操| 噜噜国产| 内射 无码 伊人| 婷婷激情五月天网站| 久久久久久久人妻| WWW色色色COM| 婷婷五月天伊人网在线观看视频| 1024日韩| 肏屄色播伊人97婷婷| 综合激情深爱| 人妻内射一区二区在线视频| 五月色综合| 久久999久久999久久999久久| 久久婷婷五月综合色区| 99久久a线观| 色婷久久| 任你搞网站| 亚洲精品午夜国产va久久成人| 专区无日本视频高清8| 色综合区| 91久久精品无码一区二区三区| 97色碰碰公开视频| 色婷婷丁香AV综合| 亚洲欧美在线观看| 美臀自射自家人妻| 婷婷六月色| 亚洲小视频免费播放| 日本一级| 久久久久久97| 991国产精选视频在线播放下载| 91seAV| 99亚洲无码| 色色综合网www| 超碰精品手机在线| 欧美性生交XXXXX无码小说| 五月网激情| 久久人妻视频| 色激情综合狠狠婷婷| 九九99久久| 开心五月六月婷婷| 天天色播| 色天天久婷婷| 九九热123| 天天日天天操天天干| 中国操逼99| 五月丁香网中文字幕| 午夜69成人做爰视频| 亚洲在线激情婷婷五月| 欧美69久成人做爰视频| 2w在线视频| 99热爆在线| 欧美亚洲婷婷五月| av五月天婷婷丁香| 夜夜骑天天操| 中文精品在| 激情综合亚洲| 国语对白性爱视频播放| 国产在线aaa片一区二区99| 五月婷婷综合色啪首页| 丁香五月停停av| 玖玖精品视频| 激情人妻综合| 色99色| 狠狠色狠狠鲁| 极品五月天| 丁香五月影院| 五月丁香综合啪啪| 亚洲乱码日产精品BD| 婷婷精品在线| 欧美性交一区二区三区| 91精品久久久久久久| 丁香六月激| 任你躁XXXXX麻豆精品| 亚洲色情网站| 五月丁香六月综合基地| 天天弄天天操| Www.激情| 成人av免费观看| 国产美女无遮挡裸体毛片A片 | 无码激情AAAAA片-区区| 五月丁香六月情| 99ri国产| 五月Huangsewang| 成人在线99| 久久视屏这里只有久久| 婷婷亚洲在线| 99精品视频偷拍| 99er免费在线观看| 91xxxx九色| 婷婷五月激情五月激情| 丁香激激情网| 色婷婷香蕉| 亚洲综合色婷| 久久久激情视频| 五月丁香六月婷婷中文版| 东北黄色一级| 中国丰满熟女A片免费观| 五月婷婷真爱激情网| 久久黄A片| 丝雨一区二区| 综合色99| 国产精品美女| 丁香伊人综合| 在线观看的av| 国产jd1024基地手机看国产| 色色色五月婷婷| www.26uuu.com亚洲电影| 成人国产综合| AV中文字幕夜夜操b天天摸bb| 99热在线只有精品| 99ri精品| 五月婷久草| 色九九综合| 九九综合| 1010日日无码| www.激情在线| 亚洲综合婷婷五月| 婷婷五月天天激情| 欧美大片| 99这里都是精品6| 婷婷六月啪啪 | 欧美色五月| 99视频只有精品| 人妻熟妇六区| 亚洲国产精品成人免费一区久久久在线观看AAAA | 91操片| 极品嫩草| 狠狠婷婷色| 97色色色色色色色色色色色色色| 丁香五月性| 人碰91| 日韩丰满少妇无码内射| 日本久久99| 五月网网站| 99热香港| 亚洲激情亚洲激情| 9精品视频在线观看| 丁香花五月天婷婷成人社区| 五月天激情小说| 丁香五月婷婷六月| 天天日天天日天天搞| 激情美女五月天| 五月激情综合网| 久婷自拍视频| 欧美69色| 精品日本视频444| 欧美内射AAAAAAXXXXX| 99热最新| 亚洲综合在线视频| 综合色影| 久久五月天色婷婷| 激情五月丁香六月婷婷| 亚洲婷婷六月天| 丁香五月婷婷啪啪| 玖玖99免费视频| 激情五月天.色网| 精品国产AV色一区二区深夜久久| 综合色五月| 五月婷婷六月丁香五月| 五月天综合在线| 五月天激情小说欧美激情| 欧美成人精品老美女噜噜噜| 色综合性视频| 五月婷婷激情中心| 六月婷婷狠狠做| 色婷五月天网站| 日本五月丁香| 色婷婷香蕉丁丁网| 这里只有精品视频看看| 色五月婷婷啪啪五月| 激情五月亚洲综合网| 亚洲日韩26uuu| 婷婷五月激情丁香激情| 五月丁香六月合| 91热视频| 内射 无码 伊人| 大香蕉伊人丁香五月| 99@久久@99精品视频| 俺来也狠狠| 91av色色乱视频| 五月丁香综合网| 色综合香蕉视频| 久久加勒比| 自拍偷窥99热| 婷婷五月天成人导航| 亚洲第一色色色色| 天色综合网站| 丁香六月婷婷激情| 色色色热| 色情综合网| 丁香五月天综合| 国产AV一区二区三区最新精品| 玖玖色综合色| 玖玖玖婷婷婷| 婷婷丁香激情综合色情| 五月激情视频| 婷婷五月丁香五月天| 五月天狠狠干| 久婷五月| 99热在线只有精品| 日本二级毛片二级毛片| 成人AV播放| 久久99精品久久久久子伦| 久久伊人婷婷| 天天操夜夜玩!| 亚洲最大五月天成人网| 日本视频99| 五月天成人在线视频网站| 色天堂婷婷| 9999综合99综合人| 综合色色网| 九九热AV| 婷婷五月深深爱| 99A级片| 久/久精品99看9| 五月婷婷欧洲| 99毛片| 性婷婷| 久久人妻伦理| 无码操B| 九九色网专区| 久久久久久久97| 婷婷五月天伦理| 婷婷五月综合啪| 99国产精品久久久久久久久久久| WWW色色色COM| 五月丁香美女视频| 日日夜夜爽爽| 91丨九色丨国产打屁股| 538在线精品| 色伊人啪| 婷婷五月天深爱| 国产婷婷综合| 桃色成人网| 狠狠情色| 亚洲激情电影五月天色婷婷丁香一起草| 99re这里| 日本不卡一区二区三区| 六月激情婷婷综合| 伊人国产婷婷五月天| 国产va视频| 熟女人妻一区二区三区免费看| 精品九九婷婷| www.sd-xiangsu.cpm| 丁香五月香蕉| 中文成人在线| 91大神操美女| 色J香五月天| 久久综合中文| 久久aaaaa| 密乳视频| 色色操| 第四色网婷婷| 婷婷夜夜夜夜| 丁香五月综合| 国产综合婷婷| 五月天激情亚洲| 亚洲婷婷五月天| 精品成人久久久久久久_一二三四视| 日日日天天干| 成人做爰高潮A片免费视频| 97色久| 亚洲精品午夜国产va久久成人| 99re在线播放| www.91久久| 日韩淑女人妻luan伦激情精品一区二| 日本精品人妻无码77777| 丁香 婷婷 激情 综合 五月| 五月之婷婷| 图片区 小说区 区 亚洲五月| 996热| 99色视频| 日韩操啪| 五月丁香六月婷婷a v| 五月激情视频| 香蕉综合在线| 欧美日韩成人在线观看| 婷婷五月天成人网| 五月天国产成人| 欧美99热| 人人干女人| 天天爽天天爽视频| 久综合4| 色五月婷婷丁香婷婷| 丁香五月社区| 五月开心婷婷极品激情| 激情五月综合视频| 超碰狠狠操| 97香蕉碰碰人妻国产欧美| 天天天干夜夜夜操| 狠狠色网| 五月婷婷色情| 亚洲V国产V欧美V久久久久久| 丁香五月1页| 五月天婷婷丁香| 久久新地址| 91天天操天天干天天射| 超碰在线中文字幕| 五月天婷婷视频小说| 婷婷丁香91| 思思热视频在线观看| 国产综合丁香五月天| 79色色色色| 色五月婷婷91在线| 五月婷婷色五月| 免费99色| www.久久爱.com| 碰97久久| 婷婷婷婷色| 超碰九色| 五月婷婷综合网| 亚洲爱爱无码婷婷色五月| 国产精品久久久久久久久久久久| 色播五月丁香综合| 日本视频久久| 天天色综网| www.yw色| 粉嫩av蜜桃av蜜臀av| 九九热这里只有精品7| 五月婷婷色五月| 色婷婷在线综合色播网| 国产亚洲成AV人片在线观黄桃| 婷婷激情区| 91seAV| 天天色噜| 久久大香蕉| 丁香六月激情| 丁香社区婷婷五月| 五月天伊人久久久久| 激情五月天开心| www.色婷婷| 天天日天天色| 五月丁香无码| 久久久潮喷-久久久九九-成人AV| 丁香五月香蕉| 六月丁香婷| www.夜夜| 狠狠干综合网| 人碰91| 91狠狠综合久久久久久| 青青草护士中出内射-欧美电影在线天堂新版 | 丁香六月中文| 天天肏在线视频| 久久9热| 婷婷五月丁香六月伊人网| 麻豆AV一区二区三区| 五月婷婷婷| www.99久久久| 狠狠色综合五月人人| 欧美丁香五月夫妻天| 日韩操人| 亚洲九九99精品视频在线播放| 开心五月婷婷婷美女| 久久色情| 91精品刘玥| 人妻激情在线| 九九视频精品在线免费| 婷婷五月精品中文| 夜夜撸日日操| 六月丁香社区| 五月婷婷与六月丁香图片激情| 情欲禁地| 五月婷婷激情网| 精品九九在线观看| 美欧成人视频| 九九久久99| 五月天婷婷在线播放| www.99在线| 亚洲123区高清入口| 直接看的AV| 青草激情在线| 色五月婷婷婷婷婷婷婷婷婷婷| 国产在线aaa片一区二区99| 偷偷操99| 五月丁香青草综合啪啪| 丁香五月色五月| 91午夜婷婷狠狠久久综合9色| 26uuu国产激情视频| 97精品综合| 开心激情播播五月天| 中文字幕永久免费| 99人人干人人操| 亚洲精品又粗又大又爽A片| 激情五月天影院| 亚洲无码成人性爰网| 4399在线观看免费高清黄色视频| 欧美成人AAA片一区国产精品| 五月婷婷综合久久| 国产在线另类五月婷婷| 久久婷婷五月| 日本三级片片| 屁股翘好撅高迎合跪趴| 99热99在线| 99这里有精品视频视频| 九九九九九无码| 婷婷精品在线| 久久九九囯产| 青青草青青草五月天| 日本三级黄色大片| 色五月成人| 深爱五月日韩| 精品无码av丁香五月激情| 日本天堂爱爱| 日韩性爱无码| 播丁香五月婷婷欧美| 99熟女| www.婷婷六月天| nvrentiantang av| 99热这里只有精品最新地址获取| 亚洲小视频免费播放| 欧美久久网| 美国不卡视频| 国产亚洲精品久久久久久郑州| 九九热最新| 五月丁香基地| 激情五月网站| 狠狠色官网| 亚洲日本激情| 91热在线| 99精品视频偷拍| 久婷久婷激情肉| 亚洲殴洲精品Av在线| 大香蕉久久青青| 被强行糟蹋的女人A片| 色99网| 五月婷婷基地| AAA久久| 五月天天综合| 婷婷五月天av| 久久婷婷六月综合综合色| 亚洲最大五月六月丁香婷婷| 色噜噜在线| 五月丁香狠狠爱婷婷综合| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 五月天婷婷乱| 一二三区视频韩国| 777久久综合视频| 久久五月天激情婷婷| 亚洲无码成人网| 依人大香蕉| 99久久久国产大片区| 精品99这里有| 99色综合| 五月天激情站| 五月丁香视频在线观看| 成人必爱视| 2025最新亚洲激情在线| 婷婷六月网| 管管補管管紱| 99re这里只有精品首页| 国产精品激情五月天色婷婷| 九九热99精品| 色色色国产| 亚洲色激情| 人人草人人看| 国产avapp 网| 狠狠久久婷五月| 九九视频在线观看| 色婷婷电影| 色五月情| 91人人人人人人人| 美国不卡视频| 亚洲综合999| 亚洲精品国产成人AV在线| 五月天国产成人| 色综合77777| 国产亚洲成人综合| 丁香五月婷婷偷拍| 激情综合无码| 激情婷婷亚洲五月| 激情婷婷网| www.久热| 国产成人网址| 内射在线CHINESE| 狠狠一日| 99狠狠操一| 99re6热在线精品视频播放速度| 久久综合激情五月天| 婷婷丁香五月欧美人| 丁香六月婷婷五月婷婷| 色播五月综合网| 婷婷综合视频| 超碰操日| 激情久久丁香| 熟女激情网| 丁香 婷婷 亚洲 熟女| 丁香五月天激情综合| 婷婷五月天电影网| 五月天婷婷婷| 成人网页在线观看| 色狠狠五月天| 综合伊人狠狠| 久综合| 嫩草AV久久伊人妇女超级A| 五月丁香六月婷婷激情四射| 亚洲AV日韩无码| 夜夜夜夜做天天天做无码视频| 99久久99视频只有精品| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 久久婷婷五月天激情| 思思热视频在线| 久久精品凹凸分类| 六月丁香大香蕉| 蜜桃婷婷丁香五月天狠狠久久综合| 久久精品66| 成人av免费观看| aaa久久久| 四射综合网| 日日日,com| 第五色色色婷婷| 亚洲人妻AV| 欧美激情 日韩无码 婷婷 五月天| 激情综合婷婷| 激情小说 五月天| 亚洲另类电影| 亚洲人成网站999综合| 99re在线视频精品,这里只有精品18,| 精品久久久久久久久久久久人妻| 伊人激情综合网| 婷婷婷婷午夜| 国产 亚洲 在线| 久久99美女精彩视频| 色无码| 亚洲在线播放| 日韩一区二区三区无码| 97碰| 国产乱子轮XXX农村| 九热久| 天堂草在线看www| 国产精品18久久久| 五月天激情网址| 中文字幕色色色| 色婷婷丁香五月| 中文AV在线播放| 五月丁香婷婷色播无码| 免費亭亭成人| www.色婷婷.com| 白度黄视频| 六月米奇色综合| 九九视频这里只有精品| 免费观看日韩成人av| 日日想日日夜日日操| 九九激情| 超碰在线99热| 婷婷五月花西瓜| 精品亚洲国产成AV人片传媒| 黄色AV日韩| 99热在线看片| 亚洲欧洲一二| 99热精品6| 婷婷五月丁香五月| 99久久综合| 99热亚洲| 五月婷婷国产| 5月婷婷五月天| 日本色色影片| AV五月丁香| 综合五月婷婷| 在线视频另类| 另类精品视频在线观看| 日韩久操婷婷| 色五婷婷| 91碰免费视频| 天天舔夜夜操www com| 99精品久久久| 色五婷婷| 成人版视频在线观看| 日韩性爱无码| 色小说五月天| 超级碰碰碰久久网站| 日本激情五月| 成人亚洲精品久久久久| 99高级会所久久| 色色五月婷婷| 婷婷五月色播网| 99啪啪| 99久久婷婷国产综合精品青桔| 日本精品99| 狼人婷婷综合| 中文字幕,综合,91| 久久婷婷内射| 97精品自拍视频| 亚洲久久日| 天天综合五月天| 91九色在线视频| 99熟女啪啪视频| www.91在线观看| 色色色婷| 国产亚洲成AV人片在线| 99精色| 色99无码| 亚洲综合无码| 丁香色综合| www.国产色| ss五月天激情| 丰满少妇猛烈A片免费看观看 | 九九这里只有精品| 操操碰| 午夜丁香综合婷婷| 婷婷婷久久久| 1024国产| 丁香五月激情婷婷视频| 久久国产色| 婷婷五月综合婷婷| 欧美成人精品A片免费一区99| AV 3P| 97超级免费无码| 色色热| 激情综合九月| 97干在线| WWW.夜夜| 免费人人操| 狼友超碰| 五月天天天操天天爽夜夜操| 久久综合久色欧美综合狠狠| 六月丁香深深爱| 久久婷婷五月天丁香| 激情五月天影院| 超碰在线看| 亚洲永久免费| 丁香六月色情| 丁香五月天婷婷大香蕉| 男人的天堂五月丁香| 91婷婷| 亚洲色就是色色色| 五月丁香五月婷婷| 日本综合久| 久久精品99国产精品日本| 久久99性爱| 日本91在线| 五月色情| 五月激情基地| 久久综合影院| 激情五月天网站| 夜夜夜夜撸夜夜操| 在线婷婷| 我爱va亚洲va52| 欧美精品A片一区在线观看| www.minyis.com【JT】实力收量可预付QQ2101460746 | 香焦网五月天| 99热这里只有精品268| 日本在线播放97| 久久精品4| 99精品爱| 五月天婷婷社区久久综合| 婷婷综合网| 国产偷人妻精品一区| 97成人丁香婷婷| 国产av天天插天天操天天爽| 综合久久高清| 婷婷五月色丁香在线看| 97操操操| 五月丁香亭亭|