欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查 1. 先把 On-CPU 和 Off-CPU 這兩個詞掰開揉碎性能分析這件事做得久了會發(fā)現(xiàn)一個很尷尬的現(xiàn)象很多人拿到一臺卡頓的機(jī)器第一反應(yīng)是 top、ps、然后開 perf 抓火焰圖看到 CPU 使用率不高、火焰圖也沒幾個尖峰就得出系統(tǒng)沒問題的結(jié)論。但業(yè)務(wù)方還在催接口還是慢。問題出在哪出在只看了線程跑在 CPU 上的那段時間忽略了線程不在 CPU 上的那段更漫長的時間。Linux 性能分析里的 On-CPU 和 Off-CPU說的就是把一個線程的完整生命周期切成兩半來看On-CPU 是線程真正占用處理器執(zhí)行指令的時間Off-CPU 是線程雖然活著、但沒有被處理器執(zhí)行的時間。這兩塊時間加起來才是一個請求從進(jìn)來到返回的真實(shí)墻鐘耗時。我做過的排查里至少有六成的性能問題根子在 Off-CPU 上等鎖、等磁盤 IO、等網(wǎng)絡(luò)回包、等定時器、等被喚醒調(diào)度。而大家習(xí)慣用的工具幾乎全是為 On-CPU 設(shè)計的。這就導(dǎo)致一個結(jié)構(gòu)性盲區(qū)——你越用 On-CPU 的工具越會把注意力放在計算熱點(diǎn)上越容易漏掉阻塞點(diǎn)。所以這篇內(nèi)容想聊的就是怎么把這兩半時間都量出來、怎么看、怎么改。適合已經(jīng)會用 top、perf 這類基礎(chǔ)工具但遇到CPU 不高卻很慢的場景會卡住的運(yùn)維、后端開發(fā)和 SRE也適合剛接觸 Linux 性能調(diào)優(yōu)、想建立一套完整分析框架的朋友。1.1 一個類比餐廳后廚和等位區(qū)把服務(wù)器想象成一家餐廳CPU 核心就是廚師線程就是一道道待做的菜。On-CPU 時間相當(dāng)于廚師正在灶臺前顛勺的時間Off-CPU 時間是這道菜從點(diǎn)單到出餐之間廚師沒碰它的所有時間——可能是在等配菜送過來等 IO可能是灶臺被別的菜占著等鎖也可能是廚師被叫去處理別的單子、這道菜就擱在一邊調(diào)度延遲。只統(tǒng)計廚師顛勺的時長你會覺得后廚效率挺高但顧客感受到的是從點(diǎn)單到上菜的完整等待。這兩者之間的差距就是 Off-CPU 分析要填的坑。理解了這層類比后面所有的工具和指標(biāo)其實(shí)都是在回答兩個問題廚師到底在哪個灶臺上花了多少時間On-CPU 熱點(diǎn)以及這道菜在沒被烹飪的時候究竟卡在哪一步Off-CPU 阻塞點(diǎn)。1.2 為什么只盯 On-CPU 會系統(tǒng)性誤判CPU 使用率是個比值分子是忙的時間分母是總時間。當(dāng)系統(tǒng)大量線程都在睡覺等待時這個比值天然就低看起來很閑。但這恰恰可能是最糟的狀態(tài)線程數(shù)開了一堆每個都在等同一個資源吞吐上不去延遲還高。這類問題在 On-CPU 視角里幾乎隱身因?yàn)閴焊鶝]有多少指令在跑。更麻煩的是一些常見結(jié)論會把人帶偏。比如CPU 使用率低說明負(fù)載輕可以再壓一壓實(shí)際可能是下游某個依賴把請求全堵住了再比如火焰圖沒熱點(diǎn)所以代碼沒問題實(shí)際瓶頸在 syscall 睡眠或者 futex 等待上采樣器根本沒采到什么棧。所以建立 On-CPU 和 Off-CPU 的雙視角不是為了多學(xué)幾個命令而是為了堵住這個判斷漏洞。1.3 把線程時間賬本拆開一個線程從被創(chuàng)建到退出它的時間可以粗略拆成三塊Running在 CPU 上跑、Runnable就緒但在等 CPU、Sleeping睡眠等某個事件。Running 就是 On-CPU后兩者合起來是 Off-CPU。這里有個容易被忽視的細(xì)節(jié)Runnable 狀態(tài)本身也是一種浪費(fèi)它說明 CPU 不夠分或者調(diào)度策略讓某些線程遲遲輪不上。很多偶發(fā)尖刺就是 Runnable 排隊造成的。把這三塊量化出來你就能給任何一次慢請求做一個耗時歸因表多少時間在算多少時間在等鎖多少時間在等 IO多少時間在等調(diào)度。歸因清楚了優(yōu)化方向基本就是明牌。接下來的章節(jié)我會先講 On-CPU 怎么采得準(zhǔn)再講 Off-CPU 怎么把等待棧抓出來最后給一個從現(xiàn)象到修復(fù)的完整推演。2. On-CPU 分析采樣、火焰圖與熱點(diǎn)定位On-CPU 分析的目標(biāo)很明確找出線程把時間花在了哪些代碼路徑上。主流做法是基于定時中斷的采樣sampling而不是插樁計數(shù)因?yàn)椴蓸訉π阅苡绊懶 ⒛芊从痴鎸?shí)分布也不需要改代碼。采樣器每隔一個固定周期打斷一次 CPU抓下當(dāng)前的調(diào)用棧攢夠樣本數(shù)之后按棧聚合就得到了調(diào)用分布的近似。樣本越多統(tǒng)計越穩(wěn)。2.1 perf 采樣機(jī)制和幾個必須懂的參數(shù)Linux 上最通用的采樣工具就是 perf。它依賴內(nèi)核的 perf_event 子系統(tǒng)和硬件/軟件 PMU能按時間頻率或事件計數(shù)觸發(fā)采樣。一條典型的抓取命令是這樣perf record -F 99 -g -p 12345 -- sleep 30 perf script perf.out ./stackcollapse-perf.pl perf.out perf.folded ./flamegraph.pl perf.folded oncpu.svg幾個參數(shù)值得掰扯清楚。-F 99 表示每秒采樣 99 次。為什么不是 100因?yàn)檎麛?shù) 100 容易和系統(tǒng)里其他 100Hz 的周期任務(wù)比如某些定時器產(chǎn)生鎖相采出來的樣本會偏向某個固定相位導(dǎo)致分布失真。99 是個質(zhì)數(shù)能打散這種共振。-g 是抓完整調(diào)用棧沒有它你只能看到最頂層的函數(shù)看不到是誰調(diào)用的定位就沒有上下文。-- sleep 30 是限定采集時長用 sleep 而不是直接 Ctrl-C是為了讓腳本化更穩(wěn)定、退出更干凈。還有兩個參數(shù)在排查特定問題時很關(guān)鍵-e 可以指定事件默認(rèn)是 cycles但你也可以換成 cache-misses、branch-misses 來抓特定瓶頸--call-graph dwarf 會在用戶態(tài)棧難以回溯時改用 DWARF 調(diào)試信息展開代價是開銷更大、產(chǎn)出更大。一般先默認(rèn) fpframe pointer跑一遍棧斷了再考慮 dwarf。注意perf 的內(nèi)核棧符號來自 /proc/kallsyms用戶態(tài)符號需要帶調(diào)試信息的二進(jìn)制。生產(chǎn)環(huán)境經(jīng)常遇到符號被 strip 掉的情況采出來全是十六進(jìn)制地址白忙一場。動手前先確認(rèn)目標(biāo)進(jìn)程有沒有 debuginfo 或者帶符號的構(gòu)建產(chǎn)物。2.2 火焰圖怎么讀哪些形狀代表什么問題火焰圖的橫軸是樣本占比不是時間順序縱軸是調(diào)用深度每一塊是一個棧幀塊越寬說明該函數(shù)在采樣里出現(xiàn)得越多。讀圖的核心心法就一句先找最寬的葉子再看它是被誰調(diào)用的。最寬的葉子通常是實(shí)際的 CPU 消耗大戶但它的元兇可能在它的調(diào)用者那一層——比如一個通用的序列化函數(shù)很寬但真正的問題是某個業(yè)務(wù)邏輯反復(fù)調(diào)它。幾種典型形狀對應(yīng)不同問題。平頂山形狀底部寬、頂層一排差不多的寬塊通常是循環(huán)或批處理在反復(fù)執(zhí)行同類操作優(yōu)化點(diǎn)是降復(fù)雜度或加緩存。塔尖形狀某一層特別寬下面迅速收窄說明有個單點(diǎn)函數(shù)吃滿了 CPU直接盯它。斷層形狀中間某層突然很窄說明采樣在這個函數(shù)里分布稀疏要么是它執(zhí)行快要么是棧在那斷了需要配合 dwarf 或檢查符號。2.3 符號丟失、棧截斷和 JIT 代碼這三類坑實(shí)話說On-CPU 分析最容易翻車的不是命令不會敲而是采出來的東西沒法看。第一類坑是符號丟失解決方式是裝對應(yīng)版本的 debuginfo 包或者用perf buildid-list確認(rèn) build-id 能不能對上 debug 文件。第二類坑是棧截斷frame pointer 被編譯器優(yōu)化掉了-fomit-frame-pointer 是很多發(fā)行版的默認(rèn)這時候要么重新編譯加 -fno-omit-frame-pointer要么切到 dwarf 模式。深度太深時 perf 默認(rèn)只抓一部分??梢杂?-call-graph dwarf,65528加大棧大小。第三類坑是 JIT 代碼Java、Node、部分 Go 場景都會遇到采出來是一堆[JIT]或者匿名地址。Java 的解法是掛 perf-map-agent讓 JIT 編譯時把方法地址映射寫到 /tmp/perf-PID.mapperf 就能解析更省事的做法是直接用 async-profiler 抓 CPU 火焰圖它對 JIT 代碼的映射是內(nèi)建的。Node 可以用--perf-basic-prof之類的方式輸出映射表。這類工作如果一開始沒規(guī)劃好事后補(bǔ)會很難受建議在部署階段就把符號和映射準(zhǔn)備好。3. Off-CPU 分析把等待這件事量化聊完 On-CPU重頭戲來了。Off-CPU 分析要回答的是線程沒在跑的時候到底在等什么等了多久。傳統(tǒng)思路是插樁記錄每個阻塞點(diǎn)的進(jìn)入和退出時間但這要求改代碼、而且覆蓋不到內(nèi)核路徑。更優(yōu)雅的做法同樣是跟蹤切換內(nèi)核每次發(fā)生上下文切換時都會記錄誰被換下、誰被換上如果我們在這兩個時刻打點(diǎn)就能算出每個線程兩次被調(diào)度之間隔了多久并且抓下它被換下時的調(diào)用棧——那個棧就是它睡覺的原因。3.1 線程離開 CPU 的幾種典型原因歸納一下線程從 Running 變成 Off-CPU常見就這幾類。第一類是睡眠等待主動調(diào)用會睡眠的 syscall 或同步原語比如 read/write 阻塞、futex 等待、nanosleep。第二類是等鎖包括用戶態(tài)自旋鎖的退化、互斥量、文件鎖內(nèi)核里 futex 是重災(zāi)區(qū)。第三類是等 IO包括磁盤、網(wǎng)絡(luò)、管道很多時候表現(xiàn)為 epoll_wait 或 read 阻塞。第四類是被搶占時間片用完或被高優(yōu)先級線程擠下去這時候線程還是 Runnable只是沒輪上。前幾類是 Sleeping第四類是 Runnable。區(qū)分它們很重要Sleeping 說明有外部依賴拖著優(yōu)化方向是縮短依賴或并發(fā)化Runnable 說明 CPU 資源或調(diào)度配置有問題優(yōu)化方向是加資源或調(diào)優(yōu)先級、綁核。很多分析工具會把兩者混在總 Off-CPU 時間里看的時候要留意能不能拆開。3.2 offcputime 與 wakeuptime等待棧和喚醒鏈BCC 工具集里的 offcputime 是最常用的入口。它會跟蹤上下文切換統(tǒng)計每個線程 Off-CPU 的累計時長并按被換下時的棧聚合offcputime -df -p 12345 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU Time --countnameus offcpu.folded offcpu.svg參數(shù)含義-d 打印分隔符方便后續(xù)折疊-f 輸出折疊格式直接喂給火焰圖腳本-p 限定進(jìn)程最后一個數(shù)字是采集秒數(shù)。得到的 Off-CPU 火焰圖跟 On-CPU 長得像但橫軸寬度是阻塞時長微秒讀法是哪個棧把線程卡住得最久。offcputime 解決的是線程在哪睡但它不回答誰把它叫醒的。這時候就要請出 wakeuptime。它把阻塞棧和喚醒棧拼在一起直接告訴你A 線程在某個 futex 上睡了 200ms是被 B 線程喚醒的。這個信息非常值錢因?yàn)樗岩蚬溄o串起來了——很多鎖競爭的根因不是持鎖線程慢而是持鎖線程被別的更慢的操作卡住了。wakeuptime -p 12345 30實(shí)測下來wakeuptime 在排查線程池互相等待、上游把下游拖死的場景里特別好用。缺點(diǎn)是對復(fù)雜調(diào)用棧的輸出會比較長需要配合過濾看。3.3 runqlat被忽視的調(diào)度延遲前面說過 Runnable 狀態(tài)是獨(dú)立的一類浪費(fèi)量化它主要靠 runqlat老版本叫 runqslower。它統(tǒng)計任務(wù)從進(jìn)入就緒隊列到真正被調(diào)度執(zhí)行之間的延遲分布輸出是直方圖runqlat -m -P 10-m用毫秒做單位-P按進(jìn)程聚合。看這個輸出主要看長尾如果 p99 到了幾十毫秒說明某些線程經(jīng)常在就緒隊列里等很久CPU 飽和或者有 CPU 密集任務(wù)在搶。這類延遲在應(yīng)用層往往表現(xiàn)為莫名的抖動而且因?yàn)樗幌?CPU 時間常規(guī)監(jiān)控根本看不到。線上偶發(fā)毛刺排查runqlat 是我必開的一個工具。注意offcputime 統(tǒng)計的時長里其實(shí)已經(jīng)隱含包含了 Runnable 的等待因?yàn)榫€程從被換下到再次被換上中間可能既有睡眠也有排隊。要精確拆開需要同時看 offcputime 和 runqlat用差值估算。睡了 100ms 里有 80ms 是在排隊這種結(jié)論只能靠兩個工具配合才能得出。4. 一次真實(shí)排查的完整推演講完工具來走一遍完整流程比干講參數(shù)有用得多。以下是我處理過的一個典型場景做了脫敏和簡化但思路和步驟是原樣的。4.1 現(xiàn)象描述和初步假設(shè)現(xiàn)象某服務(wù)接口在壓測時 p99 從 20ms 漲到 900ms但機(jī)器 CPU 使用率只有 25%IO 也不高監(jiān)控上看不出明顯異常。單看資源指標(biāo)這臺機(jī)器簡直空閑得可以去度假。這種資源不緊張但延遲爆炸的形態(tài)基本可以判定瓶頸在 Off-CPU而且大概率是排隊或者鎖不是計算。先立幾個假設(shè)一是線程池被某個慢調(diào)用占滿新請求只能排隊二是某個共享資源連接池、緩存、鎖成了串行點(diǎn)三是 GC 或者定時任務(wù)周期性搶占導(dǎo)致抖動。接下來逐個驗(yàn)證。4.2 用 On-CPU 排除計算密集第一步還是先排除計算問題畢竟它最好查。抓 30 秒 On-CPU 火焰圖perf record -F 99 -g -p $(pgrep -f myapp | head -1) -- sleep 30 perf script | ./stackcollapse-perf.pl | ./flamegraph.pl oncpu.svg結(jié)果很干凈最寬的葉子占不到 5%沒有任何函數(shù)吃滿。這就基本排除了 CPU 熱點(diǎn)也側(cè)面印證問題在等待。同時看了一眼 On-CPU 的采樣總數(shù)30 秒 99Hz 應(yīng)該接近 3000 個樣本實(shí)際只采到不到 800 個——這個差值本身就是信號大量時間線程根本沒在跑采樣器采不到。4.3 用 Off-CPU 定位到鎖競爭接下來抓 Off-CPUoffcputime -df -p $(pgrep -f myapp | head -1) 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU --countnameus offcpu.folded offcpu.svg火焰圖一出來最寬的一條棧非常顯眼從業(yè)務(wù)入口一路到pthread_mutex_lock再往下是futex_wait累計阻塞時間占了總 Off-CPU 時間的六成以上。也就是說大量線程都堵在同一把鎖上。順著棧找到那個 mutex 對應(yīng)的代碼位置是一個本以為讀多寫少的共享配置緩存實(shí)際每次刷新都會整表加寫鎖而刷新又調(diào)用了下游接口一旦下游慢鎖就持很久。再用 wakeuptime 確認(rèn)喚醒鏈wakeuptime -p $(pgrep -f myapp | head -1) 30輸出清楚地顯示喚醒這些等鎖線程的正是那個持鎖的刷新線程而刷新線程自己又阻塞在下游網(wǎng)絡(luò)讀上。到這里因果鏈完整了下游慢 → 刷新線程持鎖時間長 → 其他線程全堵在鎖上 → 請求排隊 → p99 爆炸。4.4 驗(yàn)證與修復(fù)驗(yàn)證方式很直接給共享緩存的刷新邏輯改成先算好再原子替換指針也就是讀路徑無鎖、寫路徑只做一次指針交換把持鎖時間從整個下游調(diào)用縮到指針賦值。改完復(fù)壓p99 回落到 30ms 以內(nèi)Off-CPU 火焰圖上那條 futex_wait 的寬度基本消失了。這次排查的價值不在于用了多高級的工具而在于先用 On-CPU 排除、再用 Off-CPU 定位、最后用 wakeuptime 串因果這個固定套路。你把這套順序記下來遇到類似問題就不用靠猜了。5. 環(huán)境準(zhǔn)備與工具選型的一些硬門檻工具再好環(huán)境不支持也白搭。Off-CPU 這類分析工具大多基于 eBPF對內(nèi)核版本和權(quán)限有實(shí)打?qū)嵉囊筇崆按_認(rèn)能省掉很多抓耳撓腮的時間。5.1 內(nèi)核版本與 eBPF 能力自檢先看內(nèi)核版本uname -roffcputime、wakeuptime 這類工具依賴掛載 kprobe 的能力實(shí)踐上建議內(nèi)核 4.15 以上5.x 更穩(wěn)。4.9 到 4.14 之間有些工具能跑但偶有兼容問題。檢查內(nèi)核配置grep -E CONFIG_BPF|CONFIG_BPF_SYSCALL|CONFIG_KPROBE /boot/config-$(uname -r)幾個關(guān)鍵項要能查到BCC 工具集才能正常工作。如果是最小化安裝的發(fā)行版可能連 bcc-tools 包都沒裝。5.2 安裝 BCC 與依賴主流發(fā)行版基本都有現(xiàn)成包# Debian/Ubuntu 系 sudo apt-get install bpfcc-tools linux-headers-$(uname -r) # RHEL/CentOS 系 sudo yum install bcc-tools kernel-devel-$(uname -r)裝完工具一般在/usr/sbin或者/usr/share/bcc/tools下可能帶-bpfcc后綴。perf 和火焰圖腳本另裝perf 跟內(nèi)核版本綁定最好用包管理器裝避免自己編譯出坑FlameGraph 是一堆 Perl 腳本clone 下來即可。5.3 容器和虛擬化環(huán)境的特殊處理容器環(huán)境里有兩個必踩的坑。第一是 PID 命名空間容器里看到的 PID 和宿主機(jī)不是一回事perf 和 bcc 工具如果跑在宿主機(jī)上得用宿主機(jī)的 PID用docker top或者ps -eLf | grep去定位。BCC 的-p參數(shù)接受的是它所在命名空間里的 PID跑在容器內(nèi)就填容器內(nèi) PID。第二是權(quán)限eBPF 傳統(tǒng)上要 root5.8 以后有了 CAP_BPF 和 CAP_PERFMON 可以降權(quán)但生產(chǎn)上多數(shù)還是用 root 或者 privileged 容器。虛擬化環(huán)境里硬件 PMU 事件可能不可用perf 的部分功能會退化但軟件事件cpu-clock和采樣依然可用Off-CPU 工具基于 kprobe 基本不受影響。這一點(diǎn)在云主機(jī)上不需要太擔(dān)心。提示如果 offcputime 報 HINT: ... failed to attach 之類的錯誤先確認(rèn)內(nèi)核開了 CONFIG_BPF 相關(guān)選項再確認(rèn)自己沒有在受限的 seccomp 環(huán)境里跑。有些安全加固過的環(huán)境會禁用 bpf() 系統(tǒng)調(diào)用。6. 常見問題與排查技巧速查把經(jīng)常遇到的坑整理成一張表排查時直接對號入座比翻文檔快?,F(xiàn)象可能原因排查手段處理方式On-CPU 火焰圖全是地址符號二進(jìn)制被 strip 或缺 debuginfoperf buildid-list對比安裝 debuginfo 包或帶符號重編采樣樣本數(shù)遠(yuǎn)低于預(yù)期線程大量 Off-CPU對比預(yù)期樣本數(shù)轉(zhuǎn) Off-CPU 分析Java 棧顯示為[JIT]JIT 代碼無符號映射檢查/tmp/perf-PID.map掛 perf-map-agent 或換 async-profileroffcputime 棧斷在中間棧展開深度不足看棧頂部是否有斷裂dwarf 模式或加大棧參數(shù)Off-CPU 圖里大量 idle/swapper采集到空閑任務(wù)觀察最寬塊的名字用-p限定進(jìn)程或加過濾p99 抖動但 CPU 不高調(diào)度延遲長尾runqlat -m -P查 CPU 飽和或綁核調(diào)優(yōu)先級等鎖時間長但持鎖者不慢持鎖者被下游卡住wakeuptime看喚醒鏈縮短持鎖范圍或改無鎖容器內(nèi)工具報 PID 找不到命名空間不一致docker top核對用對應(yīng)命名空間的 PIDeBPF 工具 attach 失敗內(nèi)核能力或 seccomp 限制查內(nèi)核 config 和安全策略換環(huán)境或提權(quán)這張表里我最想強(qiáng)調(diào)的兩行是采樣樣本數(shù)遠(yuǎn)低于預(yù)期和等鎖時間長但持鎖者不慢。前者是一個很隱蔽的信號很多人看到 CPU 不高就直接放棄 perf 了其實(shí)差值本身就在告訴你答案后者是翻身常犯的錯——盯著等鎖的人看忽略了叫醒他們的人。把這兩個視角建立起來絕大多數(shù)詭異延遲都能找到入口。再補(bǔ)幾個實(shí)操心得。第一采集時長別太短Off-CPU 事件往往稀疏10 秒可能采不到幾次建議至少 30 秒長尾問題可以拉到幾分鐘。第二采樣時盡量復(fù)現(xiàn)問題場景空跑采集沒意義要壓測就邊壓邊采。第三火焰圖看的是分布不是順序別試圖從圖里讀出時間先后要看先后得用 trace 類工具。第四perf script產(chǎn)出的中間文件可能很大幾十秒采集幾百 MB 是常事注意磁盤空間和后續(xù)處理的內(nèi)存占用。7. 一些踩坑之后才明白的經(jīng)驗(yàn)最后聊點(diǎn)工具之外的東西都是實(shí)打?qū)嵅瘸鰜淼?。剛接觸 Off-CPU 分析時我老想找一個命令搞定后來發(fā)現(xiàn)這套分析的價值恰恰在于組合On-CPU 排除計算、offcputime 找阻塞點(diǎn)、wakeuptime 串因果、runqlat 補(bǔ)調(diào)度四個環(huán)節(jié)缺一個結(jié)論就可能偏。還有一個體會是Off-CPU 時間不是越低越好而是越可解釋越好。有些等待是設(shè)計使然比如正常的網(wǎng)絡(luò) RTT、必要的批量攢批這些等待是劃算的真正要干掉的是那些沒必要的、可以并發(fā)化的、因?yàn)閷?shí)現(xiàn)缺陷被放大的等待。所以別追求把 Off-CPU 壓到零先追求能說清楚每一段等待花在哪、值不值。另一個容易忽略的點(diǎn)是采樣開銷。eBPF 工具在高頻事件上比如上下文切換特別頻繁的系統(tǒng)本身也會產(chǎn)生可觀測的額外負(fù)載采集的時候要留意對被分析進(jìn)程的影響別把觀察行為變成了干擾因素。壓測對比時最好先跑一次不采集的基線再跑采集版本把采集開銷從結(jié)果里扣掉不然容易冤枉代碼。再分享一個小技巧如果線上不方便跑 root 工具可以先從/proc/PID/status里的 voluntary_ctxt_switches 和 nonvoluntary_ctxt_switches 看趨勢兩個值漲得快說明上下文切換頻繁O(jiān)ff-CPU 問題概率大這就是個零成本的先行指標(biāo)用來決定要不要上重武器很夠用。這套東西我用了好幾年越用越覺得它不是什么高深技術(shù)就是把線程到底在干嘛這個問題拆成兩半來回答的樸素方法。工具會隨內(nèi)核版本變理解On-CPU 加 Off-CPU 等于完整墻鐘時間這個賬本關(guān)系才是長期管用的東西。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色色五月天丁香| 热99久久这里只有精品| 欧美内射AA| 午夜色丁香| 五月激情网站| 大香蕉婷婷久久| 日韩操逼大片| 九九家庭影院| 色99综合色88| 性爱视频久久| 亚洲欧洲99| 精品无码色欲AV| 九久9精品| 欧美丁香婷婷天天操| AAA久久| 婷婷日在线观看| 久久性爱视频| 激情五月少妇| 五月丁香六月激情综合| 202丰满熟女妇大| 婷婷五月激情片| 久久91久久精品久久| 五月丁香淫淫婷婷婷| 色五月婷婷影视| 婷婷五月在线视频| 激情深爱综合| 99情色五月天| 国产 码在线成人网站| 99色看这里只有精品| 五月激情丁香啪啪| 国产婷婷五月天| 91狠狠色| 五月丁香婷婷狠狠操| 色五月婷婷小说亚洲中文字幕组| 五月色网| 亚洲天堂AV综合网| 性一交一乱一交A片久久四色| 婷婷丁香五月天在线视频| 成人AV在线中文版| 五月丁香婷中文| 天天搞夜夜叫| 久久九九囯产| 激情婷婷五月天| 99.色| 色综合av超碰| 婷婷成人五月天| 天天色综合网1| 国产91九色| 五月激情偷拍| 久久精彩视频| 激情五月天色爱| www.99热精品| 午夜伊人大香蕉| 婷婷五月综合色拍| 天天射夜夜爽| 色色色区| 97日本在线播放| 婷婷综合一二三| 亚洲天堂亚洲色色色| 在线免费观看激情视频| 婷婷色五月激情| 久久久久人妻精选| 五月天婷婷网站| 国产精品国产| jiujiuxiangjiaowang| 九九综合精品| 亚洲免费婷婷| 99热精品综合| site:xmssd.com| 99热免费18| 五月丁香天堂网| 六月色国内综合| 日本色色图| 五月婷婷欧洲| 97在线观视频免费观看| 成年人丁香五月| 婷婷开心五月| 五月天电影网| 色婷婷精品小视频| 人人草公开操| 久久五月天视频| 亚洲日韩久久婷婷伊人| 国产毛片精品一区二区色欲黄A片 极品人妻VIDEOSSS人妻 | 99热精品在线| 婷婷伊人网| 五月丁香婷婷三级| 五月色欧洲| 午夜成人AV在线| 色五月情| 日韩一级片| 五月婷婷六月天| 六月丁香五月激情婷婷| 五月丁香天堂网婷婷| www.黄色片-久久成人国产精品在线播放-999AV | 9久热在线视频精品| av高清无码| 五月天久久婷婷| 色欲午夜无码久久久久久张津瑜 | 91碰超| 26uuu另类| 综合激情在线视频| 一二区成人电影| 97人人干视频| 亚洲V国产V欧美V久久久久久| 激情丁香婷婷| 热99在线| 五月综合激情视频在线| 色婷婷婷婷五月天| 丁香六月久| 丁香六月天婷婷| 图片区 小说区 区 亚洲五月| 丁香五月天黄色片| 色婷婷小说| 超碰在线中文字幕| 99自拍视频网站| 九九热精品| 这里只有精品网| 色五月开心开心五月激情五月| 99这里只有精品8| 丁香五月成人| renrencaoni| 久9视频免费播放| 久久九九囯产| 色五月婷婷影院| 日本久久极品| 91精品久久久久久久久 | www.26uuu.com亚洲电影| 天天人人天天爽| 性爱网久久| 丁香五月首页| 色婷婷五月天激情| 狠狠久久婷五月综合色| 色婷婷亚洲在线| 爱草视频在线观看| 丁香五月23111| 色综合五月在线| 99热网站在线观看| 激情综合亚洲色婷婷五月| www.夜夜夜| 国产99精品免费视频| 丁香激惜男女| 丁香五月欧美色综合| 极品人妻videosss人妻| 色婷婷成人| 直接看的AV| 丁香五月人妻| 日本色天堂| 色婷婷狠狠爱| 国产又黄又爽又色的免费| 国产精品国产成人国产三级| 精品一二三区久久AAA片| 色婷婷五月天| 日本久碰| 久99久视频| 97色色色色| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 91大屁股在线| 99黄色在线视频精品熟女| 久久久宗合| 综合婷婷| 欧美综合五月丁香五月天| 99er6热在线观看精品6| 久久色亭亭五月天| 激情小说五月天| 国产在线aaa片一区二区99| 国产精品第一国产精品| 丁香久久九九99| 久久视频婷婷| 日本五月婷婷久久久六月丁香| 三级大香蕉网| 4399亚洲视频| 精品香蕉99久久久久网站| 超碰九热| 婷婷亚洲影院| 久狠日av| 色偷偷综合| 日韩久久系列| 91精品综合久久久五月天| 欧美大香蕉视频| 婷婷亚洲五| 国产另类综合| 婷婷伊人綜合中文字幕小说| 风流少妇A片一区二区蜜桃 | A片女女女女女女BBBB| 九九综合网| WWW,五月| 久久综合天天综合| 色色色9| 久久精品99国产精品日本| 99九九99九九九视频精品| 丰满少妇猛烈A片免费看观看| 超爽内射| 婷久看人爽| 国产日韩亚洲欧美在线观看| 丁香五月影院| 亚洲一级AV在线免费播放| 91一起操| 思思热99在线视频| 99综合网| 超碰成人AV| 亚洲色涩视频| 丁香五月亚洲AV| 久色视频首页| 久久婷婷五月天懂色| www久久久久久久久久久| 888久久久| Av狠狠色丁香婷| 五月丁香婷婷综合视频| 色一情一乱一伦一区二区三区| 六月婷婷AV| 婷婷欧美偷拍综合| 深爱激情五月网| 午夜不卡久久精品无码免费| 97香蕉碰碰人妻国产欧美| 久久机热这里只有精品| 色情成人五月天| 色亭亭丁香五月天| 天天拍天天做视频| 在线99热| 亚洲熟女色| 五月丁香基地| 荫道BBWBBB高潮潮喷| 激情婷婷五月| 天天摸天天舔天天天天爽| 亚州美女| 天天拍夜夜撸| AV九九| 色玖玖网| 成人色色视频| 国产91资源在线| 丁香婷婷色五月| 色欲一区二区三区精品A片| 亚洲精品又粗又大又爽A片| 人妻激情在线| 人人操人人干AV| 五月综合激情网| 5月婷婷6月丁香aV| 久热无码| 日本女天天爽| 丁香六月婷| 色很久综合| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | www久久久久| 欧美性爱特黄一级aaaassss| 久久九色| 五月丁香激情五月天| 大香蕉五月丁香| 亚洲激情五月| 久热A| 俺也去五月婷婷丁| 色色五月婷婷| 丁香六月啪啪| 凹凸7777操操操| 激情婷婷| 丁香五月婷婷少妇| 亚洲欧洲中文日韩久久AV乱码| 成人做爰高潮A片免费视频| 色色婷婷丁香| 狠狠干综合| 色情婷婷| 九九碰九九爱97超碰| 亚州精品色情无码A片| 综激情网| 日本老女人黄页在线播放| 99干日本| 婷婷激情五月| 涩涩五月天| 五月色婷婷在线观看| 玖玖色综合| 99久.| 91婷婷在线| 99色网站| 这里只有精品视频| 色五月天天| 免费无码毛片一区二区A片| xx色综合| 色色a| 久久黄A片| 婷婷五月天综合在线| 99re热精品在线视频| 五月婷婷综合激情| 久久视频这里都是精品| 婷婷五月天99综合网站| 深爱激情婷| 九九久久高清| 在线婷婷| 亚洲综合干| 国产精品18久久久| 亚洲久热无码| 久久五月婷婷视频| 91热久久| WWW五月天| 色婷婷av综合网| 开心五月网| h亚洲| 啪啪激情网| 欧美激情五月天婷婷| 欧美肉大捧一进一出免费视频| 天天日日人| av高清无码| 深爱五月日韩| 激情久久久久久久久久久| 99视频精品| 色婷婷狠狠干| 日韩AV在线电影| 99热免费| 久热这里只有精品在线观看| 精品操逼一区二区| 天天干狠狠| 青草视频在线蜜臀| WWW色色色COM| 色噜噜狠狠色综合日日| 天天干天天 亚洲| 九九综合五月欧美| 五月婷婷色播| 久久婷婷综合五月天| 99自拍网| 久久久精品婷婷五月天| 婷婷五月天xxx| 欧美日本韩国亚洲| 婷婷操超碰| 欧美日韩大黄| 伊人九九热| 色综合五月天| 日本丁香五月| 桃色激情婷婷伊人网| 97婷婷丁香五月综合| 超碰在线人人| 亚洲无码九九| 色婷婷五月天亚洲| 成人短视频在线免费观看| 天天爽天天做| 这里只有精品免费视频| 六月激情婷婷色| 百度一下国产精品A| 99热免费精品| 五月亭亭综合五码| 丁香花五月天激情| 亚洲天堂婷婷| 99精品在线| 99热无码首页| 美女100%露全身无挡网站| 五月丁了香蕉综合| 国产精产国品一二三在观看| 内射综合网| AAAA亚洲| 91婷婷在线| 亚洲182在线观看| 九九热99熟女| 五月婷婷开心丁香| 五月激情精品视频| 97操在线视频| 百度4399有码精品V在线观看| 五月丁香综合激情| av大香蕉| 天天爱天天爽| 开心五月深爱婷婷| 日日操日日干| 琪琪理论片| 色婷婷偷拍| 免费在线观看AV网站| 久九色| 99er精品视频| 99热精品少| 五月综合丁香婷婷| 9久久久| 99色色| 色色色综合| 热996精品在线观看| 人人操AV| 丁香色婷婷五月天| 婷婷五月六月丁香| 九九热在线观看6| 伊人玖玖网| 久久婷婷六月综合国际| 在线观看免费视频| 亚洲五月婷婷| 91日本在线观看| 97操碰碰无码视频| 色狠狠色噜噜AV天堂五区消防| 99啪啪视频| 久热伊人| 91碰| 色婷天天| 性爱网五月天| 久99视频在线观看| 4399欧美另类视频| 五月婷婷色白丝| 久久久高清| 欧美叉叉叉BBB网站| 二色av| 五月色网| 人妻内射视频| www五月| 色一情一乱一乱一区91Av| 99色视频| 九九色大香蕉| 六月婷婷综合激情| 91人人网| 五月丁香婷婷色| 伊人五月婷婷| 秋霞性爱AV| 五月婷婷与六月丁香图片激情| 伊人五月天| 性综合网| 五月丁香成人| 九九色色| 99热这里有精品| 色色色免费视频| 色婷婷久久久| 99热这里是精品| 91九色精品熟女内射| 五月天精品视频| 色婷五月天| www狠狠| 亚洲热热视频| 强壮的公次次弄得我高潮A片日本 | 五月丁香精品| 丁香色五月 97干| 五月丁香网站| 成人龟情网丁香五月| 婷婷六月天国产综合| 亚洲在线网站| 欧美日韩成人在线网| 97色女人在线| 亚洲天堂爱爱| 熟女重口味αV| 久久这里都是精品视频| www.久久av.com| 日日噜狠狠色综合久| 五月丁香婷婷开心| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 五月婷婷亚洲综合在线 | 激情五月天在线观看色婷婷| 99精品热| 99久久思思| 激情五月色综合| 亚洲成人五月| 精品久久艹| 久久婷婷六月综合| AA片在线观看视频在线播放| 久久99精品久| 色婷精品91| 五月天婷婷久久日| 五月丁香六月婷婷综合网缴情| 丁香五月六月| 人妻久久久| 丁香五月成人网| 99热久久这里只有精品| 激情五月婷婷啪啪| 在线国产精品色| 天天干天天操天天干天天操天天干天天操| 日韩aaa| 丁香五月成人婷婷| www.色婷婷.com| 色色综合网。| 区区久久妻| 另类综合国产| 亚洲六月婷婷| 亚洲综合五月天婷婷| 色色色色区| 激情五月天噢美| 激情综合激情五月| 综合色影| 男人操女人高潮91视频| 996黄色片| 婷婷久久大香蕉| 五月欧美色色五月| 激情av| 九九色情网站| 久久视频婷婷视频| 六月丁香成人| 五月丁香六月激情啪| 韩国激情五月天综合网| 啪啪91| 91九色首页| 天天色亚洲| 91色五月| 五月丁香婷婷色啪| 激情五月婷婷综合| 天天爽天天爽视频| 国产婷婷色综合AV蜜臀AV| 第1影院之五月婷婷| www.精品99| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 激情五月六月丁香| 超碰人人在线| 大香蕉AV电影在线| 草综合网| 激情五月天综合网| 操逼三区| 亚洲另类电影| 欧美婷婷色五月网| 99视频内射三四| www.99成人视频| 婷婷色导航| 9l视频自拍九色9l视频在线观看| 丁香六月亚洲综合| 亚洲综合婷婷| 欧美日本97| 激情亚洲色图片丁香综合| 97久久久久| 男同色五月开心五月激情五月| 永久的网站AAAA| 婷婷丁香五月婷婷| 亚洲色图五月丁香五月婷婷| 中国AV性爱观看| 婷婷丁香久久| 丁香,开心成人,久久| 97人人草| 玖玖综合色| 激情婷| 婷婷九月激情| 99热只有| 久热久| 婷婷娌伦网| 欧美精品999| 9l视频自拍九色9l视频自拍九色9l社区 | 五月六月婷| 91se精品国产| 丁香伊人综合| 国产精品五月天婷婷| 99久热| 激情综合色| 超碰二区| 成人在线网站| 日日爽夜夜爽| 久久狠婷婷| 五月天色婷婷激情| 五月婷婷精品视频| 九九久热| bukadeavzaixian| 五月丁香拍拍激情综合| 99色在线| 久久99热这里只有精品23| 激情綜合W W W,激情五月天| 99热最新精品| 超碰女人天堂| 丁香五月激情啪啪| 色屌丝中文字幕| 色五月天激情| 國語久久婷| 日韩成人AV在线播放| 五月婷婷九| 欧美WW在线网| 99色色| 综合福利网| 色综合综合色| 色婷婷无吗| 岛国AV网| 伊人网啪啪| www.maotanji.com| 超碰在线精品| 偷拍五月丁香| 婷婷久久国产视频| 婷婷色五月大香蕉在线| 99日韩网站| 九一九九黄色| 日日夜夜干| 1999天天操夜夜操| 色五月在线视频观看| 日日操夜夜操中国无码| 婷婷五月天社区| 丁香五月婷婷亚洲激情四射| 丁香五月激情网| 亚洲av网站| 精品久热| 99er国产| 九九色插| 五月婷婷六月丁香色| 99碰在线视频| 五月丁香六月欧美综合网站| 婷婷月综合| 五月天自拍视频| 天天拍天天操| 激情五月亚洲综合网| 亚洲精品字幕| 狠狠色综合网站| 一本九九色| 91大神操美女| 久久久久久久久久久久久久人妻视频 | 五月人妻婷婷| 操婷婷基地| 91视频一起草| 99这里只有精品8| 日本英国美国欧美亚洲国产精亚洲日韩精品在线观看 | 成人无码髙潮喷水A片| 天天日人人| 久久婷婷六月综合综合| 99精色| 69婷婷丁香午夜| 婷婷五月天性爱视频| 婷婷五月天综合网| 欧美激情 日韩无码 婷婷 五月天| 狠狠五月婷婷| 激情婷婷丁香五月天| 美女丁香五月天| 免费99色| 丁香五月综合| 夜夜干天天干| 激情五月开心五月在线视频| wwww.色婷婷| 九九99久久| 色婷婷国色天香综合| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 五月大香蕉| 九九色网专区| 99久久99九九九99九他书对| 天天 日综合| 五月婷婷亚洲色图| 色婷婷影视| 婷婷综合网站| 久99| 丁香婷婷老司机久操| 五月天婷婷在线观看| 日日噜狠狠色综合久久| 五月丁香激情综合啪啪| 日韩av一区二区在线/日产精品久久久 | 丁香五月激情欧欧美| 9久久精品视频| www.婷婷| 色色色婷婷五月天| 啪啪干伊人婷婷| 91精品综合久久婷婷九色| 国产乱人偷精品人妻A片| 在线A色| 色噜噜狠狠色综合网| 极骚大香蕉伊人| 色五月婷婷中文字幕| 五月丁香狠狠| 激情涩涩网| 99爽视频| 9 大屁股在线视频精品| 三人荫蒂添的好舒服A片| 91成人看片| 五月激情开心婷婷| 99热在线播放| 久草狼人| 东北熟女高潮99综合99| 色婷婷成人做爰A片免费看网站| 丁香九月激情| 777久久久| 九九在线热九九在线热99热| 激情五月天网| 伊人久久婷| 亚亚州久久高潮| 热99这里只有精品视频| 天天激情综合| WWW久久久| 亚洲另类av| 天天综合天综合久久网| JAPANRCEP老熟妇乱子伦视频| 深夜男女福利刺激影院一区完整| 69色婷婷| 色 色 色综合com| 激情都市五月天| 美女va| 91人人爽狠狠狠| 亚洲Av成人在线观看| 以及AA大片看看| 日本欧美成人片AAAA| 99热精品中文字幕| 丁香婷婷五月天激情四射| 五月色亚洲| 综合伊人狠狠| 五月婷婷啪啪网| 日逼免费视频 | 婷婷色综合| 五月色婷婷中文字幕| 天天爽天天操| 亚洲色vA| 五月WWW| 婷婷性爱无码视频| 伊人午夜综合色啪| 操一操插一插| 91wwmm导航| 夜夜涩涩涩| 久久精品爱爱| 丁香久色| yazhouzonghesese| 色五月五月丁香| 五月天婷婷青青| www九九热| 五月开心婷婷网| 久久综合99| 婷婷五月天激情四射| 一级性感黄色内射视频| 4399在线日本A片| 婷婷丁香五月天色色| 婷婷丁香六月天激情四射网| 婷婷日韩| 久久999久久999久久999久久| 久re热视频| 六月丁香婷婷综合狠狠爱夜夜爱| 99九无网码| www婷婷| 这里只有精品视频视频在线观看| 美女天天久久| 色综合五月在线| www激情网| 五月丁香激情欧洲啪啪| 黄色激情五月天| 欧美色婷婷| 色呦呦美女| 九九99久久| 啪啪啪大香蕉| 狠狠综合网| 色五月亚洲| 激情av网| 香蕉综合在线| 5月色亭亭视频| 五月丁香色播| 色综合色综合色综合色综合| 99热青青草| 日韩999| 亚洲精品a成人在线播放| 伊人九九九久| 激情五月婷| WWW色综合| 插插五月天| 天天搞天天爽| 丁香五月婷久久| 色婷婷成人做爰A片免费看网站| 伊人婷婷福利网| www综合久久| 九九99精品| 亚洲五月天伊人| 天天激情站| 免费亚洲婷婷中文字幕| 国产古装妇女野外A片| 91日本在线免费| 久99热在线观看| 深爱五月婷婷开心中文字幕| 五月丁香六月婷婷网站| 五月婷婷丁香五月天| 色色色色网站| 91九九热| 99色视频| 亚洲婷婷激情五月天| 综合久久9| 风流少妇A片一区二区蜜桃 | Av大香蕉| 亚洲无码影音| 九九色99| 五月精品免费XXX| 激情五月天社区| 99网| 亚洲网综合在线| 精品99在线看| 亚洲色9| 五月婷在线视频免费看| 亚洲五月天婷婷| 色五月美女| 97爱综合| 婷婷六月网| 战争与艾拉电影免费观看| 粉嫩av懂色av蜜臀av熟妇| 中文字幕1区2区。| 日韩综合天堂| 五月网在线| 五月天婷婷在线视频| 九九Y精品热播| 99色综合网| 五月婷婷免费在线视频| 国产精品人人做人人爽人人添| 伊人五月天97| 欧美色小说婷婷| 丁香婷婷啪啪| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 青青草原中文字幕| 丁香五月色| 天天射影院| 欧美色色色色色| 丁香六月伊人| 思思精品视频| 久久亚洲无码| 深爱五月最新网址| 天天插天天射| 日本久久婷婷| 深情五月天| 人妻丰满精品一区二区A片| 亚洲AV人人操| 五月婷综合| 性按摩玩人妻HD中文字幕| 婷婷精品在线| 婷婷激情五月天激情| 国产毛多水多女人A片| 丁香五月另类色婷婷麻豆| www好屌操| 激情五月影院| AV在线免费播放| 六月婷婷在线| 五月天激情小说| 激情色色| 婷婷情色五月天| 中文字幕人妻AV| 我爱va亚洲va52| 婷婷精品视频| 婷色五月| 欧美性丁香色色五月天干干| 91九九九九九九| 亚洲激情丁香五月基地| 九九无码| 丁香五月婷婷啪啪| 97干欧美| 国产精品色婷婷99久久精品| 激情六月天婷婷| 精品五月花| 五月天激情无码高清 | anquye五月| 日本欧美成人片AAAA| 婷婷五月天激情网址| 色综合九九| 五月婷婷久久久久| 九九这里有精品| 99在线小视频| 日本VA视频| 99久久人人| 婷婷.com| 99精品久| 亚洲一区二区无码蜜乳av| 婷婷五月天性色| 国产日日夜夜操| 最近中文字幕2019视频1| 五月丁香色婷婷伊人| 深爱五月婷婷| 五月丁香激情综合啪| 亚洲成人综合在线| 色五月激情问网站| 色色无码| 996热| 九九热在线精品| 婷婷激情丁香五月婷婷激情丁香五月婷婷| 99免费在线| 激情99| 色欲丁香| 激情五月天婷婷直播| www.激情五月| 激情综合网五月天天| 精品一区二区三区免费毛片爱| 色婷婷五月天中文字幕| 五月婷婷六月丁香玖玖玫瑰91| 99熟女啪啪视频| 丁香五月日韩| 永久思思热在线| 中文成人在线| 伊人9999| 欧美操我| 99爽视频| 九九日本视频| www.9操| 婷婷五月天偷拍| 丁香五月婷婷综合91| 五月丁香操亭亭网| 九九综合网色全集| 色综合九九| 久99久视频免费观看| 久久久婷婷婷| 色综合天天网| 国产SUV精品一区二区6| 五月婷在线视频免费播放| Y11111111111少妇电影院| 五月天开心网| 99热这里在线精品| 激情玖玖sh| 《蜘蛛女》梁铮1995| 婷婷六月视频| 婷婷久久五月| 色区域网站视频| 91日日日| 天天干,夜夜爽| 蜜臀嫩草| 色婷婷88| 精品一二三区久久AAA片| 五月婷婷丁香色吧网| 一本到不卡高清DVD| 日本色爽| 五月天婷综合网站| 91精品刘玥| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 五月做爱| 久久99婷婷| 色五月丁香激情视频| 婷婷综合干| 无码任你操| 人人做人人看人人摸| 久久综合伊人77777蜜臀| 婷婷丁香成人| 欧美亚洲婷婷五月| 激情综合色图| 五月亭亭直播| 久久九九蜜| 色五月婷婷综合| 99热热热99精品丁香| 99热在线看片| 综合在线丁香五月| www久久艹| 裸体做A爰片毛片A片免费| 狠狠色综合精品视频在线| 狠狠色狠狠爱| 国产亚洲精品AAAAAAA片| 四色99久久| 996er在线观看| 欧美日本高清视频99| 丁香婷婷影院| 五月天婷婷在线AN| 狠狠干天天内射| 91丨九色熟女丨首页| 国产精品电影| 激情五月丁香激情综合网| 综合激情五月婷婷| 久久综合婷婷| 99精品在这里| 伊人网欧美在线男人天堂五月丁香| 99日热在线视频| 日本色综合| 婷婷性爱无码视频| 久久五月婷综合网| 99热手机在线精品| 成人开心五月天| 天天草天天爱| 黄色三级日本| 五月婷婷精品视频| 五月丁香香蕉| 综合网五月| 久久久妻人人人| 中文字幕五月久久婷| 人人爱操| 精品久久9| 丁香网五月网| 丁香五月六月久久综合| 九九视屏| 亚洲传媒在线观看| 五月天偷拍| 性爱网五月天| 亚洲av骚货| 激情五月六月丁香| caobi四区| 99操逼| 婷婷丁香五月综合网| www婷婷| 色女人久久| 色婷婷五月综合网| 色综合天天网| 色婷婷五月天av在线| 色欲婷婷五月天丁香| 日比视频91| 国产人妻人伦精品一区二区| 婷婷丁香久久| 在线中文亚洲| 玖玖资源天天无码| yazhouzonghesese| 久月丁香爱婷婷综合| 婷婷久久五月| 丁香五月玖玖| 亚洲综合色婷| 中文字幕丰满孑伦无码专区| 思思久久99| 高清无码视频网址| 日韩色色视频www| 国产熟女日日骚五月丁香爱| 日韩精品一区二区亚洲AV观看| 国产操逼视频网站| 最近中文字幕大全免费版在线| 97人人草| 色五月婷婷五月| 色色色999| 久久婷婷啪啪视频| 97在线刺激| 殴美综合激情五月天免费视频| 婷婷六月久久综合导航| 国色天香伊人狠狠色| 色五月视频无码播放| 婷婷五月天色网久| 色欲天天综合网| 日夜操B| 99精品热视频| 九色91国产| 婷婷五月天丁香激情| 超碰99热精品在线| 五月天婷婷Av| 婷婷六月成人| 伊人9草在线观看| 日韩精品99久久| 婷婷久久天堂网| 九九综合88| 超碰在线94| 亚洲色图啪啪| 久七香蕉| 4399在线观看免费高清黄色视频| 91丁香五月| 色色免费网站| 大香蕉久久| 噜综合| 99高级会所久久| 九月婷婷丁香| 五月婷导航| 久久婷婷综合五月趴| 五月婷婷欲色| av性爱网站| 另类激情首页| 青青草原亚洲天堂| 天天干天天干天天操| 91精品久久久久久| 五月天婷婷久久视频| 婷婷中文无码| 九九热精品| 国自产拍偷拍精品啪啪一区二区 | 丁香六月综合| 亚洲亚洲人成综合网络| 99ri网站在线观看| 久久久久人妻| 综合aV在线| 激情五月天色色色| 99干99| 久久伊人大香蕉| 婷婷丁香成人色综合| 在线综合91| 狠狠干综合网| 99热久草| 日日日,com| 亚洲人妻一区二区 | 夜夜夜夜夜骑撸| 外国碰视频网站97| 色五月色五天色情网| 色天堂在线| 国产这里只有精品| 国av网| 99久久视频| 91chinese在线| 狠狠肏综合网| 天天日天天干天天天| 天天色丁香| 开心婷婷五月| 丁香五月天堂亚洲社区| 色99热| 五月丁香六月婷婷激情网| 人人操五月天| 操日本人妻视频| 亚洲最大五月天成人网| 综合AV在线| 人妻丰满精品一区二区A片| 波多野结衣成人作品在线| 丁香五月自拍| 亚洲激情五月丁香久久久久| 国产va视频| 久热免费视频| 91综合在线观看| 婷婷国产综合| 天天插天天操| 丁香五月香蕉| 一起草性爱不卡视频| 91丨人妻丨国产丨丝袜| 久久婷婷六月综合资源| 伊人干综合| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 久激情网| 天天日天天爽夜夜爽| 久久大大香| 五月婷婷深爱六月| 丰满女老板BD高清A片| 婷婷五月天伊人在线| 六月 丁香 视频| 99九九精品视频| 五月婷婷影院| 午夜日韩久久久网站| 色狠久| 激情精品久久| 99成人精品视频| 99色在线观看视频者| 午夜精品777| 亚洲激情综合| 天天插综合在线| 六月丁香久久| 色99视频| 婷久看人爽| 99热9| 99碰超| 亚洲热久久| 激情色播| 99热在这里只有精品| 色婷五月| 色日本五月天| 538午夜激情| 丁香五月婷婷啪啪啪| 99在线精品视频| 激情五月天婷婷在线网址发给我| 色色日本欧美| 超碰国产AV| 欧美日韩国产日本精品四虎网网站物| 婷婷丁香小说| 色拍九九九| 第四色婷婷丁香五月| 1024你懂的欧美曰韩| 婷婷五月色天| 婷婷综合在线播放| www.色综合.com| 色99日韩| 久久国产色| 丁香五月图片| 大香网伊人久久综合| 思思99精品视频在线观看| 国产成人精品一区二三区熟女在线 | 五月天婷婷久久日| 六月色婷婷| 日日干干天天干| 牛牛澡牛牛爽| 五月婷婷影| 无码橾| 97人人做| 成人五月丁香社区| www.婷婷| AV 3P| 香蕉AV777XXX色综合一区| 国产一级婬片毛片| 大香蕉久久视频久久视频| 丁香五月乱中文字幕| 热99在线精品| 五月婷婷深深爱| 伊人久久婷婷| 99热在线播放| 婷婷色播色五月五色五月天色妇| 97高清国语自产拍| 99色最新在线视频网站| 玖玖九九9999在线观看视频精品| 五月天激情图片| 五月婷婷久久综合| 婷婷丁香六月天| 五月婷婷精品无在线| 国产高潮白浆一区二区| 丁香五月深爱五月婷婷| 日本天堂网站99| 九九大香视频| 亚洲中文字幕AV| 成人免费120分钟啪啪| 婷婷色爱| 91超级碰在线视频| 开心五月婷婷激情| 激情婷婷五月天在线观看| 色综合色色色色| 五月天亭亭俺也| 天天透天天摸天天舔| www.精品久9| 97久久人人操| 婷婷五月情色| 91色性感五月婷婷丁香| 人人摸人人干| 新久久五月天激情| 噢美99| 六月丁香综合| 色色色.com| 欧美操逼天堂| 成人无码髙潮喷水A片| 五月天综合在线观看| 亚洲婷婷在线播放十月| 成人丁香婷婷| 99热综合在线| 很很操很很操| 五月婷婷导航| 久久精彩免费视频| 天天婷婷| 久久天天天| 成人做爰黄A片免费看直播室男男| 91婷婷五月天嫩女| 五月六月丁香激情视频| 啪啪色激情五月天| av色色国产| www.五月瑟| 丁香 婷婷 激情 综合 五月| 99久久婷婷精品视频| 黄网免费看| 天天操天天谢| 开心五月婷婷婷美女| 国产精品久久久久久久久久| 开心五月深爱五月| 国产成人VA| 狠狠色噜噜狠狠| 欧美在线| 色婷婷国产精品综合在线观看| 99er免费在线观看| 婷婷精品综合| 99色爱| 丝袜大香蕉| 深爱婷婷丁香五月激情| 99re热精品在线视频| 六月婷欧美丁香综合| 这里只有精品视频99| 五月婷婷之美女图片| 欧美噜噜久久久XXX| 激情网五夜婷婷| 情色五月天网站| 亚洲综合狠狠艹| 欧美人人操| 五月丁香婷久久| 婷婷在线精品| 色丁香影院| 六月婷婷之青青草| 久碰婷婷视频| 免费观看全黄做爰的视频| 超碰人人艹| 五月天,激情四射,婷婷频道| 五月花综合网| 在线资源av-超碰中文在线-成人AV| 成人国产欧美大片一区| 大香蕉久| 色停停五月,在线观看| 亚洲成人电影aaaa| 九九99精品视频在线观看| 五月丁香花激情啪啪网| 亚洲V国产V欧美V久久久久久| 伊人久久婷| 综合色色色| 激情都市五月天| 九九国产精视频| 国产超碰av| 日韩成人中文| 六月婷婷激情| 色婷婷五月天久久| 人人做人人看人人摸| 五月激情丁香五月| 久久精品9| 久久精品天| 久久婷婷五月丁香蜜桃网| 四色永久成人网站| 色丁香五月婷婷| 月婷婷婷婷五月| 丁香五月色欲| 人妻肉射免费观看| 99啪啪网| 日本久碰| 五月伊人91| 亚洲V国产V欧美V久久久久久| 99在线精品观看99| 五月天淫乱视频| 99综合色| 欧洲综合视频在线观看。欧洲,亚洲综合食品在线观看。 | 色色色成人网| 操人久久| 深爱五月网| 激情婷婷六月| 天天在线久久综合 | 99热这里只有精彩| 婷婷97碰碰| 亚洲综合五月| 婷婷色5月激情网| 丁香五月天无码| 热的国产,热的综合,热的有码| 激情久久久| 丁香久月| 啪啪操操| 五月婷婷色色网址| jiuse91在线| 五月丁香啪| 人妻少妇色综合| www夜夜| 激情性爱五月天| 碰碰女| 人人干99| 激情床戏| 欧美色宗和激情| 色老久久| 99热天堂| 在线天堂9| 六月激情综合| 日日干天天| 97热在线精品|