欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM 真香定律放在技術(shù)圈一樣適用。以前總覺得線上排查問題靠日志、靠監(jiān)控、靠人肉加日志就夠用了直到真正把 Arthas 用起來才發(fā)現(xiàn)以前那些操作有多繞。Arthas 是一個(gè)開源的 Java 診斷工具不用改代碼、不用重啟服務(wù)可以直接 attach 到正在運(yùn)行的 JVM 進(jìn)程上實(shí)時(shí)查看類加載情況、方法出入?yún)?、調(diào)用棧、線程狀態(tài)、JVM 指標(biāo)還能反編譯和在線熱更新。它專門解決一類問題線上偶發(fā)、日志不全、無法本地復(fù)現(xiàn)、一重啟現(xiàn)場就沒了。無論你是后端開發(fā)、維護(hù)過老項(xiàng)目還是正在被“線上 bug 怎么都復(fù)現(xiàn)不了”折磨這篇文章都值得花十分鐘讀完。1. 為什么說它是排查線上問題的“真香”工具1.1 傳統(tǒng)排查方式的三座大山先聊聊大家最熟悉的排查流程。遇到線上故障第一反應(yīng)通常是翻日志。但日志工具抄出來的往往是“結(jié)果”不是“過程”很多關(guān)鍵參數(shù)、臨時(shí)變量、調(diào)用時(shí)序根本不存在。如果日志里什么都有那問題可能早就被監(jiān)控平臺發(fā)現(xiàn)了現(xiàn)實(shí)往往是日志不夠、不夠細(xì)、沒有參數(shù)上下文。接著你會想本地復(fù)現(xiàn)把線上數(shù)據(jù)導(dǎo)出來構(gòu)造請求打一遍結(jié)果發(fā)現(xiàn)本地怎么都復(fù)現(xiàn)不出來。因?yàn)椴l(fā)量、緩存狀態(tài)、時(shí)鐘順序、臟數(shù)據(jù)都可能影響最終結(jié)果本地環(huán)境永遠(yuǎn)只是線上環(huán)境的一種近似。最后一招是加日志重啟改一行 log.info編譯打包發(fā)版等流量進(jìn)入再看日志這中間耗時(shí)少說半小時(shí)多則幾個(gè)小時(shí)而且頻繁重啟會讓現(xiàn)場被破壞流量重放也未必能還原問題。這三座大山我相信每個(gè)后端都經(jīng)歷過。Arthas 恰好能繞開它們不需要提前埋點(diǎn)因?yàn)樗茉谶\(yùn)行時(shí)直接查看真實(shí)出入?yún)⒉恍枰磸?fù)發(fā)布因?yàn)樗苯硬僮鳟?dāng)前進(jìn)程不需要靠猜因?yàn)樗馨颜{(diào)用路徑和方法執(zhí)行細(xì)節(jié)攤開給你看。用過一次之后你會真心覺得“真香”。1.2 原理attach 與字節(jié)碼增強(qiáng)要理解 Arthas 為什么能做到這些得先知道它的原理基礎(chǔ)。Arthas 本質(zhì)上利用了 Java 的 attach 機(jī)制和字節(jié)碼增強(qiáng)技術(shù)。attach 是 JDK 提供的一種能力允許一個(gè) JVM 進(jìn)程運(yùn)行時(shí)連接另一個(gè) JVM 進(jìn)程并通過 Agent 方式執(zhí)行操作。字節(jié)碼增強(qiáng)則是在類加載或運(yùn)行時(shí)對已經(jīng)加載的類做動(dòng)態(tài)修改在方法執(zhí)行前后插入攔截邏輯相當(dāng)于給方法裝上一套“臨時(shí)探針”。這套探針是臨時(shí)的JVM 一重啟就沒了不會影響原有邏輯。原理本身在 Java 生態(tài)里不算多新鮮但真正難的是把這一套能力封裝得好用做成命令行交互式的產(chǎn)品。Arthas 做到的正是這一點(diǎn)從啟動(dòng)到使用幾乎不需要在應(yīng)用代碼里增加任何依賴這對排查場景來說是極大的優(yōu)勢。1.3 什么時(shí)候該想到用它很多人問什么場景下 Arthas 才是剛需。我的判斷標(biāo)準(zhǔn)很簡單只要你遇到“日志看不出來、重啟代價(jià)高、需要確認(rèn)運(yùn)行期狀態(tài)”這三個(gè)條件中的兩個(gè)就該考慮它。典型場景包括接口耗時(shí)突然變長、CPU 飆升、線程池被打滿、緩存數(shù)據(jù)異常、灰度環(huán)境某個(gè)請求表現(xiàn)不一致、老項(xiàng)目沒有源碼無法重新編譯。這里有一個(gè)容易被忽略的點(diǎn)Arthas 不是只給“救火”用的。在正常的壓測、聯(lián)調(diào)、性能分析階段也可以主動(dòng)用它。我經(jīng)常在壓測時(shí)開著 dashboard一邊加壓一邊觀察線程池大小、GC 頻率和熱點(diǎn)方法比事后看測試報(bào)告直觀得多。因?yàn)樗皇菑慕y(tǒng)計(jì)數(shù)據(jù)里做推測而是直接從運(yùn)行中的 JVM 里拿事實(shí)。1.4 為什么團(tuán)隊(duì)?wèi)?yīng)該統(tǒng)一學(xué)習(xí)Arthas 這類工具個(gè)人會用和團(tuán)隊(duì)都會用的效果差別很大。一個(gè)人掌握遇到問題只能是他上團(tuán)隊(duì)都掌握任何值班的人都能快速定位初級問題不用每次都把核心開發(fā)叫起來看服務(wù)器。我見過不少團(tuán)隊(duì)把 Arthas 列為后端必修技能要求每個(gè)人至少掌握 dashboard、thread、watch、trace 四個(gè)命令的基本用法我覺得是非常務(wù)實(shí)的做法。2. 上手必須先掌握的 6 個(gè)高頻命令命令速查表先放在前面后面會逐個(gè)細(xì)講命令用途典型場景dashboard全局面板CPU、內(nèi)存、GC、線程狀態(tài)一眼看全watch觀察方法出入?yún)⒋_認(rèn)參數(shù)是否正常、異常在哪拋出trace方法調(diào)用鏈耗時(shí)定位慢請求卡在哪個(gè)子調(diào)用thread線程分析CPU飆高、死鎖、線程阻塞jad反編譯看線上實(shí)際運(yùn)行的代碼mc redefine熱更新緊急修復(fù)后臨時(shí)止損2.1 啟動(dòng)與選擇進(jìn)程java -jar arthas-boot.jarArthas 的使用路徑非常直接。第一步下載 arthas-boot.jar放到服務(wù)器某個(gè)目錄下執(zhí)行java -jar arthas-boot.jar啟動(dòng)后它會自動(dòng)列出當(dāng)前機(jī)器上所有 Java 進(jìn)程輸入序號就能 attach。如果想跳過交互直接選進(jìn)程可以在后面直接加 PIDjava -jar arthas-boot.jar 1234512345 是目標(biāo)進(jìn)程的進(jìn)程號。剛上手時(shí)我建議大家執(zhí)行 help 看看當(dāng)前版本支持的命令列表因?yàn)椴煌姹局g命令細(xì)節(jié)會有差異老是照著老資料敲容易踩坑。有一個(gè)小細(xì)節(jié)Arthas 本身運(yùn)行需要 JDK但需要 attach 的目標(biāo)進(jìn)程不一定要用 JDK 啟動(dòng)部分 JRE 環(huán)境也可以兼容。不過實(shí)際部署中建議用和運(yùn)行環(huán)境同一版本的 JDK 去啟動(dòng) Arthas 客戶端減少無謂的兼容性問題。attach 成功后會進(jìn)入交互終端提示符變成$所有命令都在這里輸入。2.2 dashboard 一眼看全局attach 成功后的第一個(gè)建議命令是 dashboard。它會實(shí)時(shí)刷新一個(gè)面板展示 CPU 占用率、內(nèi)存使用、GC 次數(shù)、線程狀態(tài)分布、每個(gè)線程的 CPU 消耗等信息。這等于給 JVM 裝了一個(gè)實(shí)時(shí)監(jiān)控屏幕打開它就能快速判斷問題在哪一層是 CPU 整體打滿還是內(nèi)存上漲觸發(fā)頻繁 GC還是某個(gè)線程卡死。初次使用的人容易被大量指標(biāo)淹沒我一般只看四樣?xùn)|西最上面的 CPU 使用率、內(nèi)存區(qū)域變化、GC 頻率、線程狀態(tài)里 BLOCKED 和 WAITING 的數(shù)量。如果 GC 頻率異常優(yōu)先排查堆內(nèi)存和對象分配如果有大量 BLOCKED 線程優(yōu)先找鎖競爭。面板是持續(xù)刷新的按 q 可以退出回到交互終端。2.3 watch 查看入?yún)?、返回值和異常watch 是線上排查使用頻率最高的命令沒有之一。它的作用是對指定方法觀察當(dāng)方法被調(diào)用時(shí)打印出入?yún)ⅰ⒎祷刂祷蛘弋惓P畔?。watch com.example.order.OrderServiceImpl createOrder {params, returnObj, throwExp} -x 2這條命令的意思是觀察 OrderServiceImpl 類的 createOrder 方法當(dāng)它執(zhí)行時(shí)打印入?yún)ⅰ⒎祷刂岛彤惓ο笄短渍归_深度 2 層。這里用了 OGNL 表達(dá)式用單引號包裹內(nèi)置變量包括 params 數(shù)組、returnObj 和 throwExp。我第一次用 watch 排查問題時(shí)整個(gè)人的感覺就是開了天眼。以前要加日志重新發(fā)版才能看到的參數(shù)現(xiàn)在直接在當(dāng)前進(jìn)程里實(shí)時(shí)看到而且可以臨時(shí)加條件只觀察特定用戶或特定業(yè)務(wù)類型watch com.example.order.OrderServiceImpl createOrder {params[0]} params[0].userId 10086 -x 3條件表達(dá)式寫最后返回布爾值只有滿足條件才打印。這樣在流量大的接口下看不會被無關(guān)請求刷屏。2.4 trace 定位方法耗時(shí)分布如果說 watch 解決的是“參數(shù)對不對”trace 解決的就是“時(shí)間花在哪”。它會輸出指定方法的調(diào)用鏈路上每個(gè)子方法的耗時(shí)自動(dòng)計(jì)算總耗時(shí)和每個(gè)節(jié)點(diǎn)耗時(shí)執(zhí)行效果類似一棵調(diào)用樹trace com.example.order.OrderServiceImpl createOrder命令執(zhí)行后目標(biāo)方法一旦被調(diào)用你會看到類似下面的輸出---createOrder() # 總耗時(shí) 823ms ---checkStock() # 56ms ---deductBalance() # 720ms ---sendMessage() # 47ms順著耗時(shí)最大的節(jié)點(diǎn)繼續(xù)往下 trace逐層鉆取就能鎖定真正慢的底層方法。這個(gè)過程就像剝洋蔥把慢請求一層層拆到最小執(zhí)行單元。有一點(diǎn)要提醒trace 是通過字節(jié)碼增強(qiáng)實(shí)現(xiàn)的它只增強(qiáng)執(zhí)行命令之后發(fā)生的調(diào)用歷史調(diào)用不會回溯。所以想抓到想要的 trace 結(jié)果必須讓目標(biāo)請求再進(jìn)來一次。如果接口觸發(fā)頻率低可以配合定時(shí)任務(wù)或者手動(dòng)打一個(gè)測試請求。2.5 thread比 jstack 更實(shí)用的線程分析很多同學(xué)排查線程問題只會 jstack但 jstack 一下輸出大量線程棧分不清哪個(gè)線程才是問題源頭。Arthas 的 thread 命令可以直接按 CPU 消耗排序這個(gè)能力非常實(shí)用thread -n 3它會打印出 CPU 占用最高的 3 個(gè)線程同時(shí)帶上對應(yīng)線程棧。對比 jstack 還得自己去數(shù)線程 ID、對應(yīng) 16 進(jìn)制換算效率高了一個(gè)量級。它還能直接查死鎖thread -bFound one Java-level deadlock: thread-1: waiting to lock monitor ...thread -b會直接輸出檢測結(jié)果和相關(guān)線程棧不用再從 jstack 輸出里手工解析 Locked ownable synchronizers。如果需要看指定線程可以帶線程 ID 精確查看這個(gè)在分析阻塞場景時(shí)很管用。2.6 jad mc redefine 實(shí)現(xiàn)在線熱更新這一組命令要謹(jǐn)慎使用但在緊急情況下非常救命。jad 用于反編譯已加載的類可以看線上運(yùn)行的真實(shí)代碼而不是本地倉庫里可能已經(jīng)過期的版本mc 是內(nèi)存編譯基于 jad 查看后的源碼在內(nèi)存里重新編譯redefine 是把編譯好的字節(jié)碼替換到運(yùn)行中的 JVM 里。jad --source-only com.example.order.OrderServiceImpl /tmp/OrderServiceImpl.java mc /tmp/OrderServiceImpl.java -d /tmp redefine /tmp/com/example/order/OrderServiceImpl.class熱更新最典型的使用場景是線上有 bug 需要臨時(shí)改一行邏輯發(fā)布流程要走審批這時(shí)先用 Arthas 做臨時(shí)修復(fù)讓服務(wù)先恢復(fù)然后馬上走正規(guī)發(fā)布。要注意這個(gè)操作不會改磁盤上的 class 文件也不會寫回 jar 包服務(wù)一重啟就失效。而且不是所有代碼都能熱更新成功增加類、改變方法簽名的場景通常會失敗。3. 實(shí)戰(zhàn)從幾個(gè)真實(shí)故障看 Arthas 的實(shí)際用法3.1 場景一CPU 飆高快速定位到正則災(zāi)難性回溯我先講一個(gè)最常見的 CPU 100% 問題。某服務(wù)在活動(dòng)流量上來后CPU 使用率持續(xù)接近滿核業(yè)務(wù)方反饋接口響應(yīng)很慢。按老辦法先看 top 找到進(jìn)程 PID然后 jstack 導(dǎo)出線程棧再做 16 進(jìn)制轉(zhuǎn)換找到對應(yīng)線程整個(gè)過程相當(dāng)繁瑣。用 Arthas 的流程會快很多。attach 之后先執(zhí)行 dashboard整體看一眼 CPU 和線程狀態(tài)當(dāng)時(shí)很明顯看到幾個(gè)線程占用 CPU 非??鋸垺H缓髨?zhí)行thread -n 5它直接給出了 CPU 最高的 5 個(gè)線程及其調(diào)用棧。我看到一個(gè)線程棧反復(fù)停在同一個(gè)業(yè)務(wù)方法里跟進(jìn) trace 這個(gè)方法發(fā)現(xiàn)內(nèi)部有一段非常復(fù)雜的字符串正則匹配在特定輸入下觸發(fā)災(zāi)難性回溯CPU 全部耗在了正則引擎內(nèi)部。定位過程前后不到五分鐘全程沒有重啟服務(wù)。定位到原因之后我用 jad 反編譯出當(dāng)前代碼把正則邏輯臨時(shí)替換成樸素的字符串前綴匹配通過 mc 和 redefine 熱更新到線上進(jìn)程服務(wù)立刻恢復(fù)。這個(gè)案例給我的最大感觸是CPU 飆高和接口慢本質(zhì)上都是“定位問題”的效率問題。只要能看到線程在干什么排查時(shí)間就能從小時(shí)級縮短到分鐘級。3.2 場景二接口偶發(fā)超時(shí)trace 逐層揪出隱藏阻塞另一個(gè)案例是某接口偶發(fā)超時(shí)頻率不高大概每天幾次。這種偶發(fā)問題最折磨人日志里偶爾看到超時(shí)但不知道卡在哪個(gè)環(huán)節(jié)。我先用 watch 看接口入?yún)l(fā)現(xiàn)超時(shí)請求和正常請求的參數(shù)沒有明顯區(qū)別于是改用 trace 觀察調(diào)用鏈路。第一次 trace 還沒有抓到超時(shí)等了差不多十幾分鐘才有一次超時(shí)出現(xiàn)。這次 trace 輸出里接口方法總耗時(shí)接近 3 秒其中一個(gè)下游 RPC 調(diào)用的子節(jié)點(diǎn)耗時(shí)占 2.5 秒其他子節(jié)點(diǎn)都只有幾十毫秒。順著這個(gè)異步下游繼續(xù)往下定位最后發(fā)現(xiàn)是某個(gè)配置中心客戶端的刷新邏輯在特定時(shí)刻阻塞導(dǎo)致請求串行等待。這個(gè)例子想說明一個(gè)關(guān)鍵點(diǎn)很多偶發(fā)問題根本不體現(xiàn)在業(yè)務(wù)日志里因?yàn)闃I(yè)務(wù)代碼里沒有打印每一次下游調(diào)用的耗時(shí)明細(xì)。Arthas 的運(yùn)行時(shí)觀察能力等于給線上系統(tǒng)裝了一臺顯微鏡它能把正常日志看不到的細(xì)節(jié)全部拉到眼前。3.3 場景三驗(yàn)證修復(fù)方案不用發(fā)布就能試還有一種很常見的用法不是緊急救火而是驗(yàn)證方案。曾經(jīng)有一個(gè)灰度問題我們懷疑是某個(gè)枚舉映射導(dǎo)致數(shù)據(jù)錯(cuò)亂但不敢完全確定。改代碼發(fā)布會話成本高而且如果改完還是錯(cuò)的等于白折騰。我先用 jad 反編譯出線上實(shí)際運(yùn)行的類確認(rèn)枚舉字段順序和本地代碼不一致這是一個(gè)非常關(guān)鍵的信息。因?yàn)楸镜卮a經(jīng)過多次迭代線上的 class 可能已經(jīng)和 git 分支對不上。確認(rèn)問題后我在本地改好用 mc 和 redefine 熱更新到灰度進(jìn)程再跑一次請求問題復(fù)現(xiàn)時(shí)已經(jīng)不出現(xiàn)了這才放心走正式發(fā)布流程。很多人擔(dān)心熱更新有副作用。我的經(jīng)驗(yàn)是先在測試環(huán)境或灰度環(huán)境做驗(yàn)證確認(rèn)無誤后再對生產(chǎn)操作操作完成之后立刻用 watch 或重新發(fā)一次請求確認(rèn)行為符合預(yù)期。熱更新在 JVM 層是支持的但生產(chǎn)環(huán)境的變更仍要符合團(tuán)隊(duì)變更流程最好有同事在場一起確認(rèn)至少留一條操作記錄。4. 常見問題與排查技巧實(shí)錄4.1 attach 不上目標(biāo)進(jìn)程怎么辦我遇到最多的問題是 attach 失敗報(bào)錯(cuò)或者列不出進(jìn)程。這里有一個(gè)速查表基本覆蓋我遇到過的原因常見原因現(xiàn)象處理建議用戶權(quán)限不一致attach 時(shí)報(bào)錯(cuò)或無權(quán)限切換成目標(biāo)進(jìn)程同一用戶啟動(dòng)/tmp 空間滿了attach 后立刻異常退出清理 /tmp 下臨時(shí)文件目標(biāo)進(jìn)程已退出進(jìn)程列表里找不到用 jps 確認(rèn)進(jìn)程狀態(tài)端口被占用telnet 連接失敗指定新端口啟動(dòng)Linux 下 attach 有權(quán)限限制最好用和目標(biāo)進(jìn)程相同的用戶操作。Arthas attach 時(shí)會在 /tmp 寫臨時(shí)文件空間不足會導(dǎo)致各種奇怪問題。如果還是不行可以在啟動(dòng) arthas-boot.jar 時(shí)帶上--telnet-port和--http-port參數(shù)換兩個(gè)沒被占用的端口很多端口沖突的問題就解決了。4.2 對線上服務(wù)的影響到底有多大這是每個(gè)初次接觸的人都會問的問題。字節(jié)碼增強(qiáng)確實(shí)會帶來一些性能開銷但實(shí)際影響通常很小。我的實(shí)測經(jīng)驗(yàn)是在常規(guī)業(yè)務(wù)方法上開啟 watch 或 trace單次調(diào)用的額外開銷在幾毫秒以內(nèi)對整個(gè)請求來說幾乎感知不到。但如果是對超級熱點(diǎn)方法開 trace比如某個(gè)每秒調(diào)用上萬次的基礎(chǔ)工具方法開銷就會放大。這種基礎(chǔ)方法被所有上層業(yè)務(wù)調(diào)用攔截和記錄的成本會被放大到不可忽略。我的建議是精準(zhǔn)選擇目標(biāo)方法不要對整個(gè)包路徑做通配觀察觀察期間留意 dashboard 的 CPU 變化如果發(fā)現(xiàn)明顯升高立刻縮小范圍或者停掉觀察命令。4.3 權(quán)限控制不能忽視Arthas 很強(qiáng)強(qiáng)到可以隨時(shí)查看進(jìn)程內(nèi)數(shù)據(jù)、修改運(yùn)行中的代碼所以它也是一把雙刃劍。在團(tuán)隊(duì)里使用至少要做到三件事控制在指定的運(yùn)維和開發(fā)人員范圍內(nèi)使用不要全員開放服務(wù)器權(quán)限生產(chǎn)環(huán)境使用前提前申請臨時(shí)權(quán)限并記錄操作原因操作完成后及時(shí)退出交互終端不要長期掛著會話。有些團(tuán)隊(duì)會把 Arthas 封裝成內(nèi)部平臺通過 Web 界面暴露受限接口避免開發(fā)人員直接登錄服務(wù)器亂敲命令。我比較認(rèn)可這種思路能力強(qiáng)大和可控并不矛盾。安全這塊做到位工具才能長期用下去。4.4 部分命令在生產(chǎn)環(huán)境不可用跟具體 JDK 版本相關(guān)的問題也值得關(guān)注。某些 JDK 版本下 jad 反編譯可能不完美尤其是涉及 Lambda 表達(dá)式或者動(dòng)態(tài)代理生成的類時(shí)反編譯結(jié)果會讓人看得很困惑。redefine 的限制更多對新增成員變量、改變方法簽名這類結(jié)構(gòu)性變更通常不支持強(qiáng)行操作會報(bào)錯(cuò)。遇到這種情況不要死磕熱更新。先用 watch 拿到足夠信息確認(rèn)根因后該走發(fā)布流程就走發(fā)布流程。工具的作用是幫你看清現(xiàn)場而不是替代正常的變更管理。5. 使用經(jīng)驗(yàn)和技巧分享5.1 條件表達(dá)式讓 watch 不再刷屏watch 默認(rèn)打印所有請求在流量大的接口下輸出會刷得飛快關(guān)鍵是里面有價(jià)值的請求可能只占很小比例。用條件表達(dá)式可以做到精準(zhǔn)觀察比如只看某類訂單創(chuàng)建失敗的請求watch com.example.order.OrderServiceImpl createOrder {params[0], returnObj} params[0].orderType 2 returnObj.success false條件表達(dá)式寫在命令最后返回布爾值滿足條件才觸發(fā)打印。這個(gè)技巧能讓你在繁忙環(huán)境下直接鎖定目標(biāo)請求不用從大量日志輸出里去撈。5.2 ognl 命令主動(dòng)觸發(fā)靜態(tài)方法調(diào)用有些時(shí)候你不僅想看還想主動(dòng)觸發(fā)某個(gè)方法比如清理某個(gè)靜態(tài)緩存、查看某個(gè)配置項(xiàng)。Arthas 提供 ognl 命令可以不寫代碼直接執(zhí)行靜態(tài)方法調(diào)用ognl com.example.config.CacheManagerclear()這種操作在應(yīng)急時(shí)很有效但風(fēng)險(xiǎn)也高它相當(dāng)于直接往 JVM 里執(zhí)行代碼。我建的建議是先把命令在測試環(huán)境驗(yàn)證一次再上生產(chǎn)并且必須明確這個(gè)調(diào)用會影響什么、會不會有并發(fā)問題。5.3 腳本批量采集線程現(xiàn)場遇到周期性出現(xiàn)的問題比如每小時(shí)整點(diǎn)偶發(fā)一次卡頓單次執(zhí)行 thread 不一定能抓到現(xiàn)場??梢杂靡粭l簡單的 shell 循環(huán)把 Arthas 的批處理模式用起來while true; do echo --- $(date) --- thread_dump.log java -jar arthas-boot.jar PID -c thread -n 5 -i 1000 thread_dump.log 21 sleep 5 done這里用到了-c參數(shù)可以讓 Arthas 執(zhí)行一條命令后自動(dòng)退出非常適合在腳本里批量使用。-i 1000是采樣間隔單位是毫秒。把多次采集到的線程快照放在一起對比周期性問題的觸發(fā)特征就很容易暴露出來。5.4 工具是幫手不是萬能藥最后說一點(diǎn)個(gè)人觀察。Arthas 確實(shí)香但解決的是“運(yùn)行態(tài)信息不可見”的問題很多線上故障的根因其實(shí)是代碼邏輯、容量規(guī)劃或者架構(gòu)設(shè)計(jì)。工具能幫你更快定位問題但定位完之后該重構(gòu)要重構(gòu)、該擴(kuò)容要擴(kuò)容不能把熱更新當(dāng)成常態(tài)化修復(fù)方式。我現(xiàn)在的習(xí)慣是復(fù)雜問題先用 Arthas 快速觀察現(xiàn)場拿到關(guān)鍵證據(jù)后把結(jié)論和操作記錄整理到運(yùn)維工單然后走穩(wěn)定的修復(fù)流程。工具負(fù)責(zé)把定位時(shí)間從小時(shí)降到分鐘剩下的工程質(zhì)量問題還是要靠扎實(shí)的代碼和可靠的變更流程解決。前后踩過幾次坑之后我對 Arthas 的態(tài)度已經(jīng)從“要不要學(xué)”變成了“怎么用得更穩(wěn)”。如果你也被線上問題復(fù)現(xiàn)難、定位慢困擾別猶豫找個(gè)低峰期在測試環(huán)境把 watch、trace、thread 這幾個(gè)基礎(chǔ)命令練熟真到救火那一刻你會感謝這個(gè)“真香”工具。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
熟妇人妻中文字幕无码老熟妇| 4399人妻无码久久久| 国产成人精品亚洲线观看| 丁香六月婷婷综合麻豆| 婷婷丁香五月激情密臀av| 久9精品视频| 丁香大香蕉| 婷婷五月综合激情| 99热精品在线观看| 中文字幕丁香五月| 人人草碰| 噼里啪啦在线观看免费完整版视频| 怡红院99| 久热综合| 日韩AV一区二区三区| 99九九视频| 亚洲婷婷视频| 久久婷婷五月天激情四射| 色99网| 人妻爽爽爽久久久久久久久| 婷婷色五月天色| 99热亚洲精品| 91超级碰在线视频| 国产婷伊人| 欧美爆乳一区二区三区| 午夜一区| 日韩狠狠色婷婷| 粉嫩AV久久一区二区三区 | 99精品在线观看视频| 99亚州综合精品成人网| 五月开心久久| 精品无码99| 五月天激情综合首页| 人五月天婷婷喷水| 精品夜夜澡人妻无码AV| 狠狠狠色激情综合适合| 婷婷综合激情五月综合| 婷婷五月天天天日日夜夜| 日韩无码亚欧无码| 综合久久十三| 丁香六月天婷婷色| 色和综合网| 婷婷五月天丁香花| 五月婷婷日| 五月的婷婷六月丁香| 超碰97久久| 亚洲成人在线在线| 日韩AV免费电影在线播放| 九九色色网| 婷婷激情五月天小说校园| 天天做天天爱天天摸| 99爱视频免费| 一本伊人色婷| 99热无码| 很很干天天干| 五月丁香六月玩女人| 亚洲综合婷婷五月| 丁香久久五月天视频在线观看| 九月激情网| 中文字幕精品推荐免费在线观| 激情六月婷婷| 九九99精品视频| 精品国产va久久久| 五月激情站| 丁香五月人妻熟女| 五月天激情网址| 播五月婷婷开心| 色婷婷久久综合久色综| 99热18| 激情婷婷在线中文字幕| 亚洲九区| 激情5月婷婷狠狠干| 99热r| 在线成人网站| 六月丁香射婷婷欧美色图片| 久久成人综合五月天| 免费视频舔| 99er日韩| 五月丁香激情婷婷综合| 婷婷五月视屏| 亚洲激情五月天| 五月丁香婷婷综合网| 色综合大香蕉| 久热99| 色色亚洲无码| 日日鲁鲁夜夜爽爽| 综合五月丁香六月婷婷| 97碰碰视频在线观看| www.日韩国产| 无码人妻少妇色欲AV一区二区| 丁香五月综合| 婷婷亚洲在线| 欧美超碰亚洲| 亚洲五月婷婷| 婷婷深爱五月丁香网| 五月丁香婷中文| 久热网站| 可以免费观看的AV| 久热视频97AV在线观看| 日本69日人视频| 欧美欧盟性爱网| 婷婷五月天Av| 婷婷五月婷婷| 欧美日韩欧美| 日韩超碰在线| 亭亭五月天黑人2014| 开心色五月天久久久久久久| 夜夜操夜夜操| 超碰啪啪网| 99热久97| 亚洲、热| 婷婷欧美| 超级碰碰碰碰视频| 激情五月天啪啪| 丁香综合网| 婷婷狠狠干| 欧美 日韩 成人在线| 99天堂网| 偷拍91九色| 色婷婷手机在线| 日夜夜天天| 偷偷操99| 丁香五月激情视频在线| 99热网站| 秋霞AV美国| 天天色情站| 丁香五月六月婷婷殴美综合| 激情深爱五月天| 99热 精品在线| 热久久婷婷| 婷婷激情小说网| 亚洲五月天婷婷综合| 天天日日夜夜| 天天碰夜夜操| 日韩好吊操| 黄色激情五月天| 色婷婷小说| 人人摸人人干| 婷婷丁香五月天哟啪| 色噜噜婷婷| 五月色色色| 五月桃花网综合| 丁香婷婷五月激情| 久久婷五月综合| 丁香婷婷成年| 激情五月天之六月婷婷| 五月天大香蕉| 天天色天天搡| 五月婷婷激情刺激| 五月天激情网站| 热91久| 久草A片| 丁香五月六月激情| 精品欧美一区二区三区久久久| 亚洲成人AV在线播放| 香蕉AV777XXX色综合一区| 五月天激情综合| 国产91九色| 天天舔日日肏夜夜爽| 婷婷五月天成人网| 国内婷婷丁香社区在线播放| 色综合色综合网| 精品人妻在线| 婷婷六月激情| 久久九九网| 91九色无码日韩| 最熟少妇乱码| 99性色| 99久久超级| 99爱最新免费视频在线观看| 人五月天婷婷喷水| www,26uuu,c0m,色情| 操人妻AV| 丁香五月综合网亚洲综合欧美狠狠| 亚洲人妻av| 91爱啪啪| 99∨VTV| 六月婷婷天天操夜夜爽视频| 天天日天天爽| 翔田千里无码| WWW.HENHENL.| 综合色影院| 五月天偷拍| 色9999综合久久| 五月天色裸体视频| 91久久网站| 天天日日爽| 婷婷在线中文字幕| 综合五月天| 综合色影| 久草热久草在线视频| 久久久妻人人人| 婷婷五月综合激情| 深爱激情网五月天| 最新AV在线观看| 丁香五月天AV| 如何安全看伊人婷婷| AV人人操| www.婷婷,com| 综合久久高清| 欧美三级巜人妻互换| 九九亚洲小视频| 九九视频在线观看视频6| 五月天婷婷在线观看精品男人| 色五月婷婷五月天| 99在线观看视频| 中文字幕黄色电影网址| 老司机伊人| 玖玖资源部在线播放| 乱岳熟女50岁| 五月天婷婷在线视频| 五月丁香婷草| 色色色在线免费视频| 内射爽无广熟女亚洲| 亚洲AAA| 久草婷妨| 99在线精品免费视频| 天天日日夜夜爽| 国产黄色在线| 九九色婷婷| 性婷婷| 超碰中文字幕在线| 久久99热这里只频精品6学生| 热的五码久久精品| 人人超碰99| 色色婷婷五月天| 开心婷婷五月花| 丁香五月玖玖| 激情六月婷婷| 一区二区免费看| 五月婷婷新网站| 婷色综合| 欧美叉叉叉BBB网站| 色色色色色色网站| 色大综合| 国产永久一二一起草| 色婷婷网大全在线| 五月婷婷深深爱| 六月丁香婷婷五月| 白天AV月月| 婷婷激情视频| 日本人妻久久| 人妻激情久久| 中文字幕日产A片在线看| 新激情综合| 五月天成人在线视频网站| 丁香五月色欲| 色婷婷丁香五月色综合网| 国产三级片91| 久久婷婷资源| 香蕉色色网| 深爱激情五月天| 日日爱激情| 色视频2025| 日本情色一区二区| 丁香五月97视频| 九九操操| 色五月涩涩婷婷| 色婷婷五月天堂资源| 九九热a| 性爱激情小说AV五月丁香花| 婷婷五月欧美| 国产性爱色| 丁香五月婷婷色综合| 老司机日日夜夜青草| 欧美成人色婷婷| 色婷婷六月综合| aⅤ79成人片| 婷婷玖玖丁香| 色在线免费观看| 久久精品99国产精品日本| 超碰人人射| 五月激情偷拍| 五月丁香六月欧美综合网站| 综合五月婷婷| 天天日天天摸| 五月天久久综合| 色婷婷成人| 99er在线观看| 这里只有精彩视| 久久婷婷五月丁香| 天天天久久人人人合| 精品99网站| 天天综合.com| 久热播这里只有精品| 综合五月亭亭9| 91艹人| 亚洲激情校园| 偷拍视频五月天| 青青草日本亚洲| 丁香五月激情婷婷激情| 深爱激情av| 99久久精品视频女神1| 丁香五月网| 91色色五月天| 亚洲啪啪自拍| 婷婷五月天AV在线| 久久婷婷青草五月天| 五月丁香婷婷啪啪| 国产欧美日韩一区二区三区| 五月婷婷婷婷| 五月婷婷激情综合av| 高清无码视频网址| 婷婷五月综合激情| 任你躁XXXXX麻豆精品| 国内一级片| 欧美色激情四射| 五月丁香六月婷婷的女人| 9色免费网| 99啪啪网| 日本天天综合| 五月综合激情视频| 色99自拍| 九九色婷婷五月天| 婷婷欧美激情| 久久婷婷五月草视频在线播放| 亚洲激情视频网| 五月天六月婷| 深爱婷婷网| 国产毛片精品一区二区色欲黄A片 国产人妻777人伦精品HD | 国产婷婷色综合AV蜜臀AV| 狠狠精品干练久久久无码中文字幕 | 夜夜撸夜夜骑| 婷婷五月丁香成人网| 成人性爱精品视频| 色五月超碰| 婷婷五月天电影网| 欧美亚洲色色色色| 五月丁香激情四射综合| 亚洲色欲AAAAAA| 丁香五月在线| 乱精品一区字幕二区| 伊人激情综合| 97色干| 婷婷五月天无码视频| 可以免费看AV网站| 婷婷综合| 一本九九色| 日韩婷婷| 亚洲第一综合| www久久久久久久久久久久久久久久久| 欧美啪啪五月天| 五月天激情综合首页| 婷婷久久亚洲| 丰满少妇猛烈A片免费看观看| 激情久久网 | 99热免费18| 99久久亚洲精品视频| 天天天日天天天干| 色五月婷婷网| 婷婷五月天av| 久超超碰| 久久人操-久草婷婷-成人AV| 99国产性感视频| 亚洲精品婷婷| 婷婷五月六月丁香| 99五月婷| 人人草人| 婷婷五月丁香99| 丁香六月婷婷综合激情欧美 | 26uuu| 丁香五月婷婷欧美成人色图| 丁香六月无码| 五月丁香啪啪啪| 91干在线| 国产精品视频免费看| 天天射天天操天天干| 九九久久玖玖爱| 超碰在线精品| 99乱视频| www.yw色| 久久久久久97| 99热人人| 这里只有精品在线观看视频| 婷婷五月av| 9l视频自拍九色9l视频在线观看| 日本人妻操| 日日操,夜夜爽| 韩国真做片在线观看| 婷婷情色五月| 天天色视频| 182tv992tv人之初午夜免费观看| 五月丁香龟婷婷| 丁香六月婷婷综合| 色情五月天视频网| 色一情一乱一乱一区91Av| 色你久久| 996er热| 丁香六月色婷婷| 婷婷久久久久| 天天狠狠婷婷在线| 98国产精品综合一区二区三区| 深爱综合网| 噜噜干日本| 熟女激情网| 九月影院義母在线播放| 婷婷中文字幕| 亚洲网站在线鸭子av| 天天日天天爽| 丁香婷婷五月天色播| 色综合激情| 操一区| 亚洲综合色色色| 91干| 欧美精品中文字幕亚洲专区| 99热这里只有免费| 色色色色色五月丁香| av在线观看网站| 另类激情五月| 97天堂| 天天色情站| 无码一区精品一区视频| 人妻操逼视频| 久久只有精| 婷婷六月天国产综合| 少妇人妻综合色6699| 丁香六月综合激| 婷婷五月综激情| 日韩黄黄| 偷拍91九色| 色五月欧美| 婷婷色日本| 影音先锋偷偷色男人站| 日本久久高清| 丁香久久五月天视频在线观看| 日日操夜夜操中国无码| 成人av免费观看| 五月六月丁香激情视频| 婷婷久久色五月婷婷久久久| 99在线热| 操一操插一插| 亚洲精品无码久久| 久久九九亚洲| 乱精品一区字幕二区| 丁香五月婷婷网| 天天日天天狠狠操| 婷婷最新地址| 亚洲激情久久| 丁香五月先锋| 亚洲欧州色情在线观看| 婷婷五月天改成什么了| 欧美日韩二区在线| 97久久人人| 激情婷婷丁香色五月| 亚洲、欧美、国产另类笫二区| 精品一二三区久久AAA片| 色播五月| www.久久66| 久久一级片| 337p大胆噜噜噜噜噜91Av| 99久久久| 热的无码综合视频| 另类的婷婷| 色色色9 9 9| 色噜噜婷婷| 五月婷婷网五月在线| 伊人春天av| 91在线日本| 日本婷婷激情四射中文字幕在线观看| 天天爽夜爽| 草五月| 午夜不卡成人一区二区| 色情五月天丁香社区| 色色三级视频| 少妇AB又爽又紧无码网站| 国产精品美女| 丁香五月成人社区| 色五月婷婷色五月| 天天爱夜夜爽| 婷婷五月天另类网站| 思思热闹这里只有精品| 我爱大香蕉| 激情综合网色五月| 99噜噜| 中文字幕亚洲-区久久99婷婷| 激情综合视频| 久久激情四射| 99精品丰满| 九色视频九色九色91jiuseshipin| 国产精品人成A片一区二区| 亚洲av网站| WWW99热| 日日夜夜干| 天天狠天天叉| 激情五月丁香六月综合AVXXXX| 五月天婷婷婷| 五月丁香六月情| 久久五月丁香六月婷| 丁香五月综合色婷婷| 婷婷婷婷色| 婷婷成人五月天成人文学| 色综合色综合色综合| 天天干、天天日日| 五月综合婷婷五月| 五月天婷婷伊人| 久久99激情| 亚洲无码另类| 九九视频这里只有精品| www.狠狠| 五月天另类小说久久小说网| 激情久久综合网| 丁香久月| 久久五月天激情美女| 色婷婷视频| 日韩欧美骚货| 五月婷婷九九热| 亚洲最大在线| 在线观看国产高清视频免费网站| WWW.桔色成人.COM| 日本少妇AA一级特黄大片| 精品亚洲日韩99欧美片| 欧美性二区| 日韩婷婷五月天| 久久这里只| 色婷久| 五月天综合婷婷| 99热天堂| 免费无码毛片一区二区A片| 啪啪日热| 综合色色网| 五月婷婷香蕉| 91狠狠色色丁香婷婷综合久久| 在线播放成人网站| 91热久88| 69热在线| 99热无码| 久久婷婷视频| 九月激情综合婷婷| 激情婷婷丁香色五月综合| 狠狠五月天激情| 婷婷丁香97| 精品无码久久久久久久久| 欧美色综合天天久久综合精品| 久色大香蕉| 97久久视频| 伊人色综在线| 99re在线观看| 久久婷婷大香蕉| 色热久资源| 婷婷五月综合亚洲| 清纯唯美 激情四射| 五月天停婷基地| 五月激情婷婷开心五月| 五月成人天| 另类激情中文| 色播播婷婷| 激情丁香网| 91精品国产91久久久久青草| 色网站9| 免费色色色| 综合伊人久久| 91精品综合久久久五月天| 婷婷五月激情欧美| 日日夜夜天天综合| 色五月婷婷色| 99在线69| 国产精品日日躁夜夜躁| 99re在线免费视频| 丁香五月激情视频在线| 日本三级日本三级99| 婷婷丁香综合网| 久久永久网址| 一级黄色影片| 九九九九九九九九九九九九九国产精品| 26uuu国产色| 色婷婷久久综合| 婷婷日本色| 五月天黄色激情小说| 色色婷婷丁香| 婷婷97狠狠干| www.久久久久| 欧美婷婷六月丁香综合色连续高潮抽搐| 婷婷五月天丁香社区| 日日操夜夜操中国无码| 五月之婷婷| 日本色婷婷| 日本成人综合| 综合一区二区三区| 大香蕉伊人爱在线| 亚洲国产色色| 丁香五月天婷婷大香蕉| 另类五月激情| 99视频在线观看视频| 午夜五月天| 91av色色乱视频| 欧美成人猛片AAAAAAA| 色五月天丁香| 日本婷婷五月天| 天天色综和网| 久久99热这里只频精品6学生| 激情综合啪啪啪| 激情五月天社区| 久青青久| 国产黄色在线观看| 亚洲bt丁香五月天婷婷激情小说| 久久精99| 六月激情综合| 97碰在线视频| 九九Av| 色五月之第四色| 极品少妇XXXX精品少妇偷拍| 26UUU精品一区二区Com| 婷婷丁香精品视频在线观看| 五月天国产| 色婷婷四虎| AV性爱网| 五月婷婷性爱| 大香蕉九九| 激情 婷婷 丁香五月天| 激情五月婷黄版| 色情久久久| 99这里有精品视频3| 国自产拍偷拍精品啪啪一区二区| 欧美日本一区二区三区| 97婷婷狠狠久久综合9色| 九热...av| 五月丁香久久网| 丁香五月激情综合| 色色哒五月婷婷六月丁香| 91色在线 | 日韩| 深爱激情丁香| 激情九九这里只有精品| 久久婷婷五月综合成人d啪| 五月丁香六月在线| 日日夜夜婷婷| 99 热| 性做久久久久久久免费看| 激情五月视频在线婷婷| 玖玖爱伊人| 精品婷婷五月天| 色色综合五月| 99热91| 狠狠干夜夜干| 婷五月天在线草| 亚洲精品网址| 中文字幕日本最新乱码视频 | 秋霞成人毛片一级A片| 色五月xxx| 一起操 91N.com| www.91久久| 色五月在线播放| 丁香激情五月综合网| 四川BBB搡BBB搡多人乱亂| 天天射影院| 丁香五月日本| 婷婷丁香五月天综合AV| 超碰网站在线观看| 国产毛片操B| 亚洲99热| 激情久久丁香| 亚洲另类噜噜| 极品 少妇 内射| 久久婷婷综合基地| 久久九九99.www| www.色婷婷| 婷婷久久亚洲| 久草a片| 人人噜天天上| 婷婷色丁香五月| 久久久精品99亚洲综合| 欧美综合五月丁香六月婷| 91a片爽| 日本久久天堂| 亚洲日日日| 欧美影院| 欧美激情VA永久在线播放| 婷婷之六月丁香| 五月丁香激情片| 日韩欧美一道四区中文字幕| 1769在线观看欧美国产| 亚洲乱码日产精品BD| 99碰超| 玖玖婷婷色五月| 激情五月,色播五月| 国产片色| 欧美婷婷五月天综合| 国产Va视频| 思思色播| 99无码免费视频| 精品久久久999| 91|九色|动漫| 91狠狠色色丁香婷婷综合久久| bukadeavzaixian| 99视频综合网| 国产肥白大熟妇BBBB视频| 女人天堂AV| 丁香五月伊人| 亚洲激情综合| 丁香五月天欧美| 欧美激情 日韩无码 婷婷 五月天| 五月丁香色情| 99在线公开视频| www.91AV.COM| 一起草无码| 91久久综合亚洲噜噜成人在线 | 成人五月天丁香婷| 色五月91| 综合综合色色| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 国产JK精品白丝AV在线观看| 日日躁夜夜躁狠狠久久AV| 99国产精品久久久久久久久久久| 一起操最新网址| 超碰丁香五月| 丁香五月综合久久| 欧美va视频| 26UUU| 色五月色五天色情网| 99热在线成人网站| 日本女人久久| 亚洲午夜av| 免费无码毛片一区二区A片| 97色吧| 人人操人人妻| 久久与婷婷| 精热在线综合网| www,欧美干干干干干干| 99热这里全是精品| 六月激情婷婷| 亚洲V国产V欧美V久久久久久| 色婷婷六月| 性爱激情小说AV五月丁香花| 丁香婷婷久久 | 江苏少妇性BBB搡BBB爽爽爽 | 大香蕉久| 欧美日韩一区二区三区四区| 婷婷中文字暮| 五月天婷婷激情网| 五月婷婷激情四月| 欧美影院婷婷| 婷婷最新地址| 国产成人av在线播放| 九九热免费观看视频| 亚洲色激情| 激情五月婷婷| 亚洲乱码日产精品BD| 91丨九色熟女丨首页| 噜噜色五月| 色婷婷丁香| 六月婷婷激情| 51精品国内探花| 欧美黑人大吊| 色综合久久五月天| 五月丁香拍拍激情综合| 99久久大片| 色婷婷色99国产综合精品| 少妇搡BBBB搡BBB搡毛茸茸| 欧美日韩成人在线网| 激情五月激情综合网一级丸片 | 六月婷五月丁香| 99激情| 色五月,com| 色蜜婷婷| 国产精品婷婷午夜在线观看| 婷婷五月天丁香| 国产操逼网站| 五月天婷婷成人资源站| 99久久99久久综合| 97超级碰| 婷婷爱综合| 色~性~乱~伦~噜| 色爆五月| 色综合色欲综合天天免费| 亚洲欧美综合7777色婷婷| 激情综合婷婷久久| 久8色色| 国产美女无遮挡裸体毛片A片| 五月天婷婷av| www.婷婷六月天| 91xxxx九色| 九九机热| 超级碰碰碰久久网站| 26UUU成人网| 人。妻久久| 中文字幕成人版| 另类小说五月天综合网| 免费精品99| 超碰免费在线| 26UUU精品一区二区| 91狠狠色丁香| 99啪啪网| 五月天婷婷綜合院| 婷婷五月花| 26uuu丁香婷婷五月| 丁香五月六月综合欧美| 人人叉久| 婷婷五月花| 亚洲成人网站在线播放| 五月婷婷综合久久| 99精品人人| 国产 亚洲 在线| 久久精品99久久久久久| 五月婷婷在线视频| 影音先锋一区二区三区| av网址在线| 久热婷婷| 久久久久9| 久草五月天电影网| 偷拍丁香九月激情| 婷婷五月六月丁香综合| 人人超碰99| 99手机在线精品视频| 丁香六月婷婷| 婷婷欧美综合| 婷婷欧美激情综合| 丁香婷婷六月激情文学 | 热这里| 婷婷激情四射五月天| 老司机伊人| 丁香五月综合激情性爱| 色99网| 超碰资源在线| 任你艹| 婷婷五月天亚洲精品| 91seAV| 色五月婷婷五月天| 最新日本A片| 国产精产国品一二三在观看| 丁香五月激情澎湃一区| 97碰碰电影| 丁香五月香蕉| 日本va视频| 97久操视频| 色五月大香蕉| 五月婷婷自拍视频| 97五月婷婷| 全部老头和老太XXXXX| 五月天激情社区| 97干97色| av免费在线看不卡无毒| 婷婷五月色惰| 五月婷婷新网站| 操人妻AV| av在线免费网站 | 五月天丁香成人社| 五月综合色| 人人爱人人草| 亚洲色色图片| 99热www| 色婷婷电影网| 五月丁香六月婷婷操操操| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | www.久久爱.com| 天天日日夜夜| 激情五月丁香六月| 六月激情婷婷色| 涩 五月 婷婷 狠狠| 五月丁香啪| 色 色 色综合com| 情欲综合网| 久久五月天色婷婷| 亚洲激情综合| 亚洲综合视频网| 天天爽天天爽夜夜爽| 成人一级片| 人妻激情久久| 99国产精品白浆在线观看免费| 99热8| 丁香五月激情性色郤| 伊人久久大香蕉网| 开心激情婷婷| 99久久精| 婷婷色色丁香五月天| 日本色色色色色色色色一色二色| 婷婷色综合| 激情五月天激情五月天| 第四色婷婷色五月| 综合激情伊人影视在线| 69精品人人人人人人| 99热草草| 婷婷五月天小说| 大香蕉综合网| 婷婷五月花| 日婷婷久久开心| 伊人狠狠综合| 九九在线免费观看| 婷婷六月丁香激情| 欧美在线视频99| 天天综合久久| 成人国产欧美大片一区| 激情五月天偷拍综合网| 五月婷婷开心亚洲无| 狠狠综合久久综合| 久99| 五月丁香婷婷六月| 丁香婷婷激情| 五月天婷婷综合免费| 婷婷丁香视频| 无码激情精品色婷婷久久久久| 婷婷五月天国产精品| 久操人妻| 五月丁香婷婷色色| 成人国产综合| 另类视在线| 黄网免费观看| 激情中文在线| 成人婷99最新| 99re视频在线播放| 色五月综合网| 香蕉国产2013| 99久久五月婷婷| 亚州色综合| 亚洲色五月婷婷| 超碰爱爱爱| 色婷婷无吗| 新激情综合| 99ri在线播放| 先锋五月婷婷丁香草草| 影音先锋一区二区三区| 操操啪| 久久婷婷青草五月天| 99热这里只有精品国产免费| 日本女天天爽| 久久这里只有国产精品视频| 欧美激情2025| 99热这里是精品| 超碰高清在线| 色综合激情| 色综合久| 久久综合九九| 亚洲国产精品二二三三区| 丰满人妻妇伦又伦精品国产 | 国产精品24r| 狠狠色噜噜色狠狠狠综合色| 亚洲精品无码A片一区二区| 五月婷婷丁香网| 婷婷丁香五月天影院 | 99亚洲视频| 五月丁香六月激情| 免费看欧美成人A片无码| www免费在线视频| 丁香五月天亚洲综合| 香蕉狠狠爱视频| 激情五月天黄色小说| 99热精国产这里只有精品| 丁香六月婷婷姐网| 26uuu成人网| 日日夜夜天天综合| 精品久热| 欧美三级大片AA在线看| 久久九九Com| 96丁香六月婷婷蜜桃综合久久| 欧美在线视频99| 五月天激情网页| 思思99热| 免费看成人AA片无码视频吃奶| www.韩日视频| 99久热这里只有精品视频删减版| 五月丁香花伦理电影| 亚洲最大激情无码| 日日干日日| 五月婷婷97| 国产片天天爽夜夜爽| 涩婷婷五月天| 婷婷天堂综合| 91综合在线观看| 六月丁香深深爱综合网| 精品久久久人妻| 丁香六月情| 丁香婷婷久久综合在线| aaaaa黄色| 亚洲五月天激情| 99精品在线观看| 99精品97| 9久热这里只有精品视频| 九九热99免费视频| 影音先锋91网站在线观看| 在线中文字幕视频| 天天爽天天做| 国产精品色色| 亚洲色色五月天| 九色色| 伊人在线视频| 色婷婷免费视频| 久久九九在线视频| 国产精产国品一二三在观看| 日韩精品一品二区三区的使用体验| 久热这里精品免费| 狠狠综合久久| 超级碰碰碰碰视频| 五月婷婷深爱六月| 激情五月丁香五月| 色爽九九| 综合噜噜| 亚洲操女| 色婷婷伦理| 激情五月天色色网| 99操免费视频| 99热99干| ai97re99一本| 久久精品在线| 亚洲精品视频在线播放| 狠狠干综合网| 激情综合激情综合| 久久九九热视频| 九九99九九99九九99视频网| 午夜精品777| 国产精品久久久久久久久久| 九九热99免费视频| 丁香狠狠色婷婷久久无码视频| 米奇影视资源777狠狠色婷婷五月天激情网| 另类激情综合| 午夜日韩久久久网站| 人人干AV| 久久婷婷七月丁香| 丁香六月天AV| 激情五月天综合网| 婷婷激情肏屄网| 99热在线精品观看| 99操中文视频| 亚洲1区| 另类A片| 国产成人综合网| 婷婷操久久| 影音先锋一区二区三区| 射久久丁香五月| 婷婷激情人妻| 99.N在线视频| 婷婷射丁香| 久草视频一,二三四| 久久久久亚洲AV成人无码电影| 日韩一区二区A片免费观看| 成人网站免费sxj| 影音 五月 婷婷 久久| 色五月天网| 亚洲99一级无嗎特制在线| 综合五月激情| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 五月伊人网| 99日韩| 婷婷久久网| www.狠狠操.co m| 一本色道久久88综合日韩精品| 亚洲另类婷婷五月综合| 久9综合| 激情六月天婷婷| 九色激情网| 99色在线| 干亚洲天堂| 大香蕉久久综合网| 激情五月丁香综合网站| 一级二级色大片| 日韩啪| 国产99美少妇| 色综合色色| 天天干-天天日| 成人一区在线观看| 成人AV中文字幕| 在线观看五月婷婷网| 亚洲日韩一页精品发布| 99热久草| 99精品97| 99国产精品久久久久久久久久久| 久久这里只有精品久久| 大地资源色婷婷视频在线| 天天色综网| 偷拍91九色| 精品夜夜澡人妻无码AV| 婷婷五月天男人影院色色网| www.99精品视频| 午夜丁香婷婷| 婷婷色情六月| 综激情网| 影音先锋五月婷婷| sewuyue第四色| 狠狠99| 亚洲中文字幕在线观看| 五月天婷婷在线播放免费| 日日噜狠狠| 国产精产国品一二三在观看| 停婷丁五月在线| 中文字幕婷婷五月天| 91在线观看www| 亚洲欧洲另类| 深爱激情六月天| 久久婷婷六月天| 97干在线免费| 亚洲另类在线观看| 激情五月,婷婷五月,丁香五月| 午夜婷婷丁香| 久久人妻伦理| 激情五月婷黄版| 婷婷五月天综合久久日美女| 黄色三级日本| 婷婷五月激情视频| 五月天亚洲图片婷婷| 超热久碰.com| 五月激情小说| 久久婷五月婷| 思思久久精品| 九九热这里有精品23| 97碰碰在线观看视频| 97精品人人A片免费看| 99日本精品视频热| 丁香六月无码播放| 亚洲五月婷婷在线| 中文字幕不卡+婷婷五月| 伊久大香蕉| 久久久人妻| 久久久五月五丁香| 五月激情六月婷婷| 99热精品少| 1024人妻| 色琪琪一综合久久激情五月视频| 九九成人电影婷婷| 色区久久| 4399在线日本A片| 26UUU精品一区二区| 天天日天天添| 激情综合九月| 日本成人综合| 久久久久九九九九视屏小说88| 色婷婷成人做爰A片免费看网站| 丁香五月婷婷五月天| 丁香五月六月婷婷殴美综合| 色婷婷丁香特级性爱视频| AV九九| 91avse| 十区av| 毛v一区二区视频| 极骚大香蕉伊人| 无码91中文字幕| 99热久久这里只有精品| 少妇激情五月天| 丁香五月天啪啪| 亚洲色就是色色色| 秋霞AV淫| 人人插9| 国产欧美日韩综合精品一区二区| 99热精品在线播放| 中文字幕成人| 美欧日韩国产成人在战| 日本久久人| av性爱网站| 色色亚洲五月天| 色香欲综合| 五月天.com| 色色色婷婷| www婷婷| 丁香婷婷成人网| 五月天色综合| 九九精品综合| 色婷婷五月综合在线| 99热9999| 天天色天天操天天射| 婷婷五月天亚洲综合| 91婷婷丁香五月| 97色天堂| 五月丁香黄色视频| 日韩成人电影Av| 91人操人人人操人| 91天天操天天干天天射| 九九re精品视频在线观看| 丁香综合网| 欧美色图天堂网色| 级情九色| www.夜夜夜| 五月花成人网| 色丁香婷婷| AV成人在线播放| 色六月婷婷| 91啪啪视频| 免费观看的av| 欧美三级韩国三级日本三斤| www色综合亚洲92| 丁香五月电影院在线观看| 九九热AV| 99热国产国产| 婷婷十月激情综合网| 91九色熟女| 九九精品免费| 九九精品9| 国产精品色婷婷久久久精品| 欧美三级黄色片久久| 激情五月天激情网| 人人色AV| 国产欧美va| 高清无码入口| 女人被躁到高潮嗷嗷叫小| 色色综合院| 99这里有精品久久97| 丁香五色月婷婷网| 五月婷婷丁香婷婷| 久久久久9| 亚洲成人AV电影在线| 久久99大全| 九九视频网| 色色色色色色色色网站| 这里只有精品视频99| 亚洲字幕AV一区二区三区四区| www.精品久9| 快乐激情五月色婷婷| 中文字幕婷婷五月天在线观看| 91婷婷在线| 免费视频WWW在线观看网站| 九九99男女视频在线观看| 婷婷丁香五月天色播网站| 亚洲综合婷婷六月丁香五月| 五月丁香六月婷| 99视频热99| 五月婷婷三级| 丁香五月中文字幕久色| 99色免费观看全部| 五月天激情亚洲| 午夜色丁香| 综合五月天亚洲婷婷| 另类图片五月天| 日韩黄在免| 超碰在线视屏| 狠狠色婷婷777| 中文字幕日产A片在线看| 中文网婷婷字幕婷| 九九草热在线观看| 综合激情婷婷| 久久99人人| 亚洲综合色网站| 婷婷午夜精品久久久| 天天揷综合网| 蜜乳9188| 婷婷六月激情| 日韩一级| 婷婷玉月丁香五月在线视频| 狠狠干狠狠色| 亚洲视频1区| 天天射综合网天天插| 五月婷婷色五月| 欧美搡BBBBB摔BBBBB| 五月婷婷激情网| 操日本人妻视频| 丁香五月天堂网| 99啪啪视频| 婷婷五月天激情综合深爱| 丰满人妻一区二区三区| 五月丁香色| 婷婷五月天第四色| 日欧一片内射VA在线影院| 丁香久久| 色五开心五月五月深深爱| 国产亚洲成AV人片在线观黄桃| 九九精品热| 激情五月丁香六月综合AVXXXX| 97色一二三| 丁香五月第四色88| 激情婷婷五月天| 五月婷婷丁香成人网| 色婷久久| 五月 成人 婷婷| 在线观看免费狠狠色丁香香综合| 日韩AV一区二区三区| 激情都市五月天| 专区无日本视频高清8| 天天插天天很| 九九色影视| 中文字幕在线资源| 婷婷色婷婷| 99久久免费性爱视频`| 久久婷婷综合基地| 色吧五月婷婷| 婷婷99中文字幕| 9999热在线免费观看| 色综合久久中文| 精品人人操| 五月激情视频| 99色精品视频| 99热这里有精品| 久久婷婷六月综合资源|