欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

15個API調(diào)用高頻錯誤:從內(nèi)存泄漏到異步超時的排查指南

15個API調(diào)用高頻錯誤:從內(nèi)存泄漏到異步超時的排查指南 做后端這些年我最怕的不是業(yè)務(wù)邏輯復(fù)雜而是那些看起來平平無奇的第三方API調(diào)用。它們藏在你代碼里的任何一個角落平時靜如處子一旦線上流量上來立刻教你做人內(nèi)存飆紅、線程池打滿、響應(yīng)一個比一個慢。更折磨人的是你翻半天日志異常信息要么根本沒有要么跟事故現(xiàn)場八竿子打不著。這篇文章就是我從一堆API調(diào)用事故里挑出來的精煉復(fù)盤——15個出現(xiàn)頻率最高的使用錯誤每個都給你講明白背后的原因、現(xiàn)場長什么樣、怎么解決以及真出事的時候怎么快速定位。內(nèi)容覆蓋內(nèi)存泄漏、異步傳輸異常、連接管理、序列化、冪等性、重試策略這些高頻雷區(qū)適合所有寫業(yè)務(wù)代碼時經(jīng)常跟RESTful API、消息隊列、第三方SDK打交道的開發(fā)者。1. API使用錯誤為什么總是防不勝防1.1 錯誤的本質(zhì)不是不會調(diào)而是生命周期管理不到位先說個結(jié)論絕大多數(shù)API調(diào)用錯誤并不是因為你不會調(diào)API而是對一次調(diào)用從生到死的完整鏈路缺少掌控。一次普通的HTTP請求涉及的東西遠(yuǎn)不止發(fā)出去、收回來這兩步——連接怎么建立、響應(yīng)流什么時候關(guān)閉、超時誰來兜底、異常往哪拋、回調(diào)在哪個線程跑、內(nèi)存里的響應(yīng)體何時釋放這些環(huán)節(jié)只要有一個疏忽線上就會積累隱患。我見過太多代碼把API調(diào)用當(dāng)成一次性買賣new一個客戶端對象發(fā)起請求拿到結(jié)果然后……就沒有然后了。對象沒人關(guān)流沒人關(guān)異常沒人理。短時間看不出問題連續(xù)跑幾個小時或者流量翻倍內(nèi)存就肉眼可見地往上爬。這種問題最坑的地方在于它不是立刻爆炸而是慢慢爛掉等你去查的時候現(xiàn)場早就被各種無關(guān)日志淹沒了。所以這篇文章的底層思路就一條把API調(diào)用當(dāng)成一個有生命周期的完整事務(wù)來管理。連接、請求、響應(yīng)、異常、資源釋放、數(shù)據(jù)轉(zhuǎn)換每一個環(huán)節(jié)都要有明確的歸屬和兜底方案。下面這15個錯誤本質(zhì)上都是生命周期某個環(huán)節(jié)掉了鏈子。1.2 事故的三級跳從偶發(fā)超時到服務(wù)不可用根據(jù)我的觀察API濫用引發(fā)的事故幾乎總是沿著同樣的路徑發(fā)展。第一級偶發(fā)超時和零星報錯。日志里偶爾出現(xiàn)TimeoutException、Connection reset但重試一下就好了沒人當(dāng)回事。第二級內(nèi)存和線程資源告警。隨著流量上來內(nèi)存曲線變成鋸齒狀線程池活躍度居高不下GC越來越頻繁。這是資源泄漏的典型信號。第三級連鎖故障。某個依賴服務(wù)的API徹底不可用線程池被打滿新請求全部排隊最終整個應(yīng)用假死。你發(fā)現(xiàn)沒有第一級出現(xiàn)的時候其實才是最好修的時機(jī)。但絕大多數(shù)團(tuán)隊都會拖到第三級。下面這些錯誤每一個都可能成為引爆第二級和第三級的導(dǎo)火索越早處理越好。2. 內(nèi)存泄漏歸檔四個最常見的隱形殺手2.1 錯誤一只調(diào)用API不關(guān)閉響應(yīng)流這是Java系和Python系新手最容易踩的坑而且?guī)缀趺刻於加腥瞬?。起因很簡單很多HTTP客戶端庫在發(fā)起請求后返回的響應(yīng)對象底層是持有一個輸入流的這個流承載著網(wǎng)絡(luò)連接。你不關(guān)閉它連接就永遠(yuǎn)無法歸還給連接池最終還是撐爆進(jìn)程的文件描述符。舉個最典型的反例// 反面教材 HttpClient client HttpClient.newHttpClient(); HttpResponseString response client.send(request, BodyHandlers.ofString()); String body response.body(); // 看起來是拿到了字符串實際上底層InputStream沒關(guān)這段代碼在Java 11的HttpClient里BodyHandlers.ofString()看似已經(jīng)把流讀干凈了但底層socket通道依然占用著。真正嚴(yán)格的做法是用ofInputStream()配合try-with-resources或者顯式關(guān)閉。Python的requests庫沒有這個問題因為它在底層幫你做了清理但如果你用的是requests的流式響應(yīng)# Python里流式響應(yīng)不主動關(guān)閉連接也會泄漏 resp requests.get(url, streamTrue) data resp.content # resp.close() 忘了調(diào)解決方案其實就一句話凡是能返回流的API必須保證流的關(guān)閉時機(jī)與你使用它的生命周期嚴(yán)格對應(yīng)。Java系優(yōu)先用try-with-resourcesPython優(yōu)先用with或try/finally。提示判斷你有沒有犯這個錯最直接的辦法是看線上日志里有沒有大量Connection reset by peer、Too many open files。這兩個報錯十有八九是響應(yīng)流沒關(guān)。2.2 錯誤二長生命周期對象持有短生命周期引用如果說關(guān)流是新手坑那這個就是老手也容易犯的經(jīng)典錯誤。場景通常是你在一個長期存活的組件里比如單例服務(wù)、全局管理器持有一個Map或List把API響應(yīng)結(jié)果或請求上下文往里面塞但用完之后忘了移除。舉個我實際排查過的案例某系統(tǒng)的網(wǎng)關(guān)層為了緩解下游壓力把外部API的響應(yīng)按請求參數(shù)緩存到一個靜態(tài)ConcurrentHashMap里。參數(shù)組合是無窮的緩存卻從不清理上線兩周后堆內(nèi)存直接爆掉。我當(dāng)時做dump分析發(fā)現(xiàn)這個Map占用了堆內(nèi)存的68%。解決這類問題有兩種思路如果緩存是必要的必須引入淘汰機(jī)制。最簡單的用一個固定容量的LRU容器或者給緩存加TTL配合后臺任務(wù)定時清理。不要相信這段代碼很快會重構(gòu)這種話。如果緩存不是必要的直接刪除靜態(tài)持有。內(nèi)存泄漏的本質(zhì)不是對象太多而是對象被不該持有它的對象一直引用著導(dǎo)致GC無法回收。不要讓你的一次性數(shù)據(jù)跑到長生命周期容器里。2.3 錯誤三靜態(tài)集合無界增長把內(nèi)存當(dāng)數(shù)據(jù)庫用跟錯誤二很像但更隱蔽。這類問題往往是順手造成的——業(yè)務(wù)代碼里需要一個臨時的統(tǒng)計容器、一個事件回調(diào)注冊表、一個請求追蹤列表直接用靜態(tài)字段或者全局單例的Map裝起來。結(jié)果這個臨時容器比業(yè)務(wù)代碼活得還久。舉一個典型的消息推送SDK的例子SDK內(nèi)部維護(hù)了一個回調(diào)注冊表每次調(diào)用registerCallback()就把回調(diào)對象存進(jìn)一個靜態(tài)列表。如果SDK使用者沒有調(diào)用對應(yīng)的unregisterCallback()那么這個回調(diào)對象以及它捕獲的所有變量注意Java/Python的閉包是會捕獲外部作用域變量的就永遠(yuǎn)不會被回收。這種問題我建議從API設(shè)計層面解決凡是提供注冊類方法的SDK或工具類必須同時提供對應(yīng)的注銷方法而且文檔里要用醒目的方式寫清楚。如果你是自己寫代碼原則就一條注冊了什么用完必須注銷跟鎖一樣加鎖的地方必須有解鎖。2.4 錯誤四監(jiān)聽器/回調(diào)注冊后壓根不注銷這個在WebSocket長連接、消息訂閱、事件總線的場景里特別常見。很多開發(fā)者只關(guān)注怎么訂閱完全不關(guān)注什么時候取消訂閱。短連接問題不大長連接場景下你每訂閱一次就是往事件總線的監(jiān)聽器列表里加一個對象反復(fù)建立連接再斷開監(jiān)聽器越積越多。我遇到過最離譜的一個案例某交易系統(tǒng)的行情訂閱模塊每次斷線重連都會new一個新的監(jiān)聽器注冊到事件總線但不移除舊的。業(yè)務(wù)高峰期經(jīng)歷了幾百次重連之后每次行情推送都要遍歷幾萬個月久失修的監(jiān)聽器對象CPU直接打滿GC耗時從50毫秒漲到3秒。解決方案分兩層應(yīng)用層在重連、會話銷毀的鉤子里必須先解除舊監(jiān)聽器再注冊新監(jiān)聽器??蚣軐尤绻阕约簩懓l(fā)布訂閱組件建議對每個訂閱者維護(hù)一個弱引用集合WeakHashMap或弱引用隊列這樣即使調(diào)用方忘記注銷只要業(yè)務(wù)對象不再被強(qiáng)引用GC也能正?;厥罩辽俨粫斐蓛?nèi)存泄漏爆炸。內(nèi)存泄漏這部分總結(jié)一下99%的API相關(guān)內(nèi)存泄漏本質(zhì)都是資源或?qū)ο鬀]有沿著它的生命周期被正確釋放。你在寫調(diào)用代碼的那一刻就要問自己三件事這個連接什么時候關(guān)這個對象什么時候不再被引用如果調(diào)用方忘了釋放系統(tǒng)能自愈嗎3. 異步傳輸異?;卣{(diào)、線程與并發(fā)亂局3.1 錯誤五異步異常沒人接直接黑盒消失異步API和同步API最大的區(qū)別在于同步方法里try-catch能兜住異常異步方法里異常發(fā)生的位置和時機(jī)是漂移的你沒在正確的地方接住它它就會默默消失。用CompletableFuture舉例// 反面教材異常丟失 CompletableFuture.supplyAsync(() - apiClient.callRemote()) .thenApply(response - parse(response)); // 如果apiClient.callRemote()拋異常這個異常沒人處理你看著好像流程沒問題但實際線上是某個請求靜默失敗日志里什么都沒有。更麻煩的是如果異常是在回調(diào)鏈的中間階段拋出的而你沒有在每個thenApply/exceptionally之間接住后面的所有環(huán)節(jié)都不會執(zhí)行且沒有任何記錄。正確做法是給每條異步鏈路的終點(diǎn)加一個全局兜底處理。CompletableFuture.supplyAsync(() - apiClient.callRemote()) .thenApply(response - parse(response)) .exceptionally(ex - { // 記錄完整異常棧和關(guān)鍵上下文 logger.error(api call failed, context{}, traceId, ex); return defaultResult; });Python的asyncio里對應(yīng)的問題則是忘記await協(xié)程。很多Python開發(fā)者以為調(diào)用了異步函數(shù)就等于執(zhí)行了實際上如果你不await協(xié)程只是被創(chuàng)建異常堆棧會被event loop打印一段警告然后丟掉業(yè)務(wù)上表現(xiàn)為偶爾丟失一條數(shù)據(jù)某個任務(wù)沒執(zhí)行但不知道為啥。記住一句話異步代碼里異常要靠鏈?zhǔn)教幚聿皇悄銓懥藅ry-catch就萬事大吉要確保try-catch放在正確的位置并且每一層異步轉(zhuǎn)換函數(shù)都要處理錯誤分支。3.2 錯誤六超時設(shè)置缺失或設(shè)置不合理一次API調(diào)用涉及多個超時維度很多人就設(shè)一個timeout參數(shù)其實遠(yuǎn)遠(yuǎn)不夠。最典型的HTTP請求至少有三個超時連接超時建立TCP連接的最大等待時間。讀取超時等待響應(yīng)數(shù)據(jù)的最大間隔時間。整體請求超時整次調(diào)用的總時長上限。如果你只設(shè)了連接超時比如10秒但讀取超時用默認(rèn)的0表示無限等待那么一旦對端收到請求后一直不返回數(shù)據(jù)你的線程就會無限期掛在那。線上表現(xiàn)就是線程池被一群半死不活的連接占滿新請求全部排隊系統(tǒng)吞吐量崩塌。我做過一次線程池監(jiān)控發(fā)現(xiàn)某個服務(wù)有40%的線程處于WAITING狀態(tài)超過2分鐘原因就是對端服務(wù)在GC時有長達(dá)數(shù)十秒的停頓而我們這邊的讀取超時是無窮大。修復(fù)方式很簡單給每個維度設(shè)置合理的超時并遵循一個原則整體請求超時必須大于連接超時和讀取超時但小于你所在線程池能容忍的最大等待時間。常見的合理配置是連接超時3~5秒讀取超時10~30秒整體超時不超過60秒。具體看業(yè)務(wù)對實時性的要求但我強(qiáng)烈建議你寧可超時設(shè)短一點(diǎn)觸發(fā)重試也不要設(shè)超長把線程全拖死。3.3 錯誤七線程池配置不當(dāng)導(dǎo)致的異步變同步與線程泄漏異步API通過回調(diào)或Future解耦了調(diào)用方線程但如果你把異步任務(wù)丟進(jìn)一個線程池里執(zhí)行線程池本身就會成為新的瓶頸。常見的兩個錯誤第一線程池核心線程數(shù)設(shè)為0或過小配合無界隊列。某個項目里用new ThreadPoolExecutor(0, Integer.MAX_VALUE, 60L, TimeUnit.SECONDS, new SynchronousQueue())看似很靈活實際上每來一個任務(wù)就new一個線程線程創(chuàng)建開銷極大高并發(fā)下線程數(shù)飆到幾千CPU光在線程切換上就耗掉大半。線程池要按業(yè)務(wù)量預(yù)估并發(fā)度核心線程數(shù)建議設(shè)置為機(jī)器可用核數(shù)的2倍到4倍并設(shè)置一個有界隊列滿了之后走拒絕策略或調(diào)用方兜底。第二把異步回調(diào)里又嵌套了同步阻塞調(diào)用。比如在異步回調(diào)里調(diào)用另一個同步API且不設(shè)置超時這個回調(diào)線程就被卡住了線程池的活躍線程只會越來越多最終整個池子被長連接占滿后續(xù)任務(wù)全部排隊。這種情況算線程泄漏。排查線程池問題有個很直觀的手段周期性打印線程池的活躍線程數(shù)、隊列長度、拒絕次數(shù)。這三個指標(biāo)任何一個持續(xù)增長都要立刻定位原因。尤其是拒絕次數(shù)從0變成非0的那一刻基本宣告線程池已滿。3.4 錯誤八共享可變狀態(tài)引發(fā)的并發(fā)數(shù)據(jù)錯亂這是并行調(diào)用同一API的衍生問題。多個線程同時調(diào)用外部API時如果代碼里用了共享的可變狀態(tài)來存中間結(jié)果就會產(chǎn)生競態(tài)條件。最常見的兩個場景用同一個SimpleDateFormat非線程安全做時間格式化導(dǎo)致解析結(jié)果隨機(jī)出錯。多線程同時寫同一個非線程安全的Map或List輕則數(shù)據(jù)覆蓋重則拋出ConcurrentModificationException。還有一類尤其隱蔽ThreadLocal使用后不清理。很多API做身份信息或租戶信息的上下文傳遞時會用ThreadLocal。但如果你用了線程池線程是復(fù)用的上一次請求的ThreadLocal數(shù)據(jù)會殘留到下一次請求里。正確做法是在請求結(jié)束的finally塊里調(diào)用ThreadLocal.remove()。解決并發(fā)問題的原則很簡單優(yōu)先讓變量局部化每個請求都有自己的上下文對象不要在多個線程之間共享可變數(shù)據(jù)。必須要共享的用線程安全容器或者加鎖并清楚鎖的粒度。3.5 錯誤九回調(diào)地獄與信號丟失異步API經(jīng)常需要在一個回調(diào)完成后再發(fā)起另一個調(diào)用代碼會層層嵌套。除了可讀性差更致命的問題是如果中間某一步回調(diào)沒有被觸發(fā)整條鏈路就會死等。比如上游服務(wù)回調(diào)協(xié)議里設(shè)置了2秒超時但代碼沒做超時處理網(wǎng)絡(luò)丟包時回調(diào)永遠(yuǎn)不會來請求就掛在那一直到進(jìn)程退出。解決這個問題的核心工具是超時信號機(jī)制。以JavaScript的Promise.race為例function callWithTimeout(promise, timeoutMs) { let timer; const timeoutPromise new Promise((_, reject) { timer setTimeout(() reject(new Error(timeout)), timeoutMs); }); return Promise.race([promise, timeoutPromise]).finally(() clearTimeout(timer)); }這個模式在Java里可以借助Future.get(timeout)或者CompletableFuture.orTimeout()實現(xiàn)。核心思想就一句任何異步調(diào)用都必須在規(guī)定時間內(nèi)產(chǎn)生一個明確結(jié)果成功或失敗不能允許無限期不明不白地等待。4. 協(xié)議與數(shù)據(jù)層連接池、冪等、序列化與分頁的坑4.1 錯誤十HTTP連接池配置與實際壓測嚴(yán)重不符HTTP客戶端大多有連接池機(jī)制來復(fù)用TCP連接但很多人只改一個maxConnections參數(shù)就覺得夠了其實坑遠(yuǎn)不止這個。連接池至少要關(guān)注三個維度每個路由的最大連接數(shù)如果你調(diào)用的是多個域名的API總連接數(shù)不等于每個域名都能分到maxConnections。默認(rèn)情況下每個主機(jī)的連接數(shù)上限跟總連接數(shù)上限是分開的只調(diào)總連接數(shù)而忽略maxConnectionsPerHost仍然會在高并發(fā)下創(chuàng)建大量新連接。空閑連接存活時間連接池里的空閑連接如果長時間不用會被服務(wù)端斷開。很多連接池默認(rèn)的evictIdleConnections間隔很長你以為復(fù)用的是老連接實際每次請求都要重新握手表現(xiàn)為大量TCP握手時間和偶發(fā)的Connection reset。Keep-Alive的配置一致性客戶端和服務(wù)端的keep-alive值如果不一致服務(wù)端先關(guān)了連接客戶端再復(fù)用就會報連接被重置。配置連接池沒有萬能答案但有一個實操技巧啟動一臺壓測機(jī)模擬小流量、中流量、峰值流量三檔壓測觀察新連接創(chuàng)建速率和連接池等待時間。如果新連接創(chuàng)建速率始終很高說明連接池復(fù)用率低優(yōu)先調(diào)大per-route上限如果等待時間長優(yōu)先調(diào)大總連接數(shù)。壓完再上線別拍腦袋。4.2 錯誤十一忽略接口冪等性重試釀成大禍API調(diào)用失敗后重試是常見策略但如果你調(diào)用的接口不保證冪等重試就會產(chǎn)生副作用。最慘痛的一個案例是支付場景某系統(tǒng)在第三方支付接口超時后自動重試三次每次重試都重新創(chuàng)建支付單結(jié)果用戶被扣了三筆錢客服電話被打爆。正確的做法是在調(diào)用外部API前生成唯一的請求ID冪等鍵帶著請求ID去調(diào)用。第三方支持冪等就靠這個ID去重第三方不支持你也要在自己的系統(tǒng)里記錄這個ID和請求狀態(tài)防止本地重試產(chǎn)生重復(fù)。區(qū)分重試安全和重試不安全兩類接口。查詢類接口隨便重試創(chuàng)建/支付/修改類接口必須顯示做冪等控制。標(biāo)準(zhǔn)可以在接口文檔里約定但你自己代碼里一定要有這層意識。一條經(jīng)驗送給大家給你的所有外部調(diào)用都加上請求ID透傳不管對端用不用你自己的日志、監(jiān)控、排查都能靠它在全鏈路串起來。4.3 錯誤十二序列化/反序列化的隱性陷阱API調(diào)用中JSON是最常見的傳輸格式但序列化這層薄薄的東西出的怪問題一點(diǎn)不比并發(fā)少。忽略未知字段導(dǎo)致報錯某些HTTP客戶端默認(rèn)配置下響應(yīng)JSON里出現(xiàn)了代碼里沒有定義的字段直接拋UnrecognizedPropertyException。解決辦法是配置FAIL_ON_UNKNOWN_PROPERTIESfalse但要注意這會掩蓋字段名拼寫錯誤。更穩(wěn)妥的做法是在開發(fā)環(huán)境打開嚴(yán)格模式生產(chǎn)環(huán)境放寬。循環(huán)引用導(dǎo)致序列化棧溢出兩個對象互相引用序列化時無限遞歸。用JsonIgnore或DTO拆分解決但最根本的辦法是在API邊界設(shè)計DTO不要把內(nèi)部實體直接暴露出去。時間格式不一致服務(wù)端返回yyyy-MM-dd HH:mm:ss你這邊期望ISO 8601解析直接炸。這種問題在跨團(tuán)隊協(xié)作里格外常見建議統(tǒng)一用ISO 8601格式并顯式聲明時區(qū)。理論上說序列化層的問題最好解決但實際排查最費(fèi)時間因為報錯信息往往模棱兩可。我的建議是用單元測試把DTO的序列化和反序列化全覆蓋每個接口的字段增刪改都要跑一遍測試再上線比你線上debug省事一萬倍。4.4 錯誤十三分頁與游標(biāo)處理不當(dāng)調(diào)用列表類API的時候分頁是繞不開的新手可能覺得就是pageSizepageNum兩個參數(shù)的事但踩過坑的都知道沒這么簡單。數(shù)據(jù)量大的分頁越翻越慢基于offset的分頁在MySQL或某些搜索引擎里頁碼越深性能越差因為數(shù)據(jù)庫要掃描全部前序數(shù)據(jù)才能定位到offset。如果API支持cursor游標(biāo)分頁優(yōu)先用游標(biāo)不要用頁碼。分頁期間數(shù)據(jù)變化導(dǎo)致重復(fù)或丟失用戶在翻第2頁時第1頁的數(shù)據(jù)新增了一條基于頁碼的翻頁就會導(dǎo)致同一數(shù)據(jù)出現(xiàn)兩次或者漏掉某條。游標(biāo)分頁方式下數(shù)據(jù)是按某個唯一排序鍵切片相對更穩(wěn)定。總頁數(shù)計算錯誤totalCount / pageSize要向上取整這個小學(xué)數(shù)學(xué)問題在真實項目里出現(xiàn)過不止一次。分頁這塊的經(jīng)驗是先看文檔支持哪種分頁方式如果兩種都支持直接選游標(biāo)如果只支持頁碼分頁在數(shù)據(jù)量小萬級以下的場景里用也沒大礙但數(shù)據(jù)量上來以后一定要評估是否要切到游標(biāo)。5. 穩(wěn)定性與可觀測性把事故從根上掐滅5.1 錯誤十四重試機(jī)制要么沒有要么過度到拖垮下游重試策略是API調(diào)用里的雙刃劍。沒有重試一次網(wǎng)絡(luò)抖動就會讓一個請求失敗盲目重試更可能在故障時引發(fā)重試風(fēng)暴——下游服務(wù)已經(jīng)過載你還在瘋狂地重試進(jìn)一步加重下游負(fù)擔(dān)最終兩邊一起崩潰。重試策略的合理設(shè)計必須兼顧幾個變量重試次數(shù)一般建議1~2次不要超過3次。超過3次的重試更多的是一種焦慮而不是有效策略。退避策略不要用固定間隔重試要用指數(shù)退避比如1秒、2秒、4秒并且在重試間隔里加入隨機(jī)抖動。如果沒有抖動所有實例在同一瞬間重試相當(dāng)于制造了一波新的流量尖峰。快速失敗如果錯誤碼明確是4xx參數(shù)錯誤、鑒權(quán)失敗這種錯誤重試一萬次都不會成功應(yīng)該直接失敗不要浪費(fèi)資源。只有5xx和網(wǎng)絡(luò)層錯誤才值得重試。熔斷如果連續(xù)失敗次數(shù)達(dá)到一定閾值比如10次直接打開熔斷開關(guān)讓請求快速失敗不再穿透到下游過一段時間再放一批流量探測是否恢復(fù)。重試技術(shù)本身不復(fù)雜但把它跟業(yè)務(wù)結(jié)合考慮——哪些錯誤值得重試、重試對下游的壓力有多大、全局并發(fā)重試會不會導(dǎo)致雪崩——這些問題比代碼本身重要得多。5.2 錯誤十五日志里該有的信息沒有不該有的全都有API調(diào)用日志是最后一道防線。很多系統(tǒng)出問題排查不了不是因為問題多復(fù)雜而是日志里既沒有關(guān)鍵信息又堆滿了廢話。常見的日志問題有三個層面打印超大響應(yīng)體有的開發(fā)者圖省事直接把整個API響應(yīng)體打到日志里。一個幾MB的響應(yīng)體在高并發(fā)下會極大拖慢日志寫入速度嚴(yán)重時甚至拖垮磁盤IO。日志應(yīng)該只記錄狀態(tài)碼、耗時、錯誤消息摘要。如果你確實需要完整的響應(yīng)體用于排查把它寫到獨(dú)立的日志文件或存儲里做好級別控制別打到主日志流。日志缺失traceId處理API調(diào)用鏈路時一次用戶請求可能會經(jīng)歷多處遠(yuǎn)程調(diào)用。沒有traceId你連這條報錯和那次請求是不是同一條鏈路都判斷不了。我強(qiáng)烈建議在API調(diào)用入口生成一個traceId透傳到下游所有日志和外部調(diào)用的請求頭里。敏感信息泄露把token、密碼、密鑰直接打到日志里日志文件一旦被讀取就是重大安全事故。日志脫敏不是來不及處理的事是必須做的底線。關(guān)于日志調(diào)優(yōu)我的建議是分三個級別錯誤日志打印異常堆棧和關(guān)鍵上下文業(yè)務(wù)日志記錄traceId、調(diào)用方、耗時調(diào)試日志記錄完整參數(shù)和響應(yīng)。日常運(yùn)行時只開前兩級排查問題時再動態(tài)調(diào)到調(diào)試級別。千萬別嫌麻煩。5.3 排查實操內(nèi)存泄漏定位三板斧不論前面的預(yù)防做得怎么樣線上總會有一些漏網(wǎng)之魚。真遇到內(nèi)存泄漏了按這三步走基本能快速定位第一板斧觀察內(nèi)存曲線。通過監(jiān)控系統(tǒng)看堆內(nèi)存的GC趨勢。健康的內(nèi)存曲線是鋸齒狀的每次GC后內(nèi)存回落泄漏的曲線是階梯狀或者緩慢上行的GC后內(nèi)存回不到低位。這一步能確認(rèn)確實泄漏了而不是還沒釋放。第二板斧抓堆轉(zhuǎn)儲文件。在內(nèi)存偏高的時候執(zhí)行jmap -dump:formatb,fileheap.bin pid或者用監(jiān)控工具自動觸發(fā)抓取。Java平臺用MAT或JProfiler分析Python平臺可以用tracemalloc模塊記錄內(nèi)存分配棧。第三板斧找支配樹頂部的對象。用MAT打開堆轉(zhuǎn)儲文件查看Dominator Tree重點(diǎn)分析占據(jù)內(nèi)存最多的對象是什么、被誰持有引用。正常情況下你會看到某個Map、List或byte[]數(shù)組占據(jù)大頭然后順著引用鏈一路找上去基本上就是那個萬惡之源。我自己遇到過的情況九成以上都指向某個靜態(tài)Map無界增長、某個Netty緩沖區(qū)沒釋放、或者某個緩存框架的key過期策略沒生效。定位到之后修起來都很快難的是定位本身。5.4 排查實操異步異常和超時的定位技巧異步鏈路排查比同步難因為報錯信息經(jīng)常沒有足夠的上下文。我的做法是全程透傳traceId在入口生成traceId放進(jìn)線程上下文和日志MDC外部調(diào)用時放進(jìn)HTTP頭的自定義字段。這樣無論異步鏈路怎么跳轉(zhuǎn)每條日志都能串成一條線。捕獲異常時一定要保留原始堆棧不要用ex.getMessage()替代異常傳遞不要吞異常后只打一行字。日志里要有完整堆棧、當(dāng)前線程名、traceId、參數(shù)摘要這四個元素缺一不可。給所有異步調(diào)用設(shè)置明確的超時并且把超時這個事件本身也當(dāng)成一種需要記錄的異常單獨(dú)打點(diǎn)。這樣你可以在監(jiān)控里看到超時率這個指標(biāo)而不是只能看到異常數(shù)。遇到那種沒報錯但就是沒結(jié)果的詭異場景優(yōu)先查超時和回調(diào)注冊是不是服務(wù)端根本沒回調(diào)是不是回調(diào)URL變了是不是回調(diào)因為序列化失敗被靜默吞掉了順著這個思路查效率會高很多。6. 15個錯誤速查表與最終建議6.1 錯誤與解決方案速查表編號錯誤類型典型現(xiàn)象根本原因解決方案1響應(yīng)流未關(guān)閉文件描述符耗盡、Connection reset底層輸入流未歸還連接池try-with-resources / with顯式關(guān)閉2長生命周期持有短引用堆內(nèi)存緩慢增長單例/靜態(tài)容器持有一次性對象不用靜態(tài)容器緩存臨時數(shù)據(jù)或加TTL淘汰3靜態(tài)集合無界增長內(nèi)存爆滿、GC時間飆升注冊表/緩存無清理機(jī)制弱引用、容量限制、顯式注銷4監(jiān)聽器未注銷事件推送越來越慢回調(diào)對象積壓在事件總線重連/銷毀時先解綁框架層用弱引用兜底5異步異常沒人接請求靜默失敗無日志異步鏈路缺少異常兜底鏈路終點(diǎn)加exceptionally/全局處理6超時設(shè)置不合理線程池被打滿、吞吐量崩塌讀取超時或整體超時未配置全維度設(shè)超時整體線程池容忍上限7線程池配置不當(dāng)線程數(shù)暴漲、拒絕執(zhí)行核心線程數(shù)過小或隊列無界預(yù)估并發(fā)度設(shè)核心線程數(shù)和有界隊列8共享可變狀態(tài)偶發(fā)數(shù)據(jù)錯亂、字段丟失多線程同一變量/ThreadLocal殘留上下文局部化ThreadLocal顯式remove9回調(diào)地獄與信號丟失請求無限掛起無超時信號機(jī)制Promise.race/Future.get超時兜底10連接池配置錯誤頻繁TCP握手、連接重置per-route連接數(shù)小、空閑連接未清理壓測驗證per-route配置和keep-alive一致11忽略接口冪等性重復(fù)下單、重復(fù)扣款超時重試造成重復(fù)提交請求ID冪等鍵區(qū)分冪等/非冪等接口12序列化/反序列化踩坑解析失敗、循環(huán)引用、時間格式錯DTO定義不嚴(yán)謹(jǐn)DTO嵌套邊界、時間格式統(tǒng)一、完整單測13分頁處理不當(dāng)深翻頁越來越慢、數(shù)據(jù)重復(fù)offset分頁和并發(fā)變更問題優(yōu)先游標(biāo)分頁數(shù)據(jù)量大時淘汰offset14重試機(jī)制缺失或過度單次失敗/重試風(fēng)暴未區(qū)分錯誤類型無退避抖動指數(shù)退避抖動4xx不重試加熔斷15日志記錄不當(dāng)排障困難、敏感信息泄露日志無traceId、內(nèi)容過多無重點(diǎn)分級日志traceId透傳脫敏6.2 如果只讓我留三條建議表格是拿來快速參考的但如果這篇文章你只能記住三件事我希望能是這三條第一所有API調(diào)用都要有一個完整的生命周期意識。連接會占資源、流要關(guān)閉、回調(diào)要注銷、緩存要淘汰。你在寫調(diào)用代碼的那一刻想清楚什么情況下它會被釋放后面的內(nèi)存泄漏至少能少一半。第二所有異步調(diào)用都要有超時兜底和異常兜底。異步API真正危險的地方不是性能而是沒有結(jié)果和沒有報錯。給每條異步鏈路都加上超時信號和全局異常處理線上詭異消失的問題會少很多。第三可觀測性建設(shè)絕對不能省。沒有traceId、沒有全鏈路日志、沒有內(nèi)存曲線監(jiān)控那你排查一次API問題的時間足夠別人排查三次。我寫到這里其實最想說的一件事就是API踩坑是每個做后端的人必經(jīng)的路踩坑不要緊重要的是踩完能不能總結(jié)出一套套路來——哪些坑高頻、怎么預(yù)防、出了事怎么快速定位。這篇文章里的15個錯誤是我自己踩過或者幫別人排查過的真實經(jīng)驗合集希望能讓你少走一些彎路。如果你也有遇到過特別匪夷所思的API問題歡迎按同樣的思路——癥狀、原因、排查過程——拆解出來多交流多復(fù)盤比看十篇教程都有用。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产欧美精品AAAAAA片| 99久热这里只有精品视频删减版| 大香蕉九九| 婷婷的激情五月| 99精品成人无码A片观看金桔| 欧美人与性动交CCOO| 久久视这里只有精品| XX色综合| 九九av| 99 热国产在| 色欲一区二区三区精品A片| 五月激情网站| 这里都是精品99| 亚洲日日日| 99九九在线| 亚洲五月天激情| 色情五月天婷婷| 亚洲成人av在线播放| 日日夜夜婷婷| 99热日| 人妻狠狠操| 亚洲网站观看视频| 五月丁香六月婷婷啪啪| 色色性爱视频| 久热精品视频| 六月色狠狠色| 天天色综合色色色色色。| 99日热在线视频| 色色五月天丁香婷婷| 天天综合天天做天天综合| 18久久| 天天色视频| 天天天干夜夜夜操| 99热中文字幕久久| 狠狠狠狠狠草| 国产色五月| 美日韩成人| 777久久久| 国精产品一区一区三区免费视频| 丁香五月综合图片在线观看| 色婷婷五月天亚洲| 婷婷丁香视频在线观看免费| 欧美三级欧美一级| 超碰在线99热| 影音先锋噜一噜| 久久97久久99久久综合欧美| 成 人片 黄 色 大 片| 97干欧美| 亚洲av免费在线| 色色色色色色色色色999| 久热9热| 精品一二三区久久AAA片| 99综合| www夜夜操wwwcon| 婷婷五月天高清无码| 欧美色骚婷婷五月天| 久久久久视剧HD| 免费看欧美成人A片无码| 97极品在线| 综合久久五月| 久久性爱视频网站| 97五月久久丁香婷婷| 伊人网色婷婷五月天| 五月六月激情婷婷| 九九婷婷五月天影视| 青青夜夜狠狠夜夜狠狠| 中文字幕在线免费观看视频| 综合网色| 玖玖国产视频一区| 激情综合网丁香| 婷婷天堂视频| 99久久99视频只有精品| 五月丁香拍拍激情综合| 丰满熟女人妻一区二区三| 伊人丁香五月| 99亚洲色色| 五月激情六月综合| 午夜天堂啪啪| 亚洲操操操| 免费视频在线观看的网站| 亚洲精品亚洲人成人网| 久久无码成人| 激情综合网址| 九九操综合网| 五月丁香六月在线| 99热8| 五月天亭亭俺也| 91丨九色丨国产打屁股| 99热这里只有精品98| 入口五月婷婷六月香| 99ri国产在线| 综合久久六月| 婷婷九月激情| 丁香网五月天| 深夜男女福利刺激影院一区完整| 丁香婷婷综合喷| 人人97操| 婷婷亚洲五| 亚洲激情免费久久| 天天操人人干| 天天爽天天爽| 久久丁香社| 久久免费操| 色欲丁香| 五月天天爱| 久久激情天堂| 婷色五月| 4399欧美另类视频| 久er7久热| 深爱1激情网| 丁香五月激情网| 婷婷五月影院| 激情婷婷五月在线合集| 激情五月天激情网| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | www色婷婷久久综合久色| 俺去也在线官网| 婷婷婷婷色| 天天澡天天狠天天天做| 欧美婷婷五月激情| 色欲丁香| 伊人热婷婷| 香蕉操亚洲| 婷婷五月精品在线| 婷婷99| 精品一二三区久久AAA片| 夜夜大香蕉婷婷丁香| 99热九九这里只有精品| 99热精品在线在线| 久久婷中文字幕| 99er这里只有精品| 97AV在线视频| 婷婷九月狠狠色| 人人干天天舔| 激情久久肏屄视频| 操逼巨乳91| 婷婷成人在线| 色色com| http://www.com久久久精品一区| 大香伊人久色| 九九国产精视频| 五月天婷婷在线播放| 能看的AV| 五月天激情图片| 97婷婷丁香五月| 色色色色色综合| 日本三级片片| 毛片毛片毛片毛片| 碰久久精品w| 男人天堂伊人五月丁香| 亚洲男女激情| 婷婷开心深爱五月天| 99热超碰人| 五月天堂色| www.yw色| 五月婷婷啪啪网| 99re8这里只有精品99re8热视频| 天天综合五月天| 成人超碰网| 婷婷99狠狠躁天天躁| 丁香婷婷色五月合集| 五月天综合色| 夜夜人妻五月天| www.婷婷五月| www.五月天婷婷.com| 蜜臀99精品| 国产亚洲99久久精品熟| 天天爽天天干| 久久99免费视频| 国熟女视频| 中文字幕在线免费看线人| 粉嫩av懂色av蜜臀av熟妇| 精品人妻一区二区三区四区不卡在| 五月天婷婷无码| 国产毛片精品一区二区色欲黄A片| 久久小说网| 六月婷婷网| 亚洲黄色影视| 一区二区三区四区五区| 欧美色片中文字幕久久久久| 欧美激情凹凸丁香网| 亚洲三级无码| 欧美一级操逼视频| 91人人澡人人爽人人看| 日本久久天堂| 五月丁花色综合网| 婷婷五月天性爱视频| 91精品综合久久久久久五月丁香 | 色五月亚洲| 久久人人超| 99碰碰中文| 丁香婷婷视频一区二区| 精品成人在线观看| 五月婷婷综合网| 久思思久视频| 4399精品一区二区| 人人综合久| 五月丁香精品| 丁香狠狠干| 激情综合亚洲色婷婷五月| 99婷婷精品推荐在线视频| 天天久久综合| 影音先锋天天日| 欧美丁香五月| 天天操夜夜玩!| 精品久9| 久久久久久久合一狠狠做深爱| 人草人人| 99爱视频精品| 9l视频自拍九色9l黑人| 99九色视频在线观看| 涩五月婷婷| 色婷婷丁香五月| 精品无码人妻一区| 91狠狠色丁香| 日韩成人无码| 97干欧美| 99热国产在线| 伊人青草成人| 狠狠人妻色综合| 激情五月天综合网| 色色热| 婷婷五月四狠狠| 99re在线播放| 日本色久| 99综合色| 五月天成人伊人| 久婷自拍视频| 日韩不卡123| 婷婷五月电影| 婷婷五月天激情五月天| 亚洲激情图文小说| 婷婷九月狠狠色| 岛国av网站| 丁香狠狠色婷婷久久无码视频| 久99| 色婷婷六月天| 五月天综合| 六月丁香视频网站| 色婷成人狠干| 天堂在线婷婷| 久久精品一区二区三区四区| 日本99热| 欧洲亚洲免费视频9| 色色色色av777| 亚洲午夜一区二区| 六月丁香天堂| 991自拍视频| 来吧亚洲综合网| 五月婷婷丁香啪啪| 六月 丁香 视频| 国产67194| 五月丁香婷庭在线| 亚洲婷婷丁香五月天激情小说 | 婷婷色六月| 91视屏在线观看com.wwwvv| 日本色天堂| 精品久久久中文字幕大豆网推荐理由| 五月丁香综合精品| 五月天婷婷午夜丁香| 草榴视频黄色网| 久久人妻视频| 色丁香五月婷婷| 五月婷婷丁香五月天| 婷婷五月婷婷五月天| 五月婷婷色播视频| 97精品综合| 丁香婷婷婷五月综合色情| 欧美情色一区| 1024国产在线| 97操操网| 99艹精品在线观看| 久久99免费视屏| 久久精品国产精品| 国内精品99| 4438亚洲欧美| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 久久大香免费| 影音先锋91视频| 免费看欧美成人A片无码| 婷婷久久综| 久热超碰91| 操人妻视频91| 亚洲欧美婷婷五月色综合| 九九在线精点品| 国产无人区大片| 深爱激情五月婷婷| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 99综合99| sewuyuetingtingiii| 久热免费| 5月丁香美女影院| 六月丁香激情婷婷| 丁香五月天激情五月天激情五月天激情网| 成人开心五月天| 狠狠综合久久综合| 久久色五月天激情小说| 丁香六月激情蜜桃| 开心五月丁香啪| 超级黄色片| 香蕉久操| 激情五月婷婷| 超碰在线91| 国产婷婷五月天| 嫩草AV久久伊人妇女超级A| 亚洲综合激情五月久久| www.99在线| 9久久精品| 丁香六月婷婷色XXXXX| 华人在线免费| 婷婷婷婷婷婷婷婷| 这里只有精品免费视频| 久久婷婷影院| 久婷视频| 丁香五月在线伊人| 精品A√| 五月天色婷婷伊人网| 婷婷国产日本欧美| 五月激情六月婷婷| 五月丁香av中文| 五月婷婷久久综合| 九九九九中文字幕| aaaaaa片| 第五色婷婷| 欧美99热| www.日韩艹| 99色亚洲| 久热伊人| 综合久久五月| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 久久6这里只有精品| 99精品在线下载| 婷婷久久色| 日韩大片艹艹| 婷婷99视频在线| 久久婷婷综合拍| 婷婷丁香色五月亚洲| 日本婷婷综合精品| 五月婷婷亚洲| 91大操| 99热色婷婷| 九九sese| 久久丁香五月| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 玖玖婷婷五月| 蜜乳av一级av| 五月婷婷综合色啪首页| 99九精品| 手机AVAV天堂看网| 久久HD| 538在线精品| 久久99精品日本| 亚洲 在线 性爱 | 天天日日| 五月色在线| 日韩一级一片内射视频4K| 91日韩在线| 亚洲精品**不卡在线播he| 99玖玖在线视频| 思99热精品久久只有精品| 99精品久久久| 9999综合99综合人| 丁香美女主播视频在线观看 | 中国女人做爰A片| 99re热在线视频观看| 丁香五月天欧美| 丁香桃色网| 中文字幕欧美久久| 久久婷婷国产| 91精品91久久久中77777久久玖玖九九| 婷婷激情五月| 激情五月激情综合俺也去婷婷小说| 俺去也在线www色官网| 婷婷成人五月天成人文学小说| 天天日天天摸天天| 青草视频在线观看视频| 26uuu欧美日韩| 婷婷五月综激情| 九九热婷婷| 99热在线这里| 人操人| 人妻肉射免费观看| 综合在线观看99| 色六月丁香婷婷狠狠干| 激情五月天影院| 丁香五月婷婷五月天在线| 激情综合久久| 婷婷五月在线视频| 亚洲综合视频八| 六月五月婷婷| 天天综合久久| 五月婷婷综合热| 777精品成人a v久久| 久9热视频| 永久思思热在线| 久久99网站| 久久六月天| 99 热国产在| 青青草成人网| 丁香六月婷婷综合| 在线一起草av| www.色五月天.com| 婷婷五月六月| 这里只有精品在线观看视频| 色色综合日韩| 99久久婷婷国产综合| 影音先锋按摩| 色 噜噜 九月 婷婷| 婷婷五月综合社区在线| 超碰免费人| VA婷婷亚洲| 中文字幕成人版| www.五月激情红色| 午夜天堂一区人妻| AV五月婷婷露脸| 日产精品一线二线三线芒果| 天天成人综合| 成人深爱丁香五月| 97人人干| 九九久久这里只有精品XB| 深爱1激情网| 色色综合视频| 丁香网站| 五月丁香激情综合啪啪| 色五月婷婷五月丁香五月激情五月视频| 九九综合| 全高清无码视頻| 202丰满熟女妇大| 99re热视频这里只精品| 热久久视频99| 国产熟妇的荡欲午夜视频| 欧美97p| 久久99久久99精品免观看软件 | 伊人网啪啪| 久久婷婷综合网| 99自拍视频| 伊人玖玖精品| 日日天天干| 狠狠穞A片一區二區三區| 五月天三级久久| 一起草av| 婷婷五月天深爱| 婷婷五月天论坛| 97丁香五月| 九热视频| 肏屄色播伊人97婷婷| 五月丁香亚洲综合网| 99爱免费视频在线观看| 2025天天日爽| 性爱网五月婷婷| 婷婷丁香精品视频在线观看| 九久久九精品视频| 婷婷丁香六月五月天| 五月深爱激情网| 久久女伦| 色操综合| 26UUU精品一区二区Com| www.婷婷五月天| 99久久国产综合精品五月天喷水\| 亚洲操B视频| 99色 色| 婷婷丁香社区网| 婷婷六月天| 中文字幕无线久必| 69激情小说| 亚洲亚洲人成综合网络| 五月色婷婷在线观看| 婷婷中文字幕版| 特级西西4444www无码| 丁香六月婷婷激情| 天天干com| 国产黄色在线观看| 五月婷婷成人网首页| 欧美日韩一区二区三区四区| 五月婷婷综合在线| 五月婷婷在线视频免费观看| 超碰99资源站| 久久久com| 99热在线中文字幕| 婷婷精品免费久久| 久久综合网桃花| 五月花丁香婷婷| 色五月天丁香| 亚洲人成网站999久久久综合| 久久婷婷色| 激情五月丁香六月综合AVXXXX| 另类婷婷五月天啪帕帕| 丁香久久五月天视频在线观看| 91精品国产综合久久密臀 | 婷婷丁香色情五月天| 亚洲日本三级片| 亚洲人成人五月天| 激情超碰网| 五月色综合| 丁香五月婷婷综合精品素人| 中文无码婷婷| 天天搞天天爽| 深爱激情六月天| 婷婷五月综合久久中文字幕| 亚洲操逼片| 热久久色| 婷婷五月大香蕉| 丁香五月激情六月欧亚激情综合导航 | 丁香五月影院| 久久er+| 99爱操| 亚洲综合色色色| 成人电影在线免费试看| 99热亚洲精品| 丁香五月婷婷俺也要去| 大香人妻| 色五月丁香婷婷久草| 亚洲综合激情五月久久| 天天综合色| 婷婷基地成人五月天| 色色色1网址| 五月丁香六月婷综合成人综合 | 丁香六月婷婷综合缴| 最近中文字幕在线中文视频| 深爱激情四射| 曰韩少妇内射免费播放| 色情综合网| 91五月花丁香| 亚洲操操| 玖玖九九99| www色哟哟| 99热综合网| se99高清无码| 老师高潮流白浆喷水的A片| 欧洲亚洲免费视频9 | 超碰人人操在线| 开心深爱五月天| 玖玖婷婷综合| 伊人久久丁香狠狠婷婷综合香蕉 | 五月天激情婷婷丁香| 欧美大片免费观看| 91色色色| 久99久在线| 五月六月伦理| 久久精品亚洲一级牲爱综合| 狠狠狠狠狠狠狠狠草| 久久伊人大香蕉| 超级久久久| 五月婷婷电影院| 综合网色| 激情伊人五月天| 激情床戏| 九九热最新地址| 五月天天爱| 色九九综合| 婷婷中文字幕在线| 色宗合久久五月婷婷| 婷婷六月天精品| 伊人激情网| 综合噜噜| 成人婷婷深爱综合网| 人妻在线网站| 国产日韩欧美| 色婷婷婷婷五月天| 另类视在线| 91操人| 色色婷婷丁香| 五月丁香六月婷婷亚洲激情综合| 五月婷婷co.m| 婷丁香五月天| WWW五月天| 婷婷五月天高清无码| 综合久久五| 欧美丁香婷婷天天操| 婷婷五月天免费| 思思热精品在线| 五月婷婷,狠狠操| 丁香五月开心亚洲| 色激情五月| 思思久久99| av国产精品| 丁香婷婷深情五月亚洲| 久9视频| 久久久久久久人妻| 婷婷伊人久久| 99国产视频网| 狠狠色婷婷| 五月色婷丁香| 六月丁香婷婷五月天| 丁香五月欧美激情| 五月婷护士| 久久精品99久久久久久| 久久婷婷丁香| 五月丁香在线| 欧美97p| 婷婷九色| 五月永久激情| 色播播五月天| 五月天色婷婷小说| 丁香五月天网友自拍啪啪啪视频| 中文AV在线播放| 九九热只有精品| 九九99精品免费播放| 香蕉99网| 强辱丰满人妻HD中文字幕| 亚洲精品国产熟女久久久| 九月婷婷激情| 激情五月天免费视频| 亚洲色在线观看| 中文字幕婷婷| 色色热| 99a级片| 久热91| 啪啪五月婷婷| 久久最新色色色| 色色综合日韩| 色五月欧美| 亚洲精品字幕在线观看| 国产激情在线| 激情婷婷内射| 99视频在线精品| 120分钟婬片免费看| 超碰京东热av男人的天堂| 另类图片色五月| 久久五月天婷婷| 丁香婷婷久久综合在线| 五月香婷婷| 欧美熟女视频 色婷婷| av五月天婷婷丁香| 激情深爱婷婷网| 色色性爱视频| 在线播放人妻| 99在线免费视频| 午夜激情五月| 99热精品在线观看| 日本超碰在线| 九九视频在线观看| 婷婷色色亚洲| 丁香婷婷五月天亚洲| 激情五月婷黄版| A片试看120分钟做受图片| 九九久久精品國產| 五月婷婷伊人久久| 亚洲成人免费在线| 激情久久综合| 99操免费视频| 婷婷色色综合| 五月婷婷这里都是精品| 狠狠色综合网| 99在线热视频| 五月天激情国产综合婷婷| 国产人妻777人伦精品HD| 色五月婷婷中文字幕在线观看 | 亚洲天天免费| 日韩成人免费电影| www.射伊蕉婷婷| 五月的丁香六月的婷婷| www.婷婷| 色呦呦免费观看| 五月丁香六月激情| 婷婷五月激情五月丁香五月| 国产成人综合亚洲| 五月丁香怕啪啪| 色玖玖综合网| 亚洲XX网| 日韩视频99| 人碰人人人玩91| 思思视频久久| 丁香五月天综合| 91AV婷婷| 色婷婷偷拍| 色婷婷在线影院| 操骚货在线| www亚洲无码| 五月婷婷插一插| 五月天婷婷色| 五月丁香婷婷婷婷综合网| 99国产精品久久久久久久久久久| 综合 激情 婷婷| 欧洲激情五月天| 五月丁香六月婷| 超碰操网| 狠狠色噜噜狠狠狠888| 亚洲va日| 久久这里只有精品99| 丁香五月精品视频| 丁香在线视频| 狠狠va| 婷婷五月激情中文字幕| 丁香五月婷婷深爱综合激情| 亚洲超碰在线| 人妻在线中文字幕久久| 日韩AC在线免费观看| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 五月丁香激情啪啪网| 五月天婷婷综合免费| 无码少妇高潮喷水A片免费| 丁香六月 人妻| yellow视频在线观看91| 无码人妻激情| 婷婷五月色天| 婷婷五月天AV| 大战熟女丰满人妻AV| 丁香五月欧美成人| 婷婷五月色| 久久久久久久久久久久久久人妻视频 | 日屌日日操日日色| 韩国19 主播内部福利vip免费播放| 色欲婷婷夜夜| 九月丁香八月婷婷加勒比| 日本婷婷综合精品| 狠狠婷婷综合| 亚洲精品在线视频| 色五月涩涩婷婷蜜桃| A片试看120分钟做受图片| 停停五月丁香| 久久98| 亚洲另类电影| 色色色.com| 狠狠色丁香婷婷五月| 欧洲不卡视频| 色狠狠六月| 激情6月| 少妇婷婷五月天| SESE无码AV| 九九99免费理论| 99久久国产宗和精品1上映| 国语精品探花| 色婷婷五月天中文字幕| 国产精品人成A片一区二区| 色噜噜狠狠插综合| 99re99在线看| 麻豆忘忧草午夜| 超碰在线99| 思思热久久婷婷五月天| 激情六月丁香| 五月天婷婷久久| 五月天停停成人网| 婷婷在线精品| 婷婷综合九色伊人| 五月婷婷中文| 色综合久久88色综合天天| 丁香六月久久| 亚洲99一级无嗎特制在线| 五月花激情| 婷婷五月天免费视频| 婷婷爱在线观看| 爱狠射| 性做爰A片免费视频A片直播| 婷婷五月色惰| 涩涩五月天综合| 丁香九月综合在线| 92久久精品一区二区| 99爽视频| 51精品国自产在线| 无码动漫av| 婷婷丁香九色| 精品色色| 丁香五月开心亚洲| 开心激情播播五月天| 婷婷永久在线| 九月丁香八月婷婷久久综合久97| 久久婷婷成人综合色怡春院| 69午夜成人影片| 三级三久久线久久99久目本WW| 欧美va视频| 丁香六月天色婷婷| 国产VA播放| 中文字幕AV网址| 久久久九九九 99| 国产一级片色色| www.色99| 婷婷六月丁香五月| 亚洲日日日| 亭亭丁香久久五月| 91色色色| 欧洲亚洲免费视频9| 丁香久月婷| 91熟妇大香蕉| 国产精品18久久久| 久久婷婷六月综合| 26UUU欧美激情一区二区| 久久久久久久久人妻| 超碰免费人妻| 天天操B| 亚洲啪啪网| 久久这里只有精品视频15| 超碰91在线| 91久久综合亚洲鲁鲁五月天| 婷婷丁香六月| 狼人婷婷综合| 另类A片| AV色婷婷| 欧美啪啪9| 亚洲精品视频电影| 国产亚洲精品久久一区二区三区| 99精品久久| 99人碰碰碰| 久久多色| 欧亚洲在线高清视频| av免费在线网站| 婷婷五月激情综合啪啪| 久久伊人婷| 丁香五月婷婷激情完整版| 伊人青涩网| 亚洲成人无码免费| 九九99九九精品免费 | 欧美在线看| 色噜久| 另类激情五月| 噜综合| 狠狠干总合| 日日操人人操| 激情网五月婷婷| 婷婷五月天激情网站| 天天干天天拍| 色五月天激情| 久久婷婷五月天| 国产99久久久| 五月天婷婷基地| 粉嫩AV久久一区二区三区 | 91欧美日韩| 丁香影院五月综合| 99热线观看9| 九九精品综合| 色婷网| 色欲影香| 久久综合网免费视频| 99re思思热在线视频| 99这里只有精品视频在线| 激情五月婷婷啪啪| 婷婷久久网| 久久伊人婷婷| WWW99热| 成人片在线播放| 婷婷亚洲综合| 婷婷月综合| 91日日日| 久久大香蕉| 91久久婷婷| 99热都是精品| 99精品热| www.久久久久| 六月婷婷五月天| 激情无码五月天| 欧美熟妇一区二区三区| 丁香激情网| 久久婷婷91| 亭亭五月天黑人2014| 婷婷开心五月| 婷婷丁香五月麻豆| 9久久精品| www色五月| 99视频在线| 97涩涩丁香五月天| 播播网色播播| 深夜男女福利刺激影院一区完整| 人妻中文字幕网| 久久久久久9热不雅视频| 六月丁香网| 五月激情小说| 99精品偷拍视频| 另类国产区| 五月婷婷综合网在线播放| 九九性视频| 亚洲成人在线综合| 99这里只有精品|v| 久久全色| 国产夫妻操逼内射视频| 夜夜躁爽日日| 激情小说五月天| 天天肏天天肏天天肏| 七七九九色色| 五月天婷综合| 五月婷婷丁香91| 在线中文av| 五月婷婷自拍| 五月丁香啪| 九九九九九九综合| 精品久久久久久久久久久久人妻| 小视频aaa久久久| 久久婷婷视频| 大香蕉伊人久久| 国产人妻777人伦精品HD| 婷婷激情人妻| 色五月色五天色情网| 激情五月天婷婷| 少妇做爰免费视看片| www.精品99| 国产成人va在线| 开心五月婷婷激情| 激情五月综合网最新| www.99热. com这里只有精品| 激情九月婷婷| 噜噜久| 日韩人妻AV在线| 婷婷久久婷婷| 久久婷婷五月综合精品蜜芽| 色爱亚洲| 99热国产精品| 色婷久| 色五月综合网| 免费观看亚洲AV片| 国产免费一区二区三区三州老师F1F1.CC | 久激情网| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 色婷婷五月色| 色色色色色色网| 国产成人AV| 秋霞三级色戒| 人人操人人干AV| av在线不卡播放| 婷婷五月激情丁香激情| 色色色色色色网| 激情五月瑟瑟| 天天天日天天天干| 丁香五月激情图片婷婷| 欧洲永久精品| 丁香久月| 在线资源av-超碰中文在线-成人AV| 久久狠婷婷| 丁香五月激情鲁| 欧美性生交XXXXX无码小说| 精品九九在线观看视频| 91精品久久久久久综合五月天| 丁香五月成人社区| 婷婷五月激情欧美| 综合啪啪| 久久婷五月综合| 日本精品99网站| 亚洲视频五区| 亚洲综合九九| 伊人大香蕉综合在线| 久久免片| 日本少妇AA一级特黄大片| 五月婷婷综合久久| 新男人天堂人妻| 三级成人网站| co超碰在线观看| 成人色色视频| 欧美日韩国产一二区| 婷婷色5月激情网| 五月色婷婷夜色| 人人射人人高潮| www五月天com| 99riAV国产精品视频| 亚洲AV成人片无码网站| 久久五月丁香| 99热免费精品热久久66| 日本天天操| 99精品这里只有免费视频| 五月激情天| 色六月视频| 久re在线| 91色逼| 二色av| 丁香五月天堂网| 91九色在线| 久久婷婷五月天| 成人国产综合| 欧美槡BBBB槡BBB少妇| 96性爱视频| 日本在线观看aaa 99| 激情综合五月| 丁香五月激情综合| www.婷婷| 五月丁香六月情亚洲| 欧美WW在线网| 亚洲av骚货| 欧美综合激情五月| 看逼中文字幕| 亚洲色婷婷| http://www.lingjunshare.com/| 96精品久久久久久久久| 99色在线视频| 97色射| 久久久性爱视频| 婷婷五月天激情在线观看 | 国产精品丝| 婷婷伊人中文字幕| 色天天综合色| 欧美日韩中国| 夜夜骑夜夜撸| 婷婷五月丁香综合激情小说| 欧洲综合一区| 丁香婷婷五月综合色情| 99精品久久久久久久婷婷久久| 激情五月综合婷婷| 日本九九九九| 成人无码髙潮喷水A片| 丁香五月婷婷激情中文| 99久在线精品99re5热视频| 婷婷五月影院| 久操97| 久艹伊| 另类 在线| 久热久操久热久草国产91| 极品嫩草| 激情五月瑟瑟| aaa9区免费在线观看| 久久五月婷婷视频| 色五月婷婷五月天激情综合| 香蕉久久av一区二区三区| 五月丁香激情综合| 男男野外做爰全过程69| 国产精产国品一二三在观看| 不卡的AV网站| 五月婷婷六月丁香综合在线| 久热一本| 五月天婷婷在线AN| 开心婷婷五月中文字幕组| 久久色天堂| 热99久久这里只有精品| 玖玖婷婷精品| 日产精品久久久久久久蜜臀| 天天操夜夜操| 亚洲九九九九| 91成人电影| www99精品日韩| 色丁香六月| 五月天综合激情网| wWw色五月| 美女五月狠狠| 亚洲视频在线观看| 亚洲图片 丁香婷婷| 99视频免费播放| 秋霞日本免费毛片A片| www久久久久| 六月婷婷综合网2| 婷婷娱乐丁香综合网| 丁香五月天啪啪| 欧美69久成人做爰视频| 六月婷婷综合| 天天狠狠六月婷丁香影院| 婷婷大美在线| 黄色五月婷婷| 激情图片久久| 97se在线视频| 九九热在线精品| 亚洲秘 无码一区二区三区妃光/1| 综合久久五| 五月丁香婷婷基地| 婷婷五月激情的图片| 久久丁香五月婷| 色丁香五月婷婷在线| 婷婷五月天堂| A1片久久久| 婷婷五月丁香人妻无码高清| 先锋影音av色五月天资源站| 天天干天天操天天爽| 国产激情在线| 激情视频综合| 色5月丁香婷婷| 日韩在线aaa| 五月四色婷婷| 色青青五月| 久久99激情| 五月天五月色婷婷综合| 亚洲精品乱码久久久久久按摩观| 综合婷婷| 五月天播播| 丁香久久| 91婷婷五月天嫩女| 五月丁香啪啪综合网| 丁香婷婷网| 九九久久99精品免费观看www| 丰满女老板BD高清A片| 大香蕉久久视频久久视频 | www.五月.com| 99精品视频在线观看| 婷婷五月天久久| 色六月视频| 噜噜噜狠狠色综| www,超碰| 丁香五月久久综合| 开心激情播播五月天| 婷婷五月天成人动漫 | 少妇性按摩无码中文A片| 丁香影院五月综合| 九九精品少妇| 婷婷五月骚厕所| 丁香五月花影院| 国产精品久久久久久久久久| 巴基斯坦粉嫰无码视频| 激情图片99| 99热99精品在线观看| 婷婷丁香六月天| 五月噜噜| 狠狠做五月婷婷| 国产欧美大香蕉一区| 9色91视频| www.minyis.com【JT】实力收量可预付QQ2101460746 | 激情五月婷婷丁香| 天天舔天天摸视频| 淫水导航| 五月情涩综合婷婷| 婷婷丁香六月五月天| 色婷婷激情| 五月香婷婷| 天天色综网| 综合婷婷都市激情| 色狠狠色| 果冻传媒A片一二三区| 日本熟女一区二区| 五月天天天综合| 97久久五月丁香婷婷| 五月丁香综合激情| 九九香蕉网| 婷婷五月天视频免费在线观看| 天天人人人人人人人人人人人| 婷婷五月丁香五月天| 99激| 欧美色宗和激情| 国产欧美日韩综合精品一区二区| 99碰网站| 亚洲精品国产A久久久久久| 黄色五月婷婷| 五月婷婷亚洲| 26uuu亚洲欧美另类| 成人无码髙潮喷水A片| 99九九在线观看免费| 国产精品久久久丁香五月八戒视频| 五月丁香婷婷成人网| 丁香五月六月婷婷自拍| 婷婷激情五月| 丁香六月狠狠干| 五月做爱| 国外亚洲成AV人片在线观看| 久大香蕉| 九九99视频| 激情二色月| 五月丁香天天| 色婷婷玖玖影院| 免费91久久精品| 99精品国产乱码久久久人妻| 99综合| 天天舔天天爽| 久久香蕉网| 国产精品电影网| 欧美成人网99网| 五月婷婷激情视频| 伊人婷婷激情| 99在线视频精品| 亚洲丁香五月美女| 天堂婷婷五月在线| 99在线观看亚洲| 中文字幕av久久爽一区| 1024欧美日韩精品久久久| 丁香五月激情啪啪综合| 91人妻人人操| 丁香五月婷婷亚洲天堂| 伊人大香蕉综合在线| 色婷婷色| 色婷婷综合久久久久| 无码四色色色| 国产亚洲色婷婷99精品| 99色1| xx人人xx| 噜噜干日本| 婷婷色中文字幕| 色五月婷婷成人| 乱岳熟女50岁| 伊人久久大香| 人人摸人人干| 日韩无码乱轮| 97色婷| 色愛综合网| 久久99免费视屏| 亚洲区,视频区,视频区免费| 九月大香蕉| 五月天天丁香婷婷在线中| 五月婷婷在线丁香| 色婷婷丁香特级性爱视频| 噜噜狠狠色综无码久久合欧美| 超碰在线成人| tingtingzonghewang| 综合激情五月丁香| 激情五月天偷拍综合网| 99视频在线精品免费观看2| 国产精品久久久久久久久久久久| 日日操,天天操| 激情色播| 天天日天天久久青青| 日韩 中文 欧美| 亚洲综合色丁香五月天| 九九热短视频在线观看| 亚洲永久四色| 日本不卡高字幕在线2019| 欧美日本黄色| 六月婷婷狠狠| 婷婷六月天天| 91高潮喷水久久久久久久久| 色色操| 神马欧美精| 丁香婷婷影院| 激情黄色五月天| 五月丁香激情六月| 成人在线99| 粉嫩av蜜桃av蜜臀av| 久久婷婷五月综合色和| 三男玩一女三A片| 色综天天综合| 五月婷亚洲精品| 又大又粗九一在线| 久久机只有这里精品| 久草婷婷| 久久久妻人人人| 色欲一区二区三区精品A片| 在线资源av-超碰中文在线-成人AV| 免费视频在线观看的网站| 99在线视频精品| 9热视频在线观看| 91碰超| 激情五月影院| 久久大香蕉伊人| 五月婷婷之综合激情| 国产色色色色色| 色五月天综合网| 丁香婷婷五月人体| 色狠狠综合入口| 婷婷五月综合网| 久9热| 乱女乱妇熟女熟妇综合网站| 日本久久99| 2014天天爽| 五月天婷婷影院| 色情五月天首页| 九七色色六月丁香| 五月婷婷婷婷婷| H亚洲| 大香蕉欧美在线| 色五月激情网| 99激情视频| 伊人丁香花综合影院| 97在线干| 思思热视频在线| 99色看这里只有精品| 五月J香蕉婷婷| 五月开心婷婷| www.sebowuyue| 丁香六月婷婷久久综合| 丁香五月天成人| 夜色综合网| 少妇水多A片太爽了| 久久金品黃色| 五月久久噜噜| 91大神在线免费看视频全集男男一起操| 中文字幕丰满人妻无码专区| 99激情网| 久久婷婷五月综合伊人| 人人97碰| 1024在线视频| 五月丁香999| 国产激情综合五月久久| 婷婷香蕉精品| 婷婷五月天资源| 性爱AV天堂| 99热在这里只有免费精品| 日日舔夜夜操| www狠狠| 国产操逼视频网站| www久久久| 婷婷五月天激情五月天深爱五月天| AA丁香综合激情| 99视频地址| 五月丁香六月婷婷,婷| 美女91一起草| 久久久九九九 99| 日本天天色| 激情开心五月天| 激情五月丁香婷婷|