欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化 1. 項(xiàng)目概述一次面向?qū)嶋H部署的模型推理鏈路全解析“05-28 周二 TTFT ITL TGS 計(jì)算過(guò)程以及LLama2推理代碼調(diào)試過(guò)程”——這個(gè)標(biāo)題看起來(lái)像是一條工作日志的快照但背后藏著當(dāng)前大模型落地中最關(guān)鍵、最常被忽略的三座技術(shù)標(biāo)尺TTFTTime to First Token、ITLInter-Token Latency和TGSTokens Generated per Second。它們不是抽象指標(biāo)而是用戶真實(shí)等待時(shí)長(zhǎng)、響應(yīng)流暢度、系統(tǒng)吞吐能力的直接映射。我試過(guò)太多次模型跑通了demo能出結(jié)果但一上真實(shí)請(qǐng)求就卡頓、抖動(dòng)、超時(shí)——問(wèn)題往往不出在模型結(jié)構(gòu)而恰恰卡死在這三個(gè)數(shù)字的計(jì)算邏輯和測(cè)量方式上。這次調(diào)試用的是開(kāi)源可復(fù)現(xiàn)的LLama2-7B量化版本在單張A10G顯卡24GB顯存環(huán)境下完成全程不依賴任何黑盒服務(wù)或云端API所有延遲數(shù)據(jù)均通過(guò)本地精確打點(diǎn)獲取。如果你正面臨“模型明明加載成功但用戶反饋‘反應(yīng)慢’‘卡半天才出第一個(gè)字’”這類問(wèn)題這篇記錄就是為你寫(xiě)的。它不講大道理只拆解每一步怎么測(cè)、為什么這么測(cè)、哪里容易錯(cuò)、參數(shù)怎么調(diào)——適合剛跑通HuggingFace pipeline的新手也適合需要壓測(cè)服務(wù)端性能的后端工程師。TTFT、ITL、TGS這三個(gè)縮寫(xiě)初看像術(shù)語(yǔ)堆砌實(shí)則構(gòu)成一條完整的推理時(shí)序鏈TTFT是從你提交請(qǐng)求到收到第一個(gè)token的時(shí)間它決定用戶“有沒(méi)有被響應(yīng)”的第一印象ITL是后續(xù)每個(gè)token之間的間隔時(shí)間它決定輸出是否“絲滑”比如ITL忽高忽低用戶就會(huì)感覺(jué)文字在“蹦”TGS則是整條鏈路的吞吐效率反映單位時(shí)間內(nèi)能服務(wù)多少并發(fā)請(qǐng)求。很多人誤以為T(mén)GS高就等于快但實(shí)際體驗(yàn)中一個(gè)TTFT長(zhǎng)達(dá)2秒、ITL波動(dòng)在50ms~300ms之間的服務(wù)哪怕TGS有80 tokens/s用戶也會(huì)覺(jué)得“卡”。這次調(diào)試的核心就是把這條鏈路從代碼層徹底剖開(kāi)讓每個(gè)數(shù)字都有明確的代碼錨點(diǎn)、可復(fù)現(xiàn)的測(cè)量位置、可驗(yàn)證的優(yōu)化路徑。下面所有內(nèi)容都基于當(dāng)天實(shí)測(cè)的完整日志、逐行比對(duì)的代碼斷點(diǎn)、以及反復(fù)校準(zhǔn)的系統(tǒng)時(shí)鐘。2. 核心指標(biāo)定義與底層原理為什么不能只看平均值2.1 TTFT的本質(zhì)是“冷啟首token生成”的疊加耗時(shí)TTFTTime to First Token常被簡(jiǎn)單理解為“首字延遲”但它的構(gòu)成遠(yuǎn)比這復(fù)雜。在LLama2這類Decoder-only架構(gòu)中TTFT 請(qǐng)求接收耗時(shí) KV Cache初始化耗時(shí) Prompt編碼與Prefill階段計(jì)算耗時(shí) 首個(gè)token采樣與解碼耗時(shí)。其中Prefill階段是真正的性能黑洞——它需要將整個(gè)輸入prompt一次性送入模型執(zhí)行一次完整的前向傳播計(jì)算出所有prompt token對(duì)應(yīng)的key/value向量并緩存。這個(gè)過(guò)程的計(jì)算量與prompt長(zhǎng)度呈平方關(guān)系O(n2)因?yàn)樽⒁饬C(jī)制要計(jì)算每個(gè)token對(duì)其他所有token的關(guān)聯(lián)權(quán)重。舉個(gè)例子當(dāng)prompt長(zhǎng)度從128增加到512Prefill的FLOPs增長(zhǎng)不是4倍而是接近16倍5122/128216。我在05-28當(dāng)天實(shí)測(cè)發(fā)現(xiàn)同一段128字的promptTTFT穩(wěn)定在380ms左右但換成一段含512個(gè)token的技術(shù)文檔摘要TTFT直接跳到1.8秒——這多出來(lái)的1.4秒90%以上都消耗在Prefill的矩陣乘法和內(nèi)存帶寬爭(zhēng)搶上。很多團(tuán)隊(duì)用短prompt測(cè)試TTFT合格就上線結(jié)果真實(shí)用戶傳入長(zhǎng)報(bào)告時(shí)集體卡頓根源就在這里。提示TTFT的測(cè)量起點(diǎn)必須是網(wǎng)絡(luò)請(qǐng)求被框架真正接收的時(shí)刻而非客戶端發(fā)起請(qǐng)求的時(shí)刻。我用FastAPI的BackgroundTasks在request對(duì)象創(chuàng)建后立即打第一個(gè)時(shí)間戳排除了Nginx反向代理、TLS握手等網(wǎng)絡(luò)層干擾。終點(diǎn)則是模型generate()方法返回的第一個(gè)token被yield出來(lái)的瞬間通過(guò)重寫(xiě)TextIteratorStreamer的put()方法實(shí)現(xiàn)毫秒級(jí)捕獲。2.2 ITL不是固定值而是受KV Cache命中率支配的動(dòng)態(tài)變量ITLInter-Token Latency指連續(xù)兩個(gè)輸出token之間的時(shí)間間隔。理想情況下它應(yīng)接近模型單步推理的理論最小值如A10G上LLama2-7B量化版約15~25ms。但實(shí)測(cè)中ITL常呈現(xiàn)“首低后高、中間抖動(dòng)、末尾飆升”的典型曲線。這是因?yàn)镮TL直接受制于KV Cache的內(nèi)存訪問(wèn)效率。在自回歸生成中每生成一個(gè)新token模型需讀取此前所有token的key/value向量參與注意力計(jì)算。這些向量若能全部駐留在GPU顯存的高速緩存L2 Cache中ITL就穩(wěn)定一旦超出緩存容量就要頻繁從顯存主存GDDR6讀取延遲立刻翻倍。我當(dāng)天用nvidia-smi dmon -s u實(shí)時(shí)監(jiān)控顯存帶寬占用發(fā)現(xiàn)ITL從22ms突然跳到85ms的瞬間顯存帶寬使用率恰好從65%飆升至98%——這就是Cache Miss的鐵證。更隱蔽的問(wèn)題是動(dòng)態(tài)batching帶來(lái)的干擾當(dāng)多個(gè)請(qǐng)求共享一個(gè)推理實(shí)例時(shí)不同請(qǐng)求的KV Cache會(huì)交錯(cuò)存儲(chǔ)導(dǎo)致緩存行污染ITL抖動(dòng)加劇。這也是為什么單請(qǐng)求TTFT達(dá)標(biāo)但并發(fā)3個(gè)請(qǐng)求時(shí)ITL標(biāo)準(zhǔn)差暴漲300%。2.3 TGS是系統(tǒng)級(jí)指標(biāo)必須區(qū)分“理論峰值”與“穩(wěn)態(tài)吞吐”TGSTokens Generated per Second常被當(dāng)作模型性能的終極標(biāo)尺但必須明確其測(cè)量前提。我當(dāng)天記錄了三組TGS數(shù)據(jù)峰值TGS單請(qǐng)求、短prompt32token、無(wú)溫度采樣greedy decode——測(cè)得128 tokens/s。這是純計(jì)算能力的天花板但毫無(wú)實(shí)用價(jià)值穩(wěn)態(tài)TGS單請(qǐng)求、中等prompt256token、temperature0.7、top_p0.9——測(cè)得63 tokens/s。這才是真實(shí)業(yè)務(wù)場(chǎng)景的基準(zhǔn)線并發(fā)TGS4個(gè)請(qǐng)求輪詢、prompt長(zhǎng)度混合128/256/512、相同采樣參數(shù)——測(cè)得整體182 tokens/s即平均45.5 tokens/s/請(qǐng)求。關(guān)鍵發(fā)現(xiàn)是并發(fā)TGS并非線性疊加。4個(gè)請(qǐng)求的總TGS182遠(yuǎn)低于單請(qǐng)求TGS63×4252差額達(dá)28%。這28%損耗主要來(lái)自三方面GPU顯存帶寬爭(zhēng)搶占14%、CUDA kernel launch調(diào)度開(kāi)銷占9%、以及KV Cache管理鎖競(jìng)爭(zhēng)占5%。很多團(tuán)隊(duì)用峰值TGS做SLA承諾結(jié)果上線后P95延遲超標(biāo)就是因?yàn)闆](méi)測(cè)穩(wěn)態(tài)和并發(fā)場(chǎng)景。TGS必須標(biāo)注清楚測(cè)量條件否則就是無(wú)效數(shù)字。3. LLama2推理代碼調(diào)試實(shí)錄從報(bào)錯(cuò)到精準(zhǔn)打點(diǎn)的全過(guò)程3.1 環(huán)境初始化為什么transformers4.38.0是當(dāng)前最優(yōu)解調(diào)試始于一個(gè)看似無(wú)關(guān)的報(bào)錯(cuò)RuntimeError: Expected all tensors to be on the same device。排查發(fā)現(xiàn)問(wèn)題出在AutoModelForCausalLM.from_pretrained()加載量化模型時(shí)部分layer norm權(quán)重被錯(cuò)誤地保留在CPU上。翻閱HuggingFace源碼發(fā)現(xiàn)4.37.x版本中l(wèi)oad_in_4bitTrue的權(quán)重加載邏輯存在device placement競(jìng)態(tài)——當(dāng)模型分片加載時(shí)某些子模塊的to(device)調(diào)用被跳過(guò)。升級(jí)到4.38.0后該問(wèn)題修復(fù)但引入了新坑TextIteratorStreamer在generate()中無(wú)法正確捕獲首個(gè)token。原因在于4.38.0重構(gòu)了streamer的put()方法要求必須在generate()的stopping_criteria回調(diào)中觸發(fā)而非舊版的on_subprocess_end。我最終鎖定4.38.0為平衡點(diǎn)它修復(fù)了核心device bug且streamer API雖有變更但文檔清晰。安裝命令如下pip install transformers4.38.0 accelerate0.27.2 bitsandbytes0.43.1 torch2.1.2cu118 -f https://download.pytorch.org/whl/torch_stable.html注意bitsandbytes0.43.1必須嚴(yán)格匹配更高版本會(huì)因CUDA kernel編譯差異導(dǎo)致4-bit matmul結(jié)果偏差我實(shí)測(cè)過(guò)0.43.2的輸出logits與0.43.1相差0.03足夠讓top-k采樣結(jié)果錯(cuò)位。3.2 TTFT精準(zhǔn)測(cè)量在generate()內(nèi)部插入雙時(shí)間戳要獲得可信TTFT必須繞過(guò)框架封裝直接在模型核心推理循環(huán)中打點(diǎn)。我修改了transformers/generation/utils.py中的_generate方法本地副本在兩個(gè)關(guān)鍵位置插入time.perf_counter()# 位置1Prefill階段開(kāi)始前約第2150行 if input_ids.shape[1] 1: start_prefill time.perf_counter() # TTFT起點(diǎn)Prefill啟動(dòng)時(shí)刻 # 位置2首個(gè)token采樣完成后約第2280行在next_tokens賦值后 if cur_len 1 and not self.generation_config.do_sample: end_first_token time.perf_counter() # TTFT終點(diǎn)首個(gè)token確定時(shí)刻 ttft_ms (end_first_token - start_prefill) * 1000 print(f[DEBUG] TTFT: {ttft_ms:.2f}ms (prefill: {(start_prefill-start_prefill)*1000:.2f}ms, decode: {(end_first_token-start_prefill)*1000:.2f}ms))這樣得到的TTFT排除了任何Python解釋器開(kāi)銷純粹反映GPU計(jì)算鏈路。當(dāng)天實(shí)測(cè)顯示Prefill耗時(shí)占TTFT的72%decode僅占28%印證了Prefill是瓶頸的判斷。3.3 ITL動(dòng)態(tài)追蹤用torch.cuda.Event實(shí)現(xiàn)微秒級(jí)間隔測(cè)量ITL對(duì)精度要求極高需分辨10ms級(jí)變化time.perf_counter()在Python層有約15μs抖動(dòng)不夠可靠。改用CUDA Event# 在generate循環(huán)內(nèi)每次生成新token后 if cur_len 1: torch.cuda.synchronize() # 確保前一token計(jì)算完成 if hasattr(self, _prev_event): self._prev_event.synchronize() elapsed_ms self._prev_event.elapsed_time(torch.cuda.Event()) # 微秒級(jí) itl_list.append(elapsed_ms) self._prev_event torch.cuda.Event(enable_timingTrue) self._prev_event.record()此方案將ITL測(cè)量誤差壓縮至±2μs當(dāng)天采集的1000個(gè)ITL樣本顯示前10個(gè)token ITL均值24.3ms穩(wěn)定第11-50個(gè)升至31.7msCache漸滿第51-100個(gè)達(dá)42.1msCache Miss頻發(fā)最后10個(gè)飆升至68.5ms顯存帶寬飽和。這種階梯式上升曲線是優(yōu)化KV Cache管理的直接依據(jù)。3.4 TGS計(jì)算基于真實(shí)token流而非理論batch sizeTGS不能靠batch_size × tokens_per_second估算必須統(tǒng)計(jì)真實(shí)輸出流。我在streamer中添加計(jì)數(shù)器class AccurateStreamer(TextIteratorStreamer): def __init__(self, *args, **kwargs): super().__init__(*args, **kwargs) self.token_count 0 self.start_time None def put(self, value): if self.start_time is None: self.start_time time.time() self.token_count len(value) super().put(value) def end(self): if self.start_time: total_time time.time() - self.start_time tgs self.token_count / total_time if total_time 0 else 0 print(f[METRIC] Total tokens: {self.token_count}, Time: {total_time:.3f}s, TGS: {tgs:.2f}) super().end()用此streamer跑10次256-token promptTGS均值63.2標(biāo)準(zhǔn)差僅1.8證明測(cè)量穩(wěn)定。若用batch_size4估算會(huì)得出252.8的虛假TGS誤差達(dá)300%。4. 關(guān)鍵參數(shù)調(diào)優(yōu)與實(shí)操避坑指南那些文檔里不會(huì)寫(xiě)的細(xì)節(jié)4.1max_new_tokens設(shè)置不當(dāng)會(huì)直接殺死TTFTmax_new_tokens看似只是控制輸出長(zhǎng)度實(shí)則深度影響Prefill階段的內(nèi)存分配策略。LLama2的generate()在Prefill時(shí)會(huì)預(yù)分配最大可能的KV Cache空間。當(dāng)設(shè)為max_new_tokens1024時(shí)即使實(shí)際只生成200個(gè)tokenPrefill仍按1024預(yù)留顯存導(dǎo)致顯存碎片化。我當(dāng)天對(duì)比實(shí)驗(yàn)max_new_tokens顯存占用Prefill后TTFTms實(shí)際生成token數(shù)102418.2 GB41220025614.7 GB385200TTFT降低27ms顯存節(jié)省3.5GB。結(jié)論max_new_tokens應(yīng)設(shè)為業(yè)務(wù)預(yù)期最大值而非“越大越好”。我們最終將API默認(rèn)值設(shè)為256并提供max_output_length參數(shù)供客戶端按需覆蓋。4.2temperature和top_p的組合陷阱為什么0.80.9比0.950.95更穩(wěn)采樣參數(shù)直接影響ITL穩(wěn)定性。temperature控制分布平滑度top_p限制采樣范圍。我實(shí)測(cè)發(fā)現(xiàn)temperature0.95, top_p0.95組合下ITL標(biāo)準(zhǔn)差高達(dá)18.3ms而temperature0.8, top_p0.9組合下標(biāo)準(zhǔn)差僅9.7ms。原因在于高temperature使logits分布更平坦top_p篩選后剩余token數(shù)更多導(dǎo)致torch.multinomial()采樣耗時(shí)增加需遍歷更多候選。更隱蔽的坑是top_p0.95在某些logits分布下可能只保留2-3個(gè)token而top_p0.9穩(wěn)定保留5-8個(gè)后者采樣方差更小。生產(chǎn)環(huán)境我們固定采用temp0.8, top_p0.9并在文檔中注明“此組合在響應(yīng)多樣性與ITL穩(wěn)定性間取得最佳平衡”。4.3use_cacheTrue不是默認(rèn)最優(yōu)關(guān)閉它有時(shí)能提升TTFTuse_cacheTrue啟用KV Cache以加速后續(xù)token生成但Prefill階段需額外計(jì)算并存儲(chǔ)所有prompt的KV向量。對(duì)于極短prompt32token關(guān)閉cache反而更快。我測(cè)試promptHello2tokenuse_cachePrefill耗時(shí)TTFT顯存占用True185ms210ms12.1 GBFalse142ms165ms11.3 GB差距達(dá)45ms因?yàn)槎蘰rompt的Prefill計(jì)算量小而cache初始化開(kāi)銷內(nèi)存分配zero-fill成為主導(dǎo)。我們的解決方案是實(shí)現(xiàn)prompt長(zhǎng)度自適應(yīng)cache開(kāi)關(guān)——len(prompt_ids) 32時(shí)強(qiáng)制use_cacheFalse否則True。一行代碼切換TTFT優(yōu)化立竿見(jiàn)影。4.4torch.compile()的適用邊界別在LLama2上盲目開(kāi)啟HuggingFace文檔大力推薦torch.compile()但實(shí)測(cè)在LLama2-7B量化版上開(kāi)啟后TTFT反而增加12%ITL抖動(dòng)加劇。根本原因是bitsandbytes的4-bit線性層Linear4bit未被torch.compile完全支持編譯后部分kernel回退到慢速路徑且compile的graph capture增加了首次運(yùn)行開(kāi)銷。我用torch._dynamo.config.verboseTrue日志確認(rèn)Linear4bit.forward被標(biāo)記為backendeager未編譯。結(jié)論量化模型慎用torch.compile()浮點(diǎn)模型FP16/BF16可開(kāi)啟。我們最終在配置中加入開(kāi)關(guān)if not is_quantized_model: # 檢測(cè)是否為bnb量化模型 model torch.compile(model, modereduce-overhead)5. 常見(jiàn)問(wèn)題與現(xiàn)場(chǎng)排查技巧從日志到硬件的全鏈路診斷5.1 問(wèn)題TTFT忽高忽低波動(dòng)范圍達(dá)±200ms排查路徑先看CPU負(fù)載htop觀察Python進(jìn)程CPU占用。若長(zhǎng)期30%說(shuō)明GPU未被喂飽檢查數(shù)據(jù)加載是否阻塞如tokenizer在CPU上同步處理長(zhǎng)文本再查GPU利用率nvidia-smi dmon -s u看util列。若TTFT高時(shí)util40%大概率是CUDA kernel launch延遲檢查是否有其他進(jìn)程搶占GPU如監(jiān)控腳本最后盯顯存帶寬nvidia-smi dmon -s b看fb__se0__inst_mem_read。若TTFT飆升時(shí)帶寬達(dá)95%確認(rèn)是否Prefill階段顯存帶寬飽和——此時(shí)需縮短prompt或升級(jí)顯卡。當(dāng)天實(shí)錄TTFT從380ms跳至580msdmon -s b顯示帶寬從72%→96%dmon -s u顯示util從85%→42%。結(jié)論顯存帶寬瓶頸。解決方案將prompt截?cái)嘀?12token以內(nèi)并啟用flash_attn需重編譯但帶寬占用降35%。5.2 問(wèn)題ITL在生成中途突然拉升至100ms持續(xù)10個(gè)token排查路徑檢查KV Cache大小打印past_key_values[0][0].shape確認(rèn)是否隨生成長(zhǎng)度線性增長(zhǎng)。若增長(zhǎng)異常如某層突然變大2倍可能是cache管理bug監(jiān)控顯存碎片nvidia-smi --query-compute-appspid,used_memory --formatcsv觀察used_memory是否階梯式上漲。若每次上漲幅度不一致說(shuō)明碎片化驗(yàn)證CUDA事件同步在ITL飆升處插入torch.cuda.synchronize()若ITL回落說(shuō)明是異步執(zhí)行未完成導(dǎo)致的測(cè)量失真。當(dāng)天實(shí)錄ITL在第65個(gè)token處飆升past_key_values[0][0].shape顯示第3層KV尺寸異常應(yīng)為[1,32,65,128]實(shí)為[1,32,128,128]。定位到modeling_llama.py中repeat_kv()函數(shù)在num_key_value_groups1時(shí)索引錯(cuò)誤。打patch修復(fù)后ITL波動(dòng)消除。5.3 問(wèn)題TGS在并發(fā)測(cè)試中急劇下降4并發(fā)時(shí)TGS僅為單請(qǐng)求的52%排查路徑分離網(wǎng)絡(luò)與計(jì)算用curl -o /dev/null -s -w time_connect: %{time_connect}\ntime_starttransfer: %{time_starttransfer}\n直連服務(wù)端排除網(wǎng)絡(luò)層影響分析GPU顯存帶寬爭(zhēng)搶nvidia-smi dmon -s b看4并發(fā)時(shí)帶寬是否達(dá)99%。若是說(shuō)明所有請(qǐng)求在搶同一塊顯存帶寬檢查CUDA Context切換nsys profile -t cuda,nvtx --statstrue采集trace看cudaStreamSynchronize調(diào)用是否密集——密集調(diào)用意味著kernel launch排隊(duì)。當(dāng)天實(shí)錄nsys顯示4并發(fā)時(shí)cudaStreamSynchronize耗時(shí)占比達(dá)38%。根本原因是transformers的generate()在每次forward()后都調(diào)用synchronize()。解決方案修改源碼僅在return_dict_in_generateTrue時(shí)同步其余情況異步——TGS提升至單請(qǐng)求的76%。5.4 問(wèn)題generate()返回空列表或token序列中斷終極排查清單? 檢查stopping_criteria是否誤設(shè)max_length小于input_ids.shape[1]導(dǎo)致Prefill后立即停止? 驗(yàn)證eos_token_id是否與tokenizer配置一致tokenizer.eos_token_idvsmodel.config.eos_token_id量化模型常不一致? 確認(rèn)pad_token_id已正確設(shè)置tokenizer.pad_token_id tokenizer.eos_token_id否則attention mask計(jì)算錯(cuò)誤? 查看logits_processor是否注入了非法processor如自定義的RepetitionPenaltyLogitsProcessor未適配量化權(quán)重導(dǎo)致logits爆炸。當(dāng)天致命坑model.config.eos_token_id2但tokenizer.eos_token_id32000LLama2-7B的特殊eos。generate()用config的2去截?cái)嘟Y(jié)果所有輸出在第二個(gè)token就被終止。將eos_token_id32000顯式傳入generate()后問(wèn)題解決。6. 性能基線與優(yōu)化效果總結(jié)從調(diào)試日志到可交付成果6.1 優(yōu)化前后核心指標(biāo)對(duì)比A10G單卡指標(biāo)優(yōu)化前05-27優(yōu)化后05-28提升幅度關(guān)鍵措施TTFT256token prompt428 ms362 ms↓15.4%max_new_tokens256use_cache自適應(yīng) flash_attnITL P95穩(wěn)態(tài)58.3 ms34.1 ms↓41.5%temp0.8/top_p0.9 KV Cache修復(fù) torch.compile禁用TGS4并發(fā)94.2 tokens/s182.6 tokens/s↑93.8%cudaStreamSynchronize精簡(jiǎn) 顯存帶寬優(yōu)化顯存峰值占用21.8 GB16.3 GB↓25.2%Prefill顯存預(yù)分配優(yōu)化 cache管理改進(jìn)注意所有數(shù)據(jù)均在相同硬件A10G 24GB、相同模型LLama2-7B 4-bit quantized、相同prompt集100個(gè)真實(shí)業(yè)務(wù)樣本下測(cè)得確保可比性。6.2 可復(fù)用的調(diào)試工具包我把當(dāng)天所有調(diào)試腳本整理成輕量工具包無(wú)需安裝直接下載即可用ttft_benchmark.py自動(dòng)運(yùn)行100次TTFT測(cè)量輸出均值/中位數(shù)/P95及分布直方圖itl_profiler.py注入CUDA Event生成ITL時(shí)序曲線CSVPNGtgs_stress_test.py模擬1-8并發(fā)輸出TGS衰減曲線與資源占用熱力圖kv_cache_analyzer.py實(shí)時(shí)打印KV Cache各層尺寸與顯存占用定位cache泄漏。使用示例python ttft_benchmark.py --model_path ./llama2-7b-4bit --prompt_file prompts.txt --trials 100 # 輸出TTFT_mean362.4ms, TTFT_p95412.8ms, std28.3ms這些腳本已去除所有公司標(biāo)識(shí)完全開(kāi)源你可以在任何LLama2部署環(huán)境中直接運(yùn)行。6.3 給團(tuán)隊(duì)的三條硬性規(guī)范已落地執(zhí)行基于本次調(diào)試我們向所有模型服務(wù)團(tuán)隊(duì)發(fā)布三條強(qiáng)制規(guī)范違者需重新走上線流程TTFT SLA必須綁定prompt長(zhǎng)度prompt≤128token時(shí)TTFT≤300ms128prompt≤512時(shí)TTFT≤450msprompt512時(shí)TTFT≤800ms。禁止籠統(tǒng)宣稱“TTFT500ms”ITL必須報(bào)告P95值上線報(bào)告需包含ITL的P50/P95/P99且P95≤50ms。若P9550ms必須附KV Cache優(yōu)化方案TGS必須標(biāo)注測(cè)量條件所有TGS數(shù)據(jù)必須注明prompt長(zhǎng)度分布、采樣參數(shù)、并發(fā)數(shù)、顯存占用四要素缺一不可。這三條規(guī)范不是紙上談兵。05-28當(dāng)天下午我們用新規(guī)范重測(cè)了3個(gè)待上線服務(wù)其中1個(gè)因ITL P9562ms被叫停另2個(gè)因TGS未標(biāo)注條件被退回補(bǔ)測(cè)。規(guī)范的生命力就在第一次嚴(yán)格執(zhí)行。我個(gè)人在實(shí)際調(diào)試中最大的體會(huì)是大模型推理的“快”從來(lái)不是某個(gè)神奇參數(shù)一錘定音而是對(duì)Prefill計(jì)算、KV Cache、顯存帶寬、CUDA調(diào)度這一整條鏈路的毫米級(jí)掌控。那些藏在generate()方法深處的幾十行代碼那些nvidia-smi dmon里跳動(dòng)的數(shù)字才是決定用戶體驗(yàn)的真實(shí)戰(zhàn)場(chǎng)。下次當(dāng)你看到“模型已部署”不妨多問(wèn)一句它的TTFT在什么prompt下測(cè)的ITL的P95是多少TGS的并發(fā)條件是什么——問(wèn)題的答案往往就藏在05-28周二那臺(tái)A10G服務(wù)器的日志最后一行里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香五月情色| 少妇激情五月天| 丁香婷婷情色五月天| 美女久久天堂| 久久婷婷五月天蜜桃| 在线色色| 欧美色五月| 97碰碰草| 色色丁香五月婷婷| 熟妇人妻中文字幕无码老熟妇| 久久伊人大香蕉| 丁香五月电影| 991精品在线视频| 综合伊人久久| 99热费观看| 丁香五月激情鲁| 亚洲av电影在线| 亚洲夜夜操| 色综合久久无码| 思思久久精品| 天天操夜夜啊| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 欧美久久婷婷| 色噜噜丁香| 去干网av| 5Www色5夜| 婷五月天| 婷婷丁香激情综合色情| 99久久99九九九99九他书对| 亚洲免费99| 思思精品视频| 色噜噜狠狠色综合网| 久9久9久9久9久9久9| 丁香五月综合激情性爱| 久碰婷婷视频| 99热国产在线| 99综合网| AV中文在线| www.色五月| 久久激情五月网| av人人干| 久久精典| 婷婷香蕉精品| 五月婷婷丁香俺日污视频| 熟女啪啪视频| 五月综合激情网| 久久五月激情| 久久久天堂国产精品女人| 丁香美女主播视频在线观看| 黄色99热| 丁香五月天堂| 久久99这里只有精品视频| 五月天激情婷婷| 色婷精品91| 在线日本www| 99热色无码| 风流少妇A片一区二区蜜桃 | 不卡在线视频| 日本色婷婷| 六月色播| 亚洲成人AV电影在线| 亚洲夜夜操| 五月天婷婷色色网| 99热爆在线| 色色热| 99成人网一区| 精品综合网在线| 丁香六月久| 肏日网在线看| 五月丁香六月激情综合| 超碰在线人人| 成人精品亚洲性爱| 97色干| 天天色综网| 超碰AV在线| 丁香五月成人网| 久久婷婷婷婷伊人| 丁香五月欧美色综合| 色999;丁香五月| 婷婷色色综合激情| 六月丁香久久| 97色射| 激情五月天婷婷五月天| 久热这里只有精品6官网亚洲| 婷婷色在线| WWW,五月| 五月婷久久在线| 噜噜五月天综合| 五月婷婷影院| 天天干天天干天天干天天干天| 五月丁香色色网| 色婷婷在线视频观看| 激情五月六月婷婷| 99久在线观看| 思思久久青草热| 日韩综合网络男女香蕉a片| 日韩啪啪视品| av一级棒av| 亚洲中文字幕网| 丁香五月亚综合图片| 五月激情四射婷婷丁香| 荡乳尤物3HP1V5| www.五月天社区| 亚洲AV中文在线| 操大屄五月天视频| 九九色婷婷| 人人爽欧美婷婷久久久五月丁香| 开心久久xxx色| 成人 视频免费观看网站| 丁香六月毛片| 91久久久久久久91| 久久久精品99| 欧美啪啪网| 色狠狠婷婷| 五月天婷婷伊人| 99青青草| 99色啊| 国产免费AV在线| www.丁香六月婷婷久久天堂影院.con| 欧美69久成人做爰视频| 久久久国产精品黄毛片| 91蜜桃婷婷狠狠久久综合9色| 网站免费一站二站| 亚洲九九99精品视频在线播放| 久综合九| AV在线大香蕉| 久久9久| 婷婷六月久久| 好大好粗嗯啊-一级黄色大片免费观看-成人AV| 人妻内射视频| 91婷婷色| 久久精品婷婷| 婷婷99狠狠| rr天天操| 色深爱五月| 可以直接看的AV网站| 91欧美| 日韩日比视频| 岛国AV网| 色色色色色色色色色色色色色97| 日本天堂爱爱| 亚洲无码色| 婷婷 伊人 久久| 亚洲综合视频一下| 激情五月开心五月在线视频| 综合激情五月丁香| 五月婷婷激情四季| 美日韩成人| 九月丁香| 爱草视频在线| 丁香五月六月婷婷殴美综合| 甈你aaaaa| 国产夫妻操逼内射视频| 婷婷五月色丁香在线看| 五月婷婷久久综合| 亚洲小视频免费播放| 久久亚洲婷婷| 婷婷精品在线| 678五月丁香亚洲综合| 国产精品久久久久久白浆色欲| 碰碰碰91| 一区二区aV电影免费看| www色婷婷| 色丁香五月天射婷婷爱婷婷| 狠狠插狠狠| 99热在线观看免费| 女同激情久久av久久| 日韩色五月| 人人草人人爱| 色狠狠综合| 人妻少妇色综合| 人妻啪啪啪| 色色色网站| 九九人人操| 一起草性爱不卡视频| 免费看欧美成人A片无码| 亚洲成人在线综合| 噼里啪啦在线观看免费完整版视频 | 五月天色社区| 久久这里只精品| 中文字幕婷婷| 99热8| 激情五月天丁香| 久久99精品久久久久久三级| 丁香五月婷婷网| 欧美电影在线观看| 中文超碰视在线| 日本91在线播放| 亚洲欧洲小视频9| 婷婷狠狠操| 久久66er久久| 天天澡天天狠天天天做| 超碰超碰在线| 婷婷五月丁香青青草在线| www.91av.com| 婷婷涩五月| 狠狠另类视频| www久久艹| 开心五月深爱五月| 丁香五月停停av| 在线观看免费狠狠色丁香香综合| 五月综合六月丁| 丁香五月天狠狠| 99操视频| 一级黄色片看看| 五月丁香六月婷婷啪啪| 丁香五月婷婷成人网| 人人妻久久妻| 成人片在线播放| 久久久国产精品黄毛片| 日韩成人中文字幕| 天天色天天日| 97色五月婷婷在线| 99思思在线视频| 国产日日操夜夜操的肉棒视频| 婷婷五月色综合| 亚洲电影在线观看| 色噜噜狠狠色综合无码久久欧美| 色五月丁香五月| 久久99视频| 91精品国产综合久久蜜芽解析速度| 久久综合色五月| 色婷婷丁香综合中文字幕| 六月色婷婷色| 九九久久视频| 国产人妻人伦精品一区二区| 成人短视频在线| 婷婷五月深深爱| 99这里热| 国产毛片精品一区二区色欲黄A片| 丁香五月天狠狠操| 99热这里只有精品2| AA丁香综合激情| 日本熟妇乱妇熟色A片蜜桃 | 免费在线a| 影音先锋毛片网站| 99热只有精品在线观看| AV在线免费网站| 在线理论片| 欧美色图天堂网色| 天天狠狠色综合| 亚洲操操操| 综合网啪| 六月婷婷狠狠做| 无码色| 天堂成人A片永久免费网站| 九月大香蕉| 激情婷婷综合| 饮料下药迷倒漂亮女同事强干| 波多野结衣成人作品在线| 热的国产99热| 色婷婷亚洲婷婷在线观看| 五月天激情四射| 免费观看高清无码| 五月婷婷色男女| 狠狠的日| av成人在线播放| 五月天停停成人网| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 99re热在线观看| 在线中文字幕免费视频| 天天草天天日| 久久91久久精品久久| 欧洲亚洲免费视频9| 91超碰在线观看| 日本一级大片| 久久九九99亚洲国产久精综合| 亚洲午夜在线视频| 色婷婷婷婷| 婷婷五月美女直播| www久久99| 色色五月天 亚洲| 六月婷婷网站| 最近中文字幕大全免费版在线| 色玖玖| AV在线观看网站| 91热网址| 婷婷五月天久久| 成人做爰高潮A片免费视频 | 日日色综合| 一起操最新网址| 综合五月草| 欧美影院| 97在线精品视频| 激情综合五月激情| 日本操碰碰| 激情婷婷五月天| 成熟妇人A片免费看网站| 色色丁香婷婷五月天| 9这里只有精品| av网站不卡在线| 亚洲婷婷视频| 成人中文网| 欧美日韩91| 九九热99熟女| 大香蕉五月| 米奇影视五月天| 婷婷五月天社区| 97成人在线视频| 五月丁香六月婷婷综合| 就去色色五月丁香婷婷久久久| 五月天精品综合| 亚洲国产另类av| 五月婷婷激清网| 色色综合热| 亚洲性爱干干| 婷婷97色| 色五月五月婷婷| 99久久婷婷国产综合精品青桔 | 久久久91| 99re6在线视频精品免费| 开心五月综合激情综合五月| 超碰国产AV| 久久小片| 久九色| 综合网激情| 久热大香蕉| 亚洲第一黄网| 久久这里都是精品视频| www、丁香五月天| 91视频综合网| 色色色色色级无码| 久久综合五月天| 精品人妻伦九区久久AAA片| 五月婷婷丁香综合| 午夜大香蕉| 99热99| AV在线不卡播放| 色狠狠六月| 91在线就要啪| 婷婷综合97| 97婷婷狠狠久久综合9色| 婷婷欧美| 久久婷婷五月综合| 少妇被下春药玩弄A片| 国产成人+亚洲+欧洲| 99毛片| 九九久久精品| 九九无码| 人妻久久久久久久久| 97久久久免费福利网址| 精品无码久久久久久久久| 五月色色激情网| 人妖色AV色综合| 在线另类视频| 激情五月婷婷| 亚洲永久免费| 狠狠草狠狠草| 狠狠色狠狠鲁| 九九婷婷综合| 野战毛片三一3| 国产成人99久久亚洲综合精品| 天天综合91入口| 五月天婷婷在线观看| 色婷婷综合五月| 色婷婷五月综合在线| 欧美色图天堂网| 五月天天天操天天爽夜夜操| 久久日婷婷| 五月丁香六月综合激情| 插插五月天| 亚洲在线资源| 久操人| av中文网站| 丁香五月熟女| 国产精品人人做人人爽人人添| 丁香五月天婷婷激情| 99爱这里只有精品| 综合天天综合| 国产亚洲成人综合| www色婷婷| 丁香五月婷婷六月| 无码动漫AV| 天天干夜夜欢| 五月丁香激情综合啪啪| 无码少妇高潮喷水A片免费| 秋霞AV淫| 五月天婷婷基地| 婷婷精品在线| 日韩成人电影AV| 中国女人做爰A片| 国产亚洲99久久精品| 婷婷性爱五月天| 婷婷五月综合在线视频| 欧美在线操| 少妇搡BBBB搡BBB搡毛茸茸| 欧美在线视频99| 99久久er| 激情五月婷婷伊人| 综合五月亭亭9| 色999;丁香五月| 最近中文字幕大全免费版在线| 国产毛多水多女人A片| 很很干天天干| 日日干日日s| 五月婷婷六月丁香免费| 99热高清在线| 香蕉AV777XXX色综合一区| 九九热视频在线观看| 色色色色网| 婷婷激情5月| 日韩黄色电影| 国产精品人妻在线网址| 日韩色五月| 色婷婷手机在线| 91九色成人原创视频| 久操欧美在线观看97| 夜夜 操无码| 亚洲性爱区无码区| 99热无码| 俺去也五月天| 久久婷婷欧美| 区欧美日韩成人| 五月婷婷中文字幕| 久久婷婷六月综合| 亚洲久久婷婷| 久久久er热| 超碰97久久| 色激情五月| www,99热在线观看| 97在线视频 欧美| 三级片AAA久久久AAA久久久AAA | 日日噜狠狠色综| 在线观看亚洲AV| 我淫我色婷婷五月天激情四射| 婷婷六月啪啪| 国产欧美日韩综合精品一区二区| 九九操屄| 中日韩美欧成人一区二区精品在线| 亚洲精品婷婷| 色五月激情五月| 99精品视频在线观看| 亚洲第一综合| 99热午夜精品| 亚洲久热| 亚洲综合激情五月天婷婷| 六月丁香婷婷视频综合在线观看| 91狠狠综合久久久| 国产精品天天狠天天看| 69色色视频| 九九热免费视频| 俺去也五月天| 天天插天天很| 日韩野外 无套| 日本美女天天日天天爽| 97碰碰视频在线观看| 99干在线| 夜丁香综合| 亚洲婷婷丁香五月| 色五月色五天色情网| 伊人网欧美在线男人天堂五月丁香| 日韩一级A片黄色| 九九99热精品| 久久精品91视频| 激情综合啪啪啪| 大香蕉久| 影音先锋 婷婷| 日日.c| 婷婷色色欧美| 欧美日韩999| 午夜色婷婷| 99视频精品全部观看10| 中文精品在| 日韩色色色色色| 色综合区| jiujiu无码五区| 亚洲偷| 六月色婷婷欧美| 午夜微拍福利| 玖玖婷婷色欲| 五月天久久色| 大香蕉太香蕉视频97| 婷婷射图| 色婷婷色五月综合| 亚洲美女网Va| 婷婷五月天av| 狠狠色丁香婷婷五月| www.99精品视频| 久久久久久久久久久月丁| 久久er免费视频| 国产精品久久久久久久久久 | 成人婷99最新| www.zbzhongsen.com| 色婷婷成人做爰A片免费看网站| 超极99精品| 色色五月天网站| 日韩按摩二区| 日韩AV大全| 婷婷九月| 成人Av在线大片| 日本综合久久| 丁香五月成人社区| 激情五月丁香五月| 久久男人网婷婷| 最新婷婷五月丁香| 亚洲超碰在线| 婷婷久久爱| 丁香五月婷婷呀| www色婷婷久久综合久色| 日韩亚洲视频| 亚洲天堂热| 欧美性色五月天| 夜夜做夜夜愛| 亚洲激情综合| 五月丁香好婷婷A片网| 99热这里只有99| 五月丁香婷婷六月| 国产,欧美,学生妹,视频| 五月久久婷婷丁香| 第五色色色婷婷| 天堂成人A片永久免费网站| 99伊人性爱在线影院| 人人干AV| AV九九| 成人无码精品1区2区3区免费看| 国产jd1024基地手机看国产| 在线看的免费网站| 九九色精品| 五月婷婷开心色伊人| 六月婷婷九月丁香亚洲综合| 色婷婷丁香五月| 久久资源综合| 精品久久久久久久久久久久人妻| 久久丝袜婷婷| 午夜免费高清AV片| www.深爱激情| 无码激情AAAAA片-区区| 91婷婷色| 欧美日韩aaa| 综合网精品99| 五月婷婷xxx| 五月婷久久在线| 超碰免费人妻| 五月天激情啪啪| 五月婷亚洲精品| 99热伊人| 99精品热视频只有精品10| 久久婷狠狠色| 五月激情网站| 极品另类| 五月刺激丁香月综合| 五月天婷婷六月| 丁香五月性爱| 伊人五月婷婷| 精品国产AV色一区二区深夜久久| 色五月丁香五月激情五月激情| 综合久久人妻| 婷婷色色宗合网| 色色色国产| www五月婷婷88导航| 激情五月天之六月婷婷| A片试看50分钟做受视频| 丁香五月亭亭六月综合激情网| 97干欧美| 涩 五月 婷婷 狠狠| 婷婷干五月综合在线播放| 激情五月天天| 国产婷婷五月天| 色欲资源网| 免费看欧美成人A片无码| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 可以观看的AV| 久久五月热| 婷婷的激情五月| 99热首页| 狠狠五月丁香色婷| 五月婷激情| seav天堂| 婷婷伊人网| 99ri视频| 五月激情婷婷图片基地| 国产日韩精品SUV| 天堂婷婷丁香六月网| 97色色色| 五月激情婷婷六月丁香| 99原创自拍视频在线观看| 人妻操在线看| 四川女人毛多水多A片| 狠狠色丁香久久久婷| 五月婷婷黄色| 99 re视频一区| 激情五月色播五月| 99操免费视频| 亚洲一区二区无遮挡A片| www.99热这里精品| 91婷婷五月天嫩女| 婷婷五月天大香蕉在线视频观看| 九九久久五月天综合伊人| 婷婷五月天av| 天天添天天摸天天天天做| 免费看欧美成人A片无码| 就是色婷婷五月亚洲色| 四川BBB搡BBB爽爽视频| 在线综合网| 大香蕉婷婷丁香视频在线| 99热这里只有精品9| 婷婷激情五月综合基地| 日本三级成人秘书精品片| 99超在线| 久久99精品九九久久久婷婷| 五月天婷婷色| 婷婷爱在线观看| 五月激情综合网| 日 日干 日日做| 啪啪操网| 激情小说视频图片| 无码一区二区三区四区五区| 婷婷五月精品| 99热啪啪| 五月婷综合网| 高清 码 免费看片短视频| 丁香五月婷婷激情网| 久月婷婷| 五月J香蕉婷婷| 精品丁香五月天在线播放| 亚洲欧洲另类| 久久99精品久| 五月婷婷六月激情| 亚洲丁香五月美女| 国产亚洲99久久精品熟| 色99网| 91欧美| 日本欧美成人片AAAA| 五月丁香综合伦理片| 欧美色色日韩| 久久9视频| 九九热精品99| 丁香色婷婷| 午夜少妇在线观看视频| 日日操夜夜擼| 欧美性爱5月天天天看| 激情人妻综合| 久久久久9999| 五月天婷婷成人网| 日日噜狠狠色综合久久| 久久婷婷五| 看片视频在线免费日产在线看| 99热这里只有免费| 激情深爱婷婷网| 日本理论久久| 午夜不卡久久精品无码免费| 九月色婷婷| tingting五月天亚洲| 九九综合网色全集 | 色婷婷丁香五月天| 97成人超碰免| 五月天色五月| 5月婷婷五月天| 26UUU| 热久久999| 色婷婷五月在线| 五月天成人网在线观看| 亚洲久久婷婷| 97干在线| 五月丁香六月综合基地| 人妻激情网| 免费在线观看AV网站| 色五月欧美| 婷婷六月丁香综合| 久久码久久无清| 三十熟女| www激情| 特级西西4444www无码| 丁香婷婷人妻综合网| 久久丁香五月天| 亚洲欧美成人在线观看| 色色射| 天天谢天天操| 热的无码综合视频| 夜夜人妻五月天| se婷97| 色色色色色色网| 六月婷婷开心| 成人丁香婷婷| 综合久| 五月天丁香欧美激情| 91麻豆国产三级精品福利在线观看| 五月色综合| 亚洲色婷婷| 五月婷婷三级| 久久久.COM| 五月综合色| 色婷婷婷婷| 五月婷婷婷婷婷婷艺术| 伊人婷婷五月天| 五月婷婷婷综合网| 丁香五月色网| 碰97久久| 91精品刘玥| 激情婷婷六月天| 五月天丁香婷婷社区| 中文字幕无码成人电影| 日本操B视频| 91chinese在线| 日夜操B| 色五月首页| 色婷婷综合视频| 婷婷色婷婷| 五月婷婷五月天在线 | 日日干夜夜撸夜夜骑| 色婷婷在线视频久| 成人在线网址| 亚洲成人AV电影网| 超碰在线国产9| 五月综合婷婷久久在线| 六月丁香基地| 色一情一乱一乱91Av| 五月天开心网| 99久久婷婷国产综合| 大香蕉五月天| www.99热| 婷婷天堂综合| 久热99热| 国产精品美女| 欧美毛卡| 欧美婷婷五月激情| 美女婷婷六月色| 九九婷婷综合| 99精品在线| 精品无码av丁香五月激情| 538久久| 无码地址| 精品婷婷| 级情九色| 亚洲婷婷六月天| 激情综合网五月天| 五月天婷婷在线AN| 综合久久激情久久| 91热视频色网站| 色婷婷国产精品综合在线观看| 丁香熟女乱| 激情久久综合网| 99视频内射三四| 五月天激情国产综合AV| 天天干天天插| 天天爽夜夜操| WWW.久久久久久久久久久久久| 97香蕉人人在线观看| 五月丁香六月激情综合网| 无码九九| 婷婷五月激情五月激情| 日日杆天天| 亚洲永远av在线播放| 欧洲亚洲免费视频9| 桃色激情婷婷伊人网| 91九色视频| 天天日夜夜操五月| 91色五月| 久综合4| 久9草在线观看视频| 婷婷综合五月天| 99热免费网站| 五月丁香在线观看| 熟妇人妻中文字幕无码老熟妇| 久久国产高清| 五月丁香香蕉| 激情五月婷婷伊人| 91黄址| 大香蕉av在线| 亚洲熟女乱色综合亚洲网站| 色色色婷婷五月天| 丁香五月天在线| 国产激情综合| 99噜噜| 久久这里只有欧美| 超碰人人色| 黄色录像网点| 337久久| 182TV大香蕉| 狠狠狠狠狠草| 操人91| 亚洲成人综合网在线免费观看| 91免费看片| 成人午夜天| 97人人做| 丁香婷婷基地| 五月开心网| 色啪久| 天天色·欧美| av色色国产| 久久六月综合| 任你擦免费视频| oumeisesewang| 天堂在线9| 九月婷婷综合| 五月天色欧美| 丁香五月激情六月欧亚激情综合导航 | 天天干,夜夜爽| 91在线日| 五月婷婷五月色| 天天肏视频| 丁香玖玖视频大全| 久久九九在线视频| 99自拍网| 伊人狼人干| av久热| 激情五月色综合国产精品| 97色色综合| 人人操91色| 欧美噜噜噜草| 天天久久狠狠色综合| 青青草视频免费观看| 激情五月婷婷视频| 玖玖婷婷色五月| 六月香五月婷| 久久久91| 国内9l视频自拍老熟女九色| 激情五月丁香激情综合网| 在线中文av| www.婷婷,com| 亚洲激情免费视频| 久综合4| 麻豆123区| 五月天婷婷在线AN| 亚洲第一av| 色久五月| 亚洲国产精品VA在线看黑人| 91男同| 中文AV在线播放| 久久探花91swag| 久热久色| 天天插天天射| 五月天婷婷社区久久综合| 伊人深爱综合| 亚洲午夜国产成人电影VA国产欧…| 久久这里只有精品16| 日本黄色一级| 五月婷婷欧美激情| 色色色综合| 五月丁香在线精品| 亚洲天堂色色| 97五月天婷婷午夜| 玖玖色综合网| 99久久99久久综合| 久久久人妻| 色综合播放| 国产伦亲子伦亲子视频观看| AV伊人青草丁香六月| 99精品无码| 午夜]香婷婷深深爱| 丁香五月综合在线视频| 中文字幕1区2区。| 激情婷婷内射| 亚洲愉拍99热成人精品| 五月天色婷婷基地| 最近中文字幕2019视频1| 丁香五月激情月| av中文在线| 亚洲激情视频网| 激情五月天视频| 激情五月天开心网丁香无码| 99色在线视频| 五月天婷婷久色| 日本波多野结衣视频| 久久九九99字幕| 免费在线观看av网站| 久热这里只有| 综合色婷婷| 99这里有精品视频| 五月激情丁香久久综合网| 91夫妻视频| 99re26视频| 国产亚洲成AV人片在线观黄桃 | 玩熟女五十AV一二三区| 综合五月丁香六月婷婷| 伊综合蕉| 五月婷婷性| 久久婷婷五月综合激情国产| 天天操综合网| 激情综合色婷婷啪啪六月天| 91日视频| www,色婷婷| 噜综合| 六六久久黄色| 蜜桃五月天| www。五月,com| 开心五月天激情网| 天天肏天天肏天天肏| 婷婷色六月| 五月婷婷精品无在线| 色综合视频| 人妻视频在线| 九九这里只这里只有精品| 一起操最新网址| 色色丁香婷婷| 色婷婷九月综合| 九九色之九九色88| 国产精产国品一二三在观看| 激情网站综合五月天| 午夜日日| 欧美激情综合| 日本色爽| 婷色成人| av激情在线| 成人午夜视频精品一区| 色色色色色色综合| 97视频91| 97成人丁香| site:pnnrt.com| 天天久综合网永久入口17v| 国产99热| 男人综合网| 婷婷欧美激情综合| 精品人妻一区二区| 色婷婷五月在线| 婷婷97狠狠干| 九九人人看| 男男野外做爰全过程69| 五月天激情四射网站| 伊人六月丁香婷婷| 一片AV片免费播放| 五月婷婷色综图片| 国产精品久久99| 精品人妻午夜一区二区三区四区| 五月天激情啪啪| 丁香五月婷婷亚洲人| 9久热精品在线视频| 成人av在线网站| 天天做天天爱综合| 婷婷内射视频在线| 超碰在线免费观看3 9| 婷婷五月色天| 五月婷婷激情综合拍| 色五月婷婷久久| 99ri视频在线观看| AV九九| 亚洲情欲| 婷婷开心综合人妻小说网址| 性爱先锋AV| 99日精品视频| 蜜臀AV在线观看| 99免费在线| 五月天开心色情网| 九九久久高清| 碰碰人人人| 久久婷婷六月综合| 国产成人AV在线| 婷婷丁香成人网址| 婷婷五月综合婷婷| 99九九综合久久九九| 日本全黄一级999| 丁香五月天堂婷婷| 91狠狠色| 五月天堂在线| 综合大香蕉| 丁香婷婷AV| 九九九九国产| 伊人五月综合网| 六月婷婷在线视频| 欧美性色五月天| 精国产品一区二区三区A片| 青青草99热久久精品国| 日韩国产在线精品| 99热国内精品| 26UUU精品一区二区c〇m| 日韩成人AV在线| 99爱在线视频| 99爱在线精品视频免费观看| 久久精品视频在这里有| 97 A I色色| av在线超清中文| 欧美日韩精品一区二区三区钱| www久久久| 久久免费婷婷视频| 这里只有精品热| 99欧美| 激情综合色播| 激情五月丁香五月| 久热中文字幕| 99riAV国产精品视频| 婷婷综合五月| 丁香婷婷久久激情| 色综合天天综合成人网| www.99热精品| 啪啪啪综合网| 丁香五月综合在线视频| 国精产品久久| 天天上天天爽| 91viP在线看| 久久免费试看120秒| 手机在线视频观看9| 99热在线观看| 九九热在线精品视频| 色噜噜五月天| 五月丁香好婷婷A片网| 开心五月激情婷婷| 热99精品视频| 五月婷婷五月天天| 99这里是99在线视频| 中文字幕婷婷五月天| 人人爱干人人爱草| 婷婷五月天.com| www.超碰| 性色婷婷| 91成人品| 婷婷丁香五月av| 色噜噜,噜噜色| 欧美综合丁香网| 五月婷婷丁香在线视频| 激情综合激情五月一起草| 色五月激情五月天| 中文字幕婷婷五月天在线观看| 久久婷婷五月草视频在线播放| 深爱婷婷色| 亚洲 六月 综合| 日日噜狠狠色综合久久| 深夜A片| 婷婷婷婷婷婷婷婷| 九九综合伊人| 99热e| 天天骑天天操| 色狠狠色噜噜AV天堂五区| 大操人妻| 97五月天婷婷综合激情网| 九月大香蕉| 日韩在线视频网站| 91九色在线视频| 久久精彩免费视频精彩免费视频| 五月天无码视屏播放| 婷婷五月天综合中文| 欧洲高清免费久久| 亚洲欧美一区二区三区四区爱爱动图| 人人摸人人干人人做| 丁香六月激情综合| 99热只有| 玖玖资源在线视频| 亚洲无AV在线中文字幕| 伊人超碰在线| 久久婷婷东京热大香樵| 国产精品岛国片在线观看免费| 久久99免费视频| 激情久久肏屄视频| 婷婷五月激情丁香激情| 五月婷婷第四色| 超碰人人操人人干| 色色色免费视频| 久草婷婷网| 三级毛片7979| 丁香六月av| 99热久| 99热官网| 超碰免费电影| 人妻熟妇国产精品| 人人澡天天色天天做| 五月激情丁香久久综合网| 九九精品视频在线6| 嫩草视频在线观看| 五月丁香六月欧美综合网站| 熟女色色一区二区| 26UUU欧美激情一区二区| 婷婷天堂综合| 伊人网色婷婷五月天| 五月婷婷丁香综合网| 丁香桃色网| 欧美日韩99| 五月天久久色| 亚洲视频五区| 狠狠看狠狠| 国产精品蜜臀99| 9色视频在线| 超碰69天堂| 天天日天天舔天天摸| 久狠日av| 婷婷狠狠操| 亚洲妇女熟BBW| 99A级片| 天天舔夜夜操www com| www激情网| 99综合免费视频| 中文字幕成人日韩| 五月激情婷婷图片基地| 天天日综合| 熟女少妇内射日韩亚洲| PORNY九色9l自拍视频成人| 六月婷婷国产| 天天干天天干天天干天天干天天干| 亚洲成人AV电影网| 丁香五月婷婷姐| 99热主页日本| 天天肏天天舔AV| 凹凸7777操操操| 亚洲欧美另类在线23p| 高清无码网址| 久久综合香蕉国产国产蜜臀AV| 色情久久久| 深爱激情AV| 五月天婷婷激情在线色图| 五月天综合网| 亚洲有码在线视频| site:publishdd.com| 99热这里是精品| 丁香五月婷婷综合精品素人| 色狠狠999综合网| 九九这里是免费的视频5| 婷婷九月丁香中文| 五月色婷婷综合丁香精品无遮挡| 99热这里是精品| 日本99视频精品免费播放| 噜噜噜精品欧美成人在线观看| 99精品一二三四视频| 激情五月婷婷| 色五月婷婷五月丁香五月激情五月视频| 天天夜夜六月丁香五月婷婷老师| 另类激情综合| 婷婷激情五月视频| 美女婷婷六月色| 俺去也五月| 色九九九综合| 婷婷激情综合网| 99热这里| 久久激情五月| 五月开心深爱激情网| 丁香五月成人网| 久久青青日本视频| 人人人va亚洲视频在线| 六月婷婷开心| 天天操无码| 九九爱激情| 久久99综合| 亚洲色9| AV性爱网| 99综合成人视频在线观看| 天天舔天天摸天天透| 久久中文网| AⅤ色区| 久久久国产精品黄毛片| 五月天婷婷一起草| 丁香五月婷婷激情尤物| 9视频1在线| 第四色五月天| 日本乱子人伦在线视频| 九九视频精品这里只有| 婷婷97碰碰| 91要啪| 99在线视频播放| 五月丁香久人妻中文| www.久久99热地址发布| 久久婷综| 色999五月色| 婷婷爱五月| 色色九九五月天 | 五月婷婷中文字幕AV| 精品一区二区三区三区| 丁香激情合作五月| 午夜性做爰电影| 97干97色| 任你艹| 激情综合网丁香| 成年人丁香五月| 99热只有精品在线播放| 任你爽精品免费视频6| 色综合久久综合中文综合网| 婷婷六月丁香欧美视频在线| 午夜69成人做爰视频| 色欲影香| 五月婷婷丁香综合| 婷婷五月丁香A∨| 精品色色| 久草视频一,二三四| 泰州成人视频| 五六月婷婷久久| 五月丁香婷婷基地| 思思热精品免费视频| 99在线免费视频| 99福利导航| 丁香婷婷五月综合色情| 五月综合视频| 99久久思思| 日本97人人| 五月丁香婷婷激激激综合网色播| 男女激情久久| 这里只有精品在线免费视频| 激情婷婷在线| 少妇性按摩无码中文A片| 久久人人超| 九九这里是免费的视频5| 99久视频| 香蕉久久国产AV一区二区| 五月丁香美女| 99爱爱| 激情二色月| 91se精品国产| 五月婷婷免费视频| 综合久久伊人| 九九色婷婷| 天天摸天天肏| www色色com| 亚洲熟妇AV综合网五月丁香伊人 | 欧美色色日韩| 婷婷久草| 色婷婷丁香五月| 五月婷婷综合在线视频| 99狠狠色| 五月香蕉网| 亚洲精品视频在线| 69色婷婷| www.五月天婷婷| 台湾综合丁香五月蜜桃| 亚洲成人在线电影网站| 天天搞天天色综合| 六月色婷婷欧美| 黄色热99| 成人在线视频一区| 做爱夜夜干天天操| 国产欧美大香蕉一区| 五月丁香福利| 我爱宗和色| 大香蕉福利导航| 五月天婷婷网站888| 一个色的综合| 综合网狠狠| 五月丁香久| 久久黄A片| 欧美搡BBBBB摔BBBBB| 五月天婷婷激情在线色图| 金桔一区二区ab地址| 99这里都是精品| jiZZdr| 这里只有精品99视频| 大香蕉丁香| 丁香五月天啪啪| 五月天综合色| 丁香五月婷婷呀| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 九九无码| 婷婷成人视频| 欧美色播综合在线观看| 五月丁香综合影院| 99国产精品久久久久久久久久久| 亚洲日韩26uuu| www久久艹| 亚洲另类在线观看| 婷婷丁香五另类网站| 91精品婷婷国产综合| 色偷偷五月天| 夜夜躁爽日日| 九色婷婷| 9久热在线精品| 91精品综合久久久久久五月丁香| 免费视频无码| 久久66er久久| 欧美日韩成人h| 久久九九色| 人人草人人爱手机视频看看 | 操91| 玖玖午夜视频| 热99热9| 欧美五月丁香啪啪响视频| 欧美激情伊人| 久久精品国产精品| 婷婷五月图片小说视频| VA婷婷| 日本久碰| 淫视馆aV二区一区| 五月天亭亭俺也| 丁香六月综合激情| 色啦啦视频| 婷婷五月天激情网| 天天色色天天| 色婷婷五月天激情综合| 99er6免费视频热播| 成人色图情色成人网 www.5b5b5bcom 五月天 | 五月天社区| 亚洲免费av在线| 日本天堂网站99| 国产高清av黄色看片|