欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

SWIOTLB深度解析:從DMA地址難題到機(jī)密計算的關(guān)鍵角色

SWIOTLB深度解析:從DMA地址難題到機(jī)密計算的關(guān)鍵角色 最近在一套涉及機(jī)密計算環(huán)境的存儲節(jié)點(diǎn)上排查DMA報錯時我又被SWIOTLB這塊“老熟人”結(jié)結(jié)實實地上了一課。SWIOTLB全稱Software Input Output Translation Lookaside Buffer中文一般叫軟件IO TLB但我在實際工作中更愿意叫它“內(nèi)核的DMA轉(zhuǎn)運(yùn)倉庫”。很多做內(nèi)核、虛擬化或者高性能存儲的同行可能都有類似經(jīng)歷平時壓根想不起它一旦設(shè)備驅(qū)動在dmesg里甩出一句swiotlb buffer is full或者虛擬化環(huán)境里性能出現(xiàn)詭異的斷崖式下跌才發(fā)現(xiàn)自己根本沒有真正搞懂這個模塊。這篇文章就從DMA的本質(zhì)開始講一路拆到SWIOTLB的實現(xiàn)機(jī)制和調(diào)優(yōu)參數(shù)最后落到機(jī)密計算Confidential Computing場景里它為什么反而變成了不可替代的關(guān)鍵角色。內(nèi)容會盡量側(cè)重實操怎么判斷自己在用SWIOTLB怎么給它定大小日志報錯應(yīng)該怎么排查以及機(jī)密計算里shared/private內(nèi)存切換是怎么逼著內(nèi)核把SWIOTLB拿出來的。適合正在折騰Linux內(nèi)核DMA驅(qū)動、虛擬化IO路徑或者剛開始接觸SEV/TDX機(jī)密計算環(huán)境的工程師。1. 為什么要先聊DMA一次數(shù)據(jù)搬運(yùn)背后的地址難題1.1 從PIO到DMA把CPU從“搬運(yùn)工”位置上解放出來早期的外設(shè)驅(qū)動跟設(shè)備交換數(shù)據(jù)基本靠CPU一條指令一條指令地往IO端口里寫數(shù)據(jù)這種方式叫PIOProgrammed I/O。打個比方CPU就是個倉庫管理員每次貨物進(jìn)出都要管理員親手去搬管理員忙個半死倉庫吞吐量卻上不去。后來硬件上引入了DMADirect Memory Access設(shè)備控制器可以繞過CPU直接在內(nèi)存和設(shè)備之間搬運(yùn)數(shù)據(jù)。CPU只需要告訴設(shè)備“源地址在哪、目標(biāo)地址在哪、要搬多少”然后就可以去處理別的事情DMA控制器搬完再發(fā)個中斷通知一下就行。這個機(jī)制看起來非常美好但埋了一個很關(guān)鍵的問題DMA控制器真的能訪問物理內(nèi)存里的任意地址嗎在很多普通讀者看來內(nèi)存就是內(nèi)存地址就是地址??稍谡鎸嵪到y(tǒng)里設(shè)備能看到的地址空間和CPU通過頁表看到的物理地址空間并不是一回事。設(shè)備側(cè)的DMA能力受硬件設(shè)計限制比如一個網(wǎng)卡可能只能尋址32位地址空間也就是最大4GB而服務(wù)器內(nèi)存可能已經(jīng)插到了128GB甚至512GB。CPU可以通過內(nèi)存管理單元MMU把進(jìn)程地址映射到任意物理頁面但設(shè)備通常沒有這么完整的MMU能力或者即使有有些設(shè)備的地址線就是不夠用。這時候CPU管理的物理內(nèi)存和設(shè)備能訪問的內(nèi)存之間出現(xiàn)了一個“夠不著”的鴻溝。怎么解決最直接的辦法就是在內(nèi)存里劃一塊設(shè)備肯定能訪問的區(qū)域把數(shù)據(jù)先放到那里再讓DMA控制器去搬。這就是SWIOTLB誕生的原始動機(jī)之一。在后續(xù)的內(nèi)核演化中這個“中轉(zhuǎn)區(qū)域”的用途越拓越寬最后連機(jī)密計算場景都離不開它。1.2 設(shè)備能訪問的內(nèi)存不等于物理內(nèi)存DMA mask與地址約束每個DMA設(shè)備都有一個“地址能力上限”Linux內(nèi)核里用dma_mask來表示。比如一個老式PCI網(wǎng)卡只能尋址32位地址那么它拿到的DMA地址必須落在0到4GB范圍之內(nèi)否則設(shè)備就語法理解不了這段地址。我們調(diào)試驅(qū)動時經(jīng)常會看到類似dma_set_mask_and_coherent的代碼就是在跟內(nèi)核聲明“我這個設(shè)備能處理多少位地址”。問題在于x86服務(wù)器上很多內(nèi)存條插槽對應(yīng)的物理地址并不低。尤其在現(xiàn)代系統(tǒng)里物理地址分布可能很離散PCIe的MMIO窗口、內(nèi)存熱插拔區(qū)域、多路處理器之間的地址交錯都會讓“低位物理內(nèi)存”變得稀缺。即使系統(tǒng)只有64GB內(nèi)存想讓一個大塊DMA緩沖區(qū)落在4GB以內(nèi)往往也不是一件容易的事。更麻煩的是很多驅(qū)動使用dma_alloc_coherent()想一次性分配大塊連續(xù)的DMA緩沖區(qū)比如幾百M(fèi)B低端內(nèi)存區(qū)域早就被內(nèi)核的頁表、啟動參數(shù)、initrd等占完了哪還有這么大片的低端連續(xù)內(nèi)存。于是在沒有IOMMU、或者IOMMU被禁用/旁路passthrough的情況下內(nèi)核就只能在低端內(nèi)存里預(yù)先劃出一塊相對固定的區(qū)域把這些DMA操作“匯聚”到這塊區(qū)域里執(zhí)行。這塊區(qū)域就是SWIOTLB緩沖區(qū)。需要強(qiáng)調(diào)的這個設(shè)計并不是完美的因為代碼路徑里不可避免要多一次內(nèi)存拷貝從真正的數(shù)據(jù)緩沖區(qū)拷到SWIOTLBDMA設(shè)備再從SWIOTLB搬運(yùn)。這也是很多人抱怨SWIOTLB性能損耗的根本來源。1.3 IOMMU并不是萬能的解決方案不少讀者可能會想現(xiàn)在服務(wù)器不是都有IOMMU嗎Intel叫VT-dAMD叫IOMMU開了之后設(shè)備就能通過IO頁表訪問任意物理地址SWIOTLB是不是可以退休了理論上確實如此有完整IOMMU的設(shè)備DMA地址翻譯可以做到和CPU頁表類似的靈活映射設(shè)備無需限制在低端地址區(qū)域也無需做反彈緩沖拷貝。但現(xiàn)實很骨感。第一大量輕量級嵌入式平臺和部分低端服務(wù)器并沒有完整的IOMMU支持或者固件默認(rèn)不開啟。第二IOMMU開啟后會帶來額外的TLB開銷和頁表維護(hù)成本某些高性能存儲或網(wǎng)絡(luò)場景反而會選擇iommupt旁路掉換取更低的延遲。第三即使IOMMU存在設(shè)備一旦做SR-IOV虛擬化VF的DMA路徑可能走不了完整翻譯仍然要退回swiotlb或類似機(jī)制。第四在機(jī)密計算場景下IOMMU還面臨更復(fù)雜的shared/private內(nèi)存權(quán)限問題單純靠IOMMU并不能解決所有DMA隔離。所以在現(xiàn)代內(nèi)核中SWIOTLB不僅沒有消失反而因為虛擬化和機(jī)密計算的發(fā)展變成了更加核心的一塊基礎(chǔ)設(shè)施。只是它不再單純解決“32位設(shè)備訪問高內(nèi)存”的老問題而是承擔(dān)起了“內(nèi)存加密時代DMA如何安全訪問數(shù)據(jù)”的新職責(zé)。2. SWIOTLB到底是什么一個“軟件中轉(zhuǎn)站”的完整拆解2.1 內(nèi)核里那塊“轉(zhuǎn)運(yùn)倉庫”是怎么被創(chuàng)建的把SWIOTLB理解成“轉(zhuǎn)運(yùn)倉庫”非常貼切內(nèi)核在啟動早期從低端物理內(nèi)存中劃出一塊連續(xù)區(qū)域?qū)iT用來承接那些設(shè)備無法直接訪問的內(nèi)存數(shù)據(jù)。這塊區(qū)域在內(nèi)核里對應(yīng)一個全局結(jié)構(gòu)體struct io_tlb_mem其中維護(hù)了一個固定大小的內(nèi)存池io_tlb_orig_addr、位圖io_tlb_used等元數(shù)據(jù)用來記錄哪些slot已經(jīng)被占用。池子基本單位是slot一個slot的大小通常是2KiB對應(yīng)內(nèi)核里的IO_TLB_SHIFT。默認(rèn)情況下的區(qū)域大小是64MiB換算下來也就是32768個slot。如果你在啟動參數(shù)里看到swiotlb131072含義是“我要131072個slot”按每個slot 2KiB計算就是256MiB。早期內(nèi)核參數(shù)也支持直接寫字節(jié)大小不同內(nèi)核版本的解析邏輯略有差異建議先按照slot數(shù)量來理解這樣更直觀。這塊區(qū)域什么時候建立早到內(nèi)核初始化的早期階段。具體地說在mem_init之前通過swiotlb_init()或者swiotlb_init_late()來預(yù)留。如果預(yù)留太晚低端內(nèi)存可能已經(jīng)被各種分配器瓜分得七零八落就很難拿到足夠大的連續(xù)物理區(qū)域了。這也是為什么修改SWIOTLB大小后必須修改內(nèi)核啟動命令行并重啟而不能像個普通內(nèi)核參數(shù)一樣sysctl動態(tài)修改的原因。2.2 一次完整的數(shù)據(jù)映射流程map/拷貝/unmapSWIOTLB的工作流程看起來非常簡單但每一步都有講究。當(dāng)一個驅(qū)動準(zhǔn)備發(fā)起DMA讀或DMA寫時它通常會調(diào)用dma_map_single()或dma_map_sg()內(nèi)核會走到DMA層再根據(jù)設(shè)備能力決定是否走SWIOTLB路徑。整體流程大致是這樣的驅(qū)動傳入一個原始緩沖區(qū)地址內(nèi)核檢查這個地址是否在設(shè)備DMA mask可尋址范圍內(nèi)。如果在且設(shè)備本身愿意直接用則不經(jīng)過SWIOTLB直接映射原地址。如果地址超出設(shè)備能力范圍或者當(dāng)前環(huán)境強(qiáng)制走SWIOTLB比如mencrypt開啟的時候內(nèi)核就從SWIOTLB池中分配一個或多個空閑slot充當(dāng)“替身地址”。如果是DMA寫操作從內(nèi)存到設(shè)備內(nèi)核需要先把原始緩沖區(qū)內(nèi)容拷貝到這張SWIOTLB slot里然后把slot對應(yīng)的物理地址交給DMA控制器。如果不拷貝設(shè)備搬到的就會是它“看不懂”的高地址。如果是DMA讀操作從設(shè)備到內(nèi)存DMA會先把數(shù)據(jù)搬到SWIOTLB slot里內(nèi)核再等設(shè)備操作完成后把數(shù)據(jù)從slot拷回原始緩沖區(qū)并釋放slot。驅(qū)動調(diào)用dma_unmap_single()或dma_unmap_sg()時SWIOTLB層完成清理和狀態(tài)復(fù)位。從上面的過程能看出來SWIOTLB本質(zhì)上是一個“反彈緩沖區(qū)”bounce buffer。這種設(shè)計換來了通用性付出的代價就是數(shù)據(jù)路徑上多了一次內(nèi)存拷貝。用大白話說原本設(shè)備可以直接從倉庫A區(qū)取貨現(xiàn)在必須先把A區(qū)的貨全部搬到中轉(zhuǎn)倉B區(qū)設(shè)備再到B區(qū)取貨取完再把剩余信息搬回A區(qū)。一次DMA變成至少兩次內(nèi)存復(fù)制對吞吐量和延遲都有影響。2.3 它和傳統(tǒng)IOMMU的關(guān)系與區(qū)別很多資料會把SWIOTLB和硬件IOMMU放在一起對比這沒什么問題但要注意它們不是二選一而是在不同層面解決DMA地址翻譯的問題。硬件IOMMU是設(shè)備側(cè)的頁表翻譯器。內(nèi)核把設(shè)備要訪問的物理頁面映射進(jìn)IO頁表設(shè)備發(fā)出的DMA地址先經(jīng)過IOMMU翻譯再訪問物理內(nèi)存。這有點(diǎn)像給設(shè)備配了一副“眼鏡”原本看不清高地址戴上眼鏡之后就能看了。IOMMU的映射開銷主要在頁表維護(hù)和TLB miss上數(shù)據(jù)本身不需要拷貝所以帶寬損耗通常遠(yuǎn)小于SWIOTLB。SWIOTLB則是純軟件方案不需要硬件芯片參與。它通過“預(yù)先設(shè)置好交易時轉(zhuǎn)運(yùn)”的方式繞開設(shè)備地址能力限制。沒有IOMMU的時候SWIOTLB兜底有IOMMU但某些設(shè)備不支持、或者被配置成旁路模式時SWIOTLB也能繼續(xù)兜底。我在很多實際項目里的經(jīng)驗是系統(tǒng)里同時存在IOMMU和SWIOTLB很常見不要因為開了IOMMU就默認(rèn)SWIOTLB完全沒用。兩者在驅(qū)動模型中的位置也不同。IOMMU通常掛在DMA層之下如果dma_map_ops包含iommu相關(guān)的實現(xiàn)dma map請求會走iommu路徑如果沒有再落到direct DMA或者swiotlb路徑。具體到代碼里就是dma_direct_map_page和swiotlb_map之間的先后關(guān)系。理解這一點(diǎn)后面看性能瓶頸才不容易跑偏。3. 怎么判斷自己正在依賴SWIOTLB以及性能影響有多大3.1 裸機(jī)與虛擬機(jī)里的常見觸發(fā)場景SWIOTLB在哪些場景里最容易被觸發(fā)首先就是老設(shè)備驅(qū)動跑在現(xiàn)代大內(nèi)存機(jī)器上。比如某些專業(yè)聲卡、老舊的USB控制器、部分FPGA板卡自帶的DMA引擎dma_mask可能只有30位或者32位一旦驅(qū)動申請的緩沖區(qū)落在高位內(nèi)存內(nèi)核只能通過SWIOTLB中轉(zhuǎn)到低位。這類問題在嵌入式Linux平臺上尤其常見很多外設(shè)DMA控制器設(shè)計比較簡陋不支持64位尋址。第二種場景是虛擬機(jī)guest。虛擬機(jī)里的virtio等半虛擬化設(shè)備通常可以協(xié)商較寬的DMA mask但很多模擬設(shè)備或者直通設(shè)備對地址范圍有限制。尤其在x86虛擬化環(huán)境里Guest物理地址經(jīng)過EPT擴(kuò)展頁表轉(zhuǎn)換后真實物理地址可能在極高位DMA控制器如果沒有配合VT-d做地址翻譯就只能退回SWIOTLB。這就是為什么很多人在虛擬機(jī)里跑存儲性能測試會看到比裸機(jī)明顯更高的拷貝開銷。第三種場景是系統(tǒng)沒有開啟IOMMU。很多默認(rèn)配置下Linux為了兼容性會保留SWIOTLB能力甚至某些發(fā)行版會打印swiotlb: defaulting to cmdline size之類的日志。我們常調(diào)侃它屬于“平時靜悄悄關(guān)鍵時刻掉鏈子”的代碼路徑性能測試?yán)锊蝗菀鬃⒁庵钡侥承┨囟↖O模型把slot池打滿才會爆發(fā)問題。3.2 性能開銷多一次拷貝到底有多痛關(guān)于SWIOTLB性能損耗網(wǎng)上很多說法是“一次額外拷貝影響可以接受”。但我實測下來這個說法太理想了。額外拷貝在不同場景下的放大效應(yīng)完全不同。順序讀寫大塊數(shù)據(jù)的場景里假設(shè)DMA本身帶寬是2GB/s額外一次內(nèi)存拷貝雖然增加了幾十微秒的延遲但吞吐量可能只掉十幾個百分點(diǎn)。但是小包高吞吐的網(wǎng)絡(luò)/存儲場景比如NVMe隊列深度很高、每個請求只有4KB甚至更小SWIOTLB的slot分配和內(nèi)存拷貝開銷會非常顯眼。更棘手的是如果SWIOTLB池大小不夠驅(qū)動在分配slot時會等待或直接報錯延遲就會出現(xiàn)嚴(yán)重的毛刺。除了拷貝本身還有cache一致性的問題。DMA讀操作結(jié)束后CPU需要讀取被打到SWIOTLB區(qū)域的數(shù)據(jù)這塊區(qū)域在DMA控制器寫入后必須在CPU cache里做invalidate操作寫操作之前則要做clean/flush操作。雖然現(xiàn)代CPU普遍支持硬件cache coherent DMA但在某些架構(gòu)或者特定配置下這個開銷并不為零。這也是為什么很多性能敏感型驅(qū)動會想盡辦法避開SWIOTLB路徑。3.3 用內(nèi)核日志和事件快速確認(rèn)SWIOTLB在工作如果你不確定系統(tǒng)到底有沒有走SWIOTLB最簡單的方法是在啟動后執(zhí)行dmesg | grep -i swiotlb如果啟用了SWIOTLB你會看到類似software IO TLB: mapped ... bytes或swiotlb: dynamic allocation的日志。老版本內(nèi)核可能打印PCI-DMA: Using software bounce buffering for IO (SWIOTLB)看到這類信息基本就知道它已經(jīng)在工作了。想進(jìn)一步觀察運(yùn)行時是否頻繁被使用可以結(jié)合內(nèi)核trace事件?,F(xiàn)代內(nèi)核在SWIOTLB路徑埋了swiotlb_bounced之類的tracepoint雖然不是所有發(fā)行版都默認(rèn)開啟但我們可以用perf或者tracefs嘗試perf record -e swiotlb:* -a -- sleep 10 perf script如果當(dāng)前內(nèi)核沒有對應(yīng)tracepoint另一個笨辦法是用bpftrace掛swiotlb_map或swiotlb_alloc這類內(nèi)核函數(shù)統(tǒng)計調(diào)用次數(shù)。這個動作需要root權(quán)限而且生產(chǎn)環(huán)境上操作要謹(jǐn)慎。拿到數(shù)據(jù)之后就能量化評估SWIOTLB在整個IO路徑中的參與比例避免靠猜。4. 機(jī)密計算是怎么改變DMA規(guī)則的4.1 內(nèi)存加密之后設(shè)備突然“看不懂”內(nèi)存了前面講的都是地址空間問題到了機(jī)密計算這里問題又多了一個維度內(nèi)存內(nèi)容被加密了。機(jī)密計算的核心訴求是保護(hù)使用中的數(shù)據(jù)宿主機(jī)的內(nèi)核、hypervisor甚至物理機(jī)管理員都不該看到虛擬機(jī)內(nèi)部的內(nèi)存數(shù)據(jù)。AMD SEVSecure Encrypted Virtualization和Intel TDXTrust Domain Extensions都采用了內(nèi)存加密方案CPU把內(nèi)存中的機(jī)密數(shù)據(jù)用硬件密鑰進(jìn)行加密只有特定的可信上下文才能解密。這就帶來一個尷尬局面普通DMA設(shè)備不具備解密能力。設(shè)備在搬運(yùn)內(nèi)存時拿到的是物理地址上的密文可它需要的卻是能直讀的明文。如果設(shè)備是加密引擎、TEE安全芯片這類專門組件那么它可以配合做加解密但普通的NVMe控制器、網(wǎng)卡不會自帶客戶機(jī)密內(nèi)容的解密邏輯強(qiáng)行把機(jī)密內(nèi)存暴露給DMA要么數(shù)據(jù)出錯要么安全邊界崩潰。系統(tǒng)怎么解決答案是把內(nèi)存分成兩種類型private私有加密內(nèi)存和shared共享明文內(nèi)存。在SEV里通過C-bit標(biāo)記在TDX里通過Shared Bit標(biāo)記。CPU訪問private內(nèi)存時自動用客戶密鑰解密訪問shared內(nèi)存時不加密。機(jī)密虛擬機(jī)里運(yùn)行的應(yīng)用、內(nèi)核核心數(shù)據(jù)通常都在private內(nèi)存中而需要與外部設(shè)備共享的數(shù)據(jù)則放在shared內(nèi)存中。DMA設(shè)備能直接訪問的只有shared內(nèi)存。4.2 SEV/TDX里的shared/private內(nèi)存切換內(nèi)核在機(jī)密計算環(huán)境中經(jīng)常要做內(nèi)存屬性的切換這就是Linux中set_memory_decrypted()和set_memory_encrypted()這對API干的事。名字寫得很直白decrypted就是讓一段內(nèi)存變成sharedencrypted就是收回成private。聽起來很簡單但實際操作非常敏感。在x86 SEV環(huán)境下變更內(nèi)存加密屬性實際上涉及頁表項的C-bit翻轉(zhuǎn)還要考慮有沒有其他CPU正在并發(fā)訪問這塊內(nèi)存以及IOMMU頁表緩存是否還保留舊映射。在TDX環(huán)境下shared/private切換還要和TDX module通信做一系列安全檢查。如果搞亂了這個狀態(tài)輕則DMA讀到錯誤數(shù)據(jù)重則觸發(fā)安全漏洞或者系統(tǒng)性故障。那么DMA緩沖區(qū)到底該放哪邊答案是放在shared內(nèi)存里。但問題來了內(nèi)核里很多通用驅(qū)動申請DMA緩沖區(qū)時并不知道自己運(yùn)行在機(jī)密環(huán)境里也不會主動去調(diào)用set_memory_decrypted()。如果把private內(nèi)存直接交給普通DMA設(shè)備設(shè)備訪問時要么無法訪問要么就會數(shù)據(jù)錯亂。4.3 為什么機(jī)密計算反而離不開SWIOTLB這正是SWIOTLB在機(jī)密計算里翻身當(dāng)主角的關(guān)鍵原因。與其讓每個驅(qū)動都去適配shared/private邏輯不如讓SWIOTLB變成一個“永遠(yuǎn)放在shared內(nèi)存里的固定轉(zhuǎn)運(yùn)站”。所有DMA數(shù)據(jù)都先從private內(nèi)存拷貝到SWIOTLB的shared緩沖區(qū)然后DMA設(shè)備再訪問SWIOTLB。這樣對驅(qū)動來說它根本不需要關(guān)心內(nèi)存加密屬性只需要照常走DMA API內(nèi)核在SWIOTLB層完成了shared/private的隔離。以Intel TDX為例內(nèi)核在TDX guest里會強(qiáng)制掉進(jìn)SWIOTLB路徑原因就是所有設(shè)備DMA都需要經(jīng)過shared bounce buffer。AMD SEV場景也類似啟用mem_encrypton之后內(nèi)核會把SWIOTLB作為默認(rèn)的DMA回落方案。如果忽略了這一層很多DMA操作會在虛擬機(jī)里直接失敗或者靜默產(chǎn)生校驗錯誤。這也是為什么每次我接到“虛擬機(jī)里NVMe盤寫著寫著掉盤”“虛擬機(jī)網(wǎng)絡(luò)吞吐忽高忽低”這類排查需求時第一反應(yīng)就是去看SWIOTLB有沒有成為瓶頸而不是一上來就懷疑物理網(wǎng)卡或者SSD有問題。坦白說在每個機(jī)密計算環(huán)境里都存在SWIOTLB額外拷貝性能損失是在所難免的。但這是用一部分性能換安全邊界的完整性。除非硬件廠商實現(xiàn)了完善的shared I/O DMA引擎或者IOMMU直接支持共享映射否則SWIOTLB就是業(yè)界目前最通用、最不依賴特定硬件平臺的方案。4.4 安全邊界與性能取舍在機(jī)密計算里使用SWIOTLB還帶來一些安全設(shè)計上的細(xì)節(jié)值得展開講一講。第一SWIOTLB緩沖區(qū)本身是shared明文內(nèi)存它里面的數(shù)據(jù)在DMA完成后不能殘留敏感信息所以內(nèi)核在做slot釋放時會做適當(dāng)?shù)那謇韯幼鳌5诙hared內(nèi)存對hypervisor而言是可讀的所以機(jī)密計算環(huán)境里的SWIOTLB區(qū)域應(yīng)該盡量只承載設(shè)備DMA數(shù)據(jù)不要拿來當(dāng)普通內(nèi)存亂存用戶隱私。第三SWIOTLB緩沖區(qū)大小必須足夠覆蓋預(yù)期DMA并發(fā)量因為如果slot池耗盡更糟糕的結(jié)果不是在低性能中運(yùn)行而是直接出現(xiàn)IO錯誤。性能取舍方面我通常給客戶的建議是先監(jiān)控SWIOTLB的使用峰值。如果確認(rèn)超過了池容量優(yōu)先調(diào)整啟動參數(shù)擴(kuò)大池大小如果頻繁出現(xiàn)滿池但實際并發(fā)不高則要檢查驅(qū)動是不是用DMA方式做了本來可以用PIO完成的小數(shù)據(jù)量操作。很多嵌入式驅(qū)動為了省事把串口、SPI、I2C這類低速設(shè)備的收發(fā)全掛到DMA上其實這類傳輸根本不需要這么大的并發(fā)窗口只是浪費(fèi)了SWIOTLB slot。做一個簡單的QoS分流比盲目加內(nèi)存有效得多。5. 調(diào)優(yōu)、避坑與實戰(zhàn)排障5.1 SWIOTLB大小怎么定確定SWIOTLB大小最直接的方法是看業(yè)務(wù)的實際DMA并發(fā)量。假設(shè)一個NVMe驅(qū)動單個請求涉及的最大數(shù)據(jù)量是1MiB隊列深度是256那么理論上最壞情況需要256MiB的DMA映射空間。但實際情況往往沒那么極端因為部分請求可能不會全部同時走SWIOTLBIOMMU或者設(shè)備的高位尋址能力也能分擔(dān)一部分。保守起見可以先用默認(rèn)64MiB跑一段時間業(yè)務(wù)觀察是否出現(xiàn)swiotlb buffer is full或者tracepoint觸發(fā)的頻繁等待再決定是翻倍到128MiB還是256MiB。修改方式是在內(nèi)核啟動參數(shù)中追加# 每個slot 2KiB131072表示256MiB swiotlb131072在GRUB環(huán)境里通常編輯/etc/default/grub的GRUB_CMDLINE_LINUX然后執(zhí)行g(shù)rub2-mkconfig -o /boot/grub2/grub.cfg并重啟。需要注意內(nèi)存碎片嚴(yán)重的系統(tǒng)在啟動早期可能申請不到巨大的連續(xù)物理內(nèi)存如果設(shè)置的SWIOTLB過大導(dǎo)致啟動失敗需要適當(dāng)降低。另一個方向是徹底禁用SWIOTLB使用swiotlb0但只建議在確認(rèn)設(shè)備、IOMMU、內(nèi)存加密等路徑都不需要它的場景里操作否則很容易引發(fā)DMA無法映射的嚴(yán)重問題。5.2 日志與排查那些讓人抓狂的DMA報錯SWIOTLB相關(guān)的常見報錯其實沒有太多花樣但每個都足以讓人頭疼一陣。我整理過一張自查表基本能覆蓋大部分情況常見日志含義處理思路swiotlb buffer is fullSWIOTLB slot耗盡DMA請求無法獲得中轉(zhuǎn)緩沖區(qū)擴(kuò)大SWIOTLB減少DMA并發(fā)檢查是否泄漏DMA: Out of SW-IOMMU space類似上一項部分內(nèi)核用這個打印同上同時檢查驅(qū)動是否頻繁map/unmapswiotlb: coherent allocation failed一致性DMA內(nèi)存分配失敗增加連續(xù)內(nèi)存或調(diào)整一致性內(nèi)存池大小Cannot allocate memory for SWIOTLB啟動時SWIOTLB預(yù)留失敗檢查內(nèi)存碎片降低SWIOTLB大小Cache/IOMMU conversion failed內(nèi)存加密屬性或IOMMU映射切換失敗多與SEV/TDX的shared/private切換有關(guān)排查時要做的第一件事不是改參數(shù)而是搞清楚報錯出現(xiàn)的頻率和上下文。我見過一個案例某驅(qū)動在中斷上下文里調(diào)用DMA映射函數(shù)但該函數(shù)在某些配置下可能睡眠等待slot導(dǎo)致內(nèi)核異常。這種報錯表面看是SWIOTLB空間不夠本質(zhì)是驅(qū)動設(shè)計違反了原子上下文約束。所以看到swiotlb buffer is full時先把dmesg里的調(diào)用棧保存下來結(jié)合/proc/interrupts和驅(qū)動源碼確認(rèn)調(diào)用上下文再做參數(shù)調(diào)整。5.3 我的調(diào)優(yōu)建議與個人體會最后分享幾個我在實際項目里反復(fù)踩過坑以后總結(jié)出的經(jīng)驗。第一SWIOTLB不是性能問題的原罪很多場景真正的瓶頸是驅(qū)動頻繁map/unmap帶來大量拷貝和cache操作。與其盲目擴(kuò)大SWIOTLB不如優(yōu)化驅(qū)動把零散的DMA請求合并成dma_map_sg批量請求減少映射次數(shù)。第二在虛擬化或機(jī)密計算環(huán)境里如果業(yè)務(wù)對延遲極其敏感可以考慮把存儲隊列深度適當(dāng)降低讓并發(fā)DMA請求數(shù)控制在SWIOTLB能力范圍內(nèi)這樣雖然隊列深度低了但總體時延反而穩(wěn)定。第三設(shè)置完SWIOTLB之后一定要做壓力測試不要只測順序讀寫還要測高并發(fā)隨機(jī)讀寫和冷啟動瞬時IO峰值真正打滿slot池之后才能暴露配置是否合理。我個人的體會是SWIOTLB屬于那種“平時你看不見它出問題時它比誰都重要”的底層設(shè)施?,F(xiàn)在的內(nèi)核代碼已經(jīng)相當(dāng)完善文檔資料也不算少但真正讓它發(fā)揮價值還是要回到對DMA路徑的理解上誰在訪問內(nèi)存、設(shè)備能不能訪問、中間有沒有加密隔離。搞懂了這三件事SWIOTLB就不再是一個神秘的啟動參數(shù)而是一塊可以預(yù)判、可以計劃、可以兜底的安全墊。希望這篇文章能幫你在下次遇到DMA相關(guān)疑難雜癥時少走一點(diǎn)彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产一区二区av免费| 少妇久久诱惑视频| 第九色区AV在线| 1024操逼视频| 亚洲视频99| 开心五月婷婷六月丁香| 久99视频| 91精品综合久久久五月天| 色婷婷久久| 欧洲激情五月天婷婷| 色999五月色| 色伊人91在线视频| 五月天激情国产综合婷婷婷| 在线成人网址| 97自拍视频在线| 99久久综合网| 婷婷激情在线| 亚洲色夜| 九九热超碰| 久久色在线视频| 日本一级淫| 国精产品一区一区三区有限公司杨 | 精品色色网| 精品视频99看在线视频| 无码激情| 亭亭五月色男人| 激情亚洲色图片丁香综合| 天天草天天爱| 五月丁香影院| 五月丁香久久婷| 这里有精品99| 做爰丰满少妇1313| 久久久er热| 婷婷五月天电影网| 国内久久婷婷| 这里只有精品1| 午夜免费试看| 开心婷婷五月| 大香蕉人在线65| 色综合另类| 色情五月天A片| 国产欧洲欧洲精品久久| 丁香五月在线人妻| 98国产精品综合一区二区三区| 人操综合| 79色色色色| 亚洲第一成人无码A片| 丁香婷婷黄网站| 五月婷婷av| 亚洲色激情| 五月丁香婷婷综合网| 成人一区在线观看| 色婷婷香蕉| 激情五月综合网最新 | 26uuu日韩| 成人短视频在线免费观看| 五月丁香六月色| 97干在线免费| 丁香婷婷五月色成人网站| 操逼三区| 黄色国久久| 国产精品日韩十五区| 色色热| 色婷婷久久| 五月丁香久久综合91| www色综合| 人妻激情视频| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 婷婷五月天开心网| 精品三区影院| 丁香五月另类色婷婷麻豆| 成年人丁香五月| 综合狠狠五月婷婷| www.婷婷五月天| 99成人在线观看| 俺去也在线官网| 五月婷婷黄| 性天天中文网| 亚洲天堂啪啪| 日韩AV中文字幕在线| 激情网五月天| 97色片| 丁香五月婷婷激情中文| 婷婷色香六月综合激情| 超碰97色| 日噜噜色| 五月激情综合网婷婷| 亚洲V国产V欧美V久久久久久| 久热9| 九九热内射| 中国女人内射6XXXXX| 人。妻久久| www·五月天| 天天搡日日搡aaaaⅩ| 182tv992tv人之初午夜免费观看| 欧美婷婷精品激情| 亚洲精品乱码久久久久久综合| 丁香五月综合激情啪啪| 99久久99九九99九九九| 色色五月天婷婷| 激情99| 超碰猛烈的性猛交| 99热都是精品| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 大香蕉五月天| 六月丁香基地| 成人五月天视频播放| 先锋av性爱成人电影| 日韩欧美一级大黄网站| 亚洲色精彩| 婷婷午夜精品久久久| 色婷婷亚洲综合av| 人人干女人| 丁香五月大香蕉AV| 久久黄A片| 色小说婷婷五月天天天| 综合五月天婷婷色| www.99热这里只有精品| 九色视频91| 六月婷婷色综合| 嫩草AV久久伊人妇女超级A| 国产精品美女| sewuyuetingtingiii| a色色片| 夜夜夜夜做天天天做无码视频| 丁香六月天婷婷开心综合| 色青五月天| 五月丁香六月婷婷网| 日日夜夜干| 综合网亚洲| 激情综合网五月天| 日熟女| 日日操,天天操| 九九成人| 亚洲无码猫咪| 精品久久99码| 婷婷开心久久| 国产午夜伦鲁鲁| 秋霞少妇AV网站| 99精品热| 琪琪理论片| 久久五月天激情| 色五月亚洲| 欧美大香蕉视频| 久色中文| 婷婷香草网| 九九十99视频| 开心激情综合| 成人亚洲精品久久久久 | 日日日,com| 综合一本道| 专区无日本视频高清8| 999婷婷综合| 97色在线观看视频| 丁香五月婷婷亚洲激情四射| 色情激情五月| 亚洲va日| 能看的av网站| 色色色综合网| 六月婷久久| 日本久久色| 色五月综合激情| 99人人看| 91啪啪视频| 丁香五月婷婷www..com| 草婷婷在线| 狠狠色丁香乆乆| 色婷婷丁香五月天在线视频| 成人午夜视频精品一区| 狠狠干综合网| 97热久久| 这里只有精彩视频| 色综合综合网| 五月丁香久久综合| 精品久久久中文字幕大豆网推荐理由| 九九精品热| www.色情五月天.com| 亚洲天堂婷婷丁香| 婷婷播5月| www98日本小时间到了| 丁香五月天色婷婷| 一本久道综合色婷婷五月| 在线成人国产| 狠狠色综合网| 四色AVwww| 国产成人在线精品| 国产成人av在线播放| 国产激情av| 婷婷天堂站| 99色免费观看全部| 久久久久妻| 色综合久久久无码中文字幕999| 欧美日韩二区在线| 人妻久久久久久久久久久| 丁香熟女乱| 成人无码精品1区2区3区免费看| 开心激情综合| 美女五月狠狠| 久久免费婷婷视频| 五月社区丁香| 免费黄色片子| 五月亭亭色| 丁香成人五月天| 91九色熟女| 天天干com| www.av视频xx999.com| 一区=区操屄高清大全av| 丁香五月婷婷色| 五月天综合影院| 五月天婷婷色色网| 成人网站高清无码| 天天肏视奸| 噼里啪啦完整版中文在线观看| 欧美激情综合色综合啪啪五月| 久久婷婷五月天蜜桃| 欧美精品99| 丁香婷婷情色五月天| 开心五月丁香啪| 激情婷婷丁香五月天小说| 色色色五月婷| 99热最新| 亚洲五月六丁香激情| 激情丁香婷婷| 久久久妻人人人| 久久永久视频| 人人插9| 久99久视频精品| 91九色偷拍| 六月婷综合| 中文字幕网伦射乱中文| 国产欧美日韩综合精品一区二区| av操B网站| 丁香五月婷婷激情蜜桃| 一本大道熟女人妻中文字幕在线| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 色色色色热热| 婷婷香蕉香| www.激情com| 噜综合| 思思久久96热在精品国产,| 亚洲热综合网在线观看| 97五月婷婷| 美女爆乳18禁www久久久久久| 91精品刘玥| www.五月婷婷久久.com| 天天橾夜夜爽| 丁香六月婷婷久久综合| 欧美久人人| 亚洲AV无码影院| 综合色播| 五月天综合色| 五月丁香激情综合啪啪| WwW色婷婷| 秋霞电影一级黄| 五月丁香六月婷婷视频| 婷婷激情四射| 日本黄色在线观看| 九九精品在线观看视频6| 丁香五月婷婷亚洲综合精品| 五月色亚洲| 99精品网址| 久久久www| 五月天婷婷激情在线色图| 99热手机在线精品| 激情四射五月天| 第四色五月天| 五月婷婷手机在线| 丁香婷婷综合激情五月色| 天堂综合久| 婷婷五月激情基地| 成人必爱视| 日本久久婷| 韩日AV片| 婷婷激情视频欧美视频自拍视频欧美剧| 五月天婷婷激情小说电影| 亚洲婷婷丁香五月| 色婷婷69| 超碰9| 天天日夜夜| 91男人资源站| 视色综合| 色99视| 99爱免费在线视频| 亚洲成人影视在线| 天天射射夜| 疯狂做受XXXX高潮A片动画| 色婷五月天网站| 日韩九区| 激情小说之五月| 黄色国久久| 五月综合精品| 9 1大香蕉| 99精品小视频| 玖热精品综合视频| 爆乳熟女-区二区三区| 九九热免费| 欧美WW在线网| 欧美成人va| 婷婷五月激情在线| 成人电影一区| 大地资源色婷婷视频在线| 久久五月激情网| 99热日| 熟妇人妻中文字幕无码老熟妇| 777丁香六月青青草婷婷综合久月| 最近中文字幕大全免费版在线 | 六月婷婷中文字幕| 五月天播播| 性爱在线播放av| 丁香花五月天社区| 丁香五月激情婷婷婷婷在线观看| 狠狠爱婷婷爱| 一区=区操屄高清大全av| 无套内射极品大美女| 激情五月天激情网| 激情丁香久久| 午夜日韩久久久网站| 亚洲激情久久| 五月天婷婷綜合院| 五月天日日操夜夜操 | 丁香婷五月天开心六月| 天天色综合色| 大香蕉久| 色色色综合色| 97婷婷狠狠久久综合9色| 亚洲V国产V欧美V久久久久久| 俺去也在线官网| 五月综合激情久久| 久热只有这里有精品| 热99久| 狠狠色婷婷综合开心影视| 亚洲精品视频电影| 五月天激情小说网| 深爱开心激情| 婷婷色五月天在线| 久色大| 激情内射p| 婷婷开心久久| 婷婷五月天网| 天天操夜夜操| 亚洲99综合| 婷婷色操| 99热这里全都是精品| 日日干天天| 伊人久久大香网| 99在线观看视频| 激情图片亚洲| 激情五月六月丁香| 色噜噜婷婷| 天堂婷婷丁香六月网| 天天爽综合| 五月丁香好婷婷A片网| 欧美一级色| 日韩啪啪视频| 26uuu色五月| 成人片黄网站色大片免费毛片| 色噜噜狠狠色综无码久久合欧美| 91色久| 91精品91久久久久77777| 99视频日韩| 婷婷玖玖五月天| 五月天久久www| 人人摸人人操人人爽| 综激情网| 婷婷五月天干干| 国产激情综合五月久久| 婷婷五月丁香亚洲| 色色色色综合网| 久久婷婷热| 五月丁香久久精品在线观看| 婷婷久久六月费| 丁香六月久| 欧美经典片免费观看大全| 久久久久97| 色婷婷丁香五月| 99热12| 99ri国产精品| 五月婷婷丁香综合| 思思热精品在线视频| 久久精品99国产精品日本| 色婷婷亚洲综合av| 久久这里只有精品1| 97色女人在线| 69人人操人人爽| 99热网址| 婷婷五月天黄色| 无码橾| 狠狠草狠狠草| 天天艹| 久久精品66| 狠狠色综合网| 97香蕉久久超级碰碰高清版| 色97综合婷婷天天色| www.minyis.com【JT】实力收量可预付QQ2101460746| 五月婷婷色激情| 无码视频国内精品久久久| 婷婷五月天最新综合你懂的| 亚洲情a| 狠狠插.com| 婷婷射图五月天| 99五月香婷婷丁香在线视频| 就爱干 在线| 色综合色五月| 婷婷午夜| 色综合久久88色综合天天99| 日日色五月天| 玩熟女五十AV一二三区| 久久女婷| 99精品在线观看| 五月丁香 啪啪| 99久久网站| 5月婷婷视频网站综合| 日本操B片| 夜色爱爱亚洲| 97碰碰九九视频| 开心五月天激情网| 丁香五月六月婷婷综合| 九九视频这里只有精品| 天天做 天天爱| 婷婷四色五月| 色5在线| 日本99久久| 久久色五月天| 成人精品在线| 激情五月图| 狠狠色丁香| aⅤ79成人片| 五月天无码视屏播放| 激情五月婷婷在线区| 性爱网久久| 丁香亭亭久久| 99惹 精品在线| 国产毛片操B| 26uuu色五月| 丁香五月激情综合久久| 五月天婷婷狂暴白浆| 99精品综合在线| 色五月婷婷7777| 五月色色色| 青青草国产亚洲精品久久| 26uuu成人网| 色爱综合五月| se色99| 色噜综| 丁香五月天激情视频| 婷婷五月AV| 色婷婷丁香五月| WWW久久99久久99久久| 亚洲欧洲一二| 超碰人人操人人干| 色婷婷五月天天天做| 丁香六月爱综合| 第四色大香蕉| 婷婷激情五月| 人人操人人妻| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 99爱无码| 五月激情小说网| 激情五月婷婷| 九月婷婷久久久| 先锋资源996| 天天摸色吧天天摸色吧| 久色大| 激情五月激情综合网| 婷婷伊人75| 蜜臀A∨在线水帘洞| 人人添人人| 色五月激情婷婷| 亚洲午夜AV| 五月婷婷影| 丁香五月图片| 超碰在线观看99| 热久91| 天天爽天天爽天天爽天天爽天天爽天天爽天天 | 婷婷久草| 婷婷五月色播网| 色色综合色| 婷婷五月天AV| 五月丁香福利| 亚韩在线视频| 成人综合视频在线| 99re6久热只有精品6在线直播| 五月丁香六月婷| 久久综合中文字幕| 激情丁香图片| 夜色热久| anquye五月| 婷婷五月天成人| 亚洲AV免费在线| 伊人玖玖精品| 人人操日| 高清视频一区| 国产成人av在线| 热99在线精品| 99久久偷拍视频| 插少妇综合网| 九九一区| 思思热在线视频99| 91婷婷视频| 99热免费精品热久久66| 91日本在线观看| 婷婷色导航| 天天插天天插天天插天天插| 亚洲综合激情五月天婷婷| 色五月婷婷网| 国产成人VA| 久久五月天精品视频| 天天干夜晚夜操| 人人操人人看97干| 久久99综合| 日本妈妈乱| 视色网在线播放| 久99999热视频在线观看免费| 99这里只有精品8| 欧美顶级少妇做爰HD| 色久免费| 人人干天天舔| 日韩中出视频| 天天爽天天日| 综合天天综合| 天天日日| 亚洲综合色色| 亚洲色另类| 国产激情在线| 伊人综合网站| 六月激情久久婷婷| 91久女| 99热网站| 色五月婷婷久久| 亚洲成人网在线观看| 久热久69| 五月丁香操婷逼| 九九综合久久| 日日噜人人人做人| 成人做爰高潮A片免费视频| 日本va欧美va国产激情| 五月丁香六月欧美| 久久婷婷五月国产色综合激情| 精品五月花| 热久久99热欧美国产亚洲| 99自拍视频在线观看| 97 A I色色| 99热99极品观看| 人人草人人视| 久久精品永久免费| 亚洲思思热久| 91丁香五月| 色噜噜五月丁香婷婷| 日韩一级淫乱片一区二区三区| 亚洲性爱电影| www.99热这里精品| 黄色av高清| 99ER热精品视频| 九九热超碰| 九九热精品视频在线观看| 97五月天婷婷| 欧美性色五月天| 夜夜骑日日夜夜| 激情五月网站| 婷婷天天综合| 久热久色| 大香蕉伊人99| 波多野结衣AV无码Porn| 九九色婷婷Av| 91日综合欧美| 美女被肏网站在线看| 九九九九九九热| 超碰伊人碰婷婷五月| 丁香婷婷综合色五月激情国产基地| 日本不卡高字幕在线2019| 国产成人99久久亚洲综合精品| 中文AV在线观看| 色婷婷9| 99热最新| 欧美日韩99| 五月丁香六月| 五月四色激情| www.五月天婷婷| 嫩草视频观看| 五月6香色婷婷视频| 天天日天天做天天舔| 成人婷婷色五月天| 色色色色色色色色网站| 91丨九色丨白浆秘| 国产激情综合五月久久| 99热久久最新地址| 五月丁香黄色| 激情小说婷婷| 欧美久久婷婷| 九九综合| 中日韩狠狠色| 色久五月| 久久爱婷婷| 丁香色色网| 五月婷婷六月激情| 大香蕉九九| 少妇口诉沐足视频播放器网址| 五月天综合激情网| 成人精品视频99在线观看免费| 丁香色婷婷色手机免费在线| 99热这里都是精品| 青草激情在线| 996er热| 天天综合天综合久久网| 狠狠做五月| 99热久只有精品首页| 五月丁香六月激情欧美综合| 欧美精品18| 男人的天堂av俄罗斯热| 五月的婷婷六月丁香| 夜夜骑夜夜操| 99视频只有精品| 一起草无码| 亚洲VA口| 色婷婷最新域名| 国产午夜成人免费看片无遮挡| 99热午夜精品| 五月丁香成人| 精品一二三区久久AAA片| 日日噜噜夜夜狠狠久久丁香六月| 色噜噜狠狠色综合日日| 欧美日韩一区二区三区四区| 涩涩婷婷五月| 亚州激情在线视频| 日韩1区2区| 丁香五月大香蕉AV| 久久这里只| yw.av| 激情五月天www| 99热在线观看| 五月天婷婷在线观看精品男人| 久久激情五月| 五月天色播网| 婷婷另类小说| 色六月天天激情综合网| 可以看的av| 99re热精品视频国| 97操操| 都市激情蜜桃婷婷五月天| 99热在线看| 深爱五月中文字幕| 色99综合色88| 久久人妻久久| 九9九9无码| www,com,五月色色| 婷婷久久综合久| 精品久久人妻| 日日想日日夜日日操| 亚洲三A| 五月丁香六月合| 琪琪布丁香社区激情五月天| 亚洲人妻一区二区| 激情婷婷五月天丁香| 色色亚洲视频| 香焦网五月天| 这里只有精品视频在线| 综合五月天天天天天五月| 91九色 熟| 丁香五月色网| 欧美精品久久久久久视频观看| 大香蕉五月天婷婷| 婷婷五月天天天| www91精品| 久久99网| 深爱激情六月天| 九九九精品视频免费观看| 无码激情AAAAA片-区区| 极品另类| 丁香五月天激情综合网| 婷色五月天| 乱精品一区字幕二区| 色播激情五月天| 婷婷五月天久久| 99色人| 99热这里只有精品1| 99在线观看精品| 97伦乱| 91干在线| 久久这里只有国产精品视频| 熟女啪啪视频| 五月婷婷性爱网| 亚洲乱码日产精品BD| 九九 激情 网| 这里只有精品视频看看| www.久久久久久久久久久| 少妇人妻偷人精品无码视频新浪| 99热国产这里只有精品| 狠狠色大香蕉| 99视频在线观看视频| 超碰99热| 日韩操逼大片| 看片视频在线免费日产在线看| 成人色色视频| 五月天玖玖狠狠色色| 久久精品性爱视频,| 日韩少妇内射免费播放| 日本色色网| 六月丁香中文字幕| 激情丁香五月| 久久丁香综合| 色九亚洲| 国产综合色婷婷精品久久| 精品99网站| 99热 在线观看| 激情婷婷丁香色五月综合| 99思思在线视频| 国产精品久久久99视频| 久久五月天合网| 婷婷五月天少妇| 丁香五月AV综合激情| 伊人天天色| 久久小片| 日韩婷婷五月天| 激情六月婷婷| 色综合婷婷| 操人91| 国外亚洲成AV人片在线观看| 97色色色| 色综合99无码| 色综合久久88| BT综合在线视频观看| 婷婷五月AV| 九月婷婷综合八月丁香在线观看| 五月婷婷色情| 99九九玖玖| 色色A| 久久久久久五月天| av操一操| 婷婷 久综合| 丁香五月电影| 操一操干一干| 日本天堂网站99| 九九大香蕉黄色影院| 五月丁香婷婷在线综合蜜桃| 亚洲无码九九| 色五月天在线观看| 婷婷伊人欧美| 色婷婷成人| 热99精品视频| 婷婷五月色色| Va另类视频| 泰州成人视频| 六月丁香婷| 91聚色综合网| 婷婷天天插天天爱| 超碰在线精品| 人人色人人弄人人操| 九九热视频99| 五月丁香激情综合网| 国产成人AV在线| 色婷婷丁香女女| 五月激情五月丁香| 激情99热| 六月丁香停| 日本婷婷网| AV九九| 天天干,天天操,天天射| 婷婷婷五月天最新综合你懂的| 久久ab| 91九色精品女同系列| 婷婷五月天激情免费在线观看| 五月亭亭六月天| 日本99在线视频| 久久人妻伦理| 一本色道久久综合狠狠躁一二三| 99re99热| 99久久久99久久91熟女| 99 热| 九九青草热| 亚洲超级碰| 六月婷婷综合| 99热九九这里只有精品| 婷婷五月天Av| 超碰国产AV| 人人色婷婷| 99日本视频| 狠狠色综合网站久久久久| 午夜激情四射影院| 丁香桃色网| 99 福利 导航| 人妻久久久久久久久久久| 日本波多野结衣视频| 激情五月婷婷色综合| 五月综合激情| 六月婷婷俺也去| 超碰在线caop| 这里只有精品视频在线看| 亚洲视频在线观看| 九九精品视频在线观看| 久久99jiu9| 五月丁香婷婷视频| 色 免费网站视频| A片试看120分钟做受视频红杏 | 激情久久综合| 99热欧| av婷婷六月丁香社区在线观看| 婷婷区日本| 久9精品| 99在线观看| 另类综合国产| 99在线精品观看99| 亚洲AV日韩在线观看| 99久久极情精品一区| 婷婷色啪| 伊人婷婷五月天| 十月丁香九月婷婷综合| 婷婷丁香色五月亚洲| 久99999热视频在线观看免费| 婷婷综合五月天亚洲综合| 久久婷婷六月综合| 九九色院| www.lchjjc.com| av人人干| 五月婷激情| 亚洲狠狠狠色婷婷综合激情久久久| 久草 tingting| 亚洲色五月| 99热官网| 天天拍天天做视频| 婷婷五月丁香六月| 丁香五月停停基地| av五月天婷婷丁香| 北京熟妇搡BBBB搡BBBB| 99自拍视频网站| 激情五月天婷婷丁香| 久久这里只有精品视频26| 久热91| 人人操 色| 激情综合网激情五月俺也去| 激情性爱五月天| 国产精品色色| 亚洲五月情| 丁香亭亭久久| 好吊丝aV| 千人斩操逼| 激情综合5月| 第二色AⅤ| 五月丁香综合| 91超级碰在线视频| 大香蕉五月天| 激情五月丁香五月| 香蕉久久国产AV一区二区| www.99视频| 亚洲精品国产setv| 婷婷精品性视频| 蜜臀99精品| 9久热免费视频99| 色在线99| 婷婷伊人綜合中文字幕| 亚洲国产99| 五月香婷婷| 蜜桃五月天| 日操熟女| 婷婷色情五月| 丁香丁婷五月激情| 五月丁香天天| 天天干com| 超碰免费99| 色色婷| 精品国产乱码久久久久久免费| 六月丁香婷婷爱| 丁香五月777| 日本女天天爽| 丁香五月婷婷视频| 五月丁香在线观看| 亚洲爆乳无码精品AAA片蜜桃| 五月婷婷黄色网址| 婷婷丁香社区| 五月婷婷五月丁香综合| 色色色99| 熟女少妇内射日韩亚洲| 91九色熟女| 97婷婷五月| 成人无码髙潮喷水A片| 99热精品在线观看| 卡视频1区2区| 任我肏| 米奇影视资源婷婷狠狠色激情欧美五月丁香| 深爱激情婷| av在线资源| 色播激情婷婷| 天天操天天操综合| 国产婷婷综合| 国产成人精品一区二三区熟女在线| 99热线观看9| 成人色五月天| 免费亚洲婷婷| 激情婷| 国产精品噜噜在线视频| 亚洲最大五月天成人网| 97精品综合久久| 亚洲综合视频网| 婷婷五月天电影区小说区| 噜噜在线| av激情在线| 第四色五月天| 日本色啪| 亚洲综合婷婷| 99国产er热视频| 色婷婷在线视频| 亚洲第一成人AV| 天天 青草 丝袜制服 在线| 99爱在线精品视频免费观看| 青996青| 欧美色色色色色| 无遮挡国产高潮视频免费观看| 91viP在线看| 色综合中文| 狠爱婷色| 成人在线视频一区| 午夜成人综合| 五夜丁香| 丁香六月婷婷久久亚洲天堂| 欧美激情综合色丁香婷婷五月天 | 国产操肏网站| 天堂综合久久| 综合激情在线视频| 日韩999| 婷婷丁香97| 九九热视频在线观看| 91人妻色色网| 色优久久| 丁香五月成人在线| 国产精女同一区二区三区久 | 欧美日韩中文国产一区发布| 97涩涩丁香五月天| 丰满女老板BD高清A片| 日本九九热| 青青999| 日日噜噜夜夜狠狠久久丁香六月| 久99综合婷婷| 色综合五月| 成人欧美Va| 婷婷狠狠综合网入口| 婷婷五月丁香五月天| www.色九月| 玖玖婷婷五月天| 婷婷五月丁香综合人妻| 丁香五月手机在线| 精品无码久久久久久久久| 翔田千里无码| 99热亚洲综合| 婷婷丁香久久| 激情图片婷婷| 性一交一乱一交A片久久四色| 狠狠干狠狠色| 丁香婷婷五月色成人网站| 色情丁香五月天| 成人色图情色成人网 www.5b5b5bcom 五月天 | 五月婷婷二月丁香| 69热在线| 操逼六区| 五月婷婷欧洲| 色五月婷婷网| 激情五月天小说网| 天天肏天天插| 9999热在线观看| 思思热在线精品视频| 内射爽无广熟女亚洲| 无码激情精品色婷婷久久久久 | 天天做天天爱天天爽在| 人人插9| 专区无日本视频高清8| 99热在线只有精品| 色五月成人网| 色9999日韩国产| 日韩大片艹艹| 韩国中文字幕91| 五月婷婷六月丁香| 99色视频在线| 婷婷五月色丁香在线看| 91操人| 婷婷九月丁香| 色婷婷激情| 五月婷婷九九久久| 99日热在线视频| 国产精品久久久爽爽爽麻豆色哟哟| 狠狠干在线| 色婷婷基地| 五月天婷婷久久视频| 五月婷婷色| www.夜夜操.com| 五月婷婷婷婷| 99热免费| 三男玩一女三A片| 九九综合色| 九九碰九九爱97| 八戒青柠影视剧在线观看| 另类视频五月天| 色欲久久久久久综合网综合网| 九九99香蕉在线视频播放| 这里只有精品视频99| 99re这里有精品手机在线| 梁铮版《蜘蛛女侠》在线| 日日色五月天| 99热在这里只有精品| 五月天成人网在线观看| 激情网婷婷婷| 99在线视频播放| 色五月首页| 狠狠干在线| 99青青草99| 男女免费视频999| 六月婷婷俺也去| 婷婷丁香五月天在线| 四色99久久| 九九热这里只有精品6| 可以免费观看的av| 激情骚五月| 五月丁香六月综合基地| 婷婷五月综合在线| 婷婷五月天天aV| 天天综合五月| 丁香六月婷| 国产人人操| 欧洲99视频在线| 天天色视频| 91一起操| 亚洲视频码| 99惹| 丁香伊人网| 婷婷桃色网| 婷婷久久欧美| 婷婷.com| 欧亚成人A片一区二区| www:99热视频| www.婷婷网| 欧美大道不卡| 久久44| 婷婷五月色花丁香社区| 久久狠狠干| 91久久久久| 五月天婷婷激情干干| 色情丁香五月婷婷精品| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 五月丁香999| 色色色色色日韩午夜激情 | 操操操AV| 青青草青青草五月天| 综合天天综合| 噜噜噜狠狠色综合| 丁香五月婷婷AV| 久久激情网| 91日综合欧美| 婷婷色5月激情网| 337p大胆噜噜噜噜噜91Av| 91爱操| 丁香五月综合婷婷| 六月丁香天堂| 色欲AV导航| 午夜精品久久久久久久爽| www.激情五月天.com| 婷婷五月av| 婷婷综合| 九色婷婷| 色婷婷色五月色丁香| 亚洲欧洲中文日韩久久AV乱码| 五月婷婷伦理| 大地9中文在线观看免费高清| 日韩欧美一区二区三区四区| 五月丁香六月在线| 成人电影一区| 久久人妻精品| 婷婷丁香一月| 影音先锋AV资源男人站| 久色欧美| 99精品久久久久久久| aa久久| 99噜噜噜在线播放| 婷婷五月花| 九九色99| 一区二区免费看| 久九色| WWW五月婷婷| 日本综合九九| 色日本五月天| 久久婷婷人人| 99激情| 亚洲激情综合免费| 五月丁香精品| 成人亚洲精品久久久久| 五月丁香婷中文字幕| 色综合狠狠色| 91碰碰碰| 婷婷激情视频欧美视频自拍视频欧美剧| 久久艹99| 久久精品A片777777| 丁香五月婷婷五月天| 91精品久久久久久综合五月天| 国产精品99久久久久久久女警| 日日舔夜夜操| 久久这里这里有精品免费视频| 欧美日本不卡黄色片| www.色婷婷| 色五月天激情| 大香蕉久久| 亚洲免费视频网站| 国产精品涩涩涩视频网站| 99热官网| 亚洲人妻五月丁香婷婷| 婷婷开心深爱五月天| 婷婷六月成人| 夜夜穞天天穞狠狠穞AV美女按摩| 五月天综合久久| 色小说五月婷婷| WWW,色五月| 国产在线黄色| www久久久久| 丁香五月婷婷影视先锋| 五月丁香成人| 五月婷在线播放| 婷婷色综合| av在线中文| 大香久久伊人网| 20253AV| 欧美搡BBBBB摔BBBBB| 操一区| 在线中文av| 九九婷婷综合| 五月激情小说网| 久久婷婷五月天激情唯美| 久婷婷五月丁香在线观看| 久草 天堂| 婷婷和五月天| 黄色录像网点| 五月天婷婷小说| 九九人人操| 久久婷丁香五月| 久久九九99亚洲国产久精综合| 亚洲一级色电影| 九九99九九99| 久久天堂女人| 玖玖在线资源视频| 色五月婷婷丁香凹凸| 色婷婷色丁香色欲av| 9色91视频| 免费无码毛片一区二区A片| 成熟妇人A片免费看网站| 精品一二三区久久AAA片| 伊人久久大香蕉网| 天天噜噜| 97在线综合| 97AV在线视频| 五月丁香六月婷婷网| 秋霞AV淫| 五月色婷婷综合| 五月丁香六月激情欧美综合| www超碰| 极品少妇XXXX精品少妇偷拍| 91男同视频| 久久免费干| 色色五月天丁香婷婷| 97色色色色| 欧美天天综合网站上去吧| 伊人狠狠操| www.五月天婷婷| 久草性爱| 丁香婷婷啪啪| 蒲京久久无码视频| 大香蕉五月天| 99爱免费视频在线观看| 日韩AV大全| 国产 码在线成人网站| 青草视频在线播放| 日韩999| 色很很96| 天天舔天天操| 天天操天天干天天日| 91久久| 亚洲无码性爱| 色婷婷综合视频| 亚洲性色XXXXX| 91无码视频| 欧美电影在线播放| 色五月婷婷影院| 日韩av干| 亚洲熟女色| 九九久久腿| 久久激情综合| 日韩无码专区| 久久ri精品视频| 色A网| 欧美精产国品一二三区| 99原创自拍视频在线观看| 日韩免费99| 99性感视频| 色九区| 色五月天堂| 激情综合五月婷婷| 91丨九色|PRNY熟妇| 天天摸.天天mo| 日韩无码成人电影| 天堂久久大香蕉| 五月综合缴情网| 日比网免费国产| 六月丁香视频网站| 色色性爱视频| 久久久精品视频79| www.射伊蕉婷婷| 亚洲六月婷| 久久人妻少妇嫩草AV| 婷婷色五月噜噜| 中字幕视频在线永久在线观看免费 | 久99久热只有精品国产99| 人妻久久久| 视频综合网| 99热精品免费| 丁香五月123| 玖玖资源站蜜臀| 一区=区操屄高清大全av| 97婷婷五月| 久久天堂色| 五月丁香综合激情| 日本色99| 五月婷六月| 梁铮版《蜘蛛女侠》在线| 久久综合九九| 777丁香六月青青草婷婷综合久月 五月丁香综合伦理片 | 婷婷97碰碰| 婷婷丁香五月网| 99精品久久久久久久| 色色婷| 欧美99热| 激情九月婷婷九月| 五月丁香花开综合网| 牛牛色av| 久久伊人大香蕉| 激情综合色| 播丁香五月婷婷欧美| 日狠狠| 丁香五月激情宗合网| 久久性爱视频| 99人这里只有精品| 任你搞在线观看视频| 5月丁香啪啪啪| 五月色天情| 欧洲综合视频| 91蝌蚪窝视频在线| www.com五月天| 激情视频婷婷五月花| 日本4399天堂中出| 97色操| 色色色色色色色色色999| 人妻五月天激情开心网| 五月天婷婷激情| 六月丁香婷婷综合狠狠爱夜夜爱| 久久色在线视频| 丁香五月大香蕉AV| 另类小说色婷婷| 久久99网| 人人色AV| 青草网在线观看| www.久久久久久| 婷婷五月综合社区在线| 丁香桃色网| 99精品无码| 亚洲色A| 婷婷色五月综合丁香| 久久久久久久久久91| 婷婷五月天色色| AV色婷婷| 丁香六月婷婷综合| 天天日日夜夜爽。| AA片在线观看视频在线播放 | 日日夜夜天天| 99在线视频精品|