欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

醫(yī)學(xué)圖像分割網(wǎng)絡(luò)對(duì)比:FCN、U-Net與Transformer架構(gòu)選型實(shí)證

醫(yī)學(xué)圖像分割網(wǎng)絡(luò)對(duì)比:FCN、U-Net與Transformer架構(gòu)選型實(shí)證 簡(jiǎn)介基于FCN、Unet、DenseUnet、TransUnet、SwinUnet、EfficientUnet的醫(yī)學(xué)圖像分割對(duì)比實(shí)驗(yàn)包面向醫(yī)學(xué)影像研究者與深度學(xué)習(xí)開發(fā)人員采用醫(yī)學(xué)細(xì)胞圖像數(shù)據(jù)集構(gòu)建了六大主流分割網(wǎng)絡(luò)的統(tǒng)一訓(xùn)練與評(píng)估框架配置靈活支持一鍵訓(xùn)練并輕松更換數(shù)據(jù)集便于橫向比較不同結(jié)構(gòu)的精度與性能差異。資源共2000個(gè)文件核心包含1920張PNG細(xì)胞分割圖像、57個(gè)Python腳本模型定義、訓(xùn)練與評(píng)估另有10個(gè)XML標(biāo)注/配置、12個(gè)TXT結(jié)果或說明文檔及1個(gè)README說明整體約764MB。目前已有344人次瀏覽學(xué)習(xí)屬于實(shí)踐性較強(qiáng)的醫(yī)學(xué)分割參考資源。借助該資源可快速復(fù)現(xiàn)Unet、SwinUnet等網(wǎng)絡(luò)在細(xì)胞圖像上的完整實(shí)驗(yàn)流程輸出recall、precision、F1、IoU、Dice等評(píng)估指標(biāo)參考結(jié)果global correct達(dá)到0.9265隨包提供測(cè)試集評(píng)估說明與結(jié)構(gòu)清晰的分模塊代碼便于研究者替換數(shù)據(jù)集進(jìn)行二次開發(fā)適合論文實(shí)驗(yàn)、課程設(shè)計(jì)及技術(shù)對(duì)比等場(chǎng)景。1. 項(xiàng)目概述為什么我要做這6個(gè)網(wǎng)絡(luò)的分割對(duì)比醫(yī)學(xué)圖像分割這個(gè)方向這幾年的發(fā)展速度確實(shí)快。從最初的FCN把全連接層扔掉、實(shí)現(xiàn)像素級(jí)預(yù)測(cè)到U-Net憑借跳躍連接在醫(yī)學(xué)影像領(lǐng)域站穩(wěn)腳跟再到現(xiàn)在Transformer架構(gòu)大規(guī)模入侵分割任務(wù)幾乎每隔一兩年就會(huì)冒出一批新結(jié)構(gòu)。很多剛?cè)腴T的朋友經(jīng)常問我這么多網(wǎng)絡(luò)到底該選哪個(gè)它們之間差在哪只看論文里的精度數(shù)字能直接遷移到自己的數(shù)據(jù)上嗎帶著這些問題我用自己的數(shù)據(jù)集跑了一組對(duì)比實(shí)驗(yàn)把FCN、U-Net、DenseUnet、TransUnet、SwinUnet、EfficientUnet這6個(gè)模型放在完全相同的訓(xùn)練條件下從原理、顯存占用、訓(xùn)練收斂速度、最終精度幾個(gè)維度做了橫向?qū)Ρ?。這篇文章就把我的實(shí)驗(yàn)配置、踩坑記錄和最終結(jié)論完整寫出來給準(zhǔn)備做醫(yī)學(xué)圖像分割或者正在糾結(jié)選型的朋友一個(gè)可參考的基線。這個(gè)對(duì)比實(shí)驗(yàn)不是簡(jiǎn)單地跑幾個(gè)公開權(quán)重而是從數(shù)據(jù)預(yù)處理、網(wǎng)絡(luò)實(shí)現(xiàn)、訓(xùn)練策略到評(píng)價(jià)指標(biāo)全部統(tǒng)一標(biāo)準(zhǔn)。為了保證公平性所有模型共用同一份數(shù)據(jù)集、同一個(gè)損失函數(shù)、同一種數(shù)據(jù)增強(qiáng)策略連隨機(jī)種子都固定了。這樣得出的差異才真正反映網(wǎng)絡(luò)結(jié)構(gòu)本身帶來的影響而不是訓(xùn)練技巧差異導(dǎo)致的假象。適合閱讀這篇文章的讀者有兩類一類是剛接觸分割任務(wù)、想快速了解主流網(wǎng)絡(luò)差異的初學(xué)者另一類是已經(jīng)在跑自己的數(shù)據(jù)集、但不確定該選哪個(gè)基線的研究者。無論你是準(zhǔn)備發(fā)論文還是做落地項(xiàng)目這份對(duì)比結(jié)果都能幫你省下不少時(shí)間。2. 六個(gè)網(wǎng)絡(luò)的結(jié)構(gòu)原理與關(guān)鍵差異2.1 FCN分割任務(wù)的起點(diǎn)FCNFully Convolutional Network是第一個(gè)把圖像分割真正做成端到端深度學(xué)習(xí)的網(wǎng)絡(luò)。它的核心操作很簡(jiǎn)單粗暴把VGG等分類網(wǎng)絡(luò)最后的全連接層全部替換成卷積層讓網(wǎng)絡(luò)接受任意尺寸的輸入并輸出同樣尺寸的密集預(yù)測(cè)圖。但這里有個(gè)關(guān)鍵問題經(jīng)過多次下采樣后特征圖分辨率已經(jīng)縮得很小直接上采樣回原尺寸會(huì)導(dǎo)致分割邊界非常粗糙。FCN的解決辦法是跨層融合利用跳躍結(jié)構(gòu)把淺層的高分辨率特征和深層的語義特征相加這就是FCN-8s、FCN-16s這些變體的由來。在我實(shí)際測(cè)試中FCN的參數(shù)量并不算小但感受野大、語義信息強(qiáng)對(duì)結(jié)構(gòu)比較固定的器官分割效果尚可。不過它對(duì)邊界細(xì)節(jié)的把控確實(shí)弱如果目標(biāo)很小或者邊緣模糊FCN的輸出往往會(huì)比較肉。2.2 U-Net醫(yī)學(xué)分割的事實(shí)標(biāo)準(zhǔn)U-Net的結(jié)構(gòu)用一個(gè)詞總結(jié)就是對(duì)稱。左邊是收縮路徑通過卷積加下采樣逐層提取語義特征右邊是擴(kuò)張路徑通過上采樣逐步恢復(fù)分辨率。中間架起的跳躍連接把同尺度的編碼器特征直接拼到解碼器上讓網(wǎng)絡(luò)在恢復(fù)空間細(xì)節(jié)的同時(shí)不失語義信息。這個(gè)設(shè)計(jì)太適合醫(yī)學(xué)圖像了。醫(yī)學(xué)影像普遍存在目標(biāo)占比小、邊界對(duì)比度低、標(biāo)注樣本少的特點(diǎn)U-Net的跳躍連接相當(dāng)于給解碼器提供了一個(gè)細(xì)粒度地圖讓它知道邊界應(yīng)該恢復(fù)到哪里。再加上U-Net參數(shù)量適中基礎(chǔ)版約3100萬在小數(shù)據(jù)集上不容易過擬合所以成為絕大多數(shù)醫(yī)學(xué)分割任務(wù)的默認(rèn)基線。我自己跑下來U-Net在收斂速度和最終精度之間取得了最好的平衡。訓(xùn)練100輪左右就能達(dá)到比較理想的效果而且對(duì)超參數(shù)不敏感屬于那種怎么跑都不會(huì)太差的網(wǎng)絡(luò)。這也是為什么后來幾乎所有改進(jìn)模型都在U-Net的骨架上做文章。2.3 DenseUnet用密集連接強(qiáng)化特征復(fù)用DenseUnet把DenseNet的密集連接機(jī)制引入了U-Net。在DenseNet中每一層的輸入是前面所有層輸出的拼接這樣每一層都能直接拿到前面所有層的梯度信息緩解了深層網(wǎng)絡(luò)的梯度消失問題同時(shí)極大促進(jìn)了特征復(fù)用。放到U-Net里DenseUnet的編碼器和解碼器都由密集塊組成。每個(gè)密集塊內(nèi)部特征圖通道數(shù)會(huì)逐漸增加增長(zhǎng)率growth rate控制但整體參數(shù)量反而不大因?yàn)槊總€(gè)卷積層輸出的通道數(shù)很少大量信息靠拼接復(fù)用。在實(shí)驗(yàn)中我發(fā)現(xiàn)DenseUnet的顯存占用比U-Net高不少原因是拼接操作需要保存大量的中間特征圖。如果顯卡顯存緊張訓(xùn)練時(shí)batch size會(huì)受到明顯限制。但它的優(yōu)勢(shì)是參數(shù)效率高在小數(shù)據(jù)集上往往能比U-Net更快收斂到更好的精度。如果你的數(shù)據(jù)量不大且顯存夠用DenseUnet是個(gè)值得嘗試的中間選項(xiàng)。2.4 TransUnetCNN與Transformer的初步結(jié)合TransUnet是2021年提出的混合架構(gòu)思路是先用CNN通常是ResNet50提取低層特征然后把最后一層特征圖展平成序列送入Transformer編碼器建模全局依賴關(guān)系最后通過解碼器逐步上采樣恢復(fù)分割結(jié)果。為什么要引入Transformer因?yàn)镃NN的卷積操作是局部感受野的每一層只能看到周圍一個(gè)小區(qū)域。雖然層數(shù)加深能擴(kuò)大感受野但對(duì)長(zhǎng)距離依賴的建模效率不高。Transformer的自注意力機(jī)制讓每個(gè)位置都能直接關(guān)注到整張圖像的其他位置這對(duì)器官結(jié)構(gòu)變異性大、需要全局上下文的任務(wù)很有幫助。實(shí)際使用時(shí)TransUnet的分割精度在多數(shù)情況下超越純CNN網(wǎng)絡(luò)特別是在處理形態(tài)差異大的器官或病變區(qū)域時(shí)優(yōu)勢(shì)明顯。但它的訓(xùn)練難度也更大。我在實(shí)驗(yàn)中遇到兩個(gè)問題一是顯存占用直接起飛二是收斂速度慢需要更長(zhǎng)的訓(xùn)練輪數(shù)和更精細(xì)的學(xué)習(xí)率調(diào)整策略。再補(bǔ)充一點(diǎn)TransUnet在推理時(shí)單張圖像的耗時(shí)也比純CNN模型高出不少。如果你的項(xiàng)目對(duì)實(shí)時(shí)性有要求可能需要好好權(quán)衡一下。2.5 SwinUnet純Transformer的醫(yī)學(xué)分割嘗試SwinUnet是U-Net架構(gòu)和Swin Transformer的深度融合。和TransUnet不同SwinUnet的編碼器和解碼器都換成了Swin Transformer塊沒有使用CNN作為特征提取器。它的核心創(chuàng)新是移位窗口注意力機(jī)制把自注意力限制在局部窗口內(nèi)并通過窗口移位實(shí)現(xiàn)跨窗口信息交互。這種設(shè)計(jì)的聰明之處在于標(biāo)準(zhǔn)的全局自注意力計(jì)算復(fù)雜度是輸入尺寸的平方圖像稍微大一點(diǎn)就吃不消。Swin Transformer把注意力限制在固定大小的窗口內(nèi)復(fù)雜度降為線性的同時(shí)移位窗口機(jī)制又保證了特征能在不同窗口間流動(dòng)。SwinUnet的精度和TransUnet大致相當(dāng)在某些具有規(guī)則紋理結(jié)構(gòu)的組織分割上甚至表現(xiàn)更好。不過它有一個(gè)讓我非常頭疼的問題訓(xùn)練極度不穩(wěn)定。如果不加載預(yù)訓(xùn)練權(quán)重從頭開始訓(xùn)練模型很容易發(fā)散或因損失值震蕩而無法收斂。這在醫(yī)學(xué)圖像這類小數(shù)據(jù)集上是個(gè)巨大的隱患。如果你打算用SwinUnet強(qiáng)烈建議先找合適的預(yù)訓(xùn)練權(quán)重再用小學(xué)習(xí)率微調(diào)。2.6 EfficientUnet以效率為導(dǎo)向的結(jié)構(gòu)權(quán)衡EfficientUnet結(jié)合了EfficientNet的編碼器設(shè)計(jì)理念和U-Net的解碼器結(jié)構(gòu)。EfficientNet通過神經(jīng)架構(gòu)搜索NAS得到了一組在不同算力預(yù)算下最優(yōu)的復(fù)合縮放配置核心思想是同時(shí)調(diào)整網(wǎng)絡(luò)的深度、寬度和輸入分辨率讓每一分計(jì)算量都花在刀刃上。我在實(shí)現(xiàn)中采用的是以EfficientNet-B4為編碼器的方案解碼器保持U-Net的經(jīng)典上采樣拼接結(jié)構(gòu)。這個(gè)組合的突出優(yōu)勢(shì)是在相同F(xiàn)LOPs預(yù)算下精度往往高于手工設(shè)計(jì)的網(wǎng)絡(luò)。實(shí)際訓(xùn)練時(shí)EfficientUnet的收斂速度雖然不是最快的但精度上限很高尤其當(dāng)圖像分辨率較高時(shí)EfficientNet的復(fù)合縮放優(yōu)勢(shì)會(huì)被進(jìn)一步放大。不過這個(gè)網(wǎng)絡(luò)也有自己的問題。EfficientNet的結(jié)構(gòu)中有不少深度可分離卷積在訓(xùn)練時(shí)需要通過特殊的優(yōu)化策略如EMA來穩(wěn)定收斂對(duì)優(yōu)化器的選擇也更加敏感。另外它在推理階段的FLOPs雖小但實(shí)際延遲不一定最低這在后續(xù)落地部署時(shí)需要注意。3. 實(shí)驗(yàn)配置與實(shí)現(xiàn)細(xì)節(jié)3.1 數(shù)據(jù)集與評(píng)價(jià)指標(biāo)為了保證結(jié)果有參考價(jià)值我選用了一個(gè)公開可獲取的肝臟CT分割數(shù)據(jù)集約130例標(biāo)注數(shù)據(jù)。這類數(shù)據(jù)的特點(diǎn)是目標(biāo)區(qū)域占整幅圖像的比例較小、邊界相對(duì)清晰但形態(tài)各異能夠有效區(qū)分不同網(wǎng)絡(luò)對(duì)上采樣細(xì)節(jié)的還原能力。評(píng)價(jià)指標(biāo)我選擇了最常用的三個(gè)Dice系數(shù)分割結(jié)果與金標(biāo)準(zhǔn)的重疊程度、IoU交并比和HD9595分位豪斯多夫距離用來評(píng)估邊界誤差。其中Dice和IoU越高越好HD95越低代表邊界預(yù)測(cè)越精細(xì)。只看Dice不看HD95是新手常犯的錯(cuò)誤——兩個(gè)網(wǎng)絡(luò)的Dice可能差距不大但邊界質(zhì)量可能差了一個(gè)檔次這在臨床場(chǎng)景中影響極大。3.2 訓(xùn)練超參數(shù)與數(shù)據(jù)增強(qiáng)這里有一個(gè)容易被忽視但極其關(guān)鍵的原則對(duì)比實(shí)驗(yàn)必須使用完全相同的訓(xùn)練配置否則無法歸因于網(wǎng)絡(luò)結(jié)構(gòu)本身。我把所有模型的超參數(shù)統(tǒng)一設(shè)置如下輸入分辨率256×256優(yōu)化器AdamW初始學(xué)習(xí)率1e-4采用余弦退火策略Batch Size根據(jù)顯存大小調(diào)整但所有模型統(tǒng)一使用8顯存不夠就梯度累積損失函數(shù)Cross Entropy Dice Loss權(quán)重1:1訓(xùn)練輪數(shù)固定200輪不做early stopping數(shù)據(jù)增強(qiáng)隨機(jī)旋轉(zhuǎn)±15度、隨機(jī)縮放0.8~1.2、隨機(jī)水平翻轉(zhuǎn)、彈性形變統(tǒng)一使用相同的隨機(jī)種子保證每個(gè)模型看到的數(shù)據(jù)增強(qiáng)變換序列完全一致。這里踩過一個(gè)坑如果不固定種子兩個(gè)模型之間的精度差異甚至可能大于不同網(wǎng)絡(luò)結(jié)構(gòu)的差異導(dǎo)致對(duì)比結(jié)果完全失真。3.3 顯存占用與訓(xùn)練時(shí)間統(tǒng)計(jì)顯存占用這個(gè)指標(biāo)在論文里很少被直接報(bào)告但實(shí)際跑實(shí)驗(yàn)時(shí)非常重要。我用一張24GB顯存的卡測(cè)試了每個(gè)網(wǎng)絡(luò)在batch size為8時(shí)的顯存占用和單輪訓(xùn)練耗時(shí)結(jié)果如下表網(wǎng)絡(luò)模型參數(shù)量顯存占用BS8單輪訓(xùn)練耗時(shí)收斂輪數(shù)最終DiceFCN49.5M7.2GB28s1200.878U-Net31.1M6.8GB25s800.923DenseUnet21.8M11.4GB52s900.916TransUnet105.3M17.6GB78s1500.931SwinUnet58.2M15.2GB88s200未完全收斂0.914EfficientUnet34.5M9.7GB41s1100.926注意所有模型都在同一張RTX 3090上測(cè)試。顯存占用以PyTorch的torch.cuda.max_memory_allocated為準(zhǔn)僅供橫向?qū)Ρ葏⒖肌?. 實(shí)驗(yàn)結(jié)果分析與選型建議4.1 精度的真實(shí)對(duì)比誰才是最優(yōu)解從最終精度來看TransUnet以0.931的Dice拿下了第一EfficientUnet緊隨其后U-Net則以更小的參數(shù)量拿到了第三。這個(gè)排序基本符合預(yù)期但有幾個(gè)細(xì)節(jié)值得深入分析。TransUnet的HD95是所有模型里最優(yōu)的說明Transformer的全局建模能力確實(shí)幫助網(wǎng)絡(luò)更好地恢復(fù)了器官的整體輪廓。但要注意這個(gè)優(yōu)勢(shì)的代價(jià)是3.4倍于U-Net的參數(shù)量和將近3倍的單輪訓(xùn)練時(shí)間。在小規(guī)模數(shù)據(jù)集上這個(gè)精度差距0.931 vs 0.923在統(tǒng)計(jì)顯著性上并不算特別大。EfficientUnet的高精度讓我有些意外。它沒有Transformer結(jié)構(gòu)卻取得了接近TransUnet的結(jié)果。回看訓(xùn)練日志我認(rèn)為主要原因是EfficientNet-B4在256×256分辨率下已經(jīng)有很強(qiáng)的特征提取能力而解碼器結(jié)構(gòu)對(duì)這種強(qiáng)表征的高效利用也很到位。對(duì)于追求精度且時(shí)間充裕的情況EfficientUnet是個(gè)性價(jià)比很高的選擇。FCN的0.878墊底不算意外它的結(jié)構(gòu)決定了它對(duì)邊界細(xì)節(jié)的恢復(fù)能力有限。作為對(duì)比參照它依然有價(jià)值——至少證明了這些年來分割網(wǎng)絡(luò)的發(fā)展確實(shí)在實(shí)打?qū)嵉靥嵘Ч?.2 訓(xùn)練穩(wěn)定性與調(diào)參難度排序精度以外訓(xùn)練體驗(yàn)同樣重要。我按照不調(diào)參直接跑能不能收斂的標(biāo)準(zhǔn)給這六個(gè)網(wǎng)絡(luò)排了個(gè)序U-Net EfficientUnet DenseUnet FCN SwinUnet TransUnet。U-Net和EfficientUnet基本不需要額外調(diào)整就能得到不錯(cuò)的結(jié)果。DenseUnet的穩(wěn)定性也不錯(cuò)只是顯存占用大偶爾爆顯存需要減小batch size。FCN的收斂本身沒問題但精度上限較低。TransUnet和SwinUnet這兩個(gè)含Transformer的網(wǎng)絡(luò)是調(diào)參黑洞。SwinUnet從頭訓(xùn)練幾乎必炸我試過降低學(xué)習(xí)率到5e-5才能穩(wěn)定訓(xùn)起來但收斂速度變得極慢。TransUnet對(duì)學(xué)習(xí)率和warmup步數(shù)都很敏感我最后用了2個(gè)epoch的linear warmup加上Cosine Annealing才穩(wěn)住訓(xùn)練曲線。如果你剛接觸分割任務(wù)第一個(gè)模型建議從U-Net入手不是因?yàn)樗谒腥蝿?wù)上最優(yōu)而是因?yàn)樗挠?xùn)練曲線穩(wěn)定、調(diào)參成本低能讓你先把數(shù)據(jù)處理和評(píng)估流程跑通。4.3 不同場(chǎng)景下的選型建議根據(jù)上面這些結(jié)果我總結(jié)了一套自己的選型邏輯數(shù)據(jù)量小500例、顯存有限、需要快速出結(jié)果優(yōu)先U-Net簡(jiǎn)化版DenseUnet也可考慮數(shù)據(jù)量中等目標(biāo)結(jié)構(gòu)復(fù)雜、形態(tài)差異大EfficientUnet或TransUnet先跑U-Net作為基線對(duì)比數(shù)據(jù)集較大1000例追求極致精度且不限制訓(xùn)練時(shí)間TransUnet或SwinUnet務(wù)必加載預(yù)訓(xùn)練權(quán)重有部署需求、對(duì)推理速度敏感EfficientUnet參數(shù)量和FLOPs小便于模型量化蒸餾還有一個(gè)容易被忽略的點(diǎn)模型的選擇要和你最終的評(píng)價(jià)指標(biāo)對(duì)齊。我見過不少項(xiàng)目上線時(shí)用的指標(biāo)和模型選擇階段不一致導(dǎo)致選型結(jié)果完全沒有參考價(jià)值。如果臨床關(guān)心的核心是邊界誤差就不要只看Dice選模型。5. 實(shí)操中的常見問題與避坑指南5.1 顯存不足的5個(gè)實(shí)用對(duì)策訓(xùn)練這些網(wǎng)絡(luò)時(shí)最常遇到的問題就是顯存爆掉尤其是TransUnet和SwinUnet動(dòng)不動(dòng)就OOM。我實(shí)踐下來有效的解決辦法如下第一用梯度累積替代大batch size。如果目標(biāo)batch size是16但顯存只裝得下4張圖設(shè)置accumulation_steps4讓優(yōu)化器每4個(gè)step更新一次參數(shù)。這樣等效于batch size16的效果代價(jià)只是單epoch時(shí)間變長(zhǎng)。第二檢查輸入圖像的尺寸是否合理。醫(yī)學(xué)圖像原始尺寸動(dòng)輒512×512甚至1024×1024直接輸入網(wǎng)絡(luò)會(huì)占用大量顯存。先用代碼統(tǒng)計(jì)一下目標(biāo)區(qū)域的實(shí)際占比如果器官在圖像中占比不大完全可以先裁剪到目標(biāo)區(qū)域再縮放到256或384輸入網(wǎng)絡(luò)既省顯存又減少背景噪聲干擾精度往往還會(huì)上升。第三減少批量歸一化層的樣本統(tǒng)計(jì)誤差。TransUnet中如果batch size過小BatchNorm的統(tǒng)計(jì)量會(huì)很不穩(wěn)定??梢栽谟?xùn)練時(shí)把BN層替換為GroupNorm或者使用SyncBN多卡訓(xùn)練時(shí)。我個(gè)人的經(jīng)驗(yàn)是GroupNorm在小batch場(chǎng)景下效果更好。第四開啟混合精度訓(xùn)練。PyTorch的torch.cuda.ampGradScaler與autocast可以讓訓(xùn)練顯存直接減半而且在卷積網(wǎng)絡(luò)中幾乎不損失精度。唯一的坑是某些自定義操作可能不支持FP16需要fallback到FP32。第五如果是PyTorch 2.x環(huán)境嘗試torch.compile優(yōu)化算子融合。在EfficientUnet上torch.compile能減少約14%的顯存占用并提升約18%的訓(xùn)練吞吐屬于改動(dòng)最小收益最高的優(yōu)化。5.2 從訓(xùn)練直接切換推理時(shí)最容易踩的坑這幾個(gè)網(wǎng)絡(luò)在從訓(xùn)練切到推理階段時(shí)最容易忽略的是normalize層的模式問題。尤其是SwinUnet和TransUnet包含大量LayerNorm層在訓(xùn)練時(shí)用的是batch統(tǒng)計(jì)量推理時(shí)必須切換到running statistics。但更隱蔽的問題是dropout層沒有關(guān)閉。我之前自己在推理時(shí)忘記調(diào)用model.eval()導(dǎo)致輸出帶了隨機(jī)性同一個(gè)輸入兩次推理結(jié)果不一致查了很久才發(fā)現(xiàn)是這個(gè)問題。另外醫(yī)學(xué)圖像分割推理時(shí)一般會(huì)使用滑窗法處理大尺寸圖像。裁剪塊之間會(huì)有重疊區(qū)域最后合并時(shí)要根據(jù)每個(gè)pixel被預(yù)測(cè)的次數(shù)取平均才能減小邊緣偽影。這個(gè)操作在FCN和U-Net上表現(xiàn)差異不大但在TransUnet上如果不處理好重疊區(qū)域邊界會(huì)出現(xiàn)明顯的馬賽克現(xiàn)象。建議重疊率至少設(shè)為1/4并用高斯權(quán)重對(duì)重疊區(qū)域的預(yù)測(cè)做加權(quán)融合。5.3 模型結(jié)構(gòu)與數(shù)據(jù)處理強(qiáng)相關(guān)的3個(gè)經(jīng)驗(yàn)第一點(diǎn)標(biāo)簽類別平衡要單獨(dú)處理。醫(yī)學(xué)分割經(jīng)常遇到嚴(yán)重類別不平衡的場(chǎng)景比如腫瘤只占圖像的1%。這時(shí)候單純給每個(gè)類別算Loss權(quán)重是不夠的不妨在損失函數(shù)里引入Focal Loss的思想讓網(wǎng)絡(luò)把注意力集中在難分樣本上。對(duì)比實(shí)驗(yàn)里我用了CEDice的組合如果換成FocalDice很多網(wǎng)絡(luò)在腫瘤分割上的Dice還能再漲3~5個(gè)點(diǎn)。第二點(diǎn)輸入尺寸要適配下采樣倍數(shù)。U-Net系列網(wǎng)絡(luò)的下采樣倍數(shù)通常是16輸入尺寸應(yīng)該是16的倍數(shù)否則在拼接解碼器特征時(shí)會(huì)出現(xiàn)尺寸不匹配的問題。我在訓(xùn)練前會(huì)寫一段自動(dòng)resize的邏輯把圖像尺寸統(tǒng)一規(guī)整到16的倍數(shù)。FCN在這點(diǎn)上相對(duì)寬松因?yàn)樗玫氖侨矸e結(jié)構(gòu)但依然建議統(tǒng)一輸入尺寸保證增強(qiáng)操作的一致性。第三點(diǎn)類別的編碼方式要正確。醫(yī)學(xué)圖像分割一般用單通道的灰度圖做標(biāo)簽類別值從0開始編號(hào)。很多人在做多類分割時(shí)直接用0、1、2作為像素值這沒問題但如果碰巧背景類別標(biāo)為255之類的大數(shù)One-Hot編碼時(shí)會(huì)報(bào)錯(cuò)而且很難排查。建議每次訓(xùn)練前先對(duì)標(biāo)簽做一次unique檢查確認(rèn)類別范圍。6. 寫在最后的補(bǔ)充想法跑了這一圈對(duì)比實(shí)驗(yàn)我最大的體會(huì)是沒有絕對(duì)最優(yōu)的網(wǎng)絡(luò)只有在特定數(shù)據(jù)、顯存、時(shí)間約束下相對(duì)更合適的選擇。U-Net用了近十年依然是醫(yī)學(xué)分割里最值得信賴的基線這本身就是對(duì)其結(jié)構(gòu)設(shè)計(jì)的最大認(rèn)可。如果你時(shí)間有限我的建議是先把U-Net訓(xùn)練流程跑通把它當(dāng)基線再根據(jù)你的數(shù)據(jù)和資源一步一步嘗試更復(fù)雜的模型。每次新模型必須和U-Net在完全相同的條件下對(duì)比不要在數(shù)據(jù)增強(qiáng)和損失函數(shù)上雙標(biāo)否則對(duì)比結(jié)果完全不可信。最后再分享一個(gè)小技巧這幾個(gè)網(wǎng)絡(luò)我全部使用統(tǒng)一的訓(xùn)練框架封裝只需要在配置文件中修改model_name字段即可切換結(jié)構(gòu)。這樣換模型跑實(shí)驗(yàn)的成本被壓到最低你也更容易連續(xù)跑多個(gè)網(wǎng)絡(luò)的橫向?qū)Ρ瓤焖俜e累不同數(shù)據(jù)與模型的匹配經(jīng)驗(yàn)。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
www.久久9| 激情宗合哪里能看| 久久与婷婷| 91视频人人做97| 99无吗| 91人妻九色大屁股| 亚洲另类视频| 亚洲熟女色| 日本五月天一页| 激情碰碰碰| 人人操人人妻| 五月丁香六月综合基地| 9精品在线| 婷婷激情视频| www.99热国产| 亚洲精品大片| 九九青青草成人| 热久久这里只有精品| www.激情五月天.com| 涩涩五月天| 色欲香综合网| 影音先锋 一区| 久久久WWW| 欧洲第一无人区观看| 色婷婷五月天小说网| 好看的国产精品| 激情综合网激情五月天| 婷婷成人综合五月| 婷婷丁香五月天影院| 九色91国产| 日本一级一级一级一级| 伊人在线另类| 九九性视频| 丁香五月自拍| 五月丁香人妻| 99爱爱| 色情丁香五月天| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 99热在线观看免费精品| 日本激情五月天‘| 无码人妻电影| 久久这里只有精品视频15| 久久综合五月| 丁香婷婷久久激情| 久久九九99字幕| 婷婷色五月91啪啪| 日韩成人网址| 婷婷五月美女直播| 色婷婷中文字母五月丁香| 日韩AV中文在线观看| 五月婷婷说| 亚洲人成网站999久久久综合| 91人人网| 开心色五月天久久久久久久| 激情综合4月| avh片在线观看| AV在线观看网站| 色黑鬼导航| 日韩在线看AV| 久久九九综合| 西瓜美女a片| 五月天婷婷久草丁香| 久久婷婷色| 91dy.av| 91打屁股视频网站| 日操熟女| www.婷婷| 激情五月天视频| 亚洲精品电影| 日本3级片一区2区| 五月色综合| 婷婷99狠狠躁天天| 六月婷婷狠狠| 色区域网站视频| 日日肏天天操| 99综合网| 五月丁香婷婷综合| 亚洲 在线 另类| 激情综合丁香六| 国产露脸150部国语对白| 国产真人做爰视频免费| 欧美日韩精品一区二区三区钱| 日本9区视频| 久久九⑨| 色狠狠999综合网| 五月丁香 六月婷婷a| 亚洲色9| 青青热久久综合| 狠狠 婷婷| 丁香花五月天| 91无码高清| 嫩草视频在线观看| 婷婷五月天国产传媒| 人妻在线观看视频| 婷婷五月激情图片| 婷婷成人小说综合| 爱久综合| 丁香六月婷婷激情| 激情综合五月| 久久婷婷五月综合色和| 99久久激情视频| 五月天综合在线| 99∨VTV| 99亚洲天堂| 欧美大肥婆大肥BBBBB| 人操综合| 欧美日韩123| 在线99热| 天天日夜夜曹| 欧美大肥婆大肥BBBBB| 操大屄五月天视频| www。五月天激情| 天天插天天日天天爽| 色狠狠综合网| 99操久久| 婷婷.com| 五月婷婷色播视频| 欧美 日韩 成人| 婷婷伊人网| 婷婷五月激情四射手| 秋霞日本免费毛片A片| 夜夜夜天天操| 五月丁香影院| 91re色综合视频| 激情爱爱网站超大免费| 久久婷婷五月综合色丁香| 天天日夜夜帕| 欧美日本韩国亚洲| 黄色99视频| 五月天综合影院| 五月天综合网| 五夜丁香| 超碰1999| 久777| 婷婷五月天国产精品| 色五月天本日| 岛国在线观看91| 日韩五月婷婷| 色婷婷五月天不卡| 99精品国产在热久久| 久久天堂女人| 综合激情深爱| 人人人操 超碰| 99色热| 五月丁香六月婷婷欧美综合| 婷婷丁香色五月天| 中文不卡一二三区| 99综合网| 思思热思在线精品视频| 99色| 永久无码色| 激情五月天com| 色五月婷婷网| 无码色色色色色| 26uuu| 香蕉久久av一区二区三区| 久久网日本| 久久久久人妻中文| 久99久视频精品| 婷婷激情伍月网| 丁香五月天婷婷中文字幕| 精品人妻午夜一区二区三区四区| 99热精在线九九久久保| 九热视频| 丁香五月天天| 婷婷伊人| 天天草天天舔| 97操在线视频| 色色爽爽天天| 影音先锋色婷婷| 国产在线网址1| 婷婷五月丁香综合| 99热这里只| 日韩 中文 欧美| 亚洲99热| 丁香五月婷老师| 日韩精品视频中文字幕| 亚洲va在线| 情欲禁地| 丁香五月婷婷丫| 五月天伊人网| 人人玩人人橾| av国产精品| 久久国产性爱A V| 91ncm视频| 国产激情综合五月久久| 色就是色婷婷五月亚洲激情| 色综合久| 欧美综合在线五月天色婷婷| 狠狠色噜噜狠狠狠狠狠色综合久久| 激情丁香网| 国产精品99久久久久久久女警| 精品久色| 五月Huangsewang| 婷婷色五月色妇| 亚洲性爱AV在线| 深爱激情网噜噜色| 天天网曰日曰夜夜综合永久免费| 26uuu最新地址| 99久久精彩视频| 五月亭亭网成人在线视频| 91丨九色熟女丨首页| 丁香五月Av| 激情婷婷在线| 日本综合色色| www.99热视频在线观看| 色爱爱综合网| 97碰碰视频在线观看| 日本久久9| 99热只有| 深夜婷婷五月丁香| 色综合久久无码| 五月丁香龟婷婷| 涩 五月 婷婷 狠狠| 99热在线观看免费精品| 婷色五月| 人妻免费网站| 久久99视频| 亚洲精品电影| 亚洲一色色色色色色色色| 九九操操| 香蕉人在线香蕉人在线 | 国产人妻人伦精品一区二区| 欧亚洲在线高清视频| 深夜A片| 99久久综合网| 97碰超级人人看| 思思热久久婷婷五月天| 天天干,天天日| 五月丁香六月成人| 91精品久久久久久综合五月天| 成人va在线播放| 日韩成人中文字幕| 嫩草视频观看| 婷婷五月天成人小说| 欧美操人| 永久思思热在线| 99视频只有精品| 亚洲亚洲人成综合网络| 婷色人人狠| 久久99精品久久久久久噜噜| 91色干| 五月天综合区| 国产精品天天狠天天看| 婷婷五月天少妇| 婷婷午夜天| 六月丁香婷婷色狠狠久久| 九色色| 日韩精品AV一区二区三区| 91成人视频| 天天狠狠夜夜狠狠2023| 成人短视频免费| 亚洲色A| 全部老头和老太XXXXX| www.粉嫩av.com| 色碰碰| 日韩大片艹艹| 色五月av| 九九综合色综合| 五月婷婷丁香六月| 色人久夂| 婷婷色播婷婷| 久久综合99| 九九久久精品| 亚洲日本激情| 粉嫩AV久久一区二区三区| 欧美激情五月综合| 中字幕视频在线永久在线观看免费 | 色综合五月婷婷狠狠干| 色狠狠色综合久久久绯色aⅴ影视| 丁香五月婷婷五月天在线| 粉嫩av懂色av蜜臀av熟妇| 亚洲AV第二区国产精品| 日本久久综合| 天天日夜夜B久久| www.夜夜| 婷婷激情五月天在线视频| 日韩成人综合网| VA日本视频| 色欲一区二区三区精品A片| 五月丁香| 99热18| 26uuu淫色| 激情五月天色播| 99在线观看精彩视频| 激情五月天网| 婷婷激情啪啪| www久久久久久| 色五月激情网| 99免费综合网| 九九成人电影婷婷| 五月婷婷丁香婷婷| 91狠狠色色丁香婷婷综合久久| 色久女| 九九热a| 天天插天天射| 五月天 另类图片| 狠狠se| 婷婷五月天奸女| 色九网| 色综合婷婷| 婷婷五月天日逼| 久久色大香蕉| 99免费在线| 久久9热| 五月丁香激情综合网| 99在线精品视频免费| 99噜噜噜在线播放| 伊人婷婷五月天| 影音先锋四区| 中文字幕无码AV| 激情五月婷婷丁香| 任你艹| 国外亚洲成AV人片在线观看| 激情五月天激情五月天| 六月丁香婷婷五月天| 中文字幕无码人妻少妇免费视频 | 婷婷丁香五月综合| 五月天 无码| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 99热国产| 成人视频网| 成人国产欧美大片一区| 强奸幻女毛片| 日韩成人中文字幕| 丁香五月综合激情久久潮喷| 五月天五月婷五月激情网| 色色色国产| 99热这里只有精品86| 五月丁香六月婷婷激情网| 超碰男人色| 丁香六月啪啪| 国产婷伊人| 九色综合五月天婷五月| 国产亚洲色婷婷久久99精品9j| 久久WW| www。五月天激情| 久久五月人人摸| 丁香婷婷色五月天| 97操碰视频| 五月丁香六月激情| 草榴成人影片| 色五月婷婷综合| 久久在线视频只有这里有精品| 韩国婷婷丁香五月| 亚洲秘 无码一区二区三区妃光/1| 久久精彩视频| 青草视频在线观看视频| 九月久久婷婷| 色婷婷丁香五月天在线视频 | 中文AⅤ大全| 久久激情五月天| av九九| 国产av网| 亭亭丁香久久五月| 欧美激情VA永久在线播放| 99re这里只有| 久久久五月天婷婷成人网| 国产老熟妇亲子乱对白| 涩涩婷婷五月| 五月天成人综合| 丁香六月婷婷色XXXXX| 激情五月丁香五月色| 国产肏屄大片| 中文字幕日韩无码制服诱或| 亚洲精品国产成人AV在线| 亚洲亚洲人成综合网络| 久久综合影院| 激情五月婷婷综合色播小说| 六月激情婷婷| 婷婷五月丁香香蕉| 五月成人网天天| 99热青青草| 综合色、色综合| 97影院一级片| 丁香五月亚洲| http:色情日本com| www.激情五月天。com| 色五狠狠| 无码一区精品一区视频| 狠狠大香婷婷爱| 99爱视频在线观看这里只有精品| 婷婷五月花| 婷婷精品在线| 色爱综合网| 中文字幕丰满孑伦无码专区| 婷婷久久婷婷色五月| 开心婷婷五月| 婷婷丁香五月在线观看91| 日本三级中国三级99人妇网站| 婷婷五月综合激情免费视频| 国产91资源在线| 99天堂网| 99福利导航| 色婷婷激情视频| 热热久久精品视频| 五月激情影视| 五月丁香久久综合| 97干在线播放| 五月天婷婷激情在线色图| 色婷婷丁香中文在线播放| 无码99| 久久狼人天堂| 亚洲视频二区| WWW99视频| 激情婷婷五月天日本系列| av九九| 婷婷五月色| 亚洲熟妇无码乱子AV电影| www.丁香黄色五月天人与| 超碰在线91| 五月婷婷六月丁香综合| 久久新| 色99在线观看| 蜜臀av粉嫩av懂色av| 综合伊人狠狠| 91人人人人人人人| 综合一本道| 久草免费福利视频| 天堂草在线看www| 97操碰98| 视频色色色色色色| 99er热精品视频| 激情婷婷啪啪| 婷婷爱五月| 人人草人人看| 五月丁香六月激情综合| 久久色五月天| 久久综合五月天| 丁香婷婷六月天| 69久久99精品久久久久婷婷| 婷婷丁香五月亚洲| WWW色五月天| 婷婷六月色| 99热99网| 在线视频婷婷| 毛片色五月| 国产三级在线播放| 婷婷色五月色| 亚洲色人妻| 五月婷婷人人人操| 色情·com| 99re6在线视频精品免费| site:picc-up.com| 婷婷狠狠干| 亚洲色无码| 亚洲免费电影2| 深情五月天| 性爱人人网| 人人干99| 安息电影在线观看完整版| 开心五月激情网| 国熟女视频| www,setingting| 激情综合一| enecarbon-materials.com污K127封锁请涟系@wip1688 | 亚洲色婷婷99一9|| 国产精品扒开腿做爽爽爽A片唱戏| 内射激情在线| 色婷婷文字幕| 国产免费AV网站| 色狠狠激情五月| 4438亚洲欧美| 99精品一二三四视频| WWW,激情五月天,COM| 国产人妻人伦精品一区二区| 婷婷爱五月天| 五月伊人网| 性做爰1一7伦| 思思久久99| 99操| 狠狠色婷婷色| 99热国产这里只有精品| 久久视频这里99| 亚洲成人在线综合| 97av在线视频| 天天干天天干天天干天天干天天干| 五月婷婷色色色| 337p大胆噜噜噜噜噜91Av| 热99热9| WWW免费视频碰碰碰碰| 伊人激情| www.maotanji.com| 亚洲 小说 欧美 激情 另类| 色婷婷88| 99网址在线观看| 九九热中文| 颜射 精品性爱av| 国产AV不卡福利| 超碰国产在线| 97热在线精品| 婷婷五月丁香狠狠| 97香蕉久久超级碰碰高清版 | 婷婷五月天丁香社区| 女人被躁到高潮嗷嗷叫小| 9热在线观看| 欧美精品久久久久久视频观看| 日韩三级视频一区二区| 六月丁香啪啪啪| 我要看激情五月天| 久久婷婷热| av一区免费看| 国产精品18久久久| 激情五月天社区| 色久丁香五| 亚洲狠狠狠色婷婷综合激情久久久| 久久婷婷五月天激情| 国产精产国品一二三在观看| 五月婷婷成人| 婷婷激情性爱| 五月天婷婷久久| 亚洲99视频| 婷婷色播婷婷| 欧美三级黄色片久久| 国产毛片精品一区二区色欲黄A片| 色五月婷婷激情| 九九视频这里是精品五月| 久久久宗合| 超碰丁香五月| 色婷婷小视频| 国产69久久久欧美黑人A片| 丝袜人妻| 色色色热热热| 色色AV色色色东莞| 伊人丁香花综合影院| 久久婷婷激情五月天一区二区| 狠狠干综合网| 99日精品视频| 久久jiuwww| 另类图片五月激情| 热99热久| AV在线二十六页| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 亚洲欧州色情在线观看| 色大综合| 五月丁香综合久久| 情五月亚洲婷婷| 六月丁香啪啪啪| 亚洲久久日| 日本97久久久精品| 亚洲色综久久五月| 色女人久久| 操碰久| 九热电影av| 九九久久污| 91人人爽人人操| 日本97在线看片| 任我干视频在线观看| 天天揷综合网| 1024人妻无码中文字幕| 久久视频这里99| 婷婷综合网在线| 只有精品在线观看| 激情五月综合视频| www.思思99热| 九九精品视频在线观看| 国产美女视频久| 99精品免费欧美小视频| 色天五月天在线观看视频| 狠狠搞亚洲| 五月婷婷激情综合网 | 激情综合色| 成人无码髙潮喷水A片| 亚洲成av人影院| 久99999热视频在线观看免费| 日本三级成人秘书精品片| av一级棒av| 国产av网| 色老久久| 狠狠操之狠狠操| 爱性综合网| 久久激情综合| 婷婷五月丁综合| 五月丁香亚洲婷婷| 伊人www22综合色| 久久视频这里有精品99| 伊人婷婷五月天| 可以看的av| 激情综合丁香六| 五月香蕉网| 成人五月天丁香| 色爱综合网| 怎么样可以看免费的一级av| 欧美激情伊人| 99精品视频免费在线播放| 日本色道视频网站| 婷婷色色综合激情| 五月丁香婷婷AV| 婷婷丁香十月| 亚洲午夜国产成人电影VA国产欧…| 丁香婷婷五月人体| 亚洲色色色色色色色色色| 天天色综合色| 日日夜夜天天| 99re热视频这里只精品| 99视频91| 色婷婷婷婷成人网| 久久这里只有精品热在99| www.超碰| 久久久久久久久久久久久久久久久精典| 婷婷午夜综合| 五月丁香六月婷婷亚洲| 婷婷精品在线| 天天插操| 99久久久久| 久久欧洲综合网| 99热播放| 婷婷五月天最新网址| 99碰碰中文| 天天爽成人综合网站| 久 久9 9 热 视 频| 成人在线网| 99综合五月免费视频色婷婷| 综合网亚洲| 五月天婷婷色综合| 久久天天天| 婷婷五月天黄色小说| 丁香五月婷婷亚洲综合精品| 久久久久久久91| 欧美日韩成人| 婷婷五月天视频亚洲| 婷婷在线视频| 人人九色| 五月花婷婷丁香| 色色com| 午夜丁香 婷婷| 婷婷成人丁香色情基地30 | 超碰亚洲天堂| 色婷婷色99国产综合精品| 五月婷婷深深爱| 色综合久久88色综合天天看| 五月六月激情| 国产AV一区二区三区日韩| 中文字幕九九九九| 国产在这里只有精品| 亚洲精品白浆高清久久久久久| 色播五月天婷婷老师| 激情五月亚洲综合网| 色色日本| 九九五月天| 欧美色性色好| 色婷婷小视频| 六月婷婷七月丁香| 九九热这里只有精品12| 另类专区在线观看| 久热大香蕉| 六月丁香婷婷综合狠狠爱夜夜爱| 五月丁香婷婷色播无码| 激情宗合网激情五月天| AA片在线观看视频在线播放| mmm1717.6dbm人人爱人人操| 九九视频这里只有精品| 欧美影院婷婷| 91人操| 99久操| 婷婷五月天开心网| 亚洲视频在线网| 日韩色情亚洲五月天婷婷| 色婷婷成人做爰A片免费看网站| 亚洲av日韩无码| 97色色色| 97色图片中文字幕视频在线观看| 日韩精品二三区| 超碰婷婷色| 五月婷综合性中心| 亚洲AV影片在线观看| AⅤ色区| 欧美激情五月天| 久热久色| 九月丁香| 婷婷六月激情啪啪| 日日操夜夜擼| 婷婷五月天欧美图片在线播放电驴| 这里只有精品96| 婷婷五月天激情综合深爱| 亚洲色综合| 操碰97| 婷婷另类开心| 国产美女无遮挡裸体毛片A片| 狠狠va| 高清一区二区三区日本久| 婷婷在线观看五月天在线视频| 久久久久久人妻| 激情五月天婷婷图| 成人综合网站| dingxiangtingtingliuyue| 欧美一黄一色一乱一伦| 欧洲色色| 丁香五月婷婷激情小说| 少妇AB又爽又紧无码网站| 激情WWW| 99热最新国内| 日本狠狠色| 欧美熟女99| 婷婷五月天基地| 五月天三级| 久久综合站| 五月丁香婷婷综合| 99热最新网址| 国产真实乱对白精彩| 五月激情五月婷婷五月天在线| 亚洲Av成人在线观看| 天天色图| 五月天无码| 精品欧美一区二区三区久久久| 99日这里只有精品| 激情淫乱男女| 久久97| 亚洲第一色网站| 人五月天婷婷喷水| 丁香五月婷婷亚洲综合精品| 色色综合日韩| 成人无码精品1区2区3区免费看| 婷婷久久婷婷色五月| 成人五月丁香社区| 东北婷婷五月天| av人人操| 狠狠插狠狠插| 天天高潮夜夜爽| 激情九九六月激情免费视频| 天天爱天天操| 欧州色色| 国产激情久久久| 天天综合天综合久久网| 久热 91| 9999热精品在线免费播放| 久久久久九九九九视屏小说88| 久久人操| 天天爽天天做| 看婷婷五月天网| 日逼影音先锋AV男人资源站| 思思热这里只有精品| 激情五婷网| 久久五月天激情美女| 99天堂在线观看免费视频| 激情五月综合| 激情黄色小说五月天| 色99在线视频| 97操女视频| 婷婷丁香六月| 超碰99资源站| 婷婷五月天综合小说网| 激情深愛五月視頻| 嫩草视频观看| 无码少妇高潮喷水A片免费| 天天干天天爽| 99在热线免费视频| 五月永久激情| 久久综合99| 婷婷丁香社区| www.日日夜夜.com| 秋霞影音91人妻久久| 香蕉久久国产AV一区二区| 日本天堂久久| 久久久久久五月天| 精品久热| 99久久久| 色婷婷激情| 天天日,天天射,天天舔| 激情久久天天| A一级操| 久久婷婷五月天激情新地址| 日韩av在线免费观看| 影音先锋91视频| 亚洲亚洲人成综合网络| 五月天婷婷基地| 99自拍网| 国产精品色婷婷99久久精品| 夜夜夜夜撸夜夜操| 六月天丁婷婷| 亚洲爱爱无码婷婷色五月| 超碰人人艹| 婷婷在线综合| 激情啪啪五月| 日本99视频精品免费播放| av一区二区电影免费在线观看| 搡BBBB搡BBB搡18| 99免费视频| 26uuu日韩| 亚洲天堂久久| 國語久久婷| 97干婷婷| 婷婷六月啪啪| 99日本黄站| 99亚洲视频| 婷婷丁香五月婷婷| 99精品在线观看| WWW,五月| 欧洲综合视频| 狠狠舔| 999热在线视频| 婷婷涩五月| 午夜丁香婷婷| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 99色| 97性视频| 天天操婷婷| 9久热在线视频精品| www.五月天婷婷| 色九月婷婷综合| 色婷婷www| 91欧美| 五月婷婷五月天| 色色婷婷丁香| 国产精品涩涩涩视频网站| 亚洲国产精品VA在线看黑人| 琪琪色五月婷婷老师| 亚洲成人影视在线| 伊人大香蕉爱聚| 手机在线视频观看9| 婷婷五月无码| 成人免费高清在线播放| 丁香成人五月天| 99热日韩这里只有精品| 五月天激情Av| 在线可以看的av网址| 丁香六月五月天| 激情综合色婷婷啪啪六月天| 五月婷婷激情网| 久久女婷| 337久久| 日本天堂爱爱| 婷婷五月中文在线| 欧美视频在线观看噜噜| 怡红院视频| 26uuu视频欧美| 日本在线免费中文com.| 久色五月| 激情综合网激情五月天| 五月丁香狠狠爱| 五月丁香六月片| 天堂久久大香蕉| 九九色影院| 久草五月天电影网| 久久人妻精品| 夜夜操狠狠操| 欧美三级韩国三级日本三斤| 99操免费视频| 99热这是里只有精品| 久久久久久久久人妻| WWW.婷婷五月天.COM| 开心激情站| 99久久終合| av色婷婷| 五月婷婷网站| 日韩成人无码人妻| 1024操逼| www..999热久| 五月丁香婷婷激激激综合网色播| 激情人妻综合| 伊人在线视频| 丁香六月婷| 五月天天天综合| 这里只有精品在线观看视频| 狠狠干婷婷| 啪啪啪丁香五月| 日本人妻A片成人免费看片| 五月婷婷就去色| 久热91精品| 亚洲愉拍99热成人精品| 99亚洲视频| 亚洲综合丁香婷婷六月天| 99热综合色图| 香蕉久操| 91啪啪| 99热在线只有精品| 五月激情综合网| 色色五月天丁香婷婷| 日本婷婷色| www九九热| 五月天色婷婷网| 色吧五月婷婷| 五月天婷综合| 丁香五月六月婷婷综合激情| 婷婷色在线| 中文字幕欧美精品久久| 五月丁香网站在线播放| 综合久久综合| 丁香五月WWW| www好屌操| 日本不卡中文字幕| 丁香狠狠操| 亚洲 在线 性爱 | 欧美色色色色色色色色| 日韩一区二区三区无码| 啪啪 综合网| 人妻激情网| 丁香五月天啪啪激情综合网| 婷婷五月天网| 久久久婷丁香五月天激情综合| 天天插天天插天天插| 开心五月婷婷激情网| 色一情一乱一乱一区9| 久热精彩视频98| 九九热只有精品6| 久久精品系列| 丁香五月伊人| 丁香五月网在线观看| 五月天大香蕉| 丁香五月电影| 日韩狠狠色| 欧美性爱中文字幕| 激情综合网五月激情| 伊人久久丁香狠狠婷婷综合香蕉 | 婷婷亚洲日本| 婷婷五月丁香久久| 九九 激情 网| 色综合久久五月天| 丁香综合久久| 思思热AV| 可以直接看的av| 碰99在线| 久8色色| 成人做爰黄A片免费看直播室男男 久草热8精品视频在线观看 | 97丁香花五月天激情小说| 五月天婷婷色色| 久9热视频在线观看| www.99热在线观看| 97干视频在线| 夜夜躁婷婷AV| 久久综合影院| 日本三级韩三级99久久| 天天色丁香| 色99在线观看| 黄色五月婷婷| 色色色色色色色色网站| 超碰在线人妻| 五月婷婷之综合激情| 五月婷婷六月丁香| 亚洲va成人va成人va在线观看| 九九热AV| 99热| www.五月激情.com| 婷婷丁香综合网| 另类视频丁香五月| 超碰A V在线| 日韩无码色色| 97碰碰在线看视频免费| 97久久久久| 午夜婷婷丁香| 婷婷六月色| 婷婷婷五月天最新综合你懂的| 91.www综合| 99爱视频免费看| 九 九九九AV| 欧美 日韩 成人| 久久多色| 成人精品在线| 成人网站免费sxj| 成人精品网站在线观看| 99热这里只有精品8| 99干视频| 99久久婷婷国产综合| 久久九九99字幕| 丁香五月 性爱| 五月天婷婷7米| 久久久久亚洲AV成人无码电影| 久久久人妻| 九九九九九九热| 色色色色av色色色色| 91肏| 少妇人妻人伦A片| 99精品久久久久久久婷婷久久| 97超碰99热99| 久久婷婷五月综合激情国产| 五月婷婷五月天激情视频| 婷婷99视频在线| 欧美色色网| 色婷婷免费观看| 国产精品激情AV久久久青桔| 99色色色色| 婷婷五月天激情小说| 欧美色色色| 青青草激情网| 久久久18| 中文字幕无线久必| 五月激情在线| 婷婷日| 五月天堂六月丁香亚州中文字幕久久| 久热91精品| jiujiu无码五区| 成人在线高清| 五月婷婷综合网| 日日狠狠久久偷偷四色综合免费| 91大神在线免费看视频全集男男一起操| 亚洲五月婷婷| 婷婷色网站| 色婷婷97| 在线综合啪| 天天操比比| 俺也去在线视频| 97精品综合久久| 丁香九色不卡aaa| 色婷婷五月天偷拍| 99热日韩| 色~性~乱~伦~噜| 91人妻人人操| 五月丁香久久| www.成人婷婷综合| 狠狠狠婷婷五月综合| 色涩影院六月丁香| 亚洲亚洲人成综合网络| 七七色色综合| 好激情在线综合网| 金桔一区二区ab地址| 国产欧洲欧洲精品久久| 激情婷婷| 五月天婷综合| 久久全意婷婷| 思思re99视频在线观看| 久热只有精品| 欧美日韩国产一二区| 狠狠干综合| 天天操夜夜爽| 五月婷成人网| 欧美久久婷婷| 久碰久| 九九婷婷激情综合网| 丁香五月五月婷婷| 激情开心五月天| 99性感视频| 亚洲 综合中文| 在线中文亚洲| .肏屄视频一区二区| 热思思九九| 日日干天天爽| 婷婷久久精品| 五月天色不卡| 亚洲色 视频| 狠狠做五月婷婷| 国产午夜精品一区二区| 91热久| 91九色偷拍| 欧美性猛交AAAA片黑人 | 亚洲色热| www久| 97色97干| 亚洲婷婷欧美婷婷| 五月天激情无码专区| 激情五月网站| 五月天六月丁香| 久久XX| 色综合天堂| 久久色9| 九九热婷婷| 日本欧美啪啪| 人人操超碰| 国产成人综合亚洲| 欧美槡BBBB槡BBB少妇| 色色色热热热| 色色五月天丁香婷婷| 97五月久久丁香婷婷| 天天爽天天日| 婷婷无码五月天| 人人视频人人干人人做| 伊人啪啪网| 久久免费婷婷视频| 玖玖精品视频| 久久偷拍综合五月天| 天天橾夜夜爽| 26uuu最新地址| 99热国产这里只有精品| 久久99性爱视频| 五月丁香六月合| 六月丁香综合网| 九九视频精品在线免费| 狠狠干在线视频| 日本熟女一区二区| 操熟女成人网| 色狠狠色综合| 9热在线视频| 99热色婷婷| 99操无码视频观看| 色综合com| 五月丁香大香蕉| 天天爽夜夜爽夜夜爽精品| 99热在这里只有免费精品| 九月婷婷综合八月丁香在线观看| 丁香五月AV在线| 五月丁香色狠狠干大屄| 中文字幕色色色| 可以观看的AV| 免费精品99| 在线观看的av| 99免费| 大地9中文在线观看免费高清 | 五月婷婷黄色| 五月天色婷婷视频| 中文字幕色色色| 性爱视频99| 久久久久婷婷| 婷婷五月天成人网| 爱久久小说下载网| 丁香六月欧美| 伊人网碰碰| 色婷婷五月天激情| 蜜乳国产网站| 玖玖热视频| 日本美女上人| 精品一二三区久久AAA片| 综合色五月亭亭| 色情五月天导航| 99热91| 99er在线观看| 五月激情综合美女久久| 91色综合| 成人精品视频99在线观看免费| 色色色九九九五月婷婷| 91久久色| xxxx五月| 99热这里只有免费精品| 色色五月天婷婷| 在线18av | 六月激情丁香一道本7777| 大香蕉九九| WWW.开心五月天.COM| 99热这里只有精品18| 九色婷婷| AⅤ网站在线看| 日本啪啪网| 丁香色啪综合| 婷香五月激情视频| 天天弄天天操| 秋霞少妇毛片| 五月激情丁香五月| 国产视频婷婷| 日韩一级片| 91丁香婷婷综合久久欧美| 色综合网上班开心婷婷久久| 毛片新网地| 欧美视频五区| 一区二区成人电影免费播放| www.婷婷,com| 99热久久这里只有精品| 夜色综合网| 婷婷丁香五月天在线| 五月激情偷拍| 国产欧美大香蕉一区| 综合久| 婷婷五月天激情文学| 日韩成人综合网| 久久综合五月| 五月丁香婷中文字幕 | 久久午夜理论| 99自拍视频在线观看| 视频一区二区在线| 丁香五月婷婷久久综合激情网 | 色久综合| 婷婷五月天综合亚洲| 免费黄色片子| 在线只有精品| 国产偷人爽久久久久久老妇APP | 亚洲乱码精品久久久久.. | 婷婷伊人綜合中文字幕| 日本va欧美va欧美va精品| 激情五月开心五月丁香五月| 开心激情站| 99热高清在线| 久久思思热视频| 99这里有精品| 五月婷婷,狠狠操| 五月激情网综合| 婷婷久草| 99人人干人人| 丁香六月无码播放| 婷婷五月天影院| 精品五月视频婷婷在线观看| 亚洲色网址| 成人丁香婷婷| 激情五月婷婷欧美极品| 91一起艹| 97在线/日本| 五月婷婷激情综合视频| 欧美槡BBBB槡BBB少妇| 久久伦乱| 色婷婷成人| 激情综合网激情五月婷婷| 丁香六月av| 亚洲色视频| 亚洲天堂啪啪| 精品网站:999WWW| 丁香六月天婷婷| 无码婷婷五月天| 狠狠干,狠狠操| 97在线精品| 色婷婷久久综合| 丁香五月停停基地| 五月婷婷第四色| 婷婷字幕在线| 五月丁香六月合| 国产免费一区二区在线A片视频| 亚州婷婷五月激情综合| 思思热国产| 亚洲激情四射色| 婷婷综合在线观看视频| 少妇被下春药玩弄A片| 他改变了拜占庭| 色私五月婷婷| 色五月大香蕉婷婷| 九九99视频| 天天久久婷婷| 日日天天干| 欧美碰碰| 久久婷婷五月天| 五月天另类图片区99| 99热这里只| 四月婷婷五月丁香| 九九在线精点品| 9精品视频在线观看| 日本色色网站| 天堂久久大香蕉| 久久久久久久久99精品| 另类激情码| 亚洲激情av| 久草婷婷| 精品无码久久久久久久久| 激情伊人五月婷婷久久| 国产黄大片在线观看画质优化| 超碰AAAAAAV| 性爱网五月婷婷| 亚洲日韩欧美综合VA| 涩五月丝袜婷婷| 伊人激情影院| 色欲丁香| 五月天色五月| 丁香五月深爱五月婷婷| 青青草青青草五月天| 日韩精品无码99| 亚洲视频另类| 五月婷婷在线观看黄| 秋霞A V毛片| 五月婷婷开心网| 五月五丁香婷婷| 丁香五月 性爱| 九九热最新| 久久五月丁香婷婷| 婷婷五月天久久久| 五月天中文网| 免费看片在线观看| 天天肏视频| 天天日夜夜高潮| 日本三级日本黄色| 九九热最新| 精品亚洲国产成AV人片传媒| 婷婷成人视频| 婷婷五月激情片| 色婷婷综合电影| 99热99干| 精品综合五月| 39视频第二区| www.minyis.com【JT】实力收量可预付QQ2101460746 | 蜜乳A√| 偷偷操九九| 九九热最新地址| 婷婷色日本| 天堂五月婷婷| 天天干天干| 欧洲第一久色| 啪啪婷婷五月天激情| 这里只有精品免费视频| 五月天激情开心网| 色五月婷婷自拍| 八戒青柠影视剧在线观看| 久久人妻久久| 六月五月丁香五月欧美| 中文婷婷狠狠|