欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

基于Python與CNN的中草藥識別實戰(zhàn):從數(shù)據(jù)到模型

基于Python與CNN的中草藥識別實戰(zhàn):從數(shù)據(jù)到模型 1. 項目拆解與整體設(shè)計思路1.1 這個題目到底在做什么“基于Python-CNN機器學(xué)習(xí)深度學(xué)習(xí)的常見中草藥識別”這種課程設(shè)計題目最近幾年在各大高校里出現(xiàn)的頻率越來越高。我先用大白話把題目拆開你要做的不是“背誦一堆草藥名字”而是讓計算機通過圖片自動判斷“這是哪種中藥材”。現(xiàn)代人習(xí)慣拿手機拍照想識別路邊的車前草、廚房里的枸杞或者藥店抓回來的干黃連——而CNN這一類深度學(xué)習(xí)模型恰好是這項工作最好的工具。從課程設(shè)計和畢業(yè)設(shè)計的考核角度看這個項目有幾個硬指標自己構(gòu)建或調(diào)優(yōu)一個CNN模型不是簡單調(diào)用現(xiàn)成接口而是能理解每一層的設(shè)計意圖。有一套合理的數(shù)據(jù)處理流程包括數(shù)據(jù)集的整理、圖像增強、歸一化等預(yù)處理。訓(xùn)練可得且效果可量化也就是說最終要給出準確率、損失曲線、混淆矩陣這類能說服答辯老師的圖表。有實際驗證新拍的圖片能跑通識別流程而不是只停留在訓(xùn)練集上自嗨。這個題目適合哪個階段的人做我見過三類人做它第一類是本科課程設(shè)計周期2到4周需要基礎(chǔ)功能完整、流程顯眼即可第二類是本科畢業(yè)設(shè)計周期3到5個月要加對比實驗、可視化分析甚至要整理成小論文第三類是研究生入門項目重點在于把遷移學(xué)習(xí)、細粒度分類這些思路玩起來。不同目標決定了你的技術(shù)選型深度文章后面會分階段說明。1.2 為什么用CNN而不是傳統(tǒng)機器學(xué)習(xí)方案放到5年前很多圖像識別項目用的是“手工提取特征傳統(tǒng)分類器”的路子。比如先把圖像的HOG特征、色彩直方圖、紋理特征提出來再用SVM或隨機森林做分類。這條路對中草藥識別的問題是中草藥識別恰恰是典型的“細節(jié)決定成敗”任務(wù)。兩種植物可能顏色相近、形狀相似用手工特征很難界定到底抓哪個特征才是真正的區(qū)分點。CNN的做法是“端到端”的——你給它看大量標注好的圖片它不需要你告訴它該看什么部位它會自己在訓(xùn)練過程中學(xué)會選取對分類最有用的特征。第一層網(wǎng)絡(luò)可能學(xué)的是邊緣和色彩塊第二層可能學(xué)出葉片的紋理模式更深層則能學(xué)到“這個部位的形狀結(jié)合那個部位的顏色特征指向黃連”。這種自動學(xué)習(xí)特征的能力正是處理自然場景下植物照片的關(guān)鍵。以我的實操體驗來說傳統(tǒng)方案在只有20多種藥材、每類只有幾十張圖的時候SVM勉強能跑到70%左右精度而同樣條件下哪怕是一個基礎(chǔ)CNN訓(xùn)練充分后也能輕松超過85%。如果數(shù)據(jù)量更大、種類更多傳統(tǒng)方案下滑得非??霤NN受到的影響卻很有限。所以這個題目選CNN不是炫技是這個任務(wù)天然適配。1.3 技術(shù)棧選型Python生態(tài)怎么搭標題里點名了Python這本身沒什么好糾結(jié)的——Python在深度學(xué)習(xí)領(lǐng)域幾乎是唯一的選擇。但具體選哪些庫我覺得要根據(jù)你的硬環(huán)境和調(diào)試習(xí)慣來深度學(xué)習(xí)框架KerasTensorFlow 2.x的接口或PyTorch。課程設(shè)計優(yōu)先推薦Keras因為接口封裝度高幾行就能起一個像樣的CNN畢業(yè)設(shè)計優(yōu)先推薦PyTorch因為做debug、自定義網(wǎng)絡(luò)結(jié)構(gòu)、看中間特征可視化都更靈活。如果你有論文需求那PyTorch是更好的選擇。圖像處理OpenCV和Pillow。數(shù)據(jù)增強環(huán)節(jié)兩者都要用OpenCV的插值速度快、Pillow的API更友好。數(shù)據(jù)科學(xué)工具NumPy、Pandas、Matplotlib、Seaborn。前兩個用來處理標簽和數(shù)據(jù)劃分后兩個用于繪制loss曲線和混淆矩陣。開發(fā)環(huán)境首選Jupyter Notebook或JupyterLab逐段運行看結(jié)果方便正式訓(xùn)練腳本建議存成.py文件提交到服務(wù)器上跑。一個容易忽略的點是模型訓(xùn)練的過程中會產(chǎn)生大量中間結(jié)果比如訓(xùn)練日志、模型權(quán)重文件、可視化圖像等建議從一開始就建立清晰的目錄結(jié)構(gòu)把代碼、數(shù)據(jù)、模型、結(jié)果分開存放。我自己深受“數(shù)據(jù)、代碼、結(jié)果混在一起最后答辯前找不到模型文件”的苦這個習(xí)慣非常重要。圍繞技術(shù)選型還有一個經(jīng)典問題為什么不直接用預(yù)訓(xùn)練模型跑遷移學(xué)習(xí)我覺得對課程設(shè)計來說“從零搭建一個CNN”這個動作本身往往是評分點。如果一上來就用ResNet的預(yù)訓(xùn)練權(quán)重模型的“理解深度”就不好展示。但畢設(shè)階段完全可以把兩者都做自己搭建的基礎(chǔ)CNN作為基線再用遷移學(xué)習(xí)構(gòu)建一個更強的模型作為對比這就是一個體面的實驗設(shè)計了。2. 核心模塊原理與方案選擇2.1 CNN識別中草藥卷積層在學(xué)什么很多同學(xué)聽到CNN就怕覺得里面的數(shù)學(xué)公式嚇人。其實理解CNN只需要抓住一個邏輯它為什么能識別植物因為它在分層提取圖像特征。先看卷積層??梢园丫矸e操作理解成拿著一個“小放大鏡”在圖像上滑動每次只看局部區(qū)域。這個放大鏡就是卷積核它提取的是“某個局部區(qū)域內(nèi)某種模式存在的強度”。比如一個卷積核專門用來檢測“橫著的一條深色線”另一個卷積核檢測“綠色塊之間的白色間隙”。中草藥圖片里這些模式非常關(guān)鍵——葉片邊緣的鋸齒形狀、葉脈的走向、花蕊的顏色分布本質(zhì)上都是這種局部模式在不同尺度的組合。卷積層的參數(shù)并不是人手工設(shè)置的而是通過訓(xùn)練自動調(diào)整的。起初是隨機數(shù)模型看到大量“這是薄荷葉”和“這不是薄荷葉”的圖片后自動調(diào)整那些能讓分類正確率提高的卷積核值。這就是“機器學(xué)習(xí)”中最本質(zhì)的部分特征是學(xué)出來的不是人設(shè)計出來的。然后是池化層。它干的事情是“壓縮信息”。比如一張200×200的圖片經(jīng)過一次卷積和一次2×2的池化尺寸會變成100×100。池化的意義有兩個一是降低計算量二是不怕小位移——葉子稍微歪一點、換個角度拍池化之后提取到的關(guān)鍵模式還在。這一點對中草藥識別特別重要咱們平時拍照不可能像證件照一樣規(guī)規(guī)矩矩傾斜、遮擋、光線變化是常態(tài)。到了網(wǎng)絡(luò)后面幾層模型會把前面學(xué)到的局部特征拼接成“這張圖整體上是什么風(fēng)格”的判斷最終經(jīng)過全連接層把特征映射到具體的分類概率上。輸出層通常是Softmax它會把10個或20個類別的得分變成一組和為1的概率值“概率最大的那個類別”就是識別結(jié)果。這套流程和人類看植物時“先看葉形再看葉脈再看花和整體氣質(zhì)”是一個邏輯聽著是不是一點都不玄了。2.2 數(shù)據(jù)的坑與數(shù)據(jù)集的構(gòu)建策略中草藥識別項目最大的坑不在模型在數(shù)據(jù)。這是我反復(fù)和做這個題目的同學(xué)強調(diào)的。規(guī)模問題CNN雖然強大但它是個“飯量很大”的模型。如果只給每個類別準備30張圖同濟的模型再牛也會陷入過擬合——訓(xùn)練集上識別近乎100%拿到新拍的照片上就“翻車”。根據(jù)我的經(jīng)驗做這個題目每個類別至少準備100張以上圖片如果每類能達到300張訓(xùn)練效果會比較從容。數(shù)據(jù)不夠怎么辦有兩個辦法一是“數(shù)據(jù)增強”也就是用旋轉(zhuǎn)、翻轉(zhuǎn)、裁剪、亮度調(diào)整等方法把一張圖片變出多張來二是“遷移學(xué)習(xí)”用別人在大規(guī)模數(shù)據(jù)集上訓(xùn)練好的模型權(quán)重做初始化這樣只需少量數(shù)據(jù)也能有不錯的準確率。類別選擇常見中草藥可以選10到20類。不需要選太生僻的品種因為越生僻的數(shù)據(jù)越難找而且答辯時老師也不一定認識效果反而不好。黃金選擇是那些特征明顯、你所在城市路邊或藥房能見到的品種薄荷、魚腥草、金銀花、薏苡仁、枸杞、陳皮、當歸、黃連、板藍根、益母草……這些類別外觀區(qū)分度相對好適合入門。在類別設(shè)計上我強烈建議包含“易混淆組”。比如把“薄荷”和“荊芥”都選進去或把“干姜”和“黃姜”放在一起。為什么因為這個項目能體現(xiàn)深度學(xué)習(xí)的價值就在于“不是簡單背答案而是真的在學(xué)區(qū)分特征”。如果選的10類藥材長得差異極大模型可能隨便學(xué)個顏色就能分類答辯時老師追問“為什么區(qū)分這兩種”你完全沒法解釋深層的特征學(xué)習(xí)。設(shè)一組易混淆類別后面做混淆矩陣、分析錯誤樣本都有了素材。數(shù)據(jù)獲取最直接的是用搜索引擎下載圖片但要注意版權(quán)問題建議只用于課程學(xué)習(xí)。更穩(wěn)妥的方案是去一些公開的植物圖像數(shù)據(jù)集或者自己用手機拍攝條件允許的話保持同一藥材的多角度、多背景、不同光照。數(shù)據(jù)集質(zhì)量判斷的標準很簡單真實場景、光線變化、有背景雜亂的照片比干凈的影棚圖更“管用”因為訓(xùn)練出來的模型在實際場景中更耐用。下載之后必須人工清理一遍把錯誤類別的圖、文字圖、重復(fù)圖全部刪掉這一步?jīng)]什么技巧就是要耐心。2.3 遷移學(xué)習(xí)為什么是中草藥識別的最優(yōu)選如果讓我對做畢設(shè)的同學(xué)說一個建議那就是別只盯著自己搭的CNN把遷移學(xué)習(xí)加進來。比如用ImageNet上訓(xùn)練過的ResNet50作為特征提取器去掉它原來的分類層換成你自己的中草藥分類頭然后整個網(wǎng)絡(luò)在你的數(shù)據(jù)上繼續(xù)訓(xùn)練。這個方案有幾個實打?qū)嵉暮锰幨諗克俣葮O快——你用基礎(chǔ)CNN可能要訓(xùn)練50個epoch才到85%準確率遷移學(xué)習(xí)10個epoch可能就93%了對數(shù)據(jù)量的要求也低很多每類只需要幾十張圖就能跑出可用的模型而且更魯棒對光照變化、模糊、遮擋的耐受性明顯更好。順帶補充一句其實真正厲害的圖像分類系統(tǒng)幾乎很少從零開始訓(xùn)練大模型因為數(shù)據(jù)量和時間成本太高。用別人在數(shù)十萬張圖上練好的通用特征再在專業(yè)領(lǐng)域數(shù)據(jù)上做微調(diào)也就是所謂“微調(diào)”Fine-tuning本身就是工程實踐里的標準做法。在答辯時如果老師問“為什么選ResNet50”你可以回應(yīng)“因為它引入了殘差連接解決了深層網(wǎng)絡(luò)梯度消失的問題特征復(fù)用效率高”如果問“為什么用了預(yù)訓(xùn)練權(quán)重”你可以回應(yīng)“因為領(lǐng)域數(shù)據(jù)集樣本量有限復(fù)用通用圖像特征能降低過擬合風(fēng)險、加快收斂”。這些邏輯自洽的表述會讓答辯的深度拉高一個檔次。關(guān)于遷移學(xué)習(xí)和基礎(chǔ)CNN的關(guān)系我不建議把二者對立起來。課程設(shè)計可以以基礎(chǔ)CNN為主遷移學(xué)習(xí)作為加分項畢設(shè)則可以作為對比實驗出現(xiàn)——基礎(chǔ)CNN是一種實現(xiàn)遷移學(xué)習(xí)是另一種實現(xiàn)兩者各成一條對比路線實驗章節(jié)自然豐富了很多。3. 從零到一的搭建與訓(xùn)練實操3.1 項目環(huán)境準備與依賴安裝無論你是課程設(shè)計還是畢業(yè)設(shè)計我建議先用本機做小規(guī)模試驗跑通了再考慮上服務(wù)器。環(huán)境準備方面我自己最常用的一套組合是conda create -n cnn_herb python3.9 conda activate cnn_herb pip install tensorflow-cpu2.12.* # 若顯卡可用則去掉 -cpu 后綴 pip install torch torchvision # 選裝做遷移學(xué)習(xí)時使用 pip install opencv-python pillow numpy pandas matplotlib seaborn scikit-learn安裝的時候有兩點經(jīng)驗第一TensorFlow和PyTorch不必都裝CPU版本如果你的電腦有NVIDIA顯卡務(wù)必裝對應(yīng)CUDA的GPU版本訓(xùn)練速度能快一個數(shù)量級第二如果pip安裝太慢直接換鏡像源pip install xxx -i https://pypi.tuna.tsinghua.edu.cn/simple這不算什么“高深技巧”但真的能讓你少等很久。環(huán)境裝好后建議先測試一下框架能不能正常調(diào)用GPUimport tensorflow as tf print(GPU available:, tf.config.list_physical_devices(GPU))如果輸出是空列表說明你的TensorFlow沒識別到顯卡接下來訓(xùn)練會很痛苦。這時候回到第一步檢查CUDA版本和tensorflow版本是否匹配。這個問題太常見了下面專門有一個小節(jié)講這里先按“能識別到GPU”繼續(xù)。3.2 數(shù)據(jù)整理與數(shù)據(jù)集劃分從亂圖到干凈數(shù)據(jù)集以最簡單的目錄結(jié)構(gòu)為例我建議把圖片按“類目-編號”命名并放在按類別命名的文件夾里dataset/ mint/ # 薄荷 mint_001.jpg mint_002.jpg ... honeysuckle/ # 金銀花 honeysuckle_001.jpg ... ...然后寫一個腳本把數(shù)據(jù)讀進來劃分成訓(xùn)練集和驗證集。劃分比例上常用的有8:2、7:3等。我自己偏好80%訓(xùn)練、10%驗證、10%測試不過課程設(shè)計沒有絕對標準關(guān)鍵是驗證集和測試集千萬不要在訓(xùn)練時被模型“看到”否則準確率虛高。這是所有初學(xué)者的第一個認知壁壘。import os, random, shutil random.seed(42) src ./dataset train_dir ./dataset_split/train val_dir ./dataset_split/val test_dir ./dataset_split/test os.makedirs(train_dir, exist_okTrue) os.makedirs(val_dir, exist_okTrue) os.makedirs(test_dir, exist_okTrue) for cls in os.listdir(src): class_path os.path.join(src, cls) if not os.path.isdir(class_path): continue imgs os.listdir(class_path) random.shuffle(imgs) n_train int(len(imgs) * 0.8) n_val int(len(imgs) * 0.1) for i, img in enumerate(imgs): dst if i n_train: dst os.path.join(train_dir, cls, img) elif i n_train n_val: dst os.path.join(val_dir, cls, img) else: dst os.path.join(test_dir, cls, img) os.makedirs(os.path.dirname(dst), exist_okTrue) shutil.copy(os.path.join(class_path, img), dst)這段腳本做的事情很簡單按比例把每一類的圖片復(fù)制到三個新目錄。為什么不用移動復(fù)制更安全萬一劃分比例不對原圖還在。為什么固定了隨機種子為了保證運行結(jié)果可復(fù)現(xiàn)答辯時老師問“你那次實驗的結(jié)果能復(fù)現(xiàn)嗎”你只需要說一句“我們的隨機種子在實驗設(shè)置里固定了”就很專業(yè)。接下來是標簽編碼。如果用TensorFlow的ImageDataGenerator的flow_from_directory它會自動按文件夾名稱生成標簽順序。如果改用自定義數(shù)據(jù)加載一般用整數(shù)標簽從0開始遞增。標簽順序一定要記住后面預(yù)測新圖片時要靠它把索引轉(zhuǎn)回中文名。class_labels [mint, honeysuckle, bajiao, ...] label_to_idx {name: i for i, name in enumerate(class_labels)} idx_to_label {i: name for name, i in label_to_idx.items()}3.3 圖像預(yù)處理與數(shù)據(jù)增強中草藥圖片的預(yù)處理分三步縮放 → 歸一化 → 增強??s放CNN要求輸入尺寸固定。我推薦224×224因為這是很多預(yù)訓(xùn)練模型的標配尺寸兼容性好。如果你的基礎(chǔ)CNN不夠深也可以使用128×128減少計算量但圖像的細節(jié)信息會丟失一些。歸一化把像素值從0~255映射到0~1或-1~1幫助梯度穩(wěn)定、加快收斂。這一步在Keras里面寫一行from tensorflow.keras.preprocessing.image import ImageDataGenerator train_datagen ImageDataGenerator( rescale1./255, rotation_range30, # 隨機旋轉(zhuǎn)30度 width_shift_range0.2, # 水平平移20% height_shift_range0.2, # 垂直平移20% shear_range0.2, # 剪切變換 zoom_range0.2, # 隨機縮放 horizontal_flipTrue, # 水平翻轉(zhuǎn) fill_modenearest # 填充模式 ) test_datagen ImageDataGenerator(rescale1./255)數(shù)據(jù)增強說白了就是“把訓(xùn)練照片增加‘變數(shù)’”。想想你真實使用軟件的場景有人把葉子拍歪了、光線太暗了、離得太近了模型如果只見過“標準圖”這些情況就會誤判。增強處理使模型學(xué)會對形變、亮度和位置的變化保持魯棒。需要注意驗證集和測試集絕對不能做增強只能做縮放和歸一化。因為增強是人為地制造不同樣本來擴大模型認識的邊界而驗證集和測試集要反映“真實分布”必須保持原始狀態(tài)測試集上增強沒有任何意義。3.4 搭建基礎(chǔ)CNN模型下面是課程設(shè)計級的基礎(chǔ)CNN代碼4個卷積塊加2層全連接。這個結(jié)構(gòu)對于中草藥分類來說是“足夠用”的起始點from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Conv2D, MaxPooling2D, Flatten, Dense, Dropout model Sequential([ Conv2D(32, (3, 3), activationrelu, input_shape(224, 224, 3)), MaxPooling2D(2, 2), Conv2D(64, (3, 3), activationrelu), MaxPooling2D(2, 2), Conv2D(128, (3, 3), activationrelu), MaxPooling2D(2, 2), Conv2D(128, (3, 3), activationrelu), MaxPooling2D(2, 2), Flatten(), Dropout(0.5), Dense(512, activationrelu), Dropout(0.3), Dense(len(class_labels), activationsoftmax) ]) model.summary()簡單解釋一下每層的選擇邏輯。第一層用了32個卷積核后面逐漸翻倍到64、128、128這是一個常見的“淺層少、深層多”設(shè)計淺層學(xué)的是細節(jié)特征多一些通道可以組合出更豐富的模式深層學(xué)的是高維語義卷積核數(shù)量不必太多以免過擬合。每個卷積塊后面跟一個MaxPooling下采樣逐步把224×224壓到14×14最后Flatten喂給全連接層。Dropout在0.5和0.3是全連接層防過擬合最重要的手段。中間用ReLU激活輸出層是Softmax多分類。3.5 訓(xùn)練參數(shù)的選擇邏輯學(xué)習(xí)率和批大小訓(xùn)練時最關(guān)鍵的幾個配置是批次大小、學(xué)習(xí)率、優(yōu)化器、Epoch數(shù)、早停策略。model.compile( optimizeradam, losssparse_categorical_crossentropy, metrics[accuracy] ) history model.fit( train_generator, steps_per_epochtrain_generator.n // batch_size, epochs50, validation_dataval_generator, validation_stepsval_generator.n // batch_size, callbacks[early_stop, model_checkpoint] )批次大小我實測下來16到32是比較適合中草藥分類的。批次過小比如4會導(dǎo)致梯度震蕩太劇烈訓(xùn)練不穩(wěn)批次過大會讓每輪迭代時間變長而且顯存可能爆。如果你用的是GPU32是首選的起步值。學(xué)習(xí)率Adam的默認學(xué)習(xí)率是0.001在多數(shù)情況下可以直接用。但如果發(fā)現(xiàn)loss在訓(xùn)練過程中反復(fù)震蕩、下不去可以先降到0.0005或0.0003重新跑一次。如果loss下降太慢可以適當提到0.002但不建議更大很容易發(fā)散。Epoch數(shù)和早停訓(xùn)練50個epoch不一定全部跑完。設(shè)置早停監(jiān)控驗證集loss如果連續(xù)10個epoch不再下降就自動停止同時恢復(fù)最好的權(quán)重from tensorflow.keras.callbacks import EarlyStopping, ModelCheckpoint early_stop EarlyStopping(monitorval_loss, patience10, restore_best_weightsTrue) checkpoint ModelCheckpoint(herb_model.h5, monitorval_loss, save_best_onlyTrue)為什么要做早停我在這個項目里見過很多次訓(xùn)練集準確率一路升到99%以上驗證集卻停在85%不再動甚至開始下降。這說明模型開始“背題”而不是“學(xué)特征”了。早停就是為了對抗這種“過擬合”風(fēng)險讓模型停在泛化能力最好的那個點而不是訓(xùn)練最后的那個狀態(tài)。3.6 模型評估不只是看準確率訓(xùn)練結(jié)束后評估部分必須做三件事驗證集準確率、loss曲線、混淆矩陣。這門課的評分老師通常最看重這三個圖。loss曲線畫法是import matplotlib.pyplot as plt plt.plot(history.history[loss], labeltrain_loss) plt.plot(history.history[val_loss], labelval_loss) plt.title(Training and Validation Loss) plt.xlabel(Epoch) plt.ylabel(Loss) plt.legend() plt.show()如果訓(xùn)練loss和驗證loss之間差值很大就是過擬合的直接證據(jù)如果兩者都在高位下不去說明模型容量不夠或者學(xué)習(xí)率不合適如果曲線震蕩說明批次數(shù)據(jù)分布不夠均勻可以考慮增大批次?;煜仃囉胹klearn.metrics.confusion_matrix畫出來能直觀看到哪些類別互相混淆。比如“白芷”總是被誤判為“當歸”那你就有兩個入手方向一是增加這兩個類別的訓(xùn)練樣本二是檢查數(shù)據(jù)集本身——是不是當時下載或標注的時候這兩類的圖就已經(jīng)混亂了。這一步也是答辯時最能展現(xiàn)你分析能力的內(nèi)容。import numpy as np from sklearn.metrics import confusion_matrix, classification_report pred_probs model.predict(val_generator) pred_labels np.argmax(pred_probs, axis1) true_labels val_generator.classes[:len(pred_labels)] print(classification_report(true_labels, pred_labels, target_namesclass_labels))3.7 對新圖片做預(yù)測完整識別流程模型訓(xùn)練好以后識別一張真實照片的流程也要寫清楚from tensorflow.keras.preprocessing import image def predict_image(img_path): img image.load_img(img_path, target_size(224, 224)) img_array image.img_to_array(img) img_array np.expand_dims(img_array, axis0) img_array img_array / 255.0 probs model.predict(img_array)[0] idx np.argmax(probs) confidence probs[idx] return idx_to_label[idx], confidence這里面有個容易忽略的細節(jié)預(yù)測時的預(yù)處理必須和訓(xùn)練時保持完全一致。訓(xùn)練時如果做了rescale1./255預(yù)測時也要除以255否則輸入分布不一致模型表現(xiàn)會大打折扣。此外load_img默認會做雙線性插值縮放尺寸變了但內(nèi)容語義不變這是正常操作。我的經(jīng)驗是把這部分單獨封裝成一個腳本比如predict.py接收圖片路徑參數(shù)輸出識別結(jié)果和置信度。答辯現(xiàn)場用手機拍一張新鮮的照片程序能跑出正確結(jié)果的話現(xiàn)場效果是非常有說服力的。3.8 遷移學(xué)習(xí)模型的實戰(zhàn)補充上面已經(jīng)提過ResNet50遷移學(xué)習(xí)的大致思路。代碼層面是用torchvision或Keras自帶的應(yīng)用模塊加載預(yù)訓(xùn)練模型替換分類層然后凍結(jié)前面的骨干網(wǎng)絡(luò)只訓(xùn)練新的分類頭或者解凍部分層做微調(diào)。用Keras寫的話最明顯的對比實驗代碼是from tensorflow.keras.applications import ResNet50 from tensorflow.keras.models import Model from tensorflow.keras.layers import GlobalAveragePooling2D, Dense base_model ResNet50(weightsimagenet, include_topFalse, input_shape(224, 224, 3)) base_model.trainable False # 先凍結(jié)骨干 x GlobalAveragePooling2D()(base_model.output) x Dense(256, activationrelu)(x) output Dense(len(class_labels), activationsoftmax)(x) model Model(inputsbase_model.input, outputsoutput)先只訓(xùn)練分類頭若干個epoch后可以把base_model.trainable True用極小的學(xué)習(xí)率比如0.0001整體微調(diào)幾輪效果往往還能再上一個臺階。遷移學(xué)習(xí)有一個相當重要的問題網(wǎng)絡(luò)結(jié)構(gòu)變了輸入尺寸和歸一化方式也要跟著變。用ResNet50輸入圖片需要按ImageNet數(shù)據(jù)集的均值方差來歸一化而不是簡單除以255。偷懶就會造成特征分布不匹配導(dǎo)致準確率不如基礎(chǔ)CNN的詭異情況。細節(jié)上務(wù)必查一下你所用預(yù)訓(xùn)練模型的標準預(yù)處理方式。4. 常見問題與排查技巧實錄4.1 過擬合訓(xùn)練集99%驗證集85%我見過最多的現(xiàn)象就是這一個。模型把訓(xùn)練數(shù)據(jù)“背得滾瓜爛熟”但遇到新圖片就露怯。解決方向的優(yōu)先級如下增加數(shù)據(jù)增強強度。把旋轉(zhuǎn)范圍從20度提高到40度加入brightness_range[0.8,1.2]這類亮度擾動效果往往立竿見影。增加Dropout比例。全連接層的Dropout從0.5提到0.6或0.7或者在全連接前再加一層Dropout。縮小模型容量。把卷積核數(shù)量從128降到64或32全連接層的512降到256。這也算個入門級思路很多人以為加參數(shù)就能提升精度其實小模型在數(shù)據(jù)量不夠時反而訓(xùn)得更好。數(shù)據(jù)擴量?;氐綌?shù)據(jù)集增加樣本量或?qū)γ款愂占鄻踊膱D片。另外要說的是過擬合的原因首先是數(shù)據(jù)量不足。模型參數(shù)量動輒幾百萬訓(xùn)練數(shù)據(jù)才幾百張在參數(shù)空間里顯得捉襟見肘。在某些情況下數(shù)據(jù)增強并不能創(chuàng)造真正的新信息——旋轉(zhuǎn)、翻轉(zhuǎn)只是改變了位置和角度如果數(shù)據(jù)本身有問題可能還是會出錯。所以增加新圖片是治本增強是治標。4.2 數(shù)據(jù)量不足時的救命招遷移學(xué)習(xí)更不挑數(shù)據(jù)如果你時間緊、只有每類50張圖還是有希望拿到90%以上的效果。主線就是把上面的3.8遷移學(xué)習(xí)方案走通。我在做模擬項目X的時候遇到過一個非常極端的設(shè)定數(shù)據(jù)集只有每類60張基礎(chǔ)CNN的準確率只有78%換了ResNet50微調(diào)后漲到91%。差距就是這么明顯。原因是預(yù)訓(xùn)練模型的骨干網(wǎng)絡(luò)已經(jīng)在數(shù)百萬張圖上見過各種各樣的紋理、邊緣、形狀你只需要教它“這些特征像哪一類中草藥”而不是從零教它“什么是葉脈”。對于做畢業(yè)設(shè)計的同學(xué)我建議把這個對比做進實驗章節(jié)基礎(chǔ)CNN vs ResNet50微調(diào) vs VGG16微調(diào)三組在同一數(shù)據(jù)集、同一評價指標下的準確率表格這一頁的內(nèi)容比寫一千字的理論要更有說服力。要注意的是微調(diào)對比實驗一定要控制變量同樣的數(shù)據(jù)劃分、同樣的預(yù)處理、同樣的隨機種子。否則“遷移學(xué)習(xí)效果好”這個結(jié)論就很微弱。4.3 類別不平衡有的藥材圖多有的圖少網(wǎng)上扒圖的典型后果是薄荷圖好找扒下來300多張某種不那么大眾的藥材可能只有40張。此時如果不做任何處理模型會悄悄偏向樣本量大的類別甚至認為“不管見什么圖都猜薄荷”。處理類別不平衡有三個方法按易到難排圖像增強補齊對少數(shù)類做更強的旋轉(zhuǎn)、平移、光照擾動甚至做隨機裁剪后放回把它“湊”到接近多數(shù)類的數(shù)量。類別加權(quán)在訓(xùn)練時給少數(shù)類的loss乘以更大的系數(shù)。Keras里可以通過class_weight參數(shù)顯式指定from sklearn.utils.class_weight import compute_class_weight class_weights compute_class_weight(balanced, classesnp.unique(y_train), yy_train) class_weight_dict {i: class_weights[i] for i in range(len(class_weights))}收集更多數(shù)據(jù)這是最笨但最有效的方法。對少數(shù)類再采集一批圖片加入訓(xùn)練集。課程設(shè)計階段我用過最多的還是第一種。復(fù)制粘貼式增強雖然指標上略有虛高但在小數(shù)據(jù)量項目中是公認的近似手段答辯時如實說明就可以了。4.4 新照片識別不準預(yù)處理不一致首當其沖自己訓(xùn)練完拿去測試發(fā)現(xiàn)真實環(huán)境下一塌糊涂最常見的坑是“環(huán)境變了”。訓(xùn)練用的圖片可能是搜索引擎里干凈整齊的樣本測試時你用手機在室內(nèi)自然光下拍光線、角度、背景都不一樣這屬于典型的“領(lǐng)域差異”。我總結(jié)的排查清單是輸入尺寸和歸一化方式是否與訓(xùn)練時一致。圖片壓縮是否過于嚴重是否肉眼都看不清。攝像頭拍攝的EXIF旋轉(zhuǎn)信息是否有處理OpenCV的imread有時候讀出來是橫的而訓(xùn)練時都是正的。模型是否對背景敏感——葉子放大局部拍可能比整株植物拍更好識別這也解釋了為什么很多識別App都建議“拍局部、拍特寫”。4.5 訓(xùn)練速度太慢如果你只是在本機訓(xùn)練每一輪Epoch都可能要幾分鐘訓(xùn)練50個epoch會相當痛苦。我的建議有三個先小后大先用64×64輸入尺寸、少量數(shù)據(jù)跑通整個流程確認代碼和參數(shù)沒問題后再切回224×224正式訓(xùn)練。用GPU如果你的顯卡是普通入門級也夠用訓(xùn)練速度能提升幾十倍。減少不必要的Epoch多數(shù)任務(wù)在驗證集達到峰值后繼續(xù)訓(xùn)練毫無意義依靠早停能省掉一半以上的時間。4.6 模型文件保存與加載訓(xùn)練好后記得保存完整模型或權(quán)重三種方式我都用過model.save(herb_model.h5) # 保存整個模型結(jié)構(gòu)權(quán)重 model.save_weights(herb_weights.h5) # 僅保存權(quán)重 # 推薦保存完整模型預(yù)測時不需要重新構(gòu)建結(jié)構(gòu)如果是遷移學(xué)習(xí)模型最好連帶預(yù)處理方式一起記錄在一個config.json里。我見過不止一個同學(xué)來答辯時拿著一個只有文件名的.h5卻完全想不起來當初歸一化用的尺度。規(guī)范的筆記是保障項目可復(fù)現(xiàn)的基本素養(yǎng)。5. 答辯展示與項目深化思路5.1 答辯PPT怎么講清楚這個故事很多同學(xué)項目做得不錯答辯卻講成流水賬先裝環(huán)境再寫代碼最后有準確率。這不是講故事的方式。中草藥識別項目答辯建議按“為什么→怎么做→做成什么樣→還能怎么提升”的邏輯來講簡單來說就是用“問題驅(qū)動”代替“過程驅(qū)動”。引言部分講清楚中草藥識別對日常生活的意義普通人認不全、資深藥師也有記憶盲區(qū)、移動端拍照識別是剛需。方案部分講清楚為什么選擇CNN為什么不用傳統(tǒng)圖像識別。實現(xiàn)部分講網(wǎng)絡(luò)結(jié)構(gòu)和數(shù)據(jù)準備重點突出“你在每個環(huán)節(jié)做了什么決策、為什么”。結(jié)果部分展示準確率和混淆矩陣別怕展示錯誤——反而是分析錯誤類別的過程最能體現(xiàn)項目的深度和思考。有一個特別實用的技巧答辯之前準備一張“失敗案例圖”。挑一張識別錯的圖片分析模型為何錯并說明可以做哪些改進。老師在答辯時最喜歡問的就是“你這個項目有什么不足”這個問題答得好是很大的加分項。5.2 可擴展方向從固定分類到開放識別識別固定40類藥材只是課程設(shè)計的及格線。如果你有興趣做得更深入我列出幾個可擴展方向從分類到檢測目標檢測模型如Faster R-CNN、YOLO可以從復(fù)雜圖片中把藥材區(qū)域框出來再分類適配的實際場景更貼近“田間拍攝、自然場景找藥材”。從單圖到多圖融合不同藥材可能在根、莖、葉、花上差異明顯可以把多個部位圖輸入一個多路網(wǎng)絡(luò)做綜合判斷。從圖片到文本識別結(jié)果結(jié)合藥材知識庫輸出“性味歸經(jīng)、功效、用法、禁忌”直接做成一個問答式的中藥知識助手。那時候項目的實用性和交互性會大大提升。部署到移動端用TensorFlow Lite的轉(zhuǎn)換把模型部署到手機端或嵌入式端。課程設(shè)計到這一步已經(jīng)屬于“向工程實踐靠攏”的加分項。半監(jiān)督學(xué)習(xí)網(wǎng)上大量弱標注數(shù)據(jù)未充分利用可用偽標簽或?qū)Ρ葘W(xué)習(xí)的方法挖掘未標注數(shù)據(jù)的價值。對本科階段而言能完成其中任意一個擴展方向并跑通演示就已經(jīng)超過絕大多數(shù)“為了交差”的同類項目了。5.3 關(guān)于評分標準的一點個人判斷不同學(xué)校、不同老師的評分偏好差異極大但有幾個共性要素幾乎是公認的流程完整度數(shù)據(jù)處理→訓(xùn)練→評估→預(yù)測的閉環(huán)、規(guī)范程度代碼注釋、目錄結(jié)構(gòu)、實驗記錄、可視化曲線圖、混淆矩陣、真實圖片演示、分析深度基于結(jié)果能提出改進方向。這四個要素抓好了分數(shù)都不會差。不過我也想潑一盆冷水課程設(shè)計階段不要追求遙遙領(lǐng)先的技術(shù)指標。你的目標是“證明自己掌握了基礎(chǔ)原理和工程流程”而不是“訓(xùn)練出比論文SOTA更好的模型”。項目周期有限的情況下把基礎(chǔ)CNN調(diào)優(yōu)到85%以上配合遷移學(xué)習(xí)對比已經(jīng)是很扎實的工作量了。與其花大量時間無節(jié)制地調(diào)參堆疊不如把精力放在把項目里已有的成果講透、把特征可視化的圖做漂亮。6. 寫在最后的實操經(jīng)驗做這個題目最容易讓初學(xué)者誤判的是“時間都花在模型上”。但以我的實際經(jīng)歷來看這類圖像識別項目最大的時間黑洞永遠是數(shù)據(jù)整理——下載、清洗、重命名、統(tǒng)一格式、調(diào)整增強參數(shù)。曾經(jīng)有一次我在圖書館連著蹲了一個周末凈收益只是把某個類別的“廢圖”從兩百張里刪到一百三十張但這直接拉升了模型近4個百分點的驗證集準確率。所以你如果問我要一條核心建議那就是數(shù)據(jù)質(zhì)量決定模型上限調(diào)參只決定模型能否接近這個上限?;ㄔ跀?shù)據(jù)上的功夫永遠不吃虧。另外項目過程記錄很關(guān)鍵。我給所有做課程設(shè)計的同學(xué)一個通用建議從拿到題目的第一天起建立兩個文檔一個叫《實驗日志》另一個叫《問題清單》。每天記錄做了什么操作、得到什么結(jié)果每遇到一個報錯或異常就把現(xiàn)象、排查步驟、最終解法記下來。答辯時老師問“你遇到過什么問題嗎”你隨手就能舉出一個完整的排查經(jīng)歷比“沒遇到什么問題訓(xùn)練很順利”這種回答可信度高得多。而且寫畢業(yè)設(shè)計論文時這些日志會變成你“第三章實驗”和“第四章結(jié)果分析”最現(xiàn)成的素材寫起來輕松好幾倍。最后再分享一個小技巧訓(xùn)練完成后給你的模型取幾個不同的版本名字——比如“v1_baseline_cnn”、“v2_resnet50_finetune”、“v3_augmented”——按時間存好。做實驗最忌諱的是“這個h5文件是剛才調(diào)過參的嗎還是昨天那個”版本管理做得越清楚后面越省事。這套方法不止適用于中草藥識別任何以“訓(xùn)練模型”為核心的課程設(shè)計或畢業(yè)設(shè)計項目都能直接用上。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色五XX| 日日噜噜夜夜狠狠久久丁香六月| 欧美精品中文字幕亚洲专区| 色婷五月天| 五月香蕉网| 在线1青婷| 99天堂网| 五月天婷婷视频30| 日韩草草草草草草草草草草草草| 无码激情AAAAA片-区区| 伊人五月天在线| 伊人五月天男人的天堂在线| 五月天开心色情网| 色婷婷五月天视频网站| 九九热在线观看6| av操逼网| 中文字幕人成乱码在线观看| 五月天激情婷婷久久| 99九九99九九九视频精品| 婷婷五月激情在线| 五月天婷婷影院影院| 婷婷香五月天| 亚洲天堂色色| 五月丁香花视频| 激情五月天网页| 少妇搡BBBB搡BBB搡毛茸茸| 99噜噜噜在线播放| 久热一区| 天天插综合网| 另类激情综合| 六月丁香五月天| 久色婷婷200| 都市激情蜜桃婷婷五月天| 大香蕉久热| 人妻aV在线| 色欲日日躁| 久久五月激情综合| 九九自拍网| 婷婷六月爽| 五月天激情综合| 婷婷丁香成人在线视频| 九九综合网色全集| 大香蕉大香蕉在线影院| 韩国中文字幕91| 性爱AV天堂| 精品日本视频444| 深情六月婷婷综合久久| 综合色图婷婷| 20253AV| 四LLL少妇BBBB槡BBBB| 99热这里只有精品在线播放| 同性gv国产精品一区二区| 五月色情婷婷开心五月色情| 久久色午夜在线导航| 超碰大香蕉网| 色噜噜婷婷| 久久丁香| 99热99草97| 中文字幕在线免费观看视频| 五月草视频| 综合99久久天天综合| 五月天伊人| 中文字幕在线观看视频www| 五月丁香六月婷婷久久久综合| 成人片在线免费看| 99自拍视频在线观看| 色婷婷a三区麻| 丁香五月婷婷成人综合| 美女va| 婷婷日在线观看| 丁香五月开心亚洲| 五月丁香六月激情综合| 夜夜操夜夜姧| 婷婷五月婷婷| 97人人草| 色五婷婷| 精品久久99| 2015好吊操| 六月激情婷婷综合| 99成人精品六| 狠狠色噜噜狠狠狠狠综合| 婷婷丁香五另类网站| 提提热五月天婷婷| 成年人最刺激的综合网| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 另类小说五月天激情| 碰人人97| 伊人久久婷| 九九九热精品| 日韩AV色色色| 大香线蕉伊人| 99无码视频| 99年操人人爽| 丁香五月欧美婷婷| 丁香五月婷婷综合激情哟哟哟| 亚洲激情久久| 婷婷综合中文| 日本欧美在线| 五月婷婷婷婷婷| 日本五月天婷婷丁香| 超碰renrenai| aa久久| 激情五月综合网| 丁香五月婷婷激情四射深爱激情| av在线资源| 丁香五月av| 岛国AAAV| 成人永久免费视频在线观看| 综合 蜜月 婷婷| 激情综合网五月婷婷| 97色片| 五月停停直播| 大香蕉婷婷五月天| 大香蕉九九| Caoub青青超碰| 丁香五月电影| 六月婷婷av| 天天日天天舔| 另类激情综合| 久久精品系列| 色婷婷久久9.com| 亚洲免费看片| 99re热在线视频| www.seqingwuyuetian| 欧美内射AA| 超碰免费观看| 欧美激情-区二区三区| 五月天四色房丁香| 丁香久久久| 六月成人网| 九九热10| www99精品| 人人操操97| 五月天激情小说电影| 五月丁花色综合网| 国产一区二区三区影院| WWW免费视频碰碰碰碰| 六月婷婷综合| 99热99在线| 丁香五月婷婷操逼| 伊人久久五月天综合| 中文av网站| 色区域网站视频| 另类专区在线观看| 亚洲va欧美| 精品无吗va视频免费观看| 丁香五月大香蕉AV| 蜜臀av无码久久久久久久久| 国产色99| 五月婷婷综合影院| 1024操逼视频| 大香蕉五月天| 婷婷99| 欧亚洲在线高清视频| 天天色综合色| 大香蕉婷婷婷| 色五月婷婷影院| 五月婷婷综合天天操| 3p久久| 99这里都是精品6| 九九色video| 五月婷丁香亚洲| 538在线精品| 狠狠做五月婷婷| 欧美色频| 国产日日操夜夜操的肉棒视频| 色色五月婷婷久久| 久久网站免费亚洲| 成人片黄网站色大片免费毛片| 大香蕉七区| 5月丁香啪啪啪| 日韩有码一区| 另类天堂| 色欲五月婷婷| 色欲久久久久久综合网综合网| 六月丁香五月婷婷首页| 日本综合久久| 久久996re热这里只有精品无码| 欧美丁香五月| 久久电影4399| 99久久久免费| 精品视频这里只有精品| 婷婷九月综合| 婷婷五月天综合激情| site:wpjngj.com| 公的粗大挺进了我的密道| 玖玖婷婷色五月| www.色五月.com| 98热精品| 天天爱天天爽| 欧美激情凹凸丁香网| 五月婷中文娱乐综合| WWW久久99久久99久久| 啪啪99| www.henhengan| 婷婷五月天毛片| 激情四射网| 久九色| 黄色AV日韩| 婷婷五月天成人动漫| 综合激情五月丁香| 婷婷五月天精品| 97五月久久丁香婷婷| 九九色热| www久久久久久久97| 噜噜噜噜综合在线| 丁香 婷婷五月| 人人操人人妻| 欧美在线| 狠狠爱婷婷丁香| 中文字幕在线免费观看视频| 综合婷婷| 四季日韩AV无码综合| 五月天久久综合婷婷丁香| 色五月激情五月| 五月色无码| 色噜噜婷婷| 包操45分钟网站| 国产在线网| 综合久久六月| 丁香五月1页| 亚洲第一色网站| 丁香婷婷久久 | 丁香 婷婷五月| 在线看黄色| 九九视频在线观看视频6 | 亚洲国产精品五月天| 亚洲精品视频在线| 色婷婷激情| 色婷婷欧美| 五月婷婷久久爱| 思思热视频| 玖玖资源站蜜臀| 激情宗合哪里能看| 丁香综合婷婷开心激情网| WWW.婷婷| 五月丁香激情综合| 久久久久久久久99精品| 侠女刀之记忆电影在线看免费| 精品人人操| 色狠狠色综合| 久久99视频| 色婷婷五月天在线观看| 色五月大香蕉| 午夜大香蕉| 色婷婷电影网| 五月丁香六月色| 99精品无码网站| 99视频35精品视频在线观看| 超碰婷婷色| 久热免费视频| 色欲天天综合网| 成片免费播放| 五月天六月色| 国产亚洲99久久精品| 九九精品大香蕉| 色五月人妻| 伊人啪啪网| 婷婷综合五月激情| 婷婷五月天成人在线视频| 色伊人91在线视频| 99色| 嫩草AV久久伊人妇女超级A| 激情五月婷婷综合色播小说| 日韩另类| 蜜臀A∨在线水帘洞| 久草婷| 五月婷婷丁香日韩在线| 丁香五月天啪啪| 天天日天天色| AA片在线观看视频在线播放| 色爱五月天| 丁香五月天堂| 五月婷婷亚洲天堂激情在线| 久婷五月| 久久女人天堂| 国产人妻777人伦精品HD| 99在线精品免费视频| 国产成人AV在线播放| 99视频久久免费视频| 久久综合婷婷五月| 色久影院| 婷婷五月天伊人在线| 五月婷婷成人| 99热这里只有精品21| 婷婷五月在线| 91久久五月天| 人妻激情视频| 丁香五月图片| 舔色婷婷| 亚洲精品视频在线| 日本少妇AA一级特黄大片| 欧美性做爰大片免费看办公室| 色5月婷婷| 天天综合色丁香| 79精品视频在线观看,| 久热99| 天天肏在线观看| 激情五月视频在线婷婷| 综合五月天亚洲婷婷| 久色网址| 五月好婷婷| 亚洲热热视频| 中文无码婷婷| 婷婷碰碰| 99人这里只有精品| 久久五月天网| 久久婷综| 色99网站| 日本韩国视频在线观看社区免费的9| 日本人妻A片成人免费看片| 久久婷婷热| 日日做A爰片久久毛片A片英语| 任你草| 黄色录像网点| 五月婷婷激情四季| 亚洲六月色| 日韩欧洲亚洲| 婷婷五月丁香性爱| 五月天 综合 在线| 久久久婷婷五月亚洲97号色| 久久国产色| 久久ri精品视频| 婷婷五月天激情网| 第四色五月天| 丁香88AV五月婷婷| 热这里只有精| 九九AV| 淫视馆av三区| 婷婷五月天直播| 激情综合网激情五月天| 五月婷丁香| 五月6香色婷婷视频| 六月婷婷综合网2| 国产原创视频91九色| 国产精品美女久久久久AV超清| 丁香五月婷婷色情综合| 四色女婷婷| 婷婷五月天激情诱惑| 综合亚洲五月天| 丁香六月久久| 色色色色色色色色色999| 人人操91| 亚洲中文字幕翔田千里| 91碰免费视频| 久久久五月天| 天天橾夜夜爽| 日产精品久久久久久久蜜臀| 色爱综合五月| 麻豆五月丁香婷婷| 99爱视频在线观看这里只有精品| 欧美va在线| 亚洲激情婷婷| 国产免费一区二区三州老师F1……| 五月天玖玖狠狠色色| 婷婷六月开心网| 五月大香蕉| 99热在线精品观看| 99精品久久久久久久婷婷| jiZZdr| 色婷操逼| 综合AV在线| 亚洲国产黄色电影| 日日操日日射| 久久受www免费人成| 色婷婷色| 14色综合婷婷| 亚洲av免费在线| 丁香五月AV| www.com色播五月天| 天天爽在线视频| 五月色网| 无码髙清| 天天爱天天狠天天透| 操b视频在线观看一区二区| 亚洲激情网| 97精品综合久久| 日韩成人电影Av| 色婷婷色五月另类综合| 五月天激情视频网站| 免费日韩99| 丁香九月婷| 99精品视频偷拍| 青青日韩| 另类五月激情| 丁香五月婷婷基地| 综合激情网激情五月。| 97色婷婷成人综合在线观看| 日本久久极品| 六月丁香五月婷婷| 婷婷综合一二三| 婷婷激情鹿城五月天| 婷婷99狠狠躁天天躁中| 操人视频91| 人人97碰| 襙比视频| 色在线99| 色播五月丁香| 这里只有精品免费视频| 亚洲欧洲美女在线观| 亚洲激情综合色站| 婷婷五月丁香色色| 99久视频| 婷婷五月天激情AV影院| 六月色婷婷| 五月天婷婷深深爱| 91碰超| 日本色色网| 精品99爱免费视频在线观看| 激情综合亚洲| 99久久久国产精品免费蜜乳tv| 日韩黄在免| 26uuu在线观看| 开心久久网婷婷| 婷婷综合久久| 婷婷丁香五月激情| 五月婷婷中文网| 五月天婷婷久草丁香| 天天做天天摸| 99噜噜噜在线播放| 婷婷成人AV| 国产精品国产成人国产三级| www.五月婷婷久久.com| 亚洲狠9| 91精品久久久久| www.思思99热| 丁香色五月婷婷17C| 婷婷午夜激情| 色色啊| 婷婷五月丁香综合亚洲| 色综合色综合色综合色综合| 99网址在线看| 99热亚洲综合| 人五月天婷婷喷水| 伊人激情AV一区二区三区| 99视频色在线观看| 亚洲激情| 日本一区二区三区精品视频| 日本三久久| 亚洲激情综合五月婷婷啪啪| 停停六月 综合| 免费视频无码| 婷婷五月天电影网| 五月天色婷婷激情| 婷婷五月天综合中文| 婷婷五月开心六月AV| 激情五月色婷婷| 久久99这里只有精品视频| 久9综合| www.婷婷| 开心五月深爱五月| 五月丁香影院| 人人操AV| 99爱在线视频| 精品人妻伦一二三区久久| 五月香婷婷| 中文字幕av网站| 午夜69成人做爰视频| 婷婷五月婷| 婷婷六月伊人| 色色综合视频| 亚洲另类噜噜| 开心激情五月天网| 亚洲男女激情| 五月婷丁香| 色亭亭五月天丁香综合AV - 百度 - 百度| 久久婷婷亚洲五月天| 日本在线视频播放91| 狠狠狠狠狠干| 婷婷伊人綜合中文字幕| 青青草五月天| 亭亭色网| 开心激情网五月天| 色婷五月天| 26uuu欧美| 亚洲精品婷婷| 丁香五月婷久久| 婷婷色综合| 丁香五月天堂网| 99在线亚洲| 亚洲俩性性爱图片久久第六页| 色射7856五月天激情四射| 狠狠色成人影片| 色五月婷婷五月天| 激情五月天电影| 泰州成人视频| 激情五月天小说| 婷婷五月天黄色小说| 丁香婷婷综合五月天| 超碰人人妻| 超碰99热精品| 狠狠色婷婷色| 婷婷五月激情五月丁香五月| 国内精品免费一区二区2009| 黄桃AV无码免费一区二区三区| 婷婷五月激情丁香| 能看的av网站| 婷婷六月丁香五月| 90色免费视频| 996精品热视频| 99无码视频| 色五月天天| 国产成人99久久亚洲综合精品| 丁香五月婷婷欧美成人色图| 狠狠干.com| 欧美日韩中国| 丁香五月婷婷www..com| 另类图片五月天| 日韩成人网址| 亚洲自拍天堂| jiujiu无码五区| 99免费视频网| 天天色天天操天天射| 色婷婷19| 97涩婷婷婷婷基地| 中文字幕在线播放视频| 日本色色网站| AV九九| 天天久久综合| 伊人久久艹| 性爱网五月天| 色爱爱综合网| 欧美噜噜免费观看| 欧美婷| 婷婷五月在线观看| 久久精彩免费视频| av最新在线| 日本a片网址| 婷婷丁香色五月| 欧洲色| 天天射影院| ww超碰在线| 五月丁香综合网| 激情深爱婷婷网| 激情网婷婷五月天| 天天日夜夜拍| 亚洲精品九九| 激情人妻综合| 久久婷婷激情视频| 日本强伦片中文字幕免费看| 97久久婷婷色| 99热这里只有99| 婷婷狠狠干| 亚洲无AV在线中文字幕| 婷婷六久久| 五月婷六月综合在线观看| 五月天伊人av| 欧美色五月| 九九精品9| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 欧美五月停| 日本黄色精品| 色五月婷婷天天操夜夜操| 亚洲AV影片在线观看| 亚洲精品无人区| 欧美A级网站| 久久看婷婷| 色综合久久之分久久| 东北熟女视频99| 天色综合网站| 国产FREESEXVIDEOS性中国| 久草x色在线观看99| 九九人人自拍| 婷婷六月激情| 日本婷久久| 91精品国产色猫| 丁香婷婷五月天亚洲| 四色五月婷婷在线观看| 天天干天天插| 大香蕉手机视频| 丁香五月香蕉| 日韩色色色色色| 91精品综合久久久久久五月丁香| 超碰免费人人肏| 99久久亚洲精品视频| 99热日韩| 色日本颜射| 婷婷性爱无码视频| 噜噜噜噜在线| 碰碰碰碰碰99| 久久久久久人妻久久久久久久久久人妻久久久 | 大香蕉九九| 日韩九区| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 9在线9在线婷婷在线国产| 婷婷激情中文综合| 五月丁香影视| 婷婷五月天亚洲图片| www.91久久| 欧美性爱五月天| 91碰碰| 久久99热这里只有| 666555。COm毛片| 天天天日天天天干| 九色激情网| 大香蕉久艹| 欧美在线骚货| 国产av第一专区| 精品人妻在线| 久思思久视频| 五月婷婷 激情按摩| 777.色色| 色婷婷色综合| 亚洲色久| 日日夜夜狠狠| 激情综合另类| 老美AA片| 五月丁香成人网| 97碰在线| www.91久久| 五月之婷婷| 激情綜合網址| 91色五月| 丁香五月瑟瑟| 一本色道久久综合狠狠躁小说| 综合网五月天123| 国产亚洲99久久| 日本三级韩三级99久久| 激情久久久久| 天天干天天av天天射| 开心色五月天久久久久久久| 婷婷五月天基地| 丁香五月天五码婷婷| av大香蕉| 热99免费在线| 色婷婷五月天激情综合| 九九综合九| 99超级碰碰| 天天天天天操| 黄色精品五月婷婷| 五月丁香啪啪| 五月婷婷六月天| 激情综合网,婷婷五月天| 日本不卡一区二区三区| 人人舔天天| 亚洲操逼网| 色婷婷91激情小说| 天天干天天插| www.色综合| 综合激情深爱| 婷婷丁香人妻| 亚洲婷婷视频| 人人九色| 五月婷婷综合社区| 婷婷中文字幕欧美| 婷婷五月丁香基地| 日日干日日| 五月丁香婷婷激情| 这里只有精品视频在线观看免费| 变态 另类 在线| 婷婷色网| 久操婷婷| 欧美日本黄色| 97欧美在线| 四色AVwww| 呦呦v线| 最新日本A片| 五月丁香六月婷婷啪啪| 免费观看全黄做爰的视频| 久热A| 欧美黑人巨大猛烈cuckold| 久久婷五月影院| 少妇AB又爽又紧无码网站| 99小精品| 久久综合网免费视频| www.91五月| 国产亚洲精品AAAAAAA片| 亚洲激情.com| 99热情这里只有精品在线播放| 97在线观视频免费观看| 丁香五月婷婷亚洲综合精品| 这里只有精品99www| 亚洲天堂无码| 伊人9在线| 丁香六月激情毛片| 激情綜合網址| 久久免费操| 五月丁香婷婷综合视频| 色亭亭影园| 日本欧美成人片AAAA| 99热久草| 亚洲中文av| 色色性爱视频| 国内外色色色色色成人视频| 五月天色社区| 婷婷五月天综合在线| 三十路磁力链接| 婷婷天天综合| 丁香五月综合网亚洲综合欧美狠狠 | 亚洲第一色色色色| 久久66精品| 色青五月天| 亚洲综合婷婷六月丁香五月| 干亚洲天堂| 天天色天天干天天插| 噜噜色天天开心| 丁香婷婷人妻| 久久久久亚洲A∨成人乱码电影| 天天综合网~91综合网| 91在线资源| 五月天婷综合| 婷婷丁香五月天婷婷| 超碰伊人碰婷婷五月| av操B网站| 久啪欧美| WWW色综合| 天天爱天天做天天爽| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 91超碰在线观看| 欧美性二区| 伊人深爱综合| 97碰碰在线观看视频| 激情小说五月欧美亚洲丁香| 噜噜噜精品欧美成人在线观看| 五月天国产成人| 五月丁香天天| 婷婷五月天亚洲精品| 五月激激网w'w'w| 精品久久66| 久久激情五月| 久久A极片| 婷婷中文字幕在线| 五月天婷婷六月激情网| bbwcuckold精品熟妇| 99re在线观看| 亚洲久久婷婷| 亚洲av综合网| 色色色色丁香| 婷婷五月天综合激情| 色婷婷基地| 婷婷瑟瑟五月天| www.日日夜夜.com| 五月天激情黄色网址| 五月天激情图片网| 管管補管管紱| 久99| 色婷婷文字幕| 97韩国久久电影院| 色色色9| 丁香五夜激情四射夜夜夜| 性爱网六月丁香| 日本人妻丁香婷婷久久寝取熟女五月| 无码动漫av| 日韩AV免费电影在线播放| 伊人大综合| 久久五月视频| 久久伦乱| 久久久国产精品黄毛片| 夜色热久| 97久久精品| 99A片| 亚洲色就是色色色| 久热这里只有精品在线观看 | 五月丁香婷婷欧美色图视频五月丁香777电影 | 婷婷五月另类网站| 久婷婷五月激情| 五月丁香六月香香蕉| 操99| 日本a片网址| 婷婷色在线播放| 久久日婷婷| 久久人人人人妻| 日本狠狠色| 97人人操人人干| 五月天婷婷成人网| 91操在线观看| 丁香五月另类小说| 久久看九九90| 日本特黄aaaaa| 五月丁香啪啪| 欧美日韩成人| 99热婷婷| 婷婷色色五月天| 97操视频| 色停停香蕉视频| 九色无码| 99热热这里只精品996小说| 丁香综合伊人| 99视频| 婷婷五月花免费视频在线| 婷婷六月伊人| 五月婷婷久久网| 伊人午夜综合色啪| 亚洲岛国电影| 妻久久人久久| 日本三日本三级少妇三级66| 婷婷五月天国产手机在线视频观看| 色亚洲激情| 在线看黄色| 殴美综合激情五月天免费视频| 久色激情| 色一情一乱一乱一区91| 丁香色综合| 色五月中文字幕| 婷婷五月天综合在线| 9色91视频| 激情五月,深深爱五月| 五月天.com| 婷婷 久综合| 色婷婷成人做爰A片免费看网站| 日本九九视频| 婷婷五月天激情网| 人人舔人人色人人高潮| 六月婷婷激情| 天天做天天爱天天摸| 91色色色18| 色10月婷婷视频| A片试看120分钟做受图片| 人妻av在线| 日韩av一区二区在线/日产精品久久久 | www.夜夜.com| av操一操| 99热99色| 五月天婷婷激情春色小说| 丁香五月性| 亚洲精品小视频| 亚洲成人九九九| 欧美一级色| 五月丁香婷中文字幕| 99这里都是精品| 久久深爱激情网| 懂色av蜜臀av粉嫩av永陈冠希| 五月天婷婷丁香六月| 国产精品涩涩涩视频网站| 狠狠搞五月天| 婷婷性爱五月天丁香网| 日日噜狠狠色综合久久| 国产真实乱了老女人视频| 婷婷五月天成人在线视频| 粉嫩av蜜桃av蜜臀av| 婷婷五月天中文字幕| 五月丁香六月情| 日本怕怕视频| 人妻体体内射精一区二区| 99在线免费视| www久久久久久| 99精品成人无码A片观看金桔| 国产人妻操逼| 久久99国产综合精品免费| 激情精品久久| 九九偷拍网| 免费无码毛片一区二区A片| 婷婷五月天激情文学小说| 五月天婷婷在线播放| 色九亚洲| 久久丁香综合精品综合| 五月婷婷久| 五月婷婷内射网| 99久久久久久www| 久久久久这里只有精品| 色婷婷丁香五月观看| 欧美大片免费播放器| www.minyis.com【JT】国内CDN落地页保证转化QQ2101460746 | 伊人免费视频9| 欧美三级黄色片久久| 在线色五月婷婷| 99福利视频导航| 六月综合婷婷开心伊人| 91seAV| 日本婷婷色日| 五月丁香综合激情| 欧美日韩成人高清在线| 婷婷激情五月天小说校园| 综合五月丁香六月婷婷| 伊人久久大香蕉网| 俺去也五月天| 影音先锋女人av鲁色资源网小说免费| 九九无毛| 久久九网| 色五月综合| 婷婷五月情| 综合伊人久久| 日本色五月婷婷| 丁香五月激情视频在线| 久久久日韩特色特黄AAAA| 激情综合网色播五月| 热九九精品| 91性人人| 亚洲精品又粗又大又爽A片| 中文国产五月天| 九九热视频网站| 激情综合五月激情17| 69凹凸成人综合网| 免费观看18视频网站| 国产成人99久久亚洲综合精品| 色综合九九| 婷婷的色色五月天| 国产综合81p| 噜噜五月天综合| 亚洲中文AV网站| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 色婷婷综合影院| 亚洲激情高潮| 啄木鸟黑丝一区二区| 91婷婷五月丁香碰| 9久久AV| 九九综合图片网| 成人国产网站| 先锋男人91资源| 日韩黄色电影| 欧美激情中文字幕| 九九热欧美| 天天看A片| 欧美成人Va| 久久婷婷五月国产色综合激情| 97人妻碰碰碰碰碰久久久久久| 色爱五月天| 婷婷综合| 夜夜操狠狠操| 日本44久久在线| 五月天婷婷激情六月久久| 99在线免费视频| 中文字幕成人| 九九色婷| 亚洲欧洲小视频9| 九色 在线| 五月婷亚洲精品AV天堂| 99re免费在线视频| 啪啪激情综合| 婷婷激情五月天激情在线| 欧美色色色色色色色色色色| 婷婷丁香无码专区| 五月婷婷激情综合| 五月丁香色停停啪啪啪| 九九99热| 五月婷婷基地| 婷婷丁香中文字幕| 色五月婷婷自拍| 99热国产| 99热这里有精品2| 色婷婷www| 九九热99热| 国产成人精品一区二三区熟女在线 | 五月婷婷视频| 精品色色| 97人人妻人人艹| 大香蕉五月天婷婷丁香91| 亚洲综合欧美色丁香婷婷888月图片 | 色婷婷色丁香色欲av| 五月婷婷 激情按摩| 色婷婷小说| 丁香97综合| 六月丁香大香蕉| 玖玖九九99| 天天综合图片| www.婷婷,com| 色婷婷成人做爰A片免费看网站| 欧美色五月| 玖玖99婷婷| 日本三级韩三级99久久| 99干视频| 天天射天天射一道本日本社区| 五月丁香成人日| 日本五月天激情| 99热99在线| 最新日韩久热免费视频看看| 999九九九久久久99HD| 综合玖玖偷拍| 热无码A∨| 另类精品视频在线观看| 另类专区在线| 激情五月最新网址| 操比激情五月综合| 亚洲五月天婷婷综合| 久久这里只| 五月天啪啪| 51精品国内探花| 九九热视频首页/这里只有精品| 一根材五月婷成人| 99操无码视频观看| OYIWbGcPu8H| 色色日韩网| 婷婷五月丁香色综合| 亚洲av日韩无码| 91九色 熟| www,五月天com| 香焦网五月天| 97色五月丁香婷婷| 深爱激情九九五月天| 色婷婷色五月综合| www.激情| 婷婷五月天Av| 国产美女视频久| 大香蕉久久久久久久久| 久99久精品| 永久精品| 五月天福利影院导航| 99久久五月天| 五月天激情美女久久| WWW,五月| 色五月激情综合网站| 久久曰曰| 丁香五月六月综合激情| 天天综合网站| 97操在线视频| 超碰在线视屏| 中文字幕精品推荐免费在线观| 色婷婷综合综合网| 五月丁香六月婷婷网| 久久久久9| 丁香婷婷人妻| 久热大香蕉| 噜噜噜狠狠色综| 九九大香蕉黄色影院| 亚洲亚洲人成综合网络| 97热超碰| 婷婷成人五月天成人文学| 婷婷99狠狠躁天天躁中| 欧美S码亚洲码精品M码| 九九大香蕉黄色影院| 丁香五月网络网络| 久久婷婷内射| www.色五月.com| 丁香五月久久| 婷婷色中文字幕| 超碰久热| 这里只有精品免费在线视频| 色色色.COM| www.久99| 九九免费精品| 碰99在线| 五月婷婷激情四月| 日本nghangse中文字幕| 欧洲亚洲免费视频9| 影音先锋四区| 亚洲啪啪视频| www.婷婷六月天| www.99热视频在线观看| 日本一道久久| 五月激情五月丁香| 噼里啪啦完整版中文在线观看| 激情五月色播五月| 蜜乳人妻一区二区三区| 伍月婷婷六月丁香| 欧美成综合在线观看| 丁香五月天在线直播观看| 日日综合网| 大香蕉中文| 丁香啪啪| 男人综合网| 在线日韩av| 综合婷婷五月天| 色婷婷影视| 久久99久久99精品免视看婷婷| 玖玖五月丁香| 色婷婷小说网| 啪啪五月天啪啪| 色婷婷综合在线| 婷婷久久丁香五月| 这里只有精品热| 亚洲超碰在线| 五月天天天操天天爽夜夜操| 五月丁香色| 天天操夜夜夜拍拍拍| 国自产拍偷拍精品啪啪一区二区| 日韩黄黄| 伊人久久丁香五月91| 热99久久这里只有精品| 黑人巨粗进入警花疼哭A片| 久久久er热| 久久日婷婷| 激情综合网五月激情| 九色PORNY自拍成人精彩视频| 91视频五月丁香| 五月份婷婷| 九月婷婷人人操人人舔人人爱| 五月丁香六月婷婷亚洲视频| 丁香婷婷五月份| 色色色地址| 久久婷五月综合色| www.yw色| 另类少妇人与禽zOZZ0性伦| 激情网 五月天| 久久婷婷激情四射五月天| 色五月婷婷老师| 提提热五月天婷婷| 黄色片精品| 婷婷五月色综合香五月| 十二区无码| 久久天堂网| 玖玖资源站蜜臀| 99 r热| 另类视屏| 久久受www免费人成| 永久AⅤ1| 色五月婷婷久久爱| 最新日韩久热免费视频看看| 69久久99精品久久久久婷婷| 51XX午夜影福利| 亚洲人成网站999久久久综合| 色婷久| 免费观看的AV| 五月丁香六月婷婷,婷| 能看的av| 久久三级视频| 五月丁香网站| 天天成人丁香美女AV| 九九热青青草| 97精品人人A片免费看| 婷婷五月噜噜| 丁香九月婷婷综合| 在线超碰精品| 丁香五月大香蕉在线99| 精品成人a v无码内射| 久久久久8888| 国产AV一区二区三区最新精品| 天天综合网网欲色| 人人爱天天摸摸天天爱| wwwav大香蕉| 91超级碰碰碰| 婷婷五月情天| 日日操,天天操| 婷婷深爱色五月| 国产精品电影| w婷婷五月婷婷w| 在线不卡的视频| 日本二级毛片二级毛片| 色综合久久中文| 深爱激情六月天| 婷婷五月天成人网站| 婷婷综合五月| 98永久精品| 亚洲婷婷五月| 亚洲黄色av网站| 丁香婷婷婷| 丁香花狠狠婷婷亚洲中文字幕| 天天色图| 婷婷综合激情| 99热亚洲精品| 丁香五月婷婷啪| 特黄三级又爽又粗又大| 国产操B| 欧美大片免费观看| 69精品人人人人| 在线播放成人网站| 五月天婷婷基地| 天天色视频| 天天日天天爽| 免费做A爰片77777| 日日夜夜狠狠| 日韩人妻AV在线| 大香蕉久久综合网| 97超碰,人人舔,人人操,人人摸 | 五月丁婷香| 91啪啪视频| 日本99久久| 天天拍夜夜撸| 久久婷婷欧美| 五月丁香激情在线| 中文av网| 国语精品探花| 激情五月天偷拍综合网| 99久久思思| 婷婷瑟五月天久久综合| 丁香五月婷婷久久综合激情网| 激情五月天福利| 日本97久久久精品| 伊人婷婷99热精品| 亚洲日比视频| 丁香六月成人| 欧美69久成人做爰视频| 中文字幕视频在线播放| 婷婷亚洲欧美丁香五月| 丁香激情网| 婷婷五月六月丁香| 成人国产欧美大片一区| 大香蕉啪啪啪| 免费观看全黄做爰的视频| 97干在线| 日曰躁夜夜躁2026| 青青操丝袜美腿| 五月婷婷基地| 色天天综合色| 深爱婷婷丁香五月激情| 六月天六月婷| 综合网亚洲| 精品久热| ai97re99一本| 92久久| 天天干天天干天天干天天干天天干天天干天天 | 六月丁香婷婷六月激情综合| 日韩砖区| 六月丁香婷婷综合在线| 天天日,天天射,天天舔| site:ornaments52.com| 国产精品蜜臀99| 最新色色五月天| 综合五月亭亭9| 成人在线99| 五月丁香成人网| 播播网色播播| 亚州第一A片| 色婷婷五月色| 永久AⅤ1| 五月天激情综合| 日日夜夜干| 在线看av| 伊人婷婷色激情丁香| 欧洲一区二区| 深爱五月激情网| 国产精品久久久海的味道| 99热免费在线| 天天日天天舔| 色一情一乱一乱一区9| 射琪琪| 五月综亚洲| 久大香蕉| 极品精品一区二区三区在线| 久久婷鲁| 日本五月婷婷久久久六月丁香| 激情五月天丁香| 婷婷瑟瑟五月天| 国色天香成人网| 1区2区视频| 日夜夜久久| 99精品在线| 色玖玖玖| 这里只有精品免费观看网占| 五月婷婷婷婷| 五月天成人综合| 久久九九热38| 色黑鬼导航| 久久久性爱视频| 婷婷五月天久草在线| 亚洲成人网站在线播放| 九九热av| 婷婷五月激情的图片| 激情婷婷| 99偷拍视频在线日本| 97干在线| 五月丁香激情婷婷| 国产毛片欧美毛片久久久| 伊人大香久久| 久久久久99精品成人片| 久久偷拍综合五月天| 天天操夜夜橾| 国产乱人偷精品人妻A片| 26uuu色五月| 色婷婷五月天成人网| 天天噜| 丁香五月天社区婷婷| 九九伊人网| 五月婷婷香| 日本9区视频| 亚洲精品五月| 日韩成人影片网站| 天天综合图片| 色婷婷电影| 久久这里精彩免费在线观看| 久久这里只有欧美| 久草热8精品视频在线观看| 91丨九色丨熟女|老版| 97视频91| 操逼六区| 激情综合在线观看| 国产97色在线 | 日韩| 99这里有精品视频| 超级碰91| 尔尔AV一区| 丁香五月先锋| 久久99精品久久久久久三级| 亚洲乱码精品久久久久..| av激情在线| 婷婷丁香亚洲色综合91| 丁香五月婷婷av影院|