欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

深度學(xué)習(xí)天氣預(yù)報(bào)系統(tǒng)實(shí)戰(zhàn):時(shí)序預(yù)測(cè)模型構(gòu)建與調(diào)優(yōu)全記錄

深度學(xué)習(xí)天氣預(yù)報(bào)系統(tǒng)實(shí)戰(zhàn):時(shí)序預(yù)測(cè)模型構(gòu)建與調(diào)優(yōu)全記錄 簡(jiǎn)介本資源是一套基于深度學(xué)習(xí)的天氣預(yù)報(bào)系統(tǒng)研究與應(yīng)用實(shí)踐代碼包面向人工智能、氣象信息處理及Python深度學(xué)習(xí)方向的中高級(jí)學(xué)習(xí)者與科研人員旨在解決傳統(tǒng)天氣預(yù)報(bào)中非線性建模難、多源異構(gòu)數(shù)據(jù)融合弱、時(shí)空特征提取精度低等核心問(wèn)題。壓縮包共161個(gè)文件包含42個(gè)Python主程序含CNN/LSTM混合模型實(shí)現(xiàn)、衛(wèi)星云圖處理、時(shí)序預(yù)測(cè)模塊、23個(gè)編譯緩存文件pyc、8個(gè)預(yù)訓(xùn)練模型pth/pkl、10張可視化結(jié)果圖png/jpg及C底層加速組件cpp/h文件整體大小為136.81MB。資源已獲63人下載學(xué)習(xí)涵蓋從數(shù)據(jù)預(yù)處理、多模態(tài)網(wǎng)絡(luò)搭建、模型訓(xùn)練到氣象可視化全流程特別包含VarFlow光流法氣象運(yùn)動(dòng)分析、yos_img系列云圖樣本及demo動(dòng)圖演示結(jié)構(gòu)清晰、模塊解耦可直接用于課程設(shè)計(jì)、科研復(fù)現(xiàn)或工程原型開(kāi)發(fā)。 有人發(fā)給我一份壓縮包標(biāo)題叫“基于深度學(xué)習(xí)的天氣預(yù)報(bào)系統(tǒng)研究應(yīng)用.zip”。我當(dāng)時(shí)的第一反應(yīng)是這年頭連天氣預(yù)報(bào)都要蹭深度學(xué)習(xí)的熱度了但真正解壓看完之后我發(fā)現(xiàn)這個(gè)項(xiàng)目的完整度比我預(yù)想的高不少而且踩過(guò)的坑、調(diào)參的經(jīng)驗(yàn)、環(huán)境配置的細(xì)節(jié)都很有代表性。我在這套東西的基礎(chǔ)上重新梳理了一遍做了不少補(bǔ)充實(shí)驗(yàn)把整體流程整理成一篇可以照著復(fù)現(xiàn)的文章。如果你是剛接觸深度學(xué)習(xí)、想找一個(gè)能落地的實(shí)戰(zhàn)項(xiàng)目或者想在時(shí)序預(yù)測(cè)領(lǐng)域試水這篇內(nèi)容會(huì)適合你。1. 項(xiàng)目整體設(shè)計(jì)與思路拆解1.1 為什么天氣預(yù)報(bào)會(huì)用到深度學(xué)習(xí)傳統(tǒng)天氣預(yù)報(bào)主要靠數(shù)值預(yù)報(bào)也就是用超級(jí)計(jì)算機(jī)求解大氣物理方程。這個(gè)過(guò)程極度依賴計(jì)算資源而且物理過(guò)程需要做大量參數(shù)化近似比如云的形成、降水過(guò)程、輻射傳輸這些參數(shù)化方案選得不好預(yù)報(bào)偏差就會(huì)很大。深度學(xué)習(xí)的思路完全不同它不從物理方程出發(fā)而是從歷史觀測(cè)數(shù)據(jù)里直接學(xué)習(xí)氣象要素之間的映射關(guān)系。用一個(gè)通俗的類比來(lái)說(shuō)數(shù)值預(yù)報(bào)像是靠物理定律推算明天會(huì)不會(huì)下雨而深度學(xué)習(xí)像是靠“過(guò)去幾千次類似天氣過(guò)程最后都發(fā)生了什么”來(lái)推斷。前者更嚴(yán)謹(jǐn)后者在數(shù)據(jù)充足時(shí)更快、更省資源而且在某些局部場(chǎng)景下精度并不差。這個(gè)項(xiàng)目本身的目標(biāo)也很清晰輸入歷史氣象觀測(cè)數(shù)據(jù)輸出未來(lái)一段時(shí)間的氣溫、降水量等關(guān)鍵氣象要素。它不是一個(gè)試圖替代數(shù)值預(yù)報(bào)的大工程而是一個(gè)用深度學(xué)習(xí)模型做氣象要素預(yù)報(bào)的研究型應(yīng)用。這樣做的好處是門檻可控單張消費(fèi)級(jí)顯卡就能跑通而且數(shù)據(jù)、模型、評(píng)估都可以閉環(huán)驗(yàn)證。1.2 系統(tǒng)整體架構(gòu)與模塊劃分我習(xí)慣在動(dòng)手之前先把整個(gè)系統(tǒng)拆成幾個(gè)相對(duì)獨(dú)立的模塊這樣后續(xù)調(diào)試和擴(kuò)展都不會(huì)把自己繞暈。這套系統(tǒng)的核心模塊大致分為四層數(shù)據(jù)層、特征層、模型層和服務(wù)層。數(shù)據(jù)層負(fù)責(zé)原始?xì)庀髷?shù)據(jù)的采集與清洗包括站點(diǎn)觀測(cè)數(shù)據(jù)、再分析資料等特征層負(fù)責(zé)把原始數(shù)據(jù)轉(zhuǎn)換成模型能吃的格式包括滑窗切分、缺失值處理、歸一化、數(shù)據(jù)集劃分模型層是核心負(fù)責(zé)定義網(wǎng)絡(luò)結(jié)構(gòu)、損失函數(shù)、訓(xùn)練循環(huán)以及模型評(píng)估服務(wù)層則負(fù)責(zé)把訓(xùn)練好的模型包裝成可調(diào)用的接口比如輸出未來(lái)24小時(shí)的溫度曲線或降水概率。每一層之間用標(biāo)準(zhǔn)的數(shù)據(jù)格式銜接前一層改動(dòng)不會(huì)影響后一層。這個(gè)設(shè)計(jì)看著簡(jiǎn)單但實(shí)際操作中非常關(guān)鍵因?yàn)轫?xiàng)目一旦開(kāi)始迭代你最怕的就是改一處壞一處。從模型角度看氣象預(yù)測(cè)本質(zhì)上是一個(gè)時(shí)空序列預(yù)測(cè)問(wèn)題。單站點(diǎn)的氣溫預(yù)測(cè)更偏時(shí)間序列多站點(diǎn)的氣溫場(chǎng)預(yù)測(cè)則同時(shí)涉及空間特征提取和時(shí)間依賴建模。這個(gè)項(xiàng)目采用的是單站點(diǎn)多變量輸入因此重點(diǎn)放在時(shí)間維度上的特征提取模型結(jié)構(gòu)主要圍繞循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的組合展開(kāi)。2. 數(shù)據(jù)準(zhǔn)備與特征工程2.1 數(shù)據(jù)來(lái)源與獲取方案數(shù)據(jù)是做氣象深度學(xué)習(xí)項(xiàng)目最基礎(chǔ)也最耗時(shí)的一環(huán)。這個(gè)項(xiàng)目使用的是公開(kāi)氣象數(shù)據(jù)集包括國(guó)家氣象科學(xué)數(shù)據(jù)中心提供的中國(guó)地面氣候資料日值數(shù)據(jù)集以及歐洲中期天氣預(yù)報(bào)中心提供的ERA5再分析資料。對(duì)于普通學(xué)習(xí)用途我建議優(yōu)先選擇歷史觀測(cè)站點(diǎn)數(shù)據(jù)因?yàn)樗袷胶?jiǎn)單、單位統(tǒng)一、不需要額外處理網(wǎng)格數(shù)據(jù)。我實(shí)際用的數(shù)據(jù)包含以下幾個(gè)字段日期、日最高氣溫、日最低氣溫、平均氣溫、降水量、平均氣壓、平均相對(duì)濕度、平均風(fēng)速、主導(dǎo)風(fēng)向。數(shù)據(jù)粒度是“日”也就是一條記錄代表某一天某個(gè)站點(diǎn)的整體情況。這樣處理起來(lái)簡(jiǎn)單模型也能快速出結(jié)果。如果你想做更精細(xì)的預(yù)報(bào)可以把粒度提升到小時(shí)級(jí)但數(shù)據(jù)量和臟數(shù)據(jù)量都會(huì)成倍增加不適合作為第一個(gè)項(xiàng)目。我寫了一個(gè)簡(jiǎn)單的下載和整理腳本核心思路就是按站點(diǎn)編號(hào)拉取數(shù)據(jù)統(tǒng)一字段名和單位最后保存成CSV格式。如果你有現(xiàn)成的數(shù)據(jù)文件直接跳過(guò)這一步也可以但一定要保證字段含義清晰尤其是降水量的單位有的數(shù)據(jù)集是毫米有的是0.1毫米這個(gè)坑我踩過(guò)一次差一位小數(shù)整個(gè)模型就廢了。2.2 數(shù)據(jù)清洗與缺失值處理氣象站觀測(cè)數(shù)據(jù)很少是干凈的缺測(cè)、異常、儀器故障都會(huì)引入噪聲。項(xiàng)目代碼里做了比較規(guī)范的清洗流程我把它拆成三步。第一步是缺失值處理。對(duì)于單日缺失我用前后兩天的均值做線性插值對(duì)于連續(xù)多日缺失比如超過(guò)一周我直接丟棄這一段不做強(qiáng)行填充因?yàn)檫B續(xù)幾天的插值會(huì)引入大量虛假信息模型會(huì)把“缺測(cè)”當(dāng)成一種規(guī)律。第二步是異常值剔除。我會(huì)把某個(gè)變量的值落在均值加減三倍標(biāo)準(zhǔn)差之外的樣本標(biāo)記出來(lái)結(jié)合日期前后對(duì)比判斷是真實(shí)極端天氣還是數(shù)據(jù)錯(cuò)誤。比如7月份出現(xiàn)零下20度的氣溫基本可以判定是傳感器故障直接剔除。第三步是站點(diǎn)一致性檢查。如果同時(shí)用多個(gè)站點(diǎn)的數(shù)據(jù)必須檢查它們的經(jīng)緯度、海拔、時(shí)區(qū)是否一致保證空間信息不混淆。這一步代碼寫起來(lái)不難難的是對(duì)每個(gè)變量的理解。比如降水量是典型的偏態(tài)分布大部分時(shí)間是0偶爾出現(xiàn)幾十毫米用三倍標(biāo)準(zhǔn)差去過(guò)濾會(huì)把真正的暴雨樣本誤刪掉。所以對(duì)降水量我采用分位數(shù)判斷只刪除超過(guò)99.9%分位數(shù)的極端值而不是用均值方差法。2.3 特征工程滑窗與歸一化時(shí)序預(yù)測(cè)模型不能直接吃原始序列需要把數(shù)據(jù)切分成“特征窗口-預(yù)測(cè)目標(biāo)”的樣本對(duì)。這個(gè)項(xiàng)目里默認(rèn)用過(guò)去7天的數(shù)據(jù)預(yù)測(cè)未來(lái)1天的最高氣溫也就是input_window7output_window1。窗口大小的選擇有講究。氣象系統(tǒng)有一定的記憶性比如冷空氣的影響通常持續(xù)3到5天所以窗口太短模型看不到完整過(guò)程窗口太長(zhǎng)又會(huì)引入大量無(wú)關(guān)信息增加訓(xùn)練難度。我實(shí)驗(yàn)下來(lái)7到15天是比較合理的范圍這個(gè)項(xiàng)目里用7天屬于一個(gè)穩(wěn)妥的起點(diǎn)。歸一化是另一個(gè)不能跳過(guò)的地方。氣溫、氣壓、濕度這幾個(gè)變量的量綱差異很大如果不做歸一化模型會(huì)把注意力全放在數(shù)值大的變量上。這個(gè)項(xiàng)目用的方法是MinMaxScaler把所有特征壓縮到0到1之間。但要注意一個(gè)關(guān)鍵細(xì)節(jié)歸一化的參數(shù)只能用訓(xùn)練集的數(shù)據(jù)來(lái)擬合然后把同樣的變換應(yīng)用到驗(yàn)證集和測(cè)試集上。如果先對(duì)全量數(shù)據(jù)做歸一化再切分會(huì)引起數(shù)據(jù)泄漏模型在驗(yàn)證集上的表現(xiàn)會(huì)是虛高的。from sklearn.preprocessing import MinMaxScaler # train_df 是訓(xùn)練集特征列是 feature_cols scaler MinMaxScaler() train_scaled scaler.fit_transform(train_df[feature_cols]) # 驗(yàn)證集、測(cè)試集只做 transform不重新 fit val_scaled scaler.transform(val_df[feature_cols]) test_scaled scaler.transform(test_df[feature_cols])這個(gè)細(xì)節(jié)很多人會(huì)忽略但它是時(shí)間序列預(yù)測(cè)項(xiàng)目里最容易被面試官追問(wèn)、也最影響模型真實(shí)效果的點(diǎn)。3. 環(huán)境配置與工具選型3.1 本地環(huán)境Ubuntu 22.04 下深度學(xué)習(xí)環(huán)境搭建這個(gè)項(xiàng)目代碼基于PyTorch訓(xùn)練需要NVIDIA顯卡。我拿到代碼后第一件事就是在Ubuntu 22.04上把深度學(xué)習(xí)環(huán)境跑起來(lái)。網(wǎng)上關(guān)于Ubuntu安裝深度學(xué)習(xí)驅(qū)動(dòng)的教程很多但“驅(qū)動(dòng)安裝了沒(méi)反應(yīng)”幾乎是每個(gè)人都遇到過(guò)的問(wèn)題我也不例外。最典型的癥狀是安裝完NVIDIA驅(qū)動(dòng)后執(zhí)行nvidia-smi依然提示找不到驅(qū)動(dòng)或者重啟后進(jìn)入不了桌面。排查下來(lái)大部分問(wèn)題都出在Secure Boot和nouveau這兩個(gè)地方。Secure Boot如果開(kāi)啟Ubuntu會(huì)拒絕加載沒(méi)有簽名的第三方驅(qū)動(dòng)所以必須進(jìn)BIOS把它關(guān)掉。nouveau是Ubuntu自帶的開(kāi)源顯卡驅(qū)動(dòng)它會(huì)跟NVIDIA官方驅(qū)動(dòng)搶占設(shè)備安裝驅(qū)動(dòng)之前必須先把它禁用。我建議直接按下面的流程操作。# 1. 更新系統(tǒng) sudo apt update sudo apt upgrade -y # 2. 禁用 nouveau sudo bash -c echo blacklist nouveau /etc/modprobe.d/blacklist-nvidia.conf sudo bash -c echo options nouveau modeset0 /etc/modprobe.d/blacklist-nvidia.conf sudo update-initramfs -u # 3. 重啟機(jī)器讓禁用生效 sudo reboot # 4. 重啟后確認(rèn) nouveau 沒(méi)加載 lsmod | grep nouveau # 沒(méi)有任何輸出就說(shuō)明成功 # 5. 安裝驅(qū)動(dòng)以 535 為例 sudo apt install nvidia-driver-535 sudo reboot # 6. 驗(yàn)證 nvidia-smiCUDA和cuDNN我建議不用手動(dòng)裝直接用conda創(chuàng)建虛擬環(huán)境裝PyTorch的GPU版本它會(huì)自動(dòng)帶上配套的CUDA運(yùn)行時(shí)省去很多版本匹配的麻煩。這個(gè)項(xiàng)目用的Python版本是3.10PyTorch版本是2.1。conda create -n dlweather python3.10 -y conda activate dlweather pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 pip install pandas numpy matplotlib scikit-learn tqdm環(huán)境搭建這塊看著瑣碎但它是整個(gè)項(xiàng)目復(fù)現(xiàn)的第一道坎。我見(jiàn)過(guò)很多人卡在這里好幾天其實(shí)是卡在Secure Boot這種非常不起眼的小地方。3.2 云平臺(tái)方案沒(méi)有GPU怎么跑如果你本地沒(méi)有NVIDIA顯卡或者驅(qū)動(dòng)問(wèn)題實(shí)在搞不定還有一個(gè)性價(jià)比很高的方案用AutoDL這類云GPU平臺(tái)。我最早跑這個(gè)項(xiàng)目就是在AutoDL上完成的按量付費(fèi)一小時(shí)幾塊錢跑完關(guān)機(jī)就行比買顯卡劃算得多。流程很簡(jiǎn)單注冊(cè)賬號(hào)后創(chuàng)建實(shí)例選擇帶有PyTorch鏡像的GPU機(jī)型顯卡從RTX 2080到A100都有。實(shí)例啟動(dòng)后平臺(tái)會(huì)分配一個(gè)JupyterLab地址和SSH端口你在本地把代碼和數(shù)據(jù)上傳上去訓(xùn)練完把模型文件下載回來(lái)就行。有一個(gè)經(jīng)驗(yàn)是代碼和數(shù)據(jù)上傳不要太頻繁先把整個(gè)項(xiàng)目目錄壓縮成一個(gè)tar包一次性上傳效率會(huì)高很多。# 本地壓縮 tar -czf weather_project.tar.gz weather_project/ # 本地通過(guò) scp 上傳到云服務(wù)器地址以平臺(tái)顯示為準(zhǔn) scp -P 端口號(hào) weather_project.tar.gz rootregion-xx.autodl.com:/root/用云平臺(tái)的時(shí)候要注意數(shù)據(jù)持久化。有些實(shí)例關(guān)機(jī)后本地磁盤會(huì)被釋放代碼和輸出結(jié)果可能丟失所以我習(xí)慣把數(shù)據(jù)放在數(shù)據(jù)盤把模型輸出定期同步到自己的電腦上。別問(wèn)我是怎么知道的都是淚。4. 模型構(gòu)建與核心實(shí)現(xiàn)4.1 模型選型從LSTM到CNN-LSTM再到Transformer這個(gè)項(xiàng)目在模型選型上做了好幾組對(duì)比我順著他們的代碼思路重新跑了一遍結(jié)果很有參考價(jià)值。最先試的是單層LSTM作為baseline。LSTM的優(yōu)勢(shì)在于天然的時(shí)序建模能力對(duì)氣溫這種有明顯自相關(guān)的序列效果比線性回歸好很多。但LSTM的問(wèn)題也很明顯它傾向于記住最近幾天的信息對(duì)稍長(zhǎng)周期的特征抓取不夠充分。接著試了CNN-LSTM混合結(jié)構(gòu)。用一維卷積先在時(shí)間維度上提取局部特征相當(dāng)于做一個(gè)降噪和特征增強(qiáng)然后再把卷積輸出送進(jìn)LSTM建模時(shí)間依賴。這里需要注意卷積核大小的選擇一般取3到5太小感受野不足太大又會(huì)讓序列長(zhǎng)度驟減。池化層在圖像任務(wù)中很常用但在時(shí)間序列里要慎用因?yàn)槌鼗瘯?huì)丟信息氣溫序列中一個(gè)極端低溫值可能恰恰是預(yù)測(cè)的關(guān)鍵信號(hào)我不建議在初期模型中加入池化層先用stride控制長(zhǎng)度就夠了。Transformer也跑了一組。它的長(zhǎng)序列建模能力確實(shí)更強(qiáng)多頭注意力機(jī)制可以捕捉不同時(shí)間步之間的關(guān)聯(lián)。但在數(shù)據(jù)量只有幾千條的情況下Transformer的訓(xùn)練穩(wěn)定性不如LSTM需要更多的調(diào)參技巧比如warmup、學(xué)習(xí)率衰減等。單從日尺度氣溫預(yù)測(cè)這個(gè)問(wèn)題來(lái)看CNN-LSTM的組合在精度和訓(xùn)練成本之間取得了最好的平衡。下面是幾個(gè)模型的精度對(duì)比我在同一份測(cè)試集上跑的結(jié)果模型MAE平均絕對(duì)誤差RMSE訓(xùn)練耗時(shí)分鐘線性回歸2.873.921單層LSTM1.522.316CNN-LSTM1.211.8611Transformer1.352.1242可以看到模型越復(fù)雜收益不一定越高Transformer在這個(gè)任務(wù)上反而沒(méi)打過(guò)CNN-LSTM。這也印證了那個(gè)觀點(diǎn)深度學(xué)習(xí)模型不是越先進(jìn)越好要結(jié)合數(shù)據(jù)規(guī)模和任務(wù)特性來(lái)判斷。4.2 核心代碼實(shí)現(xiàn)以CNN-LSTM為例這個(gè)項(xiàng)目里最核心的模型是CNN-LSTM我把關(guān)鍵實(shí)現(xiàn)重新整理了一遍結(jié)構(gòu)不算復(fù)雜但每一步都有它的用途。import torch import torch.nn as nn class CNNLSTM(nn.Module): def __init__(self, input_dim, hidden_dim64, num_layers2, output_dim1): super().__init__() # 一維卷積做局部特征提取 self.conv1 nn.Conv1d(input_dim, 32, kernel_size3, padding1) self.conv2 nn.Conv1d(32, 64, kernel_size3, padding1) self.gelu nn.GELU() # LSTM 建模時(shí)間依賴 self.lstm nn.LSTM(64, hidden_dim, num_layersnum_layers, batch_firstTrue, dropout0.2) self.fc nn.Sequential( nn.Linear(hidden_dim, 32), nn.ReLU(), nn.Dropout(0.1), nn.Linear(32, output_dim) ) def forward(self, x): # x: (batch, seq_len, input_dim) x x.permute(0, 2, 1) # 轉(zhuǎn)成 (batch, input_dim, seq_len) x self.gelu(self.conv1(x)) x self.gelu(self.conv2(x)) x x.permute(0, 2, 1) # 恢復(fù) (batch, seq_len, 64) out, _ self.lstm(x) out self.fc(out[:, -1, :]) # 取最后一個(gè)時(shí)間步 return out這段代碼有幾個(gè)容易出錯(cuò)的地方。第一Conv1d要求輸入維度是(batch, channels, seq_len)所以必須先做permuteLSTM要求輸入維度是(batch, seq_len, features)所以卷積之后要再permute回來(lái)。第二LSTM的dropout只在num_layers大于1時(shí)生效這個(gè)問(wèn)題容易忽略實(shí)際訓(xùn)練時(shí)會(huì)有影響。第三我們最終只取最后一個(gè)時(shí)間步的輸出去接全連接層因?yàn)槿蝿?wù)是用過(guò)去7天預(yù)測(cè)未來(lái)1個(gè)點(diǎn)中間時(shí)間步的所有隱藏狀態(tài)都被舍棄了。訓(xùn)練主循環(huán)沒(méi)有太多黑魔法就是標(biāo)準(zhǔn)的批量前向傳播、計(jì)算損失、反向傳播、更新參數(shù)。我加了早停機(jī)制同時(shí)監(jiān)控訓(xùn)練集和驗(yàn)證集的損失驗(yàn)證集連續(xù)15輪不下降就停止訓(xùn)練保留驗(yàn)證集效果最好的一輪參數(shù)。optimizer torch.optim.AdamW(model.parameters(), lr1e-3, weight_decay1e-5) scheduler torch.optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max50) criterion nn.MSELoss() for epoch in range(200): model.train() train_loss 0.0 for xb, yb in train_loader: xb, yb xb.to(device), yb.to(device) pred model(xb) loss criterion(pred.squeeze(), yb) optimizer.zero_grad() loss.backward() optimizer.step() train_loss loss.item() scheduler.step() # 驗(yàn)證和早停邏輯省略原理見(jiàn)正文4.3 損失函數(shù)與評(píng)估指標(biāo)氣象預(yù)測(cè)任務(wù)中損失函數(shù)的選擇取決于你要預(yù)測(cè)的目標(biāo)變量。這個(gè)項(xiàng)目的核心目標(biāo)之一是預(yù)測(cè)溫度這是典型的回歸任務(wù)所以使用MSE作為損失函數(shù)。MSE對(duì)離群點(diǎn)比較敏感預(yù)測(cè)值和真實(shí)值差得遠(yuǎn)的時(shí)候誤差會(huì)被平方放大這其實(shí)是個(gè)優(yōu)點(diǎn)因?yàn)樗鼤?huì)迫使模型去關(guān)注那些天氣劇烈變化的樣本。但評(píng)估的時(shí)候僅僅看MSE還不夠直觀所以還要配合MAE一起看。MAE的單位和原始數(shù)據(jù)一致比如2.0就表示平均預(yù)測(cè)偏差在2攝氏度左右這個(gè)對(duì)非技術(shù)背景的人也很好解釋。RMSE則保留了MSE對(duì)大誤差的懲罰特性。還有一個(gè)值得關(guān)注的指標(biāo)是R2它的含義是模型能夠解釋數(shù)據(jù)中多大比例的變化R2越接近1說(shuō)明模型越好。我用了一個(gè)簡(jiǎn)單的習(xí)慣訓(xùn)練過(guò)程中每隔幾個(gè)epoch把MAE、RMSE、R2都打印出來(lái)模型表現(xiàn)一目了然。from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score mae mean_absolute_error(y_true, y_pred) rmse mean_squared_error(y_true, y_pred, squaredFalse) r2 r2_score(y_true, y_pred)如果你后續(xù)想擴(kuò)展降水量預(yù)測(cè)那性質(zhì)就變了降水是典型的偏態(tài)分布大部分時(shí)間是0少量時(shí)間有雨再用MSE會(huì)導(dǎo)致模型傾向于預(yù)測(cè)“無(wú)雨”來(lái)降低整體誤差。正確的做法是把它當(dāng)作分類問(wèn)題或者使用加權(quán)回歸損失這也是很多降水預(yù)報(bào)模型要單獨(dú)設(shè)計(jì)損失函數(shù)的原因。5. 訓(xùn)練過(guò)程與模型優(yōu)化5.1 超參數(shù)調(diào)優(yōu)思路這個(gè)項(xiàng)目在訓(xùn)練過(guò)程中踩過(guò)很多坑最核心的集中在超參數(shù)選擇上。我剛開(kāi)始跑的時(shí)候直接用了默認(rèn)學(xué)習(xí)率0.001batch size是64結(jié)果訓(xùn)練到第20輪左右loss就開(kāi)始震蕩驗(yàn)證集誤差降不下去。后來(lái)逐個(gè)排查發(fā)現(xiàn)學(xué)習(xí)率稍微大了對(duì)這個(gè)數(shù)據(jù)量來(lái)說(shuō)收斂不穩(wěn)定改成0.0005之后明顯改善。關(guān)于學(xué)習(xí)率我的經(jīng)驗(yàn)是先用一個(gè)相對(duì)較大的學(xué)習(xí)率做10輪warmup讓模型快速進(jìn)入一個(gè)合理的參數(shù)區(qū)域然后配合余弦退火調(diào)度器逐步降低學(xué)習(xí)率。這樣做的原理是訓(xùn)練初期參數(shù)距離最優(yōu)解很遠(yuǎn)用大學(xué)習(xí)率快速下降后期接近最優(yōu)解時(shí)用小學(xué)習(xí)率精調(diào)避免在最優(yōu)解附近來(lái)回震蕩。我在這個(gè)項(xiàng)目里實(shí)際用的是CosineAnnealingLRT_max設(shè)為50初始學(xué)習(xí)率0.001。batch size的選擇和顯存大小強(qiáng)相關(guān)但不要只追求大。時(shí)序預(yù)測(cè)任務(wù)中batch太大反而可能讓模型對(duì)近期樣本過(guò)擬合對(duì)于這個(gè)數(shù)據(jù)量32到64都是穩(wěn)妥的選擇。優(yōu)化器我推薦AdamW而不是普通Adam因?yàn)锳damW把權(quán)重衰減和梯度更新解耦了正則化效果更好最終模型的泛化能力會(huì)強(qiáng)一些。說(shuō)到這我想到一個(gè)很典型的參考案例李沐老師的《動(dòng)手學(xué)深度學(xué)習(xí)》里面專門有一章講優(yōu)化算法他把學(xué)習(xí)率比作“下山時(shí)的步長(zhǎng)”非常形象。步長(zhǎng)太大一步跨過(guò)山谷步長(zhǎng)太小半天走不到底這個(gè)比喻放到氣象預(yù)測(cè)的調(diào)參里同樣適用。我看過(guò)不少人在網(wǎng)上問(wèn)這個(gè)項(xiàng)目怎么調(diào)參其實(shí)絕大多數(shù)問(wèn)題都出在沒(méi)理解“學(xué)習(xí)率不是越小越好也不是越大越好”這件事上。5.2 從過(guò)擬合到泛化正則化與數(shù)據(jù)增強(qiáng)氣象數(shù)據(jù)集的規(guī)模通常不會(huì)太大這個(gè)項(xiàng)目訓(xùn)練集也就一萬(wàn)多條樣本模型稍微復(fù)雜一點(diǎn)就容易出現(xiàn)過(guò)擬合。最典型的表現(xiàn)是訓(xùn)練集loss不斷下降但驗(yàn)證集loss先降后升二者之間出現(xiàn)一條越來(lái)越大的“剪刀差”。針對(duì)這個(gè)現(xiàn)象我采取了幾個(gè)手段效果最明顯的是Dropout和早停。Dropout的原理是在訓(xùn)練過(guò)程中隨機(jī)“關(guān)掉”一部分神經(jīng)元迫使網(wǎng)絡(luò)不依賴某一個(gè)特定的神經(jīng)元路徑從而學(xué)到更魯棒的特征。在CNN-LSTM里L(fēng)STM層的dropout我只設(shè)了0.2再高會(huì)把時(shí)序信息破壞得太嚴(yán)重。全連接層的dropout可以稍微高一點(diǎn)0.3左右沒(méi)問(wèn)題。早停算是一種“窮人的正則化”原理是模型在驗(yàn)證集上不再變好時(shí)馬上停止訓(xùn)練防止它在訓(xùn)練集上繼續(xù)鉆牛角尖。不要小看這個(gè)技巧它省下的訓(xùn)練時(shí)間非??捎^同時(shí)還能保住驗(yàn)證集上的最佳效果。數(shù)據(jù)增強(qiáng)在時(shí)序預(yù)測(cè)里不像圖像那么常用但有一種技巧很實(shí)用在輸入序列上加一點(diǎn)高斯噪聲。因?yàn)闅庀笥^測(cè)本身存在儀器誤差讓模型見(jiàn)過(guò)含噪聲的輸入反而能在測(cè)試時(shí)表現(xiàn)得更加穩(wěn)定。代碼很簡(jiǎn)單訓(xùn)練時(shí)以一定概率在輸入張量上加上均值為0、標(biāo)準(zhǔn)差為0.01的噪聲推理時(shí)就不加。這種做法的本質(zhì)是讓模型不要死記硬背訓(xùn)練樣本的每一個(gè)數(shù)字而是學(xué)習(xí)數(shù)據(jù)背后的趨勢(shì)。5.3 模型壓縮與部署思路如果你只是做研究訓(xùn)練完模型保存權(quán)重就夠了。但如果想做成一個(gè)真正可用的“應(yīng)用”還需要考慮推理速度和部署方式。這個(gè)項(xiàng)目里給出了一個(gè)很有意思的方向把訓(xùn)練好的PyTorch模型導(dǎo)出為ONNX格式然后通過(guò)ONNX Runtime進(jìn)行推理速度比原生PyTorch快不少。導(dǎo)出ONNX要注意一個(gè)坑模型中如果有動(dòng)態(tài)維度比如batch size不確定導(dǎo)出時(shí)要指定dynamic_axes參數(shù)否則推理時(shí)會(huì)因?yàn)檩斎氤叽绮黄ヅ涠鴪?bào)錯(cuò)。導(dǎo)出之后可以用onnxruntime驗(yàn)證一下輸出是否和PyTorch一致誤差一般都在1e-6量級(jí)。import torch.onnx dummy_input torch.randn(1, 7, input_dim).cuda() torch.onnx.export( model, dummy_input, weather_model.onnx, input_names[input], output_names[output], dynamic_axes{input: {0: batch}, output: {0: batch}}, opset_version16 )如果你的目標(biāo)是在web服務(wù)里部署ONNX Runtime配合Flask或者FastAPI就夠了響應(yīng)時(shí)間基本在毫秒級(jí)。如果你想更進(jìn)一步可以考慮用TensorRT做量化推理但配置復(fù)雜度會(huì)上升一個(gè)檔次不是第一版應(yīng)用的必要項(xiàng)。6. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄6.1 高頻報(bào)錯(cuò)與解決方案速查我基于這個(gè)項(xiàng)目的實(shí)際運(yùn)行經(jīng)驗(yàn)整理了一份常見(jiàn)問(wèn)題清單基本上覆蓋了大部分新手會(huì)撞上的坑。現(xiàn)象可能原因解決方案nvidia-smi提示找不到驅(qū)動(dòng)Secure Boot未關(guān)閉 / nouveau未禁用進(jìn)BIOS關(guān)閉Secure Boot禁用nouveau后重裝驅(qū)動(dòng)CUDA error: out of memorybatch size過(guò)大 / 模型過(guò)大減小batch size或改用梯度累積Loss變成NaN學(xué)習(xí)率過(guò)高 / 數(shù)據(jù)中有NaN降低學(xué)習(xí)率檢查數(shù)據(jù)清洗環(huán)節(jié)驗(yàn)證集損失遠(yuǎn)高于訓(xùn)練集過(guò)擬合增加Dropout、權(quán)重衰減啟用早停模型預(yù)測(cè)結(jié)果接近常數(shù)數(shù)據(jù)泄漏 / 歸一化錯(cuò)誤檢查是否用全量數(shù)據(jù)做歸一化改用訓(xùn)練集擬合scalertorch安裝后import報(bào)錯(cuò)CUDA版本和PyTorch版本不匹配用conda創(chuàng)建環(huán)境按官網(wǎng)指引安裝對(duì)應(yīng)版本預(yù)測(cè)溫度系統(tǒng)性偏低訓(xùn)練集和測(cè)試集時(shí)間分布不一致檢查數(shù)據(jù)劃分是否按時(shí)間順序避免隨機(jī)打亂同一份代碼換機(jī)器后結(jié)果不一致隨機(jī)種子未固定設(shè)置torch.manual_seed和numpy.random.seed6.2 獨(dú)家避坑心得第一時(shí)間序列數(shù)據(jù)千萬(wàn)不要隨機(jī)打亂劃分訓(xùn)練集和測(cè)試集。這個(gè)項(xiàng)目里如果用了train_test_split默認(rèn)參數(shù)也就是隨機(jī)劃分模型會(huì)從未來(lái)“偷看”過(guò)去的數(shù)據(jù)導(dǎo)致驗(yàn)證集效果虛高。正確做法是按時(shí)間順序比如前80%做訓(xùn)練后20%做測(cè)試。這個(gè)錯(cuò)誤特別隱蔽因?yàn)橛?xùn)練過(guò)程完全正常指標(biāo)還很好看直到部署上線才發(fā)現(xiàn)模型在真實(shí)環(huán)境中表現(xiàn)很差。第二特征的順序會(huì)影響Conv1d的卷積效果。在特征維度上每個(gè)通道代表一個(gè)氣象要素卷積核在時(shí)間維度上滑動(dòng)如果特征排列順序不合理比如把相關(guān)性很低的風(fēng)向放在溫度和氣壓中間模型初期會(huì)花更多的迭代次數(shù)去學(xué)習(xí)這個(gè)無(wú)意義的排列。建議在做數(shù)據(jù)預(yù)處理時(shí)把特征按照相關(guān)性排序或者至少保持每個(gè)通道語(yǔ)義一致。第三雨量預(yù)測(cè)和溫度預(yù)測(cè)是完全不同的任務(wù)。如果你只是把模型的輸出節(jié)點(diǎn)換成降水量訓(xùn)練出來(lái)的模型幾乎不會(huì)下雨這是偏態(tài)分布導(dǎo)致的問(wèn)題。這個(gè)項(xiàng)目里只做了溫度預(yù)測(cè)但我在擴(kuò)展實(shí)驗(yàn)中對(duì)降水量做了一版分類模型把降水分為無(wú)雨、小雨、中雨、大雨四類用交叉熵?fù)p失效果比回歸好得多。這個(gè)思路可以給想擴(kuò)展功能的人一個(gè)方向。第四不要迷信大模型。我跑過(guò)一兩版深度明顯增加的結(jié)構(gòu)比如四層LSTM加注意力機(jī)制效果反而不如兩層LSTM加卷積的組合。氣象數(shù)據(jù)本身信噪比不高模型太大反而會(huì)記住噪聲。在深度學(xué)習(xí)里模型的容量要和數(shù)據(jù)量匹配這是最容易被忽略的常識(shí)。第五訓(xùn)練時(shí)固定隨機(jī)種子。這個(gè)項(xiàng)目跑通之后我復(fù)現(xiàn)過(guò)一次結(jié)果發(fā)現(xiàn)相差很大排查后確認(rèn)是隨機(jī)種子沒(méi)有固定。DeepLearning項(xiàng)目里如果不固定種子每次訓(xùn)練的初始化權(quán)重、數(shù)據(jù)加載順序都不同結(jié)果有波動(dòng)是正常的但如果你要做實(shí)驗(yàn)對(duì)比不固定種子得出的結(jié)論就不可信。建議在代碼開(kāi)頭統(tǒng)一設(shè)置隨機(jī)數(shù)種子包括Python、NumPy、PyTorch的CPU和GPU。我在實(shí)際使用中發(fā)現(xiàn)深度學(xué)習(xí)在氣象領(lǐng)域的應(yīng)用價(jià)值不在于短時(shí)間內(nèi)完全替代傳統(tǒng)方法而在于它在局部場(chǎng)景下能提供更輕量、更快速的預(yù)測(cè)能力。這個(gè)項(xiàng)目雖然規(guī)模不大但勝在閉環(huán)完整數(shù)據(jù)、模型、訓(xùn)練、評(píng)估、部署一條鏈路都跑通了。我的建議是先照著這個(gè)流程把baseline跑通再根據(jù)你自己的數(shù)據(jù)特點(diǎn)去調(diào)整模型結(jié)構(gòu)和訓(xùn)練策略。序列預(yù)測(cè)的坑很多但每踩一個(gè)坑對(duì)模型的理解都會(huì)深一層。這套系統(tǒng)后續(xù)如果想繼續(xù)擴(kuò)展可以往多站點(diǎn)空間建模、圖神經(jīng)網(wǎng)絡(luò)、多模態(tài)數(shù)據(jù)融合這些方向走每一步都有足夠大的探索空間。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
熟女乱论网| 丁香啪啪| 日日日,com| 啪色综合| 99热精品少| 91人在线观看| 97操碰在线视频| 91丁香五月| 成人丁香五月| 五月丁香六月婷婷综合免| 91碰碰| 色五月婷婷五月丁香五月激情五月视频| 大地9中文在线观看免费高清 | 成人在线综合| 欧亚成人A片一区二区| 99在线视频在线观看| 日本wwww在线| 色色色成人网| 天天爽天天做| 亚洲综合在线伊人婷| 嫩草AV久久伊人妇女超级A| 激情五月婷婷中文字幕| 庭庭久久内射| 久久久一级AAA| 亚洲激情网| 精品久久99| 天天爱天天操| 97婷婷五月天| 婷婷97碰碰| 超碰九色| 玖玖精品视频| 色婷婷五月影视| 七七婷婷综合| 人妻久久久| 日韩一级A片黄色| 亚洲久热| 深爱激情综合| 久久五月丁香综合17C| 欧洲色区| 激情爱爱网站| 99热亚洲精品66| xx久久| 亚洲亚洲人成综合网络| 九色自拍| 九九婷婷五月天影视| 久久Xx| 五月天伊人| 天天操,夜夜骑| 久久婷婷青青| www.夜夜操.com| 色五狠狠| 97色色色视屏| 在线网黄| 色综合综合综合| 五月丁香 啪啪| 五月丁香va| 爱之国产色情综合| 亚洲亚洲人成综合网络| 久操综合| 五月婷婷无码| 午夜青草资源| 永久的网站AAAA| 午夜精品人妻无码一区二区三区| 婷婷丁香成人| 久久人人妻| 婷婷精品在线| 久久大香免费| 天天日中文| 久久婷婷网| 日日噜狠狠色综合久久| 天天爱天天做天天日| ..真实国产乱子伦毛片| 色五月激情网| 丁香五月婷婷网| 婷婷色5月天在线。| 丁香五月开心亚洲| 丁香五月婷婷少妇| 久久五月天影院| 天天日综合| 99综合| 亚洲丁香五月美女| 久久九九99| 视频1区2区| 玖玖爱伊人网| 激情小说五月天| 超碰在线免费9| 99re这里只有精品在线观看| 久久免费9| 97人人操人人操人人操人人| 五月天丁香婷婷网| 成 人片 黄 色 大 片| 久操无码| 婷婷五月色色| 国产VA亚洲VA96| 亚洲色婷婷99一9|| 天天在线天天综合网色| 狠狠看狠狠| AV79| 99热久草| 色五月婷婷五月天激情综合| 激情 婷婷 丁香五月天| 丁香五月日韩| 欧美激情综合色综合啪啪五月| 影音先锋男人AV资源站| 乱岳熟女50岁| 五月天激情国产综合婷婷婷| 欧美成人精品A片免费一区99| 五月天激情国产综合婷婷婷| 色五月婷婷小说亚洲中文字幕组| 久久九九热视频| 天天爽天天透天天爱| 噜噜色五月| 丁香五月综合婷婷| 欧美日韩成人在线网站| 成人在线综合| 综激情网| www91在线| 91九色在线观看免费| 久久久久9久无码视频| www九九热| 激情99| 婷婷五月天成人基地| 再次出发二| 九九九精品视频免费观看| 九九热re99re6在线精品| 午夜丁香 婷婷| 五月婷婷丁香日韩在线| 欧美A A A A A| 五月Huangsewang| 激情五月天丁香| 五月丁香婷婷在线| 夜夜谢天天干| 99精品在这里| 在线只有精品| 欧美日韩精品人妻狠狠躁免费视频 | 日本综合色图| 五月婷丁香| 九月丁香| 欧美经典片免费观看大全| 99热这里是精品| www色色com| 五月丁香久久网| 99亚洲视频| 六月婷婷在线视频| 思思热在线视频精品| 丁香激情网| 五月丁香无码| 丁香五月婷婷基地| 久久一级AV| 国产成人综合亚洲| 色色婷婷婷丁香五月天| 五月天丁香久久| 日本乱子人伦在线视频| 超碰免费人妻| 五月婷婷日| 午夜五月天| 国产裸舞表演WWWW| 婷婷五月天激情电影| 亚洲色五月| 伊人婷婷大香蕉| 色狠狠综合| 日日天天干| 色色五月婷| 国产又爽又猛又粗的视频A片 | 激情小说五月天| 另类天堂| 丁香五月色激情| 六月丁香婷婷大香蕉| 日韩黄色电影| 亚洲1区| 九九家庭影院| 色婷五月天综合网| 五月婷婷啪啪啪| 婷婷丁香五月麻豆| 人妻丰满精品一区二区A片| 国产SUV精品一区二区6| 91av无码| 天天狠狠婷婷在线| 黄色99网| 天天操天天操天天操天天操天天操| 婷婷丁香亚洲色综合91| 国产精产国品一二三在观看| 97婷婷五月| 精品一区二区三区三区| 91色综合网| 九九五月天| 亚洲一色色色色色色色色| 思思热在线视频99| 99热在线精品播放| 久久曰曰| 五月天婷婷基地丁香| 欧美毛片www| 婷婷五月天中文字幕| 综合色播| 丁香六月激情四射| 国产肥白大熟妇BBBB视频| 色色欧美色色色| 97高清国语自产拍| 色色九九五月天 | 五月婷婷激情色情网| 淫荡综合网| 狠狠色噜噜狠狠| 五月天.com| 九九XX视频| 五月丁香网站| 99久久综合网| 狠狠爱五月婷婷| 99久久极情精品一区| 国产亚洲精品久久久久久豆腐| 99视频啪啪| 五月天开心色情网| 丁香婷婷成人在线播放| 91啪啪| 亚洲成人在线观看av| 青青草99热久久精品国| 丁香六月婷婷综合色| 亚洲综合色丁香五月天| 99综合视频| 色久综合| 中文在线视频久9| 夜夜 操无码| 五月婷在线色视频| 91久久久久久| 99日视频在线| 亚洲精99| 色综合网址| av操逼网| 五月丁香久人妻中文| 九九热视频免费观看| 性生活视频98791| 黄色片久久| 情色婷婷五月天| www.日日夜夜| 久久婷综合网| 大香蕉520| 久久99这里只有精品视频| 婷婷丁香激情综合色情| 国产乱轮一区二区三区| 美妞av| 天天做天天爱| 亚韩精品视频1区| 色性综合| 久久伦乱| 91综合网| 99色色最新视频| 亚洲精品国产成人AV在线| 婷婷五月综合社区在线| 五月丁香网站在线播放| 九九热欧美| 嫩草视频。| AV伊人青草丁香六月| 久久99热这里只有精品| 色五月丁香五| 亚洲小视频免费看| 欧美97色| 五月丁香色婷基地综合久久| www.ppypp| 久久伊人大香蕉| 久99热在线观看| 99热这里只有精品无码| 思思久久99热只有频精品66| 亚洲精品成人| 五月色婷婷亚洲| 人人色婷婷五月天| 五月天丁香六月综合| 日本少妇AA一级特黄大片| 99热99思午夜精品| 色五月婷婷老师| 97日本在线| 六月婷婷七月丁香| 综合色色色| 人人草碰| 九九久热| av在线免费播放观看| 五月天五月色婷婷综合| 色五月丁香五月| 成人短视频在线免费观看| 国产精品色一哟哟| 婷婷六月五月天综合| 日韩人妻无码专区| 久热 91| 99乱视频| 日韩天堂久久| 色色色色色色色色网站| 九九色中文| 99成人精品| 国产精品色色| 色六月丁香婷婷狠狠干| 四虎成人精品永久免费AV九九| www.玖玖婷婷在线| 天天做天天爱综合| 婷婷五月综合在线| 婷婷五月激情六月丁香| 五月丁香婷婷综合| 婷婷五月天丁香| 殴美综合激情五月天免费视频| 综合色图婷婷| 六月色丁香中文字幕| av网址在线播放| 思思99精品视频| 日本三级韩三级99久久| 久久九九九九| www.爱操com.| 噜噜噜狠狠色综| 婷婷影院A成人| 99日本黄站| 色色色色色色色色五月先| 99热成人| 婷婷五月天激情综合婷婷五月天激情综合 | 月婷婷婷婷五月| 卡视频1区2区| 这里只有免费精品| 99久久久久久久| 国产热精品| 色播丁香婷婷五月激情| 丁香婷婷综合影院| 俺去也综合| 成人短视频免费观看| 日本狠狠网| www.婷婷五月天,com| 涩婷婷五月天| 久久一品区| 亚洲激情久久| 久久九区| 综合色99| 国产视频久色| 性欧美大战久久久久久久83| 亚洲色A| 色婷婷yy久| 激情婷婷五月天日本系列| 婷婷五月丁香色色| 99色视频| 久久99综合| 夜夜爱网站| 99操| 艳妇野外情欲放荡HD| 国产精品久久久60086| 丰滿爆乳一区二区三区| 夜夜撸夜夜骑| 热九九精品| 久久久久9999| 99精品22| 九洲一级A片| 九九婷婷网五月天| 99热99精品在线观看| 大香蕉福利导航| 亚洲欧美另类在线23p| 欧美日本高清视频99| 色在线99| 九九这里只这里只有精品| 亚洲国产精品二二三三区| 色婷婷亚洲在线| 性爱网六月丁香| 婷婷五月丁香综合激情| 色黑鬼导航| 日本乱子人伦在线视频| 久久视频在线| 亚洲最大在线| 97色干| 操笔无码| 波多野结衣成人作品在线| 人妻久久久久| 国产成人综合亚洲| 色五月综合激情| 任你操精品免费| 色婷婷亚洲精品天天综| 五月六月激情| 超碰人人操人人干| 日本黄 色 片| 99九九视频精彩在线| 九九热a| 99热在线观看| 婷婷丁香五月综合免费视频百花| 成人av播放| 高清一区二区三区日本久| 97五月天婷婷| www.激情| 深爱激情五月天婷婷网| 99热99热| 无码激情AAAAA片-区区| 欧美婷婷五月天| 九色地址91视频| 九九热在线视频| 五月天精品综合| 婷婷五月丁香花综合| 99热9| 天天爽天天日人人爱| 色色色九九九五月婷婷| 婷婷五月激情中文字幕| 超碰在线人人| 亚洲成人影视在线| 色婷婷欧美| 色婷激情网| 99人人干人人| 国产精品激情AV久久久青桔| 丁香五月天啪啪| 五月婷五月婷伊人伊人五月婷| av首页在线| 91丨九色丨43老版熟女| 人人舔人人| 操操操操操操婷婷五月天| 色婷婷电影网| 亚洲成人中心| 久噜久噜| 丁香六月婷婷一区| 日韩黄色电影| 2050人人操免费工开爱| 99色色网| 98色花堂98t.R| 婷婷色色综合激情| 久久九九@| 久777| 热99这就是精品视频| 亚洲综合激情五月| 久久综合伊人综合在线| 久久久五月五丁香| 亚洲精品另类| 国产成人精品一区二区三区视频| 婷婷中文在线| 79精品视频在线观看,| 草美女在线观看视频在线播放| 丁香激情五月少妇| 激情综合网激情五月俺也去| 天天干天天做| 99久在线精品| 色五月丁香婷婷| 精品福利911| 97操碰视频| 精品视频网| www.激情| 大天天伊人| www.六月丁香看AV| 狠狠色情婷婷| 五月婷婷六月丁香激情深爱| 无码区婷婷五月花开| 亚洲成人丁香花| 欧美性爱五月天| 97干免费视频| 深爱激情丁香| 四月婷婷丁香| 九九热这里只有精品一| 五月丁香好婷婷姑娘综合网| 91精品婷婷国产综合久久| 1024欧美看片| 在线观看免费观看在线9久| 99操| 天天肏高清在线| 激情深爱五月| 色五月天在线| www.五月天婷婷姐姐| 99国产小视频2013| 97碰啪啪| 丁香色综合| 蜜乳人妻一区二区三区| 伊人九热| 婷婷丁香五月综合网| 国产精品色色| 午夜成人AV在线| 亚洲 在线 性爱 | 91色色色视频| 99色嘟嘟精品网站| 天天色2017| AAA久久| AA久久| 天天干,夜夜爽| www.henhengan| 丁香婷婷在线| 五月丁香花婷婷玉莉AV| 婷婷情色激情| 五月花综合视频| 99亚洲色| 99亚洲日韩| 欧美成人精品一区二区| 深爱五月最新网址| 色狠狠综合| 激情五月婷婷综合网| 色爱综合视频| 思思99热热热99| 色色操| 五月天色图| 婷婷五月天av| 色婷婷基地在线| 丁香婷婷六月激情文学| 丁香五月天激情五月天激情五月天激情网| 五月丁香激情片| 丁香婷婷五月天校园春色| 操91| 玖玖在线资源视频| 甈吧vv| 日逼免费视频 | 五月丁香婷草| 激情综合网色播五月| 播五月丁香三月婷婷| 婷婷五月天激情网| 久久精典| 激情五月天在线视频| 99久久性爱| 天天插天天爱| 无码人妻精品一区二区蜜桃色欲| 天天射影院| 天天综合精品| 色婷青青| 9 9 9色色| 婷婷五月中文字幕| 久久色情| 综合xx网| 丁香社区婷婷五月| 狠狠色狠狠操| 97香蕉碰碰人妻国产欧美| 婷婷综合| 91九色首页| 99热91| 色吧综合网| 日韩一区二区A片免费观看| 九九九九热99超碰| 在线视频激情网站| 狠狠舔| 丁香五月视频在线观看| 天天操天天草天天草天天| 婷婷六月色播| 丁香五月天视频| 成人在线网| 天天操天天操天天操天天操天天操| 狠狠色色| 91人人看| 97人妻碰碰碰碰碰久久久久久| 激情爱爱网站| 五月婷婷深深爱爱| 思思99热这里只有精品6| 色狠狠综合入口| 婷婷五月天激情电影| 97色色色色色| 三人荫蒂添的好舒服A片| 国产又爽又猛又粗的视频A片| 91色色五月天| 婷婷伊人五月丁香天堂网| 99riAV国产精品视频| 99思思在线视频| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 99亚洲精品| 日本色色色色色色色色一色二色| 亚洲精品成人片在线播| 色愛综合网| 思思99精品视频在线观看| 六月丁香影院| 综合婷婷久久| 成人婷婷色综合| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 九九婷| 伊人网啪啪| 天天天操天天天爰| 常久最新免费的色吊丝| 香蕉操亚洲| 狠狠狠狠狠狠| 六月丁香婷婷大香蕉| 噜噜色天天开心| 嫩草AV久久伊人妇女超级a| 久艹大香蕉| 丁香六月婷婷综合| 激情久久丁香| 五月天欧美 另类小说| 五月天亭亭俺也| 五月天色不卡| 91大神在线免费看视频全集男男一起操| 无码人妻电影| 精品色色色| 丁香五月天堂| 婷婷六月久久| 狠狠舔| 日日干干天天干| 久久免费操| 亚洲网站观看视频| 日韩成人电影AV| 丁香五月综合网亚洲综合欧美狠狠| 激情综合久久| 99re资源在线视频导航| 91欧美| 在线可以看的av网址| 综合激情婷婷| 国产91在线视频| 无码一区二区日韩| 五月天综合视频| 久久人妻视频| 欧洲S级在线观看| 久久精品综合色| 日韩av大全| 99操碰| 综合久久综合五月天婷婷| 五月丁香网av| 天天综合五月天| 成人丁香婷婷| 再次出发二| 久久久久久97| 97成人在线视频| 色吧综合网| 草综合14| 成人做爰A片免费看网站找不到了| 久久精品系列| 九月丁香五月婷婷| 成人av免费观看| 玖玖婷婷婷丁香五月| 五月天婷婷色小说| 五月激情在线| 久久多色| 婷婷深爱五月天| 丁香五月影院| av大香蕉| 五月丁香六月色| 97碰碰久久| 丁香亭亭久久| 五月丁香香蕉| 五月婷婷六月综合| 婷婷丁香五月高清| 久久无码成人| 亚洲激情高潮| 色情成人五月天| 丁香六月青青草| 色婷婷五月天小说网| 99精品无码| 欧美精品啪啪| 婷婷五月天福利| 97碰 在线视频观看| 婷婷丁香五另类网站| 欧美久久婷婷| 久久WW| 五月丁花六月丁香综合| 九久九精品| 五月综合婷婷网| 可以直接看的av| 国产综合色婷婷精品久久| 亚洲五月停停| 久久停停超碰| 五月情涩综合婷婷| 亚洲色色香蕉| 日韩一级淫乱片一区二区三区| 婷婷五月天视| 天天干,夜夜爽| 久久婷婷伊人| 五月丁香综合激情| 色综合综合色| 婷婷天堂综合| 久久九九中文字幕| 情趣视频66| 1024欧美看片| 5月婷婷激情网| 国产乱子轮XXX农村| 五月婷婷色播视频| 久久精彩免费视频| 婷婷激情伍月网| 日本久久99| 亚洲av免费在线| 在线视频另类| 色婷婷网| 天天玩夜夜操| 欧美噜噜免费观看| av中文在线| 成人超碰AV| 久久这里只有精品99| 婷婷99| 丁香五月婷婷六月| 99热这里只有精品26| 99精品综合| www.色五月| 五月婷在线观看| 精品99这里有| 成人AV在线电影| 热久久成人| 人妻久久久久久| 丁香婷婷激情五月色| 99精品国产在热久久| 美女100%露全身无挡网站| 人妻丰满精品一区二区A片| 最新激情五月天| 少妇出轨做爰高潮A片| 人人干AV| 任你干线上免费视频有3吗| 日日天天干| 伊人三级激情| 91丨九色丨熟女丰满| 丁香激情四射| 婷婷狠狠干| 久一这里有精品国产| 亚洲电影在线观看| 婷婷五月深爱五月| 激情婷婷丁香| 婷婷色五月丁香六月欧美啪| 97色女人在线| 欧美婷婷综合| 婷婷色日本| 丁香五月伊人| 中文在线成人| 激情丁香五月天综合| 性做久久久久久久免费看| 丁香五月综合在线播放| YW无码| 丁香婷婷91在线观看视频| 99热99干| 久久视频在线视频| 停停五月丁香| 中文字幕AV在线播放| 成人av免费观看| 日韩久久这里只有精品| 亚洲av午夜精品一区二区| 午夜免费试看| 丁香婷五月天| 五月久久| 九热视频| 色五月婷婷激情五月| 人人操91色| 久久五月丁香婷婷| 天天爱天天做天天舔| 婷婷六月激情综合| 26uuu丁香婷婷五月| 996er在线观看| 狠狠婷婷综合| 操操国产| 国产综合激情五月久久| 久久婷婷六月综合综合| 丁香五月天堂网| jiuse91在线| 婷婷精品免费久久| 亚洲十月婷婷综合| 在线成人视频免费| av中文在线| 婷婷五月天激情在线| 无码啪啪| 伊人网色婷婷五月天| 色五月丁香婷婷| 婷婷天堂综合| 美女被操一区二区| 色五月综合网| 牛牛碰免费| 婷婷色丁香五月| 欧美精品999| 五月丁香六月婷婷操操操| 99热在线观看| 亚洲激情六月| 激情99| 激情五月天综合| 99热在线99| 99碰视频| 国外亚洲成AV人片在线观看| 久久五月天网| 99视频精品8| 9久久久久| 一二线视频 另类| 熟女网站久久| www.夜夜騎夜夜狠| 99热91| 久久综合香蕉国产国产蜜臀AV| 久久九九99| 亚洲va欧洲va国产va不卡| 精品五月视频婷婷在线观看| 欧美人人超级碰| 亚洲无AV在线中文字幕| 99精品热视频| 午夜色丁香| 九九sese| www98日本小时间到了| 久久久精品免费啪啪国| 久久a热| 色欲一区二区三区精品A片| 色宗合,宗合网| 婷婷月综合| 色五月美女| 综合婷婷| 色婷婷操逼| 激情五月丁香六月综合AVXXXX| 无码一区二区日韩| 99久久婷婷五月综合| 精品热青草| 六月丁香五月天| 人人操五月天| 日日操,夜夜爽| 亚洲综合视频天天精品| 五月天丁香成人| 九热av| 中字幕视频在线永久在线观看免费| 色五月五月婷婷| 五月丁香婷婷成人综合网| 五月激情精品视频| 天天想夜夜爽天天爽| av国产精品偷| 中文在线成人| 极品五月天| 熟女强人妻一区二区三区四区无| 色婷五月天| 九九热欧美| 欧美成人精品A片免费一区99| 五月深爱网| 亚洲尤物在线| 情婷婷五月天在线| 色色色色欧洲| 婷婷五月天六点丁香五月| 97自拍99| AV在线二十六页| 天天揷综合网| 国产FREESEXVIDEOS性中国| 99色免费观看全部| 中文字幕在线免费| 青青草原伊人网| 九九热思思| 天天操,夜夜骑| 婷婷五月丁香基| WWW.五月天9999| 色五月激情视频在线综合| 99玖玖在线视频| 色九九丁香九月色九九色| av首页在线| 五月Huangsewang| 丁香婷婷激情| www.超碰在线| 五月六月婷婷激情网| 99riAV国产精品视频| WWW.久久久久久久久久久久久| 四川BBB搡BBB爽爽视频| 大地9中文在线观看免费高清| 婷婷丁香五月综合| 欧美丁香五月97色| 日本在线99| 激情综合一| 天天日,天天干,天天操| 色欲久久久久| 成年人看Va免费视频| 天天夜夜操| 九九热视频思思| 另类图片婷婷五月天| 开心五月丁香啪| 99爱最新免费视频在线观看| 午夜青草资源| 婷婷六月插屄激情| 一二三区视频韩国| 99色播| 少妇久久诱惑视频| www.日日日.com| 狠色狠色狠色狠色狠色网| 都市激情五月婷婷综合| 五月天激情在线视频| 思思99热在线| 伊人综合网4| 夜夜夜夜操| 青青草六月丁香| 六月婷婷色宗合| 六月婷婷国产| 国产精品香蕉| 色婷婷五月天激情在线观看| 色播播五月| 五月丁香六月婷婷激情网| 99热这里都是精品| 九九99九九99九九99视频网| 亚洲中文av| 色综合色色| 久久机热/这里只有精品| 色999亚洲人成色| 天天日天天爽| 国产AV一区二区三区日韩| 午夜天堂一区人妻| 天天综合网~91| 亚洲黄色av网站| 26.uuu丁香五月婷婷| 色欲丁香| 婷婷五月丁香五月丁香| 欧洲日韩一区二区三区| 婷婷激情五月综合在线视频| 五月天五月天成人网亭亭成人色网站| 五月婷婷六月丁香在线| www.色综合.com| 成人丁香五月天| 天天综合色| 久99婷婷色综合| 欧美男女婷婷| 国产精品人妻在线网址| 91丨九色丨熟女|新版| 丁香五月情色| 色色色.com| 久久99激情丁香婷婷小说网| 欧美色色色色色色色色色色| 色播五月丁香| 亚洲精品久久久无码| 色九月综合| 伊人九九热| 国产激情综合五月久久| 99超在线| 婷婷精品性性性性性性性| 五月天婷婷乱论小说| 精品久久99| 丁香五月欧美激情| 四月丁香五月婷婷久久| 日韩久久视频| 中文字幕人妻熟女在线| 狠狠色综合无线观看| 开心五月婷婷婷美女| 狠狠干五月天婷婷网| 99er在线观看| 99久视频| 99热综合网| 五月丁小婷婷激情四射| 密乳Va| 天天做天天爱天天日| 中文字幕性爱丰满| 999精品乱码77777| 99热手机在线精品| 99精品国产在热久久| 狠狠色丁香久久综合婷婷亚洲成人福利 | 深爱激情九九五月天 | 51精品国自产在线| 光棍影院日韩精品| 久久er这里只有精品| 日日做夜夜爱| 大香蕉久久久久| 最新高清无码专区| 亚洲色色五月| 96人人操人人操人人| 婷婷五月成人系列| 人人爱操| 伊人狼人干| 成人婷99最新| 色六月天| 97碰超级人人看| 丁香五月天社区| 色亭亭丁香五月天| 99小视频在线| 人人操人人爱丁香五月| 久久五月网| www.91av.com| 在线视频另类| 99爱免费在线视频| 久久久91| 狠狠操狠狠色| 免费黄色视频网址| 丁香五月综合网亚洲综合欧美狠狠| 久久久久久久久久8888| 思思干精品| 九九热九九| 99热这里只是精品| 久久丁香五月婷婷| 婷婷五月另类网站| 丁香五月激情宗合网| 99久久激情视频| 久操婷婷| 久久婷婷夜| 久久久久综合激动五月天| 婷婷五月在线视频| 欧美日本韩国亚洲| AV在线资源| 婷婷激情五月综合在线视频| 久久久婷婷婷| 另类亚洲电影| 翔田千里aV中文字幕| 久色大| 丁香婷婷五月香蕉91| 日韩成人综合网| 五月激情久久| 国产乱妇无乱码大黄AA片| 九色无码| 99热在线观看这里只有精品| 色婷婷综合网| 亚洲无码www| 色五月丁香婷婷综合| 丁香五月色色| 玖玖色综合网| 婷婷五月欧美AA片免费| 国产精品五月丁香| 婷婷中文在线| 黄页免费一级视频懂色| www.色窝| 天天干天天色综合| 99热狠狠操| 国产精品婷婷午夜在线观看| 日韩无码专区| 亚洲AV网址| 色播五月丁香| 少妇水多A片太爽了| 中文字幕永久在线| 天天色丁香| 99九九热视频免费| 欧美va欧美va差| 色色热| 亚洲、欧美、国产另类笫二区| 国语精品探花| 99精品国产在热久久| 操碰91| 五月婷婷丁香大陆免费| 五月天丁香啪啪啪啪| 六月伊人婷婷| 五月丁香婷婷综合网| 婷婷情色五月天| 99视频精品在线| 五月天婷婷色综合| 丁香五月天无码| 777精品久无码人妻蜜桃| 亚洲人妻AV| 六月婷婷激情| 九九色插| 免费试看小视频 99| 亚洲九九夜夜| 99re6热在线精品视频播放速度 | 五月天婷婷狂暴白浆| 天天色伊人| www激情| 久热伊人| 色婷婷伊人| 五月丁香少妇| 野战毛片三一3| 丁香五月婷婷高清| 婷婷综合五月色播| 五月网站| WwW天天干| EEUSS鲁片一区二区三区| 99久久久国产大片| 99精品在这里| 婷婷色中文字幕| 999热在线视频| 丁香色成人| 超碰国产在线观看| 91视频久久久| 激情网婷婷五月天| 九色综合五月天婷五月| 五月天电影网| 五月丁香婷婷欧美色图视频五月丁香777电影| 亚洲五月六丁香激情| 九九热免费| 亚洲欧洲国产精品| 久久99精品久久久久久三级| 9久久久| 天天干天天干天天干天天干天天干| 色黄啪啪| 丰满熟女人妻一区二区三| 激情婷婷99| 激情五月丁香六月| 五月丁香婷婷色播无码| 六月丁香VA| 五月婷婷黄色毛片| 丁香五月天婷婷激情| 中日韩狠狠色| 日本WWW九九九| 棕合影院色色| av在线观看免费| 激情丁香婷婷| 99精品免费视频| 五月丁了香蕉综合| 怡红院视频| www.com在线操视频免费观看| 久色五月| 久re在线| 婷婷的色色五月天| 丁香五月在线自慰| 狠狠综合久久| 中文网AV| 国产亚洲精品久久久久久豆腐| 六月婷婷色五月| 五月J香蕉婷婷| 婷婷五月视频| www.刺激色网站www.| 五月丁香在线| 538任你爽| 亚洲五月婷婷| 天天综合天天做天天综合| 丁香狠狠干| 天堂草在线看www| 91chinese 在线| 婷婷综合色色| 影音先锋xfplay资源男人网| 亚洲成av人影院| 蜜桃五月天色| 色站9/| www.99热这里精品| www.婷婷,com| 久久婷婷五月综合| 99 色色吧| 狠狠ri| 亚洲激情五月天| 丁香五月日韩| www超碰| 婷婷丁香五月天狠狠| 激情五月天第四色| 综合99久久| 日韩成人电影AV| 婷婷久久综合| 偷拍视频五月天| 黄页免费一级视频懂色| 丁香九月婷婷综合| 久久黄色网扯| 亚洲中文AV| 成人在线视频一区| 伊人影音无码一区二区三区| 精品香蕉99久久久久网站| 99精品在线下载| 99热99日天天干| www.五月天色色.com| 婷婷五月色花丁香社区| 熟妇高潮一区av| 激情五月天婷婷| 夜夜夜天天操| 色色色色色色综合网| 色情五月综合婷婷| 天天激情5月天亚洲| 国产肥白大熟妇BBBB视频| 永久AⅤ1| 99九九综合久久九九| 少妇熟女视频一区二区三区| 99爱在线观看视频| 色情五月丁香| 熟女色色一区二区| 激情九色| 开心四月婷婷在线色播播| 色偷偷人人| 开心五月网 | 99爱视频在线| 丁香六月视频免费观看| 高清国产AV| 五月婷婷性爱| 亚洲欧美999| 激情五月天视频| 婷婷伊人久久无码色五月| 99re热在线视频观看| 五月天婷婷日日爱| 久久久九九视频精品18| 婷婷开心激情| 四月婷婷丁香| 五月丁香婷婷综合| 日韩国产AV播放| 97天堂| 无月播播激情在线观看视频| 久久99久久99精品免观看粉嫩| 国产精品涩涩涩视频网站| 丁香五月天中文字幕| 色欲天天综合网| 青青久在线视频免费观看| 色噜噜狠狠色综无码久久合欧美| 台湾综合丁香五月蜜桃| 草草视频91| 天天操夜夜爱| 日本超碰在线| av网站免费在线| 激情综合五月| 婷婷色爱| 在线播放中文字幕| 日韩欧美成人一区二区三区| 99热国产精品| 五月丁香龟婷婷| 人妻爽爽爽久久久久久久久| 99re在线免费视频| 九月婷婷综合| 久久色亭亭五月天| 思思久久96热在精品国产,| 国产精品操| 最近免费中文字幕大全高清大全1| 97九色视频| 精品皮股午夜AV| site:hcxsz888.com| 久久婷婷五月综合色丁香| 日本玖玖在线| 久久精品系列| 丁香婷婷五色月| 亚州色婷婷| 五月丁香六月婷婷激情四射| 婷婷五月丁香五月| 97色女人在线| 激情久久综合网| 天天狠天天狠| 激情五月,激情综合网| 色综合激情图区| 五月天婷婷久久视频| 99精品免费| 无码G高清天| 激情四射婷婷| 九月婷婷在线观看| 亚洲精品V天堂中文字幕| 亚洲精品视频在线播放| 色五月女| 五月婷婷和六月| 玖玖爱综合网| 九九九九成人| 五月天婷婷狂暴白浆| 99热免费| 婷香五月激情视频| 99热在线观看精品| 五月天六月色| 久久久久思思热| 另类激情五月| 婷婷爱综合| 永久无码色| 色综合久久88色综合天天99| 99久久精彩视频| 五月丁香综合久久夜夜| 春色激情| 国产乱妇无乱码大黄AA片| 激情婷婷丁香| 激情九月婷婷| 婷婷色婷婷| 日日色综合| 五月婷精品| 亚洲色婷婷视频| 色小说五月婷婷| 五月丁香婷婷激情久久| 九九Av| 婷婷丁香亚洲色综合91| 日韩 mm 不卡| 操97在线观看| 成人国产欧美大片一区| 婷婷激情五月综合| 97九色视频| 六月丁香激情网| 无月播播激情在线观看视频| 狠狠狠狠狠狠狠狠草| 色五月婷婷丁香国产在线| 天天爽爽日日做做| 亚洲精品99| 好看的国产精品| 亚卅毛片| 六月婷婷香蕉| 99人妻碰碰碰久久久久| 日韩美一级毛卡片| 超碰妻人人| 久热re视频在线观看网站| 屁股翘好撅高迎合跪趴| 99这里有精品视频| 色婷婷丁香五月天| 色五月综合激情| 成人婷99最新| 人人操插| 97久久草草超级碰碰碰| 丁香五月成人婷婷| 丁香五月六月综合欧美| 99在线精品视频免费观看20| 婷婷五月天成人网站| 丁香婷婷成人在线播放| 日日夜夜综合| 99色 色| 婷婷色av| 狠狠插日日干撸| 亚洲成人黄色网| 五月六月婷婷| 色婷婷综合网站| 五月天激情图| 精品久久久久久久人妻| 国内精品玖玖| 婷婷丁香色情五月天| 欧美日韩一区二区三区四区| 这里精品| 美女天天爽| 日本狠狠色| 国产色网站| 激情开心五月婷婷| 另类综合激情| 亚洲mm色| 狠狠草综合网| Www.激情| 婷婷五月天播播| 丁香久月| 丁香五月欧美激情| 五月天精品视频| 日韩999| 情欲禁地| 婷婷碰碰| 欧美婷婷色五月网| 狠狠干婷婷| 久久只有18视频| 色五月首页| 天天碰夜夜操| 色色色五月| 天堂中文国产| 丁香婷婷综合精品六月初| 国产美女精品| 久久机热/这里只有精品|