欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

LAS點云訓(xùn)練PointNet分類:從數(shù)據(jù)預(yù)處理到模型調(diào)優(yōu)全流程指南

LAS點云訓(xùn)練PointNet分類:從數(shù)據(jù)預(yù)處理到模型調(diào)優(yōu)全流程指南 簡介針對PointNet/PointNet訓(xùn)練自定義LAS點云數(shù)據(jù)的需求這套基于PyTorch的代碼包提供了完整的分類與語義分割流程。資源以GitHub開源項目Pointnet_Pointnet2_pytorch為基礎(chǔ)重點適配帶Classification屬性的LAS點云數(shù)據(jù)讀者可在PointNet或PointNet之間自由選擇適合正在學(xué)習(xí)點云深度學(xué)習(xí)、需要快速上手自己數(shù)據(jù)集的中高級學(xué)習(xí)者。包體共19個文件以Python腳本為主涵蓋數(shù)據(jù)加載、LAS屬性解析、模型定義、訓(xùn)練與測試等環(huán)節(jié)另含兩個LAS點云樣本一個用于訓(xùn)練驗證一個用于預(yù)測及說明文檔壓縮包僅26KB。結(jié)構(gòu)清晰便于直接修改和使用。目前已有894人學(xué)習(xí)/下載。通過這套代碼可省去從零搭建環(huán)境的步驟直接獲得適配LAS分類任務(wù)的數(shù)據(jù)預(yù)處理與訓(xùn)練測試流程理解如何將通用PointNet/PointNet遷移到帶語義標(biāo)簽的LAS點云上并快速產(chǎn)出初步分類結(jié)果。1. 用你自己的LAS點云跑PointNet分類為什么這條路比“下載公開數(shù)據(jù)集”更值得走拿到了LAS格式的機(jī)載或車載點云帶著Classification屬性卻找不到公開的PointNet可用數(shù)據(jù)這幾乎是每個做點云分類的從業(yè)者都卡過的坎。公開的ModelNet40、ScanNet都是完整網(wǎng)格或處理好的純凈點云一旦換成實測LAS——植被、地面、建筑、電線桿混在一起點密度不均勻坐標(biāo)動輒幾十萬米——原樣喂進(jìn)去loss直接不收斂驗證集精度的起起伏伏能讓人懷疑人生。而這篇要解決的正是用PointNet和PointNet在“自己手里的LAS數(shù)據(jù)”上跑通分類。從LAS字段抽取、坐標(biāo)歸一化到訓(xùn)練、評估和換模型升級整條路徑用代碼一步步走下來最后給出一個能落到生產(chǎn)環(huán)境的方案。適合那些手里有LAS點云、想訓(xùn)練一個能區(qū)分地物類別的分類模型的工程師和研究者。先說結(jié)論整條路的核心不在PointNet的網(wǎng)絡(luò)結(jié)構(gòu)而在“把LAS變成PointNet認(rèn)識的數(shù)據(jù)”這一層。Classification屬性是LAS里現(xiàn)成的標(biāo)簽但它的數(shù)值映射、組織方式和PointNet想要的索引數(shù)組方式之間存在很大的鴻溝這個鴻溝不填平再怎么調(diào)參數(shù)都是白搭。2. 為什么從LAS Classification入手從PointNet的原生輸入說起2.1 PointNet對輸入數(shù)據(jù)的要求和LAS的天然差異PointNet原模型的輸入形式是N×3或N×KK是點特征維數(shù)的張量從點云里歸一化到以原點為中心、尺度在1左右的包圍盒。LAS文件常見的坐標(biāo)可能是UTM 50NX是幾萬米、Y是幾千萬米、Z是高程這個尺度落在PointNet的MLP激活函數(shù)飽和區(qū)。LAS的Classification字段是uint8編碼編碼含義參照ASPRS標(biāo)準(zhǔn)大多數(shù)點類別集中在2地面、3低矮植被、4中等植被、5高植被、6建筑這五個類而是未分類或0數(shù)值本身不能直接當(dāng)標(biāo)簽喂進(jìn)去。還有一個數(shù)據(jù)組織形式的問題一條LAS是“一個文件一個場景”一個場景里有幾十個類別每類點數(shù)相差懸殊如果不做裁塊和重采樣PointNet訓(xùn)練時用“把所有點一次性喂給網(wǎng)絡(luò)”的寫法小類別輕易被淹沒。從LAS到PointNet輸入歸一化是第一步后面要把場景切成塊再在塊內(nèi)做歸一化和采樣讓訓(xùn)練時一個batch里各類別比例可控。2.2 兩種網(wǎng)絡(luò)選型PointNet和PointNet的取舍先介紹一個常見做法做LAS機(jī)載點云地物分類PointNet作為baseline足夠驗證數(shù)據(jù)流程是否通暢PointNet負(fù)責(zé)精度。原理上講PointNet的全局max pooling解決了置換不變性問題但全世界共享一個特征向量導(dǎo)致它對稠密區(qū)域和稀疏區(qū)域不加區(qū)分這在LAS數(shù)據(jù)里非常吃虧——機(jī)載點云地面點密度高植被中下層密度低高層建筑立面和底面的分布差異就更明顯。PointNet把點云按鄰域分組用Ball Query或KNN選鄰域在每一組內(nèi)先用小型PointNet稱為Set Abstraction層提取局部特征然后逐層上采樣融合全局與局部特征。從機(jī)載LAS的物理含義看房屋的屋頂是一個局部平面結(jié)構(gòu)地面和道路是很大的平面結(jié)構(gòu)前者需要在較小的鄰域半徑內(nèi)被識別后者需要較大的鄰域——PointNet的多尺度分組MSG模式就是為此設(shè)計的。建議直接把訓(xùn)練代碼寫到“可切換模型”的層面用同一種數(shù)據(jù)加載方式一個參數(shù)切換PointNet或PointNet。這樣做的好處是先跑PointNet驗證數(shù)據(jù)正確性再用PointNet提升精度如果兩種模型的精度相差很大多半是數(shù)據(jù)分割方式的問題而不是模型結(jié)構(gòu)的問題。3. PointNet分類模型的核心結(jié)構(gòu)從代碼層面理解它為什么能處理LAS3.1 一個能直接訓(xùn)練LAS數(shù)據(jù)的PointNet分類網(wǎng)絡(luò)下面這個實現(xiàn)是我在實際項目里多次調(diào)整沉淀下來的標(biāo)準(zhǔn)結(jié)構(gòu)可以直接作為baseline。它不依賴官方實現(xiàn)用PyTorch凡常用組件搭起來就好。import torch import torch.nn as nn import torch.nn.functional as F class PointNetClassification(nn.Module): def __init__(self, num_classes, input_channels3, use_tnetTrue): super().__init__() self.use_tnet use_tnet if self.use_tnet: self.input_transform TNet(kinput_channels) self.mlp1 nn.Sequential( nn.Conv1d(input_channels, 64, 1), nn.BatchNorm1d(64), nn.ReLU(), nn.Conv1d(64, 64, 1), nn.BatchNorm1d(64), nn.ReLU() ) self.feature_transform TNet(k64) self.mlp2 nn.Sequential( nn.Conv1d(64, 64, 1), nn.BatchNorm1d(64), nn.ReLU(), nn.Conv1d(64, 128, 1), nn.BatchNorm1d(128), nn.ReLU(), nn.Conv1d(128, 1024, 1), nn.BatchNorm1d(1024), nn.ReLU() ) self.classifier nn.Sequential( nn.Linear(1024, 512), nn.BatchNorm1d(512), nn.ReLU(), nn.Dropout(0.4), nn.Linear(512, 256), nn.BatchNorm1d(256), nn.ReLU(), nn.Dropout(0.3), nn.Linear(256, num_classes) ) def forward(self, x): # x: (B, C, N)C3表示XYZC6表示XYZ法向量或強(qiáng)度 if self.use_tnet: trans self.input_transform(x) x torch.bmm(trans, x) x self.mlp1(x) trans_feat self.feature_transform(x) x torch.bmm(trans_feat, x) x self.mlp2(x) x torch.max(x, dim-1, keepdimFalse)[0] # 全局max pooling x self.classifier(x) return x網(wǎng)絡(luò)結(jié)構(gòu)上這里有一個很多人會忽略的坑LAS點云的坐標(biāo)尺度是幾十萬直接丟給網(wǎng)絡(luò)訓(xùn)練MLP的權(quán)重更新會因為輸入過大而梯度爆炸。因此數(shù)據(jù)預(yù)處理階段的歸一化比網(wǎng)絡(luò)結(jié)構(gòu)本身更關(guān)鍵。這個網(wǎng)絡(luò)接收的輸入形狀必須是B, C, N和圖像分類的B, C, H, W不同一個點云的整個點集相當(dāng)于一張圖的“寬高”點的順序是任意的——這就是PointNet的核心假設(shè)置換不變性。TNet輸入變換網(wǎng)絡(luò)是一個小型PointNet生成一個3×3矩陣用來對輸入XYZ做仿射變換。LAS點云的采集方向是固定的有沒有TNet影響不大。實測中在機(jī)載LAS上開著TNet不但訓(xùn)練時間翻倍還有一定的驗證集精度波動風(fēng)險。我一般把use_tnet設(shè)為False只在數(shù)據(jù)本身有旋轉(zhuǎn)變化時再開。全局max pooling是整個PointNet最精妙也最致命的地方。最大值操作保證了它對點的順序不敏感但它也只保留每個通道最“激進(jìn)”的特征。在LAS數(shù)據(jù)上如果一張場景切片包含大量地面點和少量建筑點max pooling后建筑的特征可能被地面點的“最大值”淹沒導(dǎo)致建筑類別識別率低。這就引出PointNet的局部特征聚合方案。3.2 TNet和BatchNorm在LAS數(shù)據(jù)上的實際表現(xiàn)服務(wù)器上PyTorch的版本、GPU驅(qū)動版本都可能影響一個看起來很簡單的BatchNorm的行為特別是在數(shù)據(jù)歸一化做得不徹底時。LAS數(shù)據(jù)如果用了“整塊場景直接歸一化”而不是“逐條樣本歸一化”訓(xùn)練集和驗證集的均值方差不同BatchNorm會在訓(xùn)練后期出現(xiàn)驗證集loss震蕩。代碼上多寫一步GroupNorm穩(wěn)定性更好但對大多數(shù)場景把逐塊歸一化寫進(jìn)數(shù)據(jù)加載器Dataset里比換Normalization層更直接。從算力的角度看PointNet分類網(wǎng)絡(luò)是一個輕量模型——不算TNet的情況下一個3萬點的樣本在單張2080Ti上做forward加backward大約只要15ms。真正的瓶頸在數(shù)據(jù)加載和預(yù)處理上后續(xù)數(shù)據(jù)管線設(shè)計時把LAS裁切和歸一化放在多進(jìn)程DataLoader的前置模塊里并行處理訓(xùn)練才能跑滿GPU。4. 把LAS轉(zhuǎn)成PointNet能直接吃的張量數(shù)據(jù)預(yù)處理全流程4.1 從LAS讀取XYZ和Classificationlaspy的正確打開方式常見的預(yù)處理工具是laspy讀取LAS文件并將Classification字段導(dǎo)出為numpy。下面這段代碼是完整的處理流程。import laspy import numpy as np def read_las_classification(las_path): las laspy.read(las_path) points np.vstack([las.x, las.y, las.z]).T classification las.classification.copy() return points, classification las_path your_data.las points, labels read_las_classification(las_path) print(points.shape, labels.shape, np.unique(labels))這里對關(guān)鍵邏輯做一個說明las.x返回的是經(jīng)過縮放和偏移還原后的真實坐標(biāo)單位是米。如果直接用las.X即raw整數(shù)坐標(biāo)每個數(shù)值是“真實坐標(biāo) / scale offset”后的整數(shù)這會把坐標(biāo)尺度進(jìn)一步拉大而且不同LAS文件的scale可能不同。務(wù)必使用las.x / las.y / las.z屬性。分類值一定要用.copy()拷貝否則后面做數(shù)據(jù)過濾操作時las文件對象被關(guān)閉numpy數(shù)組可能報錯。運行這段代碼控制臺會輸出點數(shù)和類別值列表。理論上一個標(biāo)準(zhǔn)機(jī)載LAS里應(yīng)該包含2地面、3-5植被、6建筑。如果輸出全是0或1說明數(shù)據(jù)本身未分類這種數(shù)據(jù)后面要做無監(jiān)督預(yù)分割或者直接扔掉——未分類LAS訓(xùn)練分類模型沒用。4.2 裁塊與歸一化代碼里的正確位置LAS文件動輒幾百萬點整塊輸入PointNet是不現(xiàn)實的。常見做法是按固定尺寸如20m×20m將場景切塊每個塊內(nèi)的點數(shù)用體素下采樣或隨機(jī)采樣控制在固定數(shù)量如4096點。def normalize_block(points): # 逐塊歸一化減去質(zhì)心除以最大半徑 centroid np.mean(points, axis0) points points - centroid max_dist np.max(np.linalg.norm(points, axis1)) if max_dist 1e-8: return points points points / max_dist return points def create_train_blocks(points, labels, block_size20.0, points_per_block4096): xmin, ymin np.min(points[:, :2], axis0) blocks [] block_labels [] x_width np.max(points[:, 0]) - xmin y_width np.max(points[:, 1]) - ymin for i in range(int(np.ceil(x_width / block_size))): for j in range(int(np.ceil(y_width / block_size))): # 取出該塊內(nèi)的點 mask ((points[:, 0] xmin i * block_size) (points[:, 1] ymin j * block_size) (points[:, 0] xmin (i1) * block_size) (points[:, 1] ymin (j1) * block_size)) block_pts points[mask] block_lbls labels[mask] if len(block_pts) 100: # 過濾掉空塊和極稀疏塊 continue # 隨機(jī)采樣到固定點數(shù) if len(block_pts) points_per_block: idx np.random.choice(len(block_pts), points_per_block, replaceFalse) else: idx np.random.choice(len(block_pts), points_per_block, replaceTrue) block_pts block_pts[idx] block_lbls block_lbls[idx] block_pts normalize_block(block_pts) blocks.append(block_pts.astype(np.float32)) # 標(biāo)簽轉(zhuǎn)成整數(shù)索引0為背景1-5對應(yīng)各類 # 這里假設(shè)Classification的5類映射到0-4 block_labels.append(block_lbls.astype(np.int64)) return np.stack(blocks), np.stack(block_labels)這段代碼里的dos和donts隨機(jī)采樣在點云稠密的地方用隨機(jī)下采樣密度稀疏的地方用有放回采樣湊夠固定點數(shù)。塊的類別分布會嚴(yán)重不均衡——一棵樹可能分布在20多個塊里一個小汽車只在1個塊里。如果全場景塊都用訓(xùn)練集類別比可能是1000:1導(dǎo)致模型整體預(yù)測偏向多數(shù)類少數(shù)類召回幾乎為0。解決方法是后續(xù)加“類別加權(quán)采樣”或用Focal Loss。Focal Loss的思路是降低已學(xué)得很好的那部分樣本的權(quán)重讓模型多關(guān)注“難分”的少數(shù)類——LAS點云分類中的小類比如汽車、電線桿是典型難分樣本。歸一化放在采塊之后而不是整個場景歸一化。整個場景級歸一化會把局部幾何差異抹掉放在塊級別則保留局部的相對形狀。4.3 不使用全場景坐標(biāo)而是局部歸一化這個選擇背后有物理依據(jù)做LAS點云分類局部幾何特征比絕對坐標(biāo)含義豐富得多。一個20m×20m的塊里地面點在一個平面上建筑立面近似垂直于地面樹冠是一個局部的球狀分布——局部歸一化后這些結(jié)構(gòu)特征最穩(wěn)定。反觀全局歸一化點云在坐標(biāo)上的絕對位置主要受測區(qū)經(jīng)緯度影響同一地物在不同測區(qū)的坐標(biāo)完全不同網(wǎng)絡(luò)去擬合這種“數(shù)字差異”毫無物理意義。有人把XYZ之外又額外加了RGB或強(qiáng)度特征LAS文件的強(qiáng)度Intensity字段對植被分類有意義——瀝青和水泥的反射強(qiáng)度不同。把強(qiáng)度歸一化后拼到輸入特征維度從3維變成4維PointNet的Conv1d輸入通道數(shù)改一下就行。但要注意LAS的強(qiáng)度存儲在內(nèi)存中只有2字節(jié)部分老的LAS文件數(shù)值范圍是0-65535還有部分是0-255跨文件要統(tǒng)一歸一到0-1才能混著訓(xùn)練。5. 用LAS數(shù)據(jù)訓(xùn)練分類模型從dataset到訓(xùn)練代碼的完整鏈路5.1 Dataset類的寫法PyTorch的數(shù)據(jù)加載實踐只要block的預(yù)處理做得好Dataset類寫起來很簡單。但要注意的是在__getitem__里做隨機(jī)采樣會導(dǎo)致每個epoch的數(shù)據(jù)都是“重新抽樣的”這樣同一個塊的樣本在訓(xùn)練和測試時內(nèi)容不同——對測試集來說這很危險因為同一個塊的原始數(shù)據(jù)可能出現(xiàn)在訓(xùn)練集里隨機(jī)抽樣又會產(chǎn)生同源樣本。正確做法是在預(yù)處理階段一次性固定抽樣訓(xùn)練集和驗證集按“塊”為單位做劃分而不是按“點”做劃分。import torch from torch.utils.data import Dataset class LASBlockDataset(Dataset): def __init__(self, block_points, block_labels, num_classes6): self.points torch.from_numpy(block_points).permute(0, 2, 1) # permute變成(B, C, N)格式 self.labels torch.from_numpy(block_labels) self.num_classes num_classes def __len__(self): return len(self.points) def __getitem__(self, idx): # 這里已經(jīng)預(yù)處理完畢直接返回即可 return self.points[idx], self.labels[idx] # 劃分訓(xùn)練集和驗證集 n_blocks block_points.shape[0] indices np.random.permutation(n_blocks) train_idx indices[:int(n_blocks * 0.7)] val_idx indices[int(n_blocks * 0.7):] train_dataset LASBlockDataset(block_points[train_idx], block_labels[train_idx]) val_dataset LASBlockDataset(block_points[val_idx], block_labels[val_idx])permute這一步很容易被忽略卻又極其關(guān)鍵。預(yù)處理階段得到的數(shù)組形狀是(N, C)如果直接拿它去訓(xùn)練PointNet的Conv1d期望的輸入是(B, N, C)但這里把C放到了維度1的位置即(B, C, N)。PyTorch的Conv1d要求輸入是(batch, channels, length)length在點云里就是點的數(shù)量。如果用torch.from_numpy直接送進(jìn)去而不做permute你會發(fā)現(xiàn)loss不下降或者訓(xùn)練的時候直接報維度不匹配——這是PointNet做點云訓(xùn)練時的高頻報錯。還有一個隱性問題數(shù)據(jù)劃分必須按塊整體劃分如果按點隨機(jī)劃分訓(xùn)練集里某一塊的部分點出現(xiàn)在驗證集里同一場景的點云幾何相似度極高驗證集精度虛高換到完全沒見過的LAS文件直接崩。5.2 引入類別加權(quán)的損失函數(shù)與超參設(shè)置基礎(chǔ)CrossEntropyLoss在LAS數(shù)據(jù)上的表現(xiàn)通常會讓地面點和植被點占主導(dǎo)汽車、電線桿類完全被吃掉。給Loss加權(quán)重是最快止血的辦法。from collections import Counter def compute_class_weights(block_labels, num_classes): # 統(tǒng)計每類點數(shù) flatten_labels block_labels.reshape(-1) class_counts Counter(flatten_labels.tolist()) total len(flatten_labels) # 權(quán)重 總點數(shù) / (類別數(shù) * 該類點數(shù)) weights [] for i in range(num_classes): if class_counts.get(i, 0) 0: weights.append(0.0) else: weights.append(total / (num_classes * class_counts[i])) return torch.tensor(weights, dtypetorch.float32) class_weights compute_class_weights(block_labels, num_classes6) criterion torch.nn.CrossEntropyLoss(weightclass_weights)類別加權(quán)CrossEntropy的原理不復(fù)雜一個類別的點數(shù)占總數(shù)比例很低時權(quán)重放大誤差將梯度推向少數(shù)類。機(jī)載LAS里背景類的點占比可達(dá)60%以上權(quán)重在0.3左右汽車點占比不到1%權(quán)重能達(dá)到30以上。訓(xùn)練時有一個經(jīng)驗參數(shù)。初始學(xué)習(xí)率設(shè)在0.001用Adam優(yōu)化器batch size設(shè)為32。在訓(xùn)練過程中實時觀察每個epoch的類別精度會發(fā)現(xiàn)一個典型的規(guī)律訓(xùn)練集和驗證集上多數(shù)類精度先到95%以上少數(shù)類可能一直停在30%。這時把類別權(quán)重的冪次從1.0提到1.5-2.0少數(shù)類就會開始動。But——權(quán)重過高會導(dǎo)致loss震蕩驗證集少數(shù)類的精度反而下降。正確做法是權(quán)重冪次從1.0開始每20個epoch遞增0.1在驗證集上找最佳值。這一部分沒有銀彈多試幾次才能穩(wěn)定。5.3 訓(xùn)練腳本主循環(huán)留好模型checkpoint和早停def train_one_epoch(model, dataloader, optimizer, criterion, device): model.train() total_loss 0.0 for points, labels in dataloader: points points.to(device) labels labels.to(device) optimizer.zero_grad() outputs model(points) loss criterion(outputs, labels) loss.backward() optimizer.step() total_loss loss.item() return total_loss / len(dataloader) def validate(model, dataloader, criterion, device): model.eval() total_correct 0 total_points 0 total_loss 0.0 with torch.no_grad(): for points, labels in dataloader: points points.to(device) labels labels.to(device) outputs model(points) loss criterion(outputs, labels) total_loss loss.item() preds torch.argmax(outputs, dim1) total_correct (preds labels).sum().item() total_points labels.numel() return total_loss / len(dataloader), total_correct / total_points device torch.device(cuda if torch.cuda.is_available() else cpu) model PointNetClassification(num_classes6, use_tnetFalse).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.001) scheduler torch.optim.lr_scheduler.StepLR(optimizer, step_size30, gamma0.5) best_val_acc 0.0 patience_counter 0 for epoch in range(100): train_loss train_one_epoch(model, train_loader, optimizer, criterion, device) val_loss, val_acc validate(model, val_loader, criterion, device) print(fEpoch {epoch:02d}: train_loss{train_loss:.4f}, val_loss{val_loss:.4f}, val_acc{val_acc:.4f}) if val_acc best_val_acc: best_val_acc val_acc torch.save(model.state_dict(), best_model.pth) patience_counter 0 else: patience_counter 1 if patience_counter 20: print(Early stopping triggered.) break scheduler.step()這段訓(xùn)練代碼的幾個細(xì)節(jié)值得注意模型保存只用state_dict不保存整個model對象。因為項目迭代過程中模型定義大概率會修改比如從PointNet換到PointNet直接加載state_dict到新模型更靈活。優(yōu)化器換用Adam配合StepLR比SGD在LAS這種非平衡數(shù)據(jù)上更省心StepLR在50個epoch前后會降低一半學(xué)習(xí)率防止后期驗證集震蕩。早停的patience設(shè)為20個epoch是保守寫法如果訓(xùn)練數(shù)據(jù)比較大30個epoch以內(nèi)通常就能收斂?!膀炞C集精度高但實際預(yù)測新數(shù)據(jù)時效果差”的另一種常見情況是數(shù)據(jù)泄漏。比如同一個場景被切塊后相鄰的塊在物理空間上是連接的如果按文件劃分而不是按塊劃分會造成一個數(shù)據(jù)泄漏模型“記住”了場景A的局部特征驗證時驗證集恰好是場景A的鄰居塊。LAS數(shù)據(jù)劃分的最佳實踐是按照“測區(qū)”級別劃分。比如一個城市有30塊測區(qū)取其中5塊完全不參與訓(xùn)練這樣做出來的驗證精度才可信。6. 避坑LAS點云訓(xùn)練PointNet時的常見翻車現(xiàn)場6.1 分類值全是0或1LAS自身未分類必須先做預(yù)處理現(xiàn)象讀取LAS的Classification字段后發(fā)現(xiàn)99%的點都是0少數(shù)是1直接訓(xùn)練后模型把全場景預(yù)測為一個類別。原因LAS文件本身屬于未分類狀態(tài)。很多低成本激光雷達(dá)掃描設(shè)備導(dǎo)出的LAS文件Classification字段只是默認(rèn)值。這和“訓(xùn)練代碼寫錯了”完全是兩碼事。解決先做地面濾波如CSF布料模擬把地面點分類為2再做歸一化分割得到植被和建筑或者用已有的分類工具如LiDAR360、TerraScan完成預(yù)處理。手工分類一小部分?jǐn)?shù)據(jù)再訓(xùn)練一個輔助模型做自動分類也是有點費但管用的辦法。6.2 XY坐標(biāo)尺度幾十萬訓(xùn)練Loss變成NaN現(xiàn)象在第一個epoch訓(xùn)練時loss在十幾個step之后突然跳到nan然后一直nan下去。原因坐標(biāo)數(shù)值太大MLP輸出的數(shù)值經(jīng)過softmax之前出現(xiàn)極端值梯度直接炸了。解決檢查是否對每個塊做了局部歸一化。特別要注意normalize_block里如果采用“以原點為中心”的歸一化方式對一個超大的點云塊做max_dist運算時可能得到0如果所有點坐標(biāo)相同代碼里加了max_dist 1e-8的保護(hù)就安全了。另一個常見做法是在預(yù)處理階段把整個場景的坐標(biāo)reduce到以“米的相對坐標(biāo)”為單位——比如減去測區(qū)左下角坐標(biāo)作為新的原點再做局部歸一化。6.3 驗證集精度高但實際項目預(yù)測效果差現(xiàn)象訓(xùn)練時驗證集準(zhǔn)確率95%以上新測區(qū)一推理整體精度掉到60%以下。原因訓(xùn)練和驗證數(shù)據(jù)來自同一測區(qū)局部特征已經(jīng)被模型“背下來”。不同測區(qū)的建筑風(fēng)格、植被形態(tài)、點密度差異巨大模型泛化能力不足。解決數(shù)據(jù)劃分按測區(qū)或按圖幅隔離。至少拿一個文件完全不參與訓(xùn)練作為盲測集。建議在預(yù)處理時就強(qiáng)制保證“驗證集來自不同的LAS文件”這個約束要寫進(jìn)數(shù)據(jù)劃分邏輯里而不是訓(xùn)練時手動指定。6.4 塊內(nèi)點數(shù)差異大個別塊上千個類別全同現(xiàn)象某些塊的Accuracy達(dá)到100%某些塊連跑都跑不動數(shù)據(jù)加載卡住。原因切塊完成后沒有做類別過濾。20m×20m的塊里可能全是地面點一類點這種塊對訓(xùn)練貢獻(xiàn)極小卻會拉低模型對少數(shù)類學(xué)習(xí)的推動力。另外一些塊只有幾百個點少數(shù)類樣本少網(wǎng)絡(luò)學(xué)到的少數(shù)類特征是噪聲。解決建塊時過濾掉“單類別占比超過95%”的背景塊。然后把PointNet在后續(xù)引入的“組內(nèi)點數(shù)約束”也寫進(jìn)去——ball query的半徑要適配塊的密度組內(nèi)點數(shù)下限是16個低于這個數(shù)就擴(kuò)大半徑重查。6.5 LAS的Classification標(biāo)簽和實際地物錯位現(xiàn)象訓(xùn)練時loss死活降不下去驗證集精度穩(wěn)定在50%左右比瞎猜1/616.7%高但遠(yuǎn)達(dá)不到實用水平。原因LAS文件的Classification字段本身就存在錯標(biāo)現(xiàn)象。機(jī)載數(shù)據(jù)的自動分類算法偶爾把低矮植被標(biāo)為地面把陰影中的建筑立面標(biāo)為植被。拿這些錯標(biāo)數(shù)據(jù)當(dāng)訓(xùn)練真值模型學(xué)到的是“錯標(biāo)規(guī)則”而非真正的幾何特征。解決訓(xùn)練前抽樣10%的點進(jìn)行人工目視校驗修正明顯的錯標(biāo)。如果數(shù)據(jù)量大至少按類別統(tǒng)計分類信度把置信度低于閾值的點從訓(xùn)練集里過濾掉。這個步驟雖然不是代碼可以解決的但它是LAS訓(xùn)練PointNet最容易翻車但最不容易被意識到的坑。如果項目緊急把錯誤標(biāo)簽的比例直接計入訓(xùn)練loss的平滑項有時候能降低錯誤標(biāo)簽的影響——但只是權(quán)宜之計。7. PointNet在LAS場景下的精度提升關(guān)鍵改動與調(diào)參經(jīng)驗7.1 從PointNet到PointNetSampling層和Group層的落地改動PointNet的核心理念是“局部區(qū)域建模”和LAS數(shù)據(jù)天然的局部性十分契合。它的前向流程是用FPS最遠(yuǎn)點采樣選出一批中心點圍繞每個中心點用Ball Query找出鄰域點對鄰域內(nèi)的點做PointNet提取局部特征然后層層上采樣。PyTorch的實現(xiàn)里最關(guān)鍵的是FPS和Ball Query這兩個算子的CUDA版本。Python/Numpy版本的FPS能跑但慢得令人發(fā)指單批次32個樣本前向一次要多花幾百毫秒。生產(chǎn)環(huán)境的建議是直接使用已經(jīng)實現(xiàn)的擴(kuò)展庫比如PyTorch PointNet的第三方實現(xiàn)或PointNet官方TensorFlow代碼轉(zhuǎn)寫的PyTorch版本。這些庫都是現(xiàn)成的算子不推薦自己從頭寫CUDA。python import sys sys.path.append(pointnet2_pytorch) from pointnet2_ops import pointnet2_utilsdef farthest_point_sample(xyz, npoint): # xyz: (B, N, 3) 已經(jīng)是歸一化后的坐標(biāo) # 返回中心點索引 shape: (B, npoint) return pointnet2_utils.farthest_point_sample(xyz, npoint)def ball_query(radius, nsample, xyz, new_xyz): # radius: 球半徑nsample: 每個球最多取多少點 return pointnet2_utils.ball_query(radius, nsample, xyz, new_xyz)FPS選中心點時第一個中心是隨機(jī)選的后續(xù)每個中心都選“離已有中心最遠(yuǎn)”的點。這在LAS數(shù)據(jù)上的含義是中心點在空間上盡可能均勻分布保證局部區(qū)域的代表性。Ball Query的半徑感覺像是玄學(xué)但實測下來機(jī)載LAS數(shù)據(jù)點密度在10-50 pts/m2半徑設(shè)0.5-1.0米比較合適。如果點密度高半徑可以縮小到0.3米點密度很低半徑要拉大到1.5-2米。半徑太小一個鄰域內(nèi)可能只有幾個點局部特征不穩(wěn)定半徑太大局部特征變成了全局特征PointNet退化成了PointNet。 最遠(yuǎn)點采樣的縮放是另一個值得說的地方。FPS每層輸出的中心點數(shù)量通常設(shè)為上一層的1/4或1/8比如輸入4096點第一層采樣1024中心點第二層采樣256中心點。LAS數(shù)據(jù)地物大小跨度大推薦的中間層設(shè)置是第一層半徑0.5m采樣1024點第二層半徑1.0m采樣256點這種配置覆蓋了從電線桿0.3-1m到建筑立面5-20m的尺度范圍。 ### 7.2 多尺度分組與點特征融合把強(qiáng)度加進(jìn)特征通道的收益 PointNet的標(biāo)準(zhǔn)實現(xiàn)里每個中心點的局部特征來自鄰域點集經(jīng)過MLP后的max pooling。如果只用XYZ做輸入在LAS上會有一個明顯的缺陷樹冠和建筑屋頂?shù)膸缀涡螤钤谀承┮暯窍赂叨认嗨啤际且黄捌鸱拿妗眴慰繋缀畏植惶?。這時把Intensity強(qiáng)度、ReturnNumber回波次數(shù)加進(jìn)特征通道收益非常明顯。LAS中植被通常有多次回波第一次回波在樹冠頂部最后一次回波接近地面建筑屋頂只有一次回波。這是區(qū)分植被和建筑的關(guān)鍵特征。 python def prepare_input_with_features(points_xyz, intensity, return_number, norm_intensityTrue): # points_xyz: (N, 3), intensity: (N,), return_number: (N,) if norm_intensity: intensity (intensity - intensity.min()) / (intensity.max() - intensity.min() 1e-6) return_number return_number / 5.0 # 歸一化到0-1之間假設(shè)最大回波次數(shù)是5 features np.stack([points_xyz[:, 0], points_xyz[:, 1], points_xyz[:, 2], intensity, return_number], axis1) return features.astype(np.float32)加了強(qiáng)度特征后PointNet在機(jī)載LAS上的整體分類精度提升3-8個百分點主要集中在植被和建筑兩個類別上。最主要的還是不同產(chǎn)業(yè)的樹在幾何上差異太大——南方闊葉樹和北方針葉樹的點云形態(tài)完全不同但強(qiáng)度分布特征接近。這是純幾何方法很難跨越的泛化鴻溝靠強(qiáng)度特征就能繞過去。PointNet調(diào)參的個人經(jīng)驗是訓(xùn)練復(fù)雜度比PointNet高得多單epoch時間大約是PointNet的3-4倍如果數(shù)據(jù)本身質(zhì)量一般類別錯標(biāo)多、噪聲大PointNet和PointNet的最終精度差距可能不到2個百分點那基本說明問題出在數(shù)據(jù)側(cè)而不是模型側(cè)。先拿PointNet跑通流程再換PointNet提精度是一條更穩(wěn)的路線。7.3 在Big-LAS上進(jìn)行推理時的切塊策略訓(xùn)練用的切塊尺寸是20m×20m推理時不要用更大的塊。原因很簡單模型在固定尺寸、固定點數(shù)分布的塊上訓(xùn)練的推理塊如果變成100m×100mBlock內(nèi)部地物復(fù)雜度遠(yuǎn)超訓(xùn)練分布精度會下降。推理時保持同樣的塊尺寸和采樣點數(shù)用滑窗覆蓋整個場景相鄰塊之間設(shè)3-5米的重疊重疊部分的預(yù)測結(jié)果用多數(shù)投票融合。這樣能緩解邊界處的切塊偽影。推理的另一個關(guān)鍵細(xì)節(jié)是LAS文件的坐標(biāo)范圍很大但GPU顯存有限一次推理幾百萬個點是會OOM的。推理代碼用“逐塊遍歷”的方式寫每塊單獨做歸一化和推理結(jié)果再映射回全局坐標(biāo)。塊尺寸保持不變點數(shù)保持訓(xùn)練時的4096速度上也夠用——在單張A100上推理一塊大約需要10-20ms一個1平方公里的測區(qū)約2500個塊總體不到一分鐘。最后一個實操教訓(xùn)模型驗證時除了看整體accuracy一定要單獨算每個類別的IoU。LAS場景里地面點往往占總數(shù)的60%以上整體accuracy輕松超過90%但汽車類IoU可能只有20%。類別IoU才是你在項目匯報時能站得住腳的指標(biāo)。把5類分別輸出IoU作為模型上線和迭代的底線每次調(diào)參后先看這個表格再決定要不要保留新參數(shù)。希望這份從LAS到PointNet/PointNet的落地路徑能幫到你少走幾趟我走過的彎路。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷五月天综合久久| 人人天堂操| 伊人大香五月天| 亚色网站小视频| 亚洲、热| 99爱爱| 婷婷五月天成人网| 国产做爰视频免费播放| 久久婷婷夜| 操久久网| 玖玖资源天天无码| 亚洲无线视频| 日韩黄在免| 97人人操人人操人人操人人| 丁香 婷婷 激情 综合 五月| 婷婷5月九九| 狠狠操综合| 大香蕉精品视频| 五月天婷婷久久| 黄色片久久| 99热观看| 精品色情一区二区三区四区| 人妻久久久久久久| 99∨VTV| 伊人久久婷婷五月综合97色| 天堂色婷婷| 人妻久久做| 日日夜夜小色哥| 婷婷久久精品| 丁香六月婷婷| 久久婷婷丁香| 人人人人人人人草| 久久综合五月天| 亚洲无码影音| 伍月婷婷免费视频| 91无码高清| 99碰碰| 日韩成人影片在线观看| 丁香六月开心| 婷婷五月天福利| 五月丁香大香蕉| 99热亚州综合| 日韩一区二区三区无码| 99熟女视频| 乱乱av| 人妻久久婷婷| 丁香成人色情五月天| 五月丁香婷婷基地| 99人人干人人操| 大香蕉综合网| 亚洲熟妇无码乱子AV电影| 五月天成人综合| 99免费青青蜜臀| 色99网| 丁香婷婷在线| 国产精品一区在线观看你懂的| 五月丁香六月婷婷的女人| 五月天婷综合网站| 日韩成人中文字幕| 五月丁香中文婷婷中文| www狠狠| 狼友视频在线观看18| 性按摩玩人妻HD中文字幕| 91疯狂操操操操| 久婷婷久草| 99九九综合久久九九| 色香蕉婷婷| 淫视馆aV二区一区| 91成人视频| 91黄色五月天视频| 69er小视频| 丁香六月婷婷开心| 九色七七| 停停五月天激情网| 久操欧美在线观看97| 九色自拍| 丁香婷婷六月天| www.婷婷久久五月天| 丁香五月丐人妻| 亚洲乱码w在线观看| 超碰日韩成人| 五月婷婷久久综合| 麻豆WWWCOM内射软件| 九九色精品| 丁香六月婷| 婷婷丁香红五月91C| 天天色天天色天天色天天色天天色天天色| 免费AV播放| 97色视频网| 色五月视频,小说| AA丁香综合激情| 热久久91| 99日本黄站| 玖玖精品婷婷| 综合噜噜| 九九超碰人人| 夜夜谢天天干| www.久久久久久| 99视频在线精品免费观看2| 九九视频在线观看视频6| 思思热这里只有精品视频666| 激情五月婷婷网| 色婷插| 97婷婷丁香五月天激情图片| 黄桃AV无码免费一区二区三区 | 九九色院| 色情丁香五月婷婷精品| 99re免费精品视频| 91丨九色丨东北熟女| 五月天激情网址| 香蕉乱插| 色99在线视频| 狠狠色综合网| 丁香五月天激情| 丁香五月香蕉在线| www.超碰| 91啪级电影| 内射人妻视频国内| 五月天成人在线播放丁香| 色综合婷婷| 色噜噜狠狠色综| 亚洲成人在线播放| 草操网| 激情视频网址| 五月天久久婷婷婷| 五月丁香婷婷伊人日韩| 91五月天| 色综合久| 亚洲欧州色情在线观看| 欲色人妻| 激情五月天啪啪| 亚洲色夜| 天天日天天干天天操| 五月丁香日本片| 九九综合| 久久99这里| 欧洲色区| 丁香五月婷婷六月| 91要啪| 99热超碰在线| 色青青五月| 韩国中文字幕91| 丁香五月冃欧美| 色婷婷色丁香色欲av| 天天操天天操天天操天天操天天操天天操| 久久婷婷五月天激情| 国产欧美va| 淫视馆AV在线| 99re在线播放| 亚洲激情婷婷| 久久久久妻| 99久久久| 日本人人xxx| 天天综合五月| 午夜少妇在线观看视频| 六月色播| 国产中文亚洲欧美日韩性交| 久热久69| 色综合久久99色| 99色视频| 1024欧美看片| 色五月婷婷亚洲| 色99视| 婷婷在线日韩综合| 欧美婷婷日本| 九九热99精品| 另类伊人婷婷| 99国产在线精品视频| 九九爱激情| 五月婷婷激情日本| 97好吊操| av最新在线| 九九热这里只有精品6| 激情久久月| 九九香蕉网| 五月丁香久久久日婷婷久久婷婷日| 一本色道久久综合狠狠躁一二三| 天天肏天天肏天天肏| 亚洲精品色色| 99碰碰碰| 五月丁香婷婷综合网| 五月丁香综合啪啪対白| 婷婷性爱视频在线| 午夜性做爰电影| http://www.sd-xiangsu.com/| www.97碰碰com| 九九视频在线观看视频6 | 九九免费精品| 婷婷久久五月天| 婷婷五月丁香青青草在线| 午夜九九九九九九九九九九九九九| 五月婷婷新网站| 六月色 亚洲| 亚洲中文字幕AV| 丁香五月天激情综合网| 色色九九五月天 | 五月丁香婷婷色色| 婷婷五月丁香色色| 中文字幕黄色片| 99热这里只有精品免费观看| 色五月xxx| 黄色AAAAAAA| 激情欧美五月丁香| 操操操操操操婷婷五月天| 精品人妻在线免费观看| 婷婷99狠狠躁天天躁中| 人人操人人爱丁香五月| 久久九九视频网站| 六月婷色| a级毛片一区二区免费视频| 久九色| 国产色99| 天天射射夜| 丁香婷婷六月天| 韩国不卡AC视频| 玖玖婷婷五月天| 六月激情综合| 成 人 色 色| 无码色色色色色| 久久伊人婷| 亚洲视频一区| 久机视频这只有精品| 欧洲激情精品婷婷| 国产乱妇乱子伦| 五月总合激情网| 9伊人网| 五月婷婷丁香91| 欧美色色色色色| 亚洲天天综合| 五月情涩综合婷婷| 九九久久99| 亚洲人妻AV| 六六久久黄色| 尔尔AV一区| 无码G高清天| 第四色激情网| 中文精品在| 殴美97色| 成人五月天。COM| 色婷婷六月| 超碰在线国产| 在线看片av| 天天草天天摸| 欧美黄色AA片哗啦啦啦| 五月天狠狠草| 日日夜夜爽| 久久婷婷六月综合资源| 色噜噜伊人| 亚洲AV第二区国产精品| 三级99热| 91性人人| 超碰人人99| 91怕怕网| 久草五月婷| 色欲AVV| 国产午夜成人免费看片无遮挡| 五月婷婷影院| 色丁香五月| 色综合网址| 色婷婷综合影院| 色五月天在线观看| 久久久噜噜噜久久人妻| 婷婷丁香六月天| 99热这里只有精品2| 狠狠色丁香久久综合婷婷亚洲成人福利 | 五月婷婷中文网| 天堂AV三级| 婷婷丁五月| 亚洲成人免费在线| 2015好吊操| 婷婷啪啪| 99这里只有精品国产| 26uuu视频欧美| 激情婷婷丁香五月天小说| 久久久久亚洲AV无码网影音先锋| 五月丁香好婷婷A片网| 色九九九九| 99九九中文字幕视频| 秋霞av不能| 成人精品网站在线观看| www.婷婷,com| 色婷婷狠狠| 色噜噜狠狠色综合无码久久欧美| 激情综合综合综合| 五月丁香网中文字幕| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 亚洲视频伍月婷婷| 五月婷六月婷婷| 热久久色| 91精品久久久久久77777| 婷婷色影院| 五月婷色| 五月丁香六月日逼| 国产一二三四五六七八视频| 亚洲精品婷婷| 午夜婷婷久久| 97啪啪| 亚洲色网络| 99这里有精品| 色域五月丁香| 综合久久五月天| 一起草无码| www.99在线| 五月天六月丁香| 欧美丁香六月激情视频| 韩国激情五月天综合网| 激情性爱五月天| 综合色色色| 亚洲色另类| 免费看欧美成人A片无码| 538在线精品| 欧美精品狠狠色丁香婷婷| 18久久| 久久色9| 婷婷五月天激情小说| 婷婷九九| 深爱丁香激情| 色色五月婷婷久久| 久久怡红院| 天天爽天天| 婷婷五月色情天| 99热综合| 欧美一线视频| 色久婷婷五月| 天天草天天日| 任你爽精品免费视频6| 五月丁香色婷婷| 97人妻超级碰碰碰碰碰| 超碰精品国产首页| 青青草搞屄视频网站| 夜夜做夜夜愛| 五月婷六月| 夜夜操加勒比| 男人的天堂97| 99久久久久| 26uuuavcom| 狠狠操狠狠操AV| 久碰视频| 9999热精品| 91超级碰| 亚洲婷婷激情五月天| 99久热在线精品| av九九| 久久天堂色| 99久久免费性爱视频`| 免费观看的AV| 成人视频一区| 超碰自拍天堂| 伦乱美欧| 五月丁香亭亭操逼| 久99在线| 91婷婷丁香五月天免费视频网站| 99爱视频在线观看| 日日日日日| 激情综合丁香六| 五月天无码视屏播放| 五月婷三级片| 久婷婷色| 这里只有精品热| www天堂99| 亚洲精品永久久久久久| 啪啪色激情五月天| 亚洲偷| 婷婷五月激情小说| 久久婷婷热| 夜夜爽77777妓女免费下载| 丁香婷婷六月在线资源观看| 五月丁香六月综合基地| 九九久久精品| 午夜丁香婷婷| 91碰碰碰| 久久受www免费人成| 干一干xxxx| eeuss人妻| 婷婷在线日韩综合| 精品成人久久久久久久_一二三四视| 色黑鬼导航| 精品视频网| 最新色色五月天| 五月婷婷综合色啪| 超级碰 久久9| 久久久久久人妻| 骚货艹网站视频| 91精品婷婷国产综合| 婷婷丁香五月综合| 狠狠狠夜夜夜| 黄急一级视频| 婷婷狠狠18禁久久| 激情丁香五月激情婷婷| 久色五月天| 五月激情小说| 丁香五月天资源网| er99免费视频在线| 久久性刺激| 五月丁香香蕉| 狠狠色噜噜狠狠狠狠综合| 天天肏屄夜夜爽| 变天就操逼婷婷五月| 色五月婷婷久久| 五月婷婷之美女图片| 4399无码视频二区| 中文av网站| 五月丁香六月婷婷久久| 丁香五月AV在线| 97精品综合久久内射| 免费精品99| 五月婷婷亚洲| 色综合性视频| 天天久综合网永久入口17v | 色五月激情五月天| 激情综合五月色在线| 婷婷色色欧美| 人妻丰满精品一区二区A片| 成人电影AV在线观看| 操操操操操电影网| 99自拍视频在线| 婷婷五月天丁香久久| 深爱激情五月婷婷| 九九色热| 天天爽夜夜爽| 人人人人人人人人人草| 亚洲精品又粗又大又爽A片| 99re热免费观看视频精品| 亚洲五月天色| 99er热精品视频| 青草视频在线观看视频 | 亚洲操b| 色婷婷五月天激情久久| 丁香五月香蕉| 日韩丁香涩| 久久久99久久| 日本狠狠色| 亚洲精品久久久久久久久久吃药| 天天操夜夜夜夜爽| 色婷婷久久| 久久99精品久久久久久三级| 狠狠色综合久久久久| 丁香六月激情| 99热这里只有精品8| 亚洲婷婷基地| 天天操人人干| 狠狠色噜噜色狠狠狠综合久久成人波| 狠狠色狠狠鲁| 人妻性爱| 看婷婷五月天网| 婷婷激情综合色五月久久91| 色色综合网站| 伊人五月天在线| 五月天婷婷綜合院| 日韩aaaaa| 色噜噜婷婷| 五月丁香在线国产| 色五月婷婷成人视频| 伊人干综合| 97碰人人操| 九色91国产| WWW,五月| 丁香六月伊人| 久久视频这里99| 色噜综| 婷五月天在线草| 丁香九月综合| 99免费热在线精品| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 九月丁香婷婷综合激情| 色色五月婷婷| 五月色婷| 亚洲婷婷视频| 色色色综合网| AV在线观看网站| 五月丁香激| 色色色97| 五月婷激情影院| 99热www| www.91AV.com| 综合爱久久| 久久丁香九| 久久在线视频免费观看| 97在线观视频免费观看| 99re欧美精品| 婷婷狠狠青青| 午夜不卡久久精品无码免费| 色婷五月| 国产成人精品亚洲线观看| 婷婷色婷婷| 开心激情五月天网| 色色综合网站| 丰满少妇猛烈A片免费看观看| 九月丁香婷婷| 五月婷婷69| 五月天色丁香| 婷婷五月色综合| 99日本黄站| 91一起操| 五月天激情婷婷| 成人午夜视频精品一区| WWW色五月| 丁香狠狠色婷婷久久无码视频| 欧美丁香婷婷五月| 亚洲综合激情五月久久| 99色综合| 淫五月停停| 久久性都花花世界成人免费视频 | 五月天综合视频| 国产精品电影| 亚洲色色色| 成人无码髙潮喷水A片| 国产伦亲子伦亲子视频观看| 九月丁香婷婷网| 97人妻人人| 99偷拍视频在线日本| 日韩av在线免费观看| av色婷婷| 99精品这里只有免费视频| 色婷婷伦理| 这里只有免费的精品| 99视频只有这里精品| 天天摸天天舔| 五月婷婷偷拍| 成人精品在线| 激情五月四色| 五月婷婷婷综合网| 超碰91在线| 亚洲激情淫网| 丁香五月婷婷激情蜜桃| 婷婷丁香97| 五月丁香龟婷婷| 激情五月天婷婷五月天| 精品人妻一区二区三区四区不卡在| 亚洲情欲| 97色色婷婷| 国产精品色色| 99九九99九九九视频精品| 欧美日韩成人在线网站| 亚洲五月天第一综合干| 精品三区影院| 操操国产| 久久久99精品免费观看| 婷婷丁香视频| 激情综合五月激情17| 丁香五月六月激情| 91精品国产99久久久久久天美| 五月天婷婷丁香| 色婷婷五月天av在线| 99.N在线视频| 91精品久久久久久久久| 丁香五月亚洲综合| 丁香色色色| 一本道综合网| 色婷婷综合影院| 丁香婷婷久久| 综合激情sV| site:hcxsz888.com| 99热这里只有精品 搜| 99热精品99| 色99视频| 久久在线大香蕉| 丁香五月婷婷久久久| 久久小片| 99热在线中文字幕| 婷婷视频在线碰| 97性视频| 五月丁香在线精品| 色色色综合网| 国产AV国片偷人妻麻豆| 丁香五月婷婷激情尤物| 激情婷婷丁香色情五月天| 五月丁香久久| 欧美色一级色| 中文字幕婷婷| 天天插天天| 99精品久久久| 丁香九月激情在线视频| 99色色热热| 激情网五月婷婷| 99ri视频| 超碰在线资源| 亚洲天天免费| 99日本黄站| 婷婷香蕉精品| 九九综合视频在线观看| 天天日天天做天天操| 超碰成人在线观看| 亚洲色图五月丁香五月婷婷| 天天弄天天爽| 婷婷午夜综合| 丁香狠狠色婷婷久久无码视频| 五月天狠狠网站| 五月天婷婷视频| 欧美性猛交 XXXX 乱大交| 九九热婷婷| 我爱va亚洲va52| 色色婷婷五月天| 色婷婷丁香AV综合| 婷婷丁香第一页| 97资源欧美日韩大香蕉超碰一区| 亚洲春色奇米影视| 2015好吊操| 婷婷五月天影院| 亚洲网综合在线| 99热r| 99热精品中文字幕| 九九亚洲视频| 五月天久久婷婷| www.99视频| 美国少妇性做爰| 亚洲婷婷视频| 97人人搞| 狠狠草网| 五月天色婷婷网| 开心五月色婷婷综合开心网| 五月 激情视频| 成人性爱无码| 五月天激情小说| AV五月丁香| 99色视频免费在线规看| 偷偷与邻居做爰完整视频| 玖玖综合色| 深爱激情综合| 91丨人妻丨国产丨丝袜| 丁香五月天视频在线播放| 五月天激情网图片| 亚洲视频a| 4399在线日本A片| 色婷婷四虎| xx综合网| 精品无码久久久久久久久| 久操福利| 色五月婷婷五月天| 综合超碰熟| 99九九精品视频| 影音先锋男人女人| 激情丁香网| 麻豆AV一区二区三区| 狠狠舔| 91精品婷婷国产综合久久| 狠狠情色| 色丁香五月婷婷| 在线超碰精品| 婷婷五月丁香五月天| 亚洲亚洲人成综合网络| 七七九九色色| 狠狠狠狠狠干| 久久99最新| 婷婷在线播放| 色婷丁香五月| av九九| 色五月激情综合网| AV在线资源| 日本色99| 欧美大香蕉视频| 99亚洲视频| 丁香五月激情五月| 欧美啪啪五月天| www.婷婷五月天.com| 五月丁香六月婷婷激情四射| 婷婷激情综合网| 中国丰满熟女A片免费观| 亚洲五月六丁香激情| 久久香蕉网| 国产五月丁香在线| 乱精品一区字幕二区| 日本美女天天日天天爽| 国产毛片欧美毛片久久久| 婷婷丁香人妻| 欧美色激情四射| 久久婷婷五月激情网站| 天天射天天插天天干| 99色热综合| 亚洲人成播放网站| 99视频在线精品免费观看2| 91 影音先锋| 婷婷五月天综合色| 麻豆AV一区二区三区| 久久 这里只有精品1| 丁香五月大香蕉在线99| 99热这里有精力| 激情宗合 激情宗合| 天天色天天操天天射| 99人人操人人爱久久久| 精品人妻一区| 99热这里都是精品| 久热伊人| 色综合播放| 成人国产欧美大片一区| 五月婷婷在线观看| 海外网站专业操老外| 欧美成人va| 91天天操天天干天天射| 色五月丁香五月| 在线五月色播| 91丨九色丨首页| 婷婷五月天亚洲丁香| 97成人超碰免| 99黄色性生活| 五月丁香婷色| 日本波多野结衣视频| 天天噜噜| 国产 亚洲 在线| 99熟女| 色狠狠伊人久久五月丁香| 国产五月视频| 亚洲综合五月天婷婷| 日韩在线视频中文字幕| 丁香五月大香蕉| 色五月视频,小说| 婷婷五月天午夜激情影院| 99久久婷婷国产综合精品草原| 色欲操| 婷婷五月激情在线| 91色五月| 777精品成人a v久久| 99干在线| 亚洲免费看片| 第一区久久网站| 五月丁香婷婷综合网色欲| 亚洲AV中文在线| 开心五月六月婷婷| 欧美大片免费观看| a久久| 婷婷五月天播| 亚洲综合五月天婷婷| 97碰碰视频| 色色色综合视频| 国产探花一片区| 亚洲精品视频在线播放| 日日天天操| 日韩精品电影| 激情综合亚洲| 色播五月婷婷五月| 日本久久婷婷| 99干日日干| 开心五月婷婷| 日日干夜夜撸夜夜骑| 丁香婷婷五月综合欧美另类| 色色婷| anquye五月| 色色五月天网站| 国产精品美女久久久久AV超清| 丁香五月影院| 色播五月天天| 久久在线大香蕉| 久热大香蕉| 五月天婷婷无码| 伊人大香五月天| 99久久.www| 久久久久久久久久8888| 婷婷国产日本欧美| 色综合偷拍| 福利视频在线播放| 性视频久久| 色婷五月| 一起草av| 大香婷婷| 熟女人妻一区二区三区免费看| 久草大| 五月丁香婷婷综合在线| 色很久综合| 青青草原99热| 色婷操逼| 中文字幕在线人妻| 26uuu精品国产| 五月婷婷中文| 亚洲射激情| 99网址在线看| 无码人妻一区二区一牛影视| 色色无码| 欧美性爱五月天| 久久视频婷婷视频| AV在线观看网站| 日噜噜色| 九九RE视频在线精品| 99性爱精品| 另类色视频| 成人av在线网址| 亚洲精品a成人在线播放| 99精品在线播放| 日本色爽| 99思思热只有在这里看| 久久99热免费| 人人爱操| 日韩美女羞羞网站在线观看| 亚洲宗合激情| 大香蕉久操| 能看的AV| 精品51XX| 久久久婷丁香五月| aaaaa不卡| 久9热视频| 综合久久8| 强壮公让我夜夜高潮A片视频| 久久久WWW| 夜夜操天天干| 精品人妻久久久| 久久婷婷五月国产色综合激情| 亚州综合色| 91人妻九色大屁股| 久久婷五月天| 婷婷六月色| 婷婷激情六月综合| 亚洲国产精品VA在线看黑人| 天天日日夜夜爽。| 五月婷六月天| 五月天激情综合首页| 热五月婷婷| 色情开心五月| 日本三级色| 综合色在线| 成人做爰A片免费看视频| 五月天激情视频| 97色碰| 五月天丁香成人| 婷婷五月天美女21p| 久久A V无码视频| 四虎婷婷五月天| 综合玖玖性爱免费视频| 色综合中文| 婷婷五月丁香欧洲| 综合色色综合| 色 噜噜 九月 婷婷| 婷婷五月综合丁香久久| 91丨九色丨首页| 激情性爱五月天网页| 熟女少妇内射日韩亚洲| 青青草原亚洲天堂| 久热黄色| 亚洲熟女色| 99干日本| 色婷婷A| 丁香色成人| 99狠狠| 久久综合影院 | 亚洲av免费在线| 婷婷大乡焦噜噜| 色五月婷婷影院| 婷婷趴趴| 成人婷婷| 91色婷婷综合久久中文字幕二区| 亚洲色碰| 色五月婷婷91| 超碰在线观看caop| 亚洲婷婷丁香五月| 亚洲色色五月| 婷婷五月激情的图片| 色天堂97| 国产精品操| 五月久久婷婷| 99精品在线播放| 思思热国产视频| 思思99热在线| 色综合综合色| 快乐激情五月色婷婷| 丁香婷婷精品视频| 欧美激情xxxXX| 岛国av网| 五月婷婷综合潮喷| 日本五月婷婷| 五月婷婷色| 五月丁香成人视频| 野战毛片三一3| 五月丁香六月激情综合| 中文字幕,综合,91| 五月花婷婷| 久碰婷婷视频| 婷婷天堂综合| 日韩成人免费电影| 大香蕉手机视频| 九九色热| 激情五月婷婷| 亚洲第一成人无码A片| 大香蕉福利导航| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 婷婷草| 久久久久人妻精品| 日本三级韩三级99久久| 91久热| 激婷网| 亚洲 欧洲 国产 伦综合| 26uuu丁香婷婷五月| 99热精品在线| 亚洲综合丁香五月| 婷婷五月天啪啪| 久久超级碰碰| a网站免费观看| 欧美激情综合| 99在线视频网址在线观看| 婷婷综合日本| 综合色播| 激情综合网,婷婷五月天| 成年人看Va免费视频| 久久婷网| 丁香五月婷婷啪啪| 欧美成人猛片AAAAAAA| 亚洲成人AV一区在线观看| 五月婷婷六月综合| 亭亭玉立国色天香| 综合五月激情网| 97se视频在线| 五月丁香啪啪啪| 色婷小说| 1024操逼视频| 99热这里只有精品在线免费| www.ppypp| 丁香五月婷婷亚洲综合精品| 最近中文字幕大全免费版在线 | 91亚洲视频| 一起草AV| 丁香婷婷婷婷十二月在线观看视频| 五月丁香亭亭操逼| 五月激情网五月综合网| 79色色色色| 神马欧美精| 五月天婷婷综合网| 啪啪五月综合| 欧美va亚洲va| 99er热精品视频| 26uuu精品国产| 97人碰人操| 五月丁香激情四射| 99er6| 五月天婷婷乱论小说| 婷婷成人视频| 31色区视频免费看| 99精品在线观看| 深爱丁香激情| 成人国产综合| 色婷婷综合久久| 五月丁香久久久久| 精品无码av丁香五月激情| 天天日,天天插| 五月婷婷综合视频| 久久人视频| 天天色一道本综合婷婷| 热思思| 六月丁丁香| 在线成人av播放| 97色婷婷| 久久这里99| 久久亚洲无码| av一级棒av| 丁香综合网| 五月婷婷丁香六月在线| 婷婷午夜| 丁香五月熟女| 丁香五月综合久久八| 欧美婷婷综合| 亚洲妇女熟BBW| WWW·色色色·COM| 久久婷婷五月天激情| 久久久激情视频| 97色综合| 五月婷婷亚洲天堂激情在线| EEUSS鲁片一区二区三区| 男人操女人高潮91视频| 久久九九中文字幕| 中文国产五月天| 人人操99| 色婷婷性爱| 天天干-天天日| 五月丁香成人网| 91xxxx九色| 五月婷婷m| 成人丁香五月| 97碰免费精采视频| 激情五月天婷婷视频| 久久久婷婷五月亚洲97号色| 久久久精品免费啪啪国| 激情小说五月丁香在线视频观看视频 | 中文AV在线观看| www.激情| 久99久视频| 天天干 夜夜爽| 亚洲精品久久久久久久久久吃药| 久久久8| 亚洲VA口| 亚州第一黄网| 婷婷五月天xxx| 五夜丁香| 六月色 亚洲| 激情伊人五月婷婷久久| 亚洲五月天综合| 亚洲免费婷婷| 91人操| 五月丁香色| 我淫我色婷婷五月天激情四射| 操日视频| 深爱五月婷| 国产精品久久久爽爽爽麻豆色哟哟| 思思热这里只有精品视频666| 五月婷婷激情中文字幕| 丁香五月婷婷五月基地| 97久久香草精品视频| 99热这里只有精品5| 丁香五月九九| 婷婷丁香综合成人| 国产精产国品一二三在观看| 九九色综合| 日韩成人无码人妻| 先锋资源91| 特级西西4444www无码| 亚洲精品**不卡在线播he| 六月丁香婷婷网| 99热国产| 久青操| 51国精产品自偷自偷综合 | www.婷婷六月天| www.99热这里精品| 五月丁香六月综合激情无码软件亮点| 婷婷.com| 婷婷基地五月色| 日本99视频| 五月六月丁香激情视频| 亚洲日日操| 九九九色综合| 99热碰碰热| 亚洲色婷婷久久99精品91| Www.狠狠| 色约约视频一区二区三区四区五区| 六月丁香婷婷在线波多| 97天堂| 99自拍视频在线观看| 五月丁香免费视频| 9 9 9色色| 激情五月婷婷开心网| 久久综合综合综合| 激情五月,婷婷五月,丁香五月| 青青久久五月| 亚洲五月天综合| 99热在线观看| 亚洲开心激情网| www.婷婷| 五月天婷婷三级黄| 99啪啪| 亚洲视频丁香网va| 色狠狠色噜噜AV天堂五区| 色综久久AV| 91一起操| 99热这里有精品6| 国产暴力强伦轩1区二区小说| 色婷婷五月六月丁香综合视频| 99热免费观看| 4399在线观看免费高清电视剧| 五月激情啪啪啪| 91精品久久久久| www.婷婷五月| 色播五月婷婷综合| 白人荫道BBWBBB大荫道| 天天拍夜夜爽日日| 91干婷婷| 久久久久综合激动五月天| 国产精品人成A片一区二区| 亚洲综合丁香婷婷六月天| 在线成人va| 国产精品蜜臀99| www.久久99精品| 丁香六月婷婷综合缴| 99操不停| 婷婷婷婷婷婷婷婷| 色婷婷激情| 亚洲操精品| 另类天堂| 丰满少妇猛烈A片免费看观看| 五月丁香六月色情网欧美| 婷色影院| 色婷视频| 91seAV| 天天日夜夜| a九九热www| AA久久| 色狠狠五月天| 青青草免费公开视频| 永久99免费视频网站| 五月婷婷色欲| 国产成人99久久亚洲综合精品| 百度4399有码精品V在线观看| 超碰在线免费9| 色玖玖| 99色视频| 丁香五月天婷婷中文| 日韩小视频在线99| 免费黄色AV| 婷婷在线观看五月天在线视频| 国产成人精品一区二区三区视频| 亚洲天天综合| 亚洲黄色精品| 中文字幕在线日亚州9| 99re这里只有精品免费| 五月婷婷亚洲天堂97色婷婷| 99这里只有精品|v| 4399亚洲视频| 国产av天堂| 色婷婷九月综合| 婷婷99丁香| 综合久久婷婷| WWW色五月天| 91色性感五月婷婷丁香| 国精产品一区一区三区有限公司杨 | 五月丁香好婷婷姑娘综合网| 久久久久人妻| 五月婷婷在线综合| 97久久人人| 大地9中文在线观看免费高清| 国产VA亚洲VA96| 婷婷五月天黄色| 成人午夜天| www五月天com| 亚洲五月天婷婷| 久久精品国产一区二区三区四区| 99国产视频网| 中文字幕在线观看视频www| 日韩久久成人| 欧美色五月| 青青草原中文字幕| 久久男人网婷婷| 色综合久久天天综合网| 欧美性爱特黄一级aaaassss| 五月天丁香婷婷社区| 婷婷久久久久| 五月丁香啪啪啪啪| 久久9热| 五月丁香色婷婷| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 色色五月丁香婷婷| 天天久久综合| 五月狠狠| WWW.国产| 99色色| 九九99视频精品| 91怕怕网| 中文字幕 中文字幕明步| 欧美激情综合色丁香婷婷五月天 | 蜜乳中文字| 丁香 婷婷 激情 综合 五月| a免费在线| 天天色图| 伊人丁香婷婷东京| 色噜噜狠狠色综合成人网| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 任你日视频| 人人射av| 婷婷无码视频| 亚洲天堂色| 色玖玖| 第四色首页| 久久五月天合网| 婷婷丁香五月天色色| 丁香六月在线| 天天干狠狠| 狠狠色噜噜狠狠色噜噜噜999| 亚洲免费电影2| 国产做爰视频免费播放| 26uuu丁香婷婷五月| 五月婷婷综合色拍| 色综合婷婷| 超碰网站在线观看| 国产精品色情AAAAA片软件| 久操操| 激情婷婷五月| 六月亭亭久久综合激情| 九九AV| 在线中文亚洲| 丁香婷婷天堂| 操碰97| 午夜婷婷| 五月天综合色| 久热A| 欧美综合婷婷欧美综| 国产精品电影| 激情五月婷婷视频一区二区三区| 久久女伦| 五月丁香色综合| 日本三级中国三级99人妇网站| 五月天,激情四射,婷婷频道| 思思热AV| 青青.com| 非洲一级AV| 丁香狠狠色婷婷久久无码视频 | 五月丁香六月激情啪| 激情五月婷婷色综合| 五月婷婷激情网| 久久久久久99精品无码| 丁香深五月婷婷| 夜夜嗨一区二区三区直播内容| 玖玖综合色| 婷婷五月天网址| 天天艹夜夜艹| 人妻精品久久久久久久| 激情纯色婷婷五月天在线不卡视频| 秋霞性爱AV| 亚韩在线视频| 性爱激情小说AV五月丁香花| 亚洲AV电影av| 五月婷婷色| 欧美一级色| 婷婷俺去也| 色婷婷久久综合| 伊人五月婷婷| www.狠狠操| 六九色综合婷婷五月天| www色五月天| 丁香五月欧美色综合| 黄页大全十八禁| 成人色情五月天婷婷丁香| 婷婷久久久久久久| 激情综合网丁香| 97人人草| w婷婷五月婷婷w| 91色逼| 久久五月天视频| 99热狠狠操| 狠狠色噜噜狠狠| 丁香色影院| 久热婷婷在线视频| 色五月婷婷影视| 丁香五月婷婷激情蜜桃| 色操综合| Aaa久久| 中文AV网站| 丁香婷婷天堂| 九九热9| 婷婷五月天综合久久日美女| 狠狠久久婷五月综合色| 亚洲xx在线| 日韩在线视频9色| 婷婷9月天| 婷婷色色宗合网| av一区免费看| 免费成片在线观看| 国产第99页| 色情开心五月| 国产av基地| www.婷婷六月天| 丁香婷婷久久 | 婷婷五月开心中文字幕色| 五月天婷婷在线啪啪视频| 婷久看人爽| 六月丁香五月激情网| 2023天天日夜夜爽| 六月色国内综合| 婷婷激情五月天亚洲综合| 狠狠撸激情综合丁香五月天俺来啦| 丁香婷婷视频一区二区| 丁香五月在线看| 婷婷香五月天| 五月婷婷之美女图片| 婷婷五月六| 色99热| 日韩成人综合网| 色婷婷色99国产综合精品| 色情五月丁香| 天堂成人A片永久免费网站| 日韩久久成人| www...com黄在线观看| 日韩啪图| 亚洲天99| 色五月综合网| 婷婷五月天777| 5月婷婷性视频| 亚洲天天综合| 人人草人人舔| 91超碰在线观看| 日日夜夜干| 色呦精品| 丁香五月天社区婷婷| 91精品国产99久久久久久天美| 日韩黄黄|