欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式Linux驅(qū)動開發(fā):軟硬件邊界、中斷并發(fā)與DMA避坑指南

嵌入式Linux驅(qū)動開發(fā):軟硬件邊界、中斷并發(fā)與DMA避坑指南 做嵌入式開發(fā)這些年我見過太多從單片機裸機編程轉(zhuǎn)過來的人第一反應都是驅(qū)動開發(fā)不就是照著芯片手冊配置寄存器嘛。直到第一次碰上內(nèi)核崩潰、第一次被中斷上下文搞到懷疑人生、第一次發(fā)現(xiàn)DMA拿到的數(shù)據(jù)是舊的才明白這行真正的門檻在哪里。這篇文章想借著我這些年寫驅(qū)動、調(diào)驅(qū)動的經(jīng)歷聊聊嵌入式驅(qū)動開發(fā)里那些真正值錢的經(jīng)驗——不是某顆芯片的寄存器表而是處理軟硬件邊界問題的方法論以及那些常規(guī)文檔里根本不會寫的坑。內(nèi)容主要面向兩類人一是剛入門Linux驅(qū)動、想系統(tǒng)建立認知的開發(fā)者二是已經(jīng)寫過一些驅(qū)動但總覺得能跑就行、一查就廢的工程師。文章不會逐行帶讀內(nèi)核源碼而是把驅(qū)動開發(fā)拆成邊界認知、代碼分層、并發(fā)處理、調(diào)試手段、面試進階五個板塊每一塊都是我在實際項目里反復踩過、最后沉淀下來的東西。1. 驅(qū)動開發(fā)真正的門檻不是查寄存器而是理解軟硬件邊界1.1 一份驅(qū)動其實是在維護三方契約很多人對驅(qū)動的理解是操作硬件的那段代碼這個說法沒錯但它把問題想簡單了。驅(qū)動真正做的事情是在硬件廠商、內(nèi)核框架、上層應用這三方之間維護一份隱形的契約。硬件廠商給你的是數(shù)據(jù)手冊和寄存器表它關心的是時序、電平、地址、DMA通道這些物理層面的約束。內(nèi)核框架給你的是platform_driver、file_operations、中斷注冊這些標準接口它關心的是進程調(diào)度、內(nèi)存管理、并發(fā)安全這些軟件層面的規(guī)則。上層應用則只會調(diào)用open、read、ioctl它根本不關心你底層是I2C還是SPI。驅(qū)動工程師就是那個夾在中間傳話的人。你得懂硬件的脾氣比如某顆傳感器在片選拉低之后必須等至少10微秒才能讀數(shù)據(jù)否則返回全零你也得懂內(nèi)核的規(guī)矩比如中斷上下文里不能用會睡眠的函數(shù)否則整個系統(tǒng)都可能僵住。我見過不少從裸機轉(zhuǎn)過來的同事他們最擅長的就是對著數(shù)據(jù)手冊一個寄存器一個寄存器地配驅(qū)動也很快能跑起來。但一旦遇到跑幾天偶發(fā)死機數(shù)據(jù)偶爾錯一幀換一顆主控就啟動不了這種問題就完全抓瞎了。原因很簡單裸機開發(fā)面對的是單一執(zhí)行流所有事情都是你說了算而Linux驅(qū)動面對的是多進程、多中斷、多核并發(fā)你在寄存器和內(nèi)核接口之間填的每一行代碼都是在跟一個巨大的并發(fā)系統(tǒng)打交道。1.2 為什么照著例程改的路子走不遠嵌入式圈子里最普遍的學習方式是找一塊開發(fā)板、抄一份廠家例程、改幾個引腳配置然后就覺得自己會了。我對這種路徑本身沒有意見——快速建立正反饋很重要。但如果你想靠這行走得遠就一定要意識到例程能給你的是能跑的最小路徑它不會告訴你為什么必須這么寫。舉一個最常見的例子。很多人在注冊字符設備時會照著例程用register_chrdev注冊一個設備號再用class_create和device_create在/dev下生成節(jié)點。這套流程本身沒錯但如果你不理解主設備號和次設備號的分配機制不理解miscdevice和真正的字符設備驅(qū)動模型之間有什么區(qū)別那后面遇到設備號沖突動態(tài)分配設備號后udev不生成節(jié)點設備樹里reg屬性怎么對應這些問題時你只能繼續(xù)去網(wǎng)上搜別人的代碼而不是自己判斷。驅(qū)動開發(fā)里最關鍵的三種能力——時序判斷、并發(fā)分析、問題定位——都是例程給不了你的。例程是在理想條件下、由芯片原廠工程師調(diào)試好的路徑它默認你會正確使用也默認你背后有全套調(diào)試工具。等你到了真實的項目里硬件可能有改版、晶振可能有偏差、外設可能有errata勘誤表這時候照抄例程就是在給自己埋雷。1.3 軟硬件邊界到底指什么我總結下來驅(qū)動工程師日常打交道的軟硬件邊界無外乎四類。一是時序約束。任何外設都有時序要求比如I2C的建立時間、保持時間SPI的時鐘極性和相位Flash的頁編程時間。驅(qū)動里那些看似莫名其妙的udelay、ndelay背后全是硬件的物理約束。這個邊界如果踩了癥狀通常很詭異——十次讀有八次對兩次錯用示波器才能抓得到。二是并發(fā)約束。硬件中斷和進程上下文會同時訪問你的驅(qū)動數(shù)據(jù)多核CPU上兩個核同時執(zhí)行你的驅(qū)動代碼這在裸機時代根本不會發(fā)生。驅(qū)動里上半部分處理中斷、下半部分處理數(shù)據(jù)、進程需要訪問狀態(tài)這些路徑之間怎么互斥是邊界問題的重災區(qū)。三是資源邊界。你操作的內(nèi)存必須是DMA可達的你映射的寄存器必須在ioport或iomem范圍內(nèi)你申請的中斷號必須和硬件實際觸發(fā)的中斷線對應。這些資源看似是配置一下就行實際背后連著IOMMU、內(nèi)存管理、中斷控制器一整條鏈路。四是接口契約。file_operations里的函數(shù)簽名、ioctl的命令編碼規(guī)則、驅(qū)動的probe/remove流程這些是內(nèi)核和驅(qū)動之間的契約。違反契約的代碼通常不會立刻崩而是在某個特定條件下以最難查的方式崩給你看。把驅(qū)動開發(fā)當成軟硬件邊界的翻譯工作很多疑惑就能想通了。那些為什么驅(qū)動要這么寫的問題答案往往不在代碼里而在某一側的約束里。2. 從點燈到平臺驅(qū)動我一直在用的驅(qū)動代碼分層方法2.1 分層不是炫技是被現(xiàn)實逼出來的我剛寫驅(qū)動的時候習慣一個文件搞定一切寄存器操作、中斷處理、ioctl、sysfs屬性全部堆在一起。剛開始覺得挺爽代碼量看起來很大好像很有成就感。直到項目做到第二個版本需求變了三次我才發(fā)現(xiàn)這種寫法有多坑。第一次坑是換內(nèi)核版本。廠商給的BSP從內(nèi)核4.9升到5.10file_operations里的一些接口變了、設備樹解析函數(shù)改名了我那個大雜燴驅(qū)動里到處都用了舊接口改起來牽一發(fā)動全身。第二次坑是換硬件平臺。項目從A芯片切到B芯片雖然外設接口差不多但寄存器完全兩碼事而我的業(yè)務邏輯代碼和寄存器操作纏在一起根本拆不開。第三次坑是測試。我想給驅(qū)動的業(yè)務邏輯寫單元測試結果發(fā)現(xiàn)邏輯和硬件操作綁得死死的在PC上根本跑不起來。后來我痛定思痛參考了內(nèi)核自己推薦的驅(qū)動架構、也參考了一些老牌驅(qū)動的寫法總結出一套適合絕大多數(shù)外設驅(qū)動的三層結構。它不是內(nèi)核強制要求的但按這個思路寫的驅(qū)動后期維護成本能低一半以上。2.2 一套能落地的三層結構我的分層思路很簡單硬件操作往死里收斂業(yè)務邏輯往外分離中間留一個穩(wěn)定的接口面。第一層叫硬件抽象層也叫寄存器層。這一層只做一件事——直接操作硬件向上提供hw_init、hw_read_reg、hw_write_reg、hw_start等函數(shù)。每個函數(shù)內(nèi)部就是讀寄存器、寫寄存器、ufudelay不許有任何業(yè)務判斷。換平臺的時候改這一層就完了。第二層叫驅(qū)動核心層。這一層實現(xiàn)內(nèi)核框架要求的那一堆東西platform_driver的probe/remove、file_operations里的read/write/ioctl、中斷處理、等待隊列、鎖。它負責把內(nèi)核的規(guī)矩和第一層的物理操作接在一起但這里不應該出現(xiàn)具體業(yè)務邏輯。第三層叫業(yè)務策略層。這一層處理這個設備到底是干什么用的比如一個溫濕度傳感器驅(qū)動業(yè)務層決定數(shù)據(jù)是每10秒采一次還是每1秒采一次、數(shù)據(jù)超閾值時上報還是直接丟棄。你可以通過ioctl、sysfs或者輸入子系統(tǒng)把這一層的能力暴露給用戶態(tài)。舉個例子同樣是做一個GPIO按鍵驅(qū)動如果按三層結構來寫硬件層只負責gpio_request、gpio_direction_input、gpio_get_value這幾個操作核心層負責把按鍵這個輸入設備注冊成input子系統(tǒng)設備維護消抖定時器和等待隊列業(yè)務層則決定長按3秒是關機指令還是恢復出廠設置這類策略。這么一分你就能非常清楚地知道改按鍵閾值是改業(yè)務層換GPIO引腳是改硬件層調(diào)整上報機制是改核心層。互不牽連。2.3 用平臺驅(qū)動模型和設備樹串起來說完分層還要說說驅(qū)動怎么和設備綁定?,F(xiàn)代Linux內(nèi)核里絕大多數(shù)設備驅(qū)動都采用平臺設備模型platform bus配合設備樹來工作。簡單解釋一下設備樹相當于一份給內(nèi)核看的硬件資產(chǎn)清單它描述的是板子上有哪些設備、各設備掛在哪個總線、用哪組寄存器地址、哪個中斷、哪個GPIO、哪個時鐘。驅(qū)動則是通過compatible字符串來聲明我支持哪些設備內(nèi)核啟動時拿設備樹里的節(jié)點去匹配驅(qū)動的compatible匹配上了就調(diào)用你的probe。這里有一個經(jīng)常被忽略的細節(jié)compatible字符串必須和設備樹里的完全一致包括大小寫和逗號后綴。我曾經(jīng)在一個項目里設備樹里寫的是ti,ads1015驅(qū)動的of_match_table里寫的是ads1015結果驅(qū)動死活不probe排查了大半天才在dts里發(fā)現(xiàn)少了個前綴。這種錯誤不會報編譯錯誤只會表現(xiàn)為設備不工作非???。一個標準的platform_driver骨架大致長這樣static const struct of_device_id mydev_of_match[] { { .compatible vendor,mydev, }, { /* sentinel */ } }; MODULE_DEVICE_TABLE(of, mydev_of_match); static int mydev_probe(struct platform_device *pdev) { struct resource *res; void __iomem *base; res platform_get_resource(pdev, IORESOURCE_MEM, 0); base devm_ioremap_resource(pdev-dev, res); if (IS_ERR(base)) return PTR_ERR(base); /* 初始化硬件層、注冊字符設備、申請中斷等 */ return 0; } static int mydev_remove(struct platform_device *pdev) { /* 釋放資源、注銷設備 */ return 0; } static struct platform_driver mydev_driver { .probe mydev_probe, .remove mydev_remove, .driver { .name mydev, .of_match_table mydev_of_match, }, }; module_platform_driver(mydev_driver);注意我用了devm開頭的資源管理函數(shù)。這也是個經(jīng)驗之談能用devm_xxx就用devm_xxx它在probe失敗或remove的時候會自動幫你釋放資源省掉無數(shù)手動清理的麻煩。我見過太多人手動iounmap、kfree、unregister結果在某個error path上漏了一個釋放卸載模塊的時候直接內(nèi)核崩潰。2.4 一個非阻塞按鍵驅(qū)動的分層示例既然熱搜詞里有人專門搜嵌入式按鍵非阻塞掃描我就拿一個真實的按鍵驅(qū)動設計說一下分層的好處。裸機時代做按鍵無非就是輪詢GPIO讀到電平變化就認為是鍵按下再延時消抖。但在Linux驅(qū)動里輪詢是最不推薦的方式——它浪費CPU還會拖慢系統(tǒng)的實時響應。正確的做法是GPIO配置成中斷觸發(fā)中斷到來之后調(diào)度一個定時器做消抖消抖確認后在進程上下文里讀取鍵值再通過輸入子系統(tǒng)上報給用戶空間。這里面的分層邏輯是這樣的硬件層提供key_gpio_init、key_gpio_read、key_gpio_irq_request全部是對GPIO子系統(tǒng)的封裝核心層注冊中斷處理函數(shù)中斷里只做兩件事——禁用當前觸發(fā)、啟動消抖定時器然后立即返回。定時器回調(diào)函數(shù)在軟中斷上下文執(zhí)行里面讀GPIO、確認狀態(tài)、調(diào)用input_event上報業(yè)務層通過設備樹屬性或者ioctl配置長按多久算快捷操作雙鍵組合是什么意思。非阻塞的思想貫穿始終中斷處理函數(shù)不睡眠、定時器回調(diào)不睡眠、沒有任何一個路徑會占著CPU輪詢。整個驅(qū)動的CPU開銷趨近于零按鍵響應卻非常即時。這個結構如果放在大雜燴寫法里很容易演變成中斷里直接做消抖延時然后在中斷上下文里睡眠最后被殺進程或者內(nèi)核報BUG。3. 最容易翻車的四個技術點中斷、并發(fā)、阻塞與DMA3.1 中斷上下文哪些函數(shù)碰都不能碰驅(qū)動開發(fā)里翻車率最高的點就是中斷上下文。很多從裸機轉(zhuǎn)過來的人覺得中斷來了我就處理處理完就返回這有什么難的。但在Linux里中斷處理函數(shù)運行在特殊上下文它不能睡眠、不能被調(diào)度所以凡是可能阻塞的函數(shù)都不能調(diào)用。具體來說下面這些操作在中斷上下文里都是雷區(qū)調(diào)用kmalloc(GFP_KERNEL)——這個標志允許睡眠必須改成GFP_ATOMIC調(diào)用mutex_lock——mutex在競爭時會睡眠必須改用自旋鎖調(diào)用copy_from_user/copy_to_user——這兩個函數(shù)可能訪問用戶頁表并觸發(fā)缺頁可能睡眠調(diào)用某些可能在內(nèi)部睡眠的標準API比如msleep、wait_event想都不要想。我剛入門時有過一次血淚教訓在一個GPIO中斷里直接調(diào)用i2c_transfer去讀外設寄存器當時想的是反正快得很。確實大部分時候很快但I2C總線在極端情況下會被別的設備占用或者重試i2c_transfer一旦進入等待我的中斷就睡在那了。內(nèi)核在那個上下文里調(diào)用睡眠函數(shù)輕則lockdep報BUG: sleeping function called from invalid context重則直接死機。后來我把那部分邏輯改成了工作隊列在進程上下文里跑I2C訪問問題徹底消失。現(xiàn)在內(nèi)核里解決這類問題的主流做法是中斷線程化request_threaded_irq配合thread_fn把中斷處理的主體放到一個內(nèi)核線程里這個線程可以被調(diào)度、可以睡眠安全性高得多。我的建議是中斷回調(diào)里只做最快的硬件響應比如清除中斷標志、讀取FIFO里的數(shù)據(jù)、置一個標志位其余一切交給中斷下半部tasklet、工作隊列或線程化中斷去處理。3.2 鎖的選擇自旋鎖、信號量還是mutex并發(fā)問題是驅(qū)動開發(fā)和裸機開發(fā)最大的分水嶺。多核時代同一個驅(qū)動代碼可能同時在兩個CPU上運行就算只有一個核中斷也可能打斷進程的執(zhí)行流。如果你不保護共享數(shù)據(jù)最后的表現(xiàn)就是偶發(fā)錯亂極難復現(xiàn)。內(nèi)核里可用的鎖很多但真正需要你決策的其實就是三種自旋鎖、互斥鎖mutex、讀寫鎖。選擇邏輯其實很簡單就兩條如果你的臨界區(qū)很短幾十條指令且這個臨界區(qū)可能在中斷上下文或原子上下文里執(zhí)行那就只能用自旋鎖。自旋鎖的語義是原地打轉(zhuǎn)等待不會睡眠但代價是忙等所以臨界區(qū)里絕對不能有耗時操作。如果臨界區(qū)在進程上下文并且可能會執(zhí)行耗時操作比如I2C通信、大量的數(shù)據(jù)拷貝那就應該用mutex。它的語義是拿不到鎖就睡一覺等鎖可用再醒不浪費CPU但可能在睡眠中被信號打斷需要處理返回值。在我的經(jīng)驗里大部分驅(qū)動數(shù)據(jù)可以拆成兩種一種是很小的狀態(tài)變量和標志位用原子操作或者自旋鎖保護就夠了另一種是描述設備狀態(tài)的大結構體用mutex保護。千萬不要迷信全用自旋鎖——曾經(jīng)有人在中斷里調(diào)用一個用自旋鎖保護的、內(nèi)部帶msleep的函數(shù)當場panic。還要特別提一下鎖的順序。如果你的驅(qū)動里有兩把鎖并且代碼路徑A先拿鎖1再拿鎖2路徑B先拿鎖2再拿鎖1那么恭喜你死鎖向你招手了。內(nèi)核的lockdep機制就是為了抓這個問題設計的它會跟蹤鎖獲取順序一旦發(fā)現(xiàn)潛在死鎖就報警。所以我的建議是測試階段一定打開CONFIG_PROVE_LOCKINGlockdep報的任何警告都不要無視它不是在跟你開玩笑。3.3 阻塞與非阻塞IO等待隊列是核心用戶態(tài)的read、write阻塞不阻塞取決于驅(qū)動的file_operations怎么實現(xiàn)。驅(qū)動里實現(xiàn)阻塞語義的核心機制叫等待隊列wait queue。它的思路是當沒有數(shù)據(jù)可讀時進程把自己掛到等待隊列上主動讓出CPU硬件數(shù)據(jù)來了之后中斷處理函數(shù)里把等待隊列上的人喚醒。這套機制里最常見的坑是喚醒丟失。比如進程剛檢查完沒有數(shù)據(jù)準備睡眠這時候中斷來了數(shù)據(jù)到貨喚醒被觸發(fā)——但此時進程還沒真正睡下去于是喚醒就丟了進程一直睡到天荒地老。內(nèi)核的機制幫你處理了這個問題wait_event_interruptible宏會保證檢查和睡眠之間不被打斷這也是為什么內(nèi)核一直推薦用標準宏而不是自己判斷加sleep。另一個常見問題是偽喚醒。等待隊列可能被信號喚醒、被spurious wakeup虛假喚醒喚醒所以被喚醒之后必須重新檢查條件是否為真再決定繼續(xù)睡還是真起來干活。這也是wait_event宏內(nèi)部做條件循環(huán)的原因——條件不滿足就重新睡。非阻塞IO則要實現(xiàn)poll接口。你需要在poll函數(shù)里調(diào)用poll_wait把當前進程加到設備的等待隊列上同時返回當前可讀寫的掩碼。用戶態(tài)用select/poll/epoll時內(nèi)核會調(diào)用你的poll函數(shù)來查詢狀態(tài)。很多新手driver只做poll_wait卻不返回掩碼結果select永遠說沒有事件這是典型的能編過、在跑、全錯的問題。3.4 DMA與緩存一致性的坑只要你的驅(qū)動涉及大塊數(shù)據(jù)傳輸就一定要碰DMA。DMA的坑不在DMA本身而在CPU cache。CPU讀寫數(shù)據(jù)時會經(jīng)過cache而DMA引擎直接讀寫物理內(nèi)存兩者看到的數(shù)據(jù)可能不一致——CPU改了數(shù)據(jù)但還沒刷回內(nèi)存DMA讀走的還是舊數(shù)據(jù)或者DMA寫入了新數(shù)據(jù)但CPU的cache里還留著舊值。內(nèi)核針對DMA提供了完善的API但你必須正確選擇使用方式使用dma_alloc_coherent分配一塊一致性DMA緩沖區(qū)。它保證cache和內(nèi)存始終同步適合控制結構、描述符表這類CPU和DMA頻繁共享訪問的數(shù)據(jù)。代價是分配和訪問它的效率偏低因為每次CPU訪問都可能觸發(fā)cache操作。使用dma_map_single/dma_unmap_single做流式映射streaming mapping。適合大塊數(shù)據(jù)的一次性傳輸通過dma_sync_single_for_cpu和dma_sync_single_for_device來手動維護cache一致性。我的實際經(jīng)驗是能預先知道方向的傳輸盡量用流式映射并且嚴格按順序——寫數(shù)據(jù)、sync_for_device、啟動DMADMA完成后、讀數(shù)據(jù)前必須sync_for_cpu。順序搞反的典型癥狀是第一次數(shù)據(jù)是好的第二次開始出錯因為cache在第一次傳輸后已經(jīng)把舊值刷進去了。這個問題我在調(diào)一個音頻驅(qū)動時花了兩天才定位到最后排查方式是在DMA完成中斷里加打印比對每次讀到的第一個字節(jié)才發(fā)現(xiàn)cache回寫的順序問題。4. 驅(qū)動調(diào)試三板斧日志、寄存器實錘、Oops回溯4.1 printk的正確打開方式驅(qū)動調(diào)試和純應用調(diào)試不一樣你不能隨手開一個gdb斷點。內(nèi)核是跑在目標機上的操作系統(tǒng)最樸素也最可靠的調(diào)試工具依然是printk。但printk不是隨便打打就完了。很多新手驅(qū)動一開打印就刷屏整個控制臺跟流水一樣連系統(tǒng)實時性都被拖垮了。我的經(jīng)驗是遵循三級策略第一級開發(fā)階段用pr_info和pr_debug把關鍵路徑全部打出來比如probe成功、中斷觸發(fā)、數(shù)據(jù)讀取。這時候盡量把打印做成動態(tài)的不要寫死方便后續(xù)關閉。第二級功能驗證階段只保留真正有信息量的log比如寄存器版本的讀取值、狀態(tài)機的跳轉(zhuǎn)條件。每一條打印都要問自己一句如果它出現(xiàn)了我能不能根據(jù)它判斷問題方向第三級發(fā)布前把不必要的打印全部改成pr_debug或者用dynamic_debug控制。內(nèi)核的動態(tài)調(diào)試機制可以讓你在運行時按模塊、按函數(shù)、按行號單獨開關某條打印不需要重新編譯。# 打開某模塊內(nèi)所有動態(tài)調(diào)試打印 echo module mydriver p /sys/kernel/debug/dynamic_debug/control這個技巧太實用了。我調(diào)過一個USB轉(zhuǎn)串口驅(qū)動平時一條log都不能留出問題的時候遠程把動態(tài)調(diào)試打開日志瞬間出來了問題定位完一關零負擔。4.2 devmem與寄存器實測硬件問題一錘定音驅(qū)動不工作的原因一半在軟件一半在硬件。當你懷疑是硬件問題時最快的驗證方式是繞過驅(qū)動直接讀寄存器。此時devmem是最趁手的工具——它能直接操作物理地址映射的寄存器。在開發(fā)板的uboot里或者busybox環(huán)境中# 讀物理地址0x01c20000處的32位寄存器值 devmem 0x01c20000 32 # 寫一個值到該地址小心破壞系統(tǒng) devmem 0x01c20000 32 0x12345678實際調(diào)外部總線設備時我?guī)缀趺看味际窍炔閿?shù)據(jù)手冊確定期望值再用devmem讀寫對比。比如某個外設的ID寄存器應該讀到0x2490如果讀到0xffffffff基本說明片選沒拉對或者地址線接錯了如果讀到0x00000000可能是外設沒有上電復位。這些判斷在驅(qū)動代碼層面再做就慢了十倍不止。另外記住devmem讀寫的是物理地址不是驅(qū)動里的虛擬地址。驅(qū)動里ioremap出來的虛擬地址可以通過/proc/iomem查看物理地址映射關系對照devmem地址前先確認這兩個地址是同一個寄存器。4.3 內(nèi)核Oops怎么看從call trace定位代碼位置內(nèi)核崩潰的那一刻你會在終端或者串口上看到一大段Unable to handle kernel paging request或者Oops信息。不懂的人覺得是天書會看的人能從中讀出問題坐標。首先要讀的就是PC指針所在的那一行PC is at mydev_read0x34/0x4c [mydriver]。這一行告訴我們崩潰發(fā)生在mydriver模塊里函數(shù)是mydev_read距離函數(shù)開頭第0x34字節(jié)的位置函數(shù)總長度0x4c字節(jié)。這還不夠關鍵是要把0x34轉(zhuǎn)換成源碼行號。如果你的驅(qū)動編譯時帶了調(diào)試信息-g可以用addr2lineaddr2line -e mydriver.ko -f 0x34但這里有個坑addr2line算的是模塊加載后的地址而Oops里的偏移是相對函數(shù)起點的你需要知道模塊在內(nèi)核地址空間里的實際基址。實際操作中我更推薦先看call trace里的上一級調(diào)用確認是哪個調(diào)用路徑觸發(fā)了崩潰。call trace才是真正定位問題的關鍵。它會打印出從系統(tǒng)啟動到崩潰那一刻的函數(shù)調(diào)用鏈路你的驅(qū)動函數(shù)、內(nèi)核的VFS調(diào)用、系統(tǒng)調(diào)用的入口會一層層列出來。我遇到過一次驅(qū)動崩潰第一眼看PC定位在我的ioctl函數(shù)里我以為是參數(shù)校驗的問題結果看了call trace才發(fā)現(xiàn)是VFS層在release階段調(diào)用了我已經(jīng)注銷的函數(shù)——真正的坑是設備節(jié)點已經(jīng)關閉但我的設備結構體已經(jīng)被free了。另外寄存器dump里最有價值的是LR寄存器。ARM架構里LR保存著函數(shù)返回地址如果崩潰在某個被調(diào)用的函數(shù)里LR會告訴你它是從哪個位置跳到崩潰點的相當于另一個定位坐標。最后一個建議開啟CONFIG_DEBUG_KERNEL和CONFIG_DEBUG_INFO把panic_on_oops設為1。雖然看起來有點極端但在測試階段與其讓系統(tǒng)帶著錯誤狀態(tài)繼續(xù)運行產(chǎn)生更多亂象不如讓它當場停下來把現(xiàn)場完整留給你分析。4.4 示波器、邏輯分析儀與trace工具代碼層面排查完之后總有一些問題要落到物理層面。示波器看電源紋波、看時鐘質(zhì)量、看時序邊沿邏輯分析儀抓地址線、數(shù)據(jù)線、片選信號的關系。這不是EE的活驅(qū)動工程師也必須會用否則你永遠不知道驅(qū)動寫對了但硬件就是給不了正確響應到底是哪一方的鍋。我調(diào)SPI Flash等待時間時就是靠邏輯分析儀抓到片選信號太短——驅(qū)動在等待狀態(tài)判斷上少處理了一個字節(jié)的時序。這種事printk和devmem都幫不了你因為問題出在物理信號層面。除此之外還有一些在線的內(nèi)核跟蹤工具值得掌握。ftrace可以trace函數(shù)的調(diào)用能看驅(qū)動里面誰在什么時候被調(diào)用了多少次tracepoint在關鍵事件點有預埋的探針比如irq_handler_entry可以看中斷觸發(fā)頻率perf用來分析性能熱點比如你的read為啥慢是拷貝慢還是硬件等待慢。這些工具不需要重新編譯內(nèi)核在主流嵌入式發(fā)行版里都內(nèi)置了學會它們能省大量瞎猜的時間。5. 從面試到實戰(zhàn)嵌入式驅(qū)動工程師的核心競爭力5.1 面試官問八股文其實在問這四件事嵌入式圈子這兩年八股文文化很重很多人背了一堆概念卻一問細節(jié)就露餡。其實面試官問那些經(jīng)典問題背后想考察的就四件能力內(nèi)存理解、并發(fā)意識、內(nèi)核機制掌握度、排查問題的思路。比如他問自旋鎖能不能在中斷上下文使用不是要你回答能或不能——能但要注意臨界區(qū)不能睡眠而是想看你有沒有真正理解自旋鎖的底層語義忙等、禁止搶占、可能觸發(fā)死鎖的前提。他問kmalloc(GFP_KERNEL)為什么不能在中斷上下文用也是在考察你有沒有把內(nèi)存管理和原子上下文串起來GFP_KERNEL可能觸發(fā)直接回收然后睡眠。以我的經(jīng)驗面試里最有區(qū)分度的題目不是那些要背定義的概念而是給你一個偶發(fā)死機的現(xiàn)象說說你的排查思路。這題沒有標準答案但好的回答會從復現(xiàn)、縮小范圍、打印增強、邏輯分析、按層次排查展開差點的回答就是加打印、看日志兩句話。5.2 我推薦的驅(qū)動學習路線結合嵌入式學習路線這個熱搜詞我說說成年人學驅(qū)動開發(fā)的務實路徑。先不要碰內(nèi)核源碼那是最后的閱讀理解材料不是起點。第一步把C語言和計算機基礎扎牢指針、結構體、內(nèi)存布局、編譯鏈接過程、棧和堆。再把Linux應用編程過一遍文件IO、多線程、進程間通信、select/epoll。這一步是為了讓你理解用戶態(tài)怎么跟驅(qū)動打交道理解open/read/write背后的系統(tǒng)調(diào)用鏈路。第二步學內(nèi)核的三大核心機制進程管理特別是調(diào)度和上下文切換、內(nèi)存管理頁表、進程地址空間、malloc到頁表的映射過程、中斷處理上半部下半部、中斷線程化。這三塊是驅(qū)動開發(fā)的地基。第三步找一塊主流開發(fā)板寫一個真正的字符設備驅(qū)動配上設備樹、platform_driver、中斷和等待隊列。不要停留在點亮LED——那個連驅(qū)動都算不上只能叫GPIO操作。第四步做一個復合外設的項目比如帶DMA的采集驅(qū)動、帶中斷的輸入設備、一個完整的SPI/I2C從設備驅(qū)動。重點不是功能跑通而是把并發(fā)、阻塞、資源管理的經(jīng)驗練扎實。5.3 一個拿得出手的驅(qū)動項目怎么攢很多人面試時簡歷上寫著熟悉Linux驅(qū)動開發(fā)但項目經(jīng)歷只有在開發(fā)板上寫了LED和按鍵驅(qū)動。這種項目在面試官眼里等于沒有。真正有說服力的項目至少要體現(xiàn)三個層次。第一層是復雜度你的驅(qū)動不只是一堆寄存器操作它包含了中斷、DMA、并發(fā)保護、阻塞IO、設備樹適配這些元素。比如做一個音頻采集驅(qū)動SPI接口、DMA傳輸、環(huán)形緩沖區(qū)、用戶態(tài)通過ALSA或字符設備讀取數(shù)據(jù)。這個項目天然就涉及緩存一致性、數(shù)據(jù)完整性、并發(fā)邊界。第二層是工程化代碼有分層結構、錯誤處理路徑完整、支持動態(tài)調(diào)試、有明確的并發(fā)設計說明。能讓面試官看出你不是寫完能跑就行的人而是考慮過卸載模塊會不會崩并發(fā)訪問會不會錯的人。第三層是遷移能力你能把一個現(xiàn)有驅(qū)動從一個平臺移植到另一個平臺并且說明過程中踩過哪些坑。這種跨平臺移植的經(jīng)歷最能體現(xiàn)對軟硬件邊界理解是否透徹。5.4 驅(qū)動開發(fā)的終局能力是系統(tǒng)思維走到后面你會發(fā)現(xiàn)單純寫一個外設驅(qū)動越來越不是重點真正拉開差距的是你能不能從系統(tǒng)的角度看問題。一個看起來很簡單的USB設備驅(qū)動往上要適配USB棧、設備模型、電源管理往下要處理控制器寄存器、DMA、中斷。你要能快速看懂內(nèi)核里相關子系統(tǒng)的框架代碼能利用內(nèi)核提供的框架而不是繞過框架。suspend/resume你寫不寫pinctrl和gpio子系統(tǒng)怎么協(xié)同設備運行時電源管理runtime PM該不該引入IOMMU要不要配置時鐘框架怎么調(diào)頻這些問題在簡單的example驅(qū)動里永遠不存在但在真實產(chǎn)品里每一項都可能成為問題。我見過太多人驅(qū)動本身寫得挺快但一涉及低功耗喚醒、涉及系統(tǒng)休眠恢復就亂了陣腳——因為那些時刻驅(qū)動不再是孤立的代碼而是整個電源域和時鐘域的一部分。所以我的建議很明確驅(qū)動開發(fā)的經(jīng)驗前期拼的是對硬件和內(nèi)核接口的熟悉程度后期拼的是對整個系統(tǒng)框架的理解深度。后者沒有速成路徑只能靠一個個項目喂出來。最近圈子里聊AI寫代碼聊得很熱鬧也有人問我驅(qū)動能不能讓AI來寫。我的看法是模板代碼、常見外設的驅(qū)動骨架、設備樹的常規(guī)寫法AI確實能幫上忙但驅(qū)動開發(fā)真正值錢的部分——判斷并發(fā)風險、理解硬件時序、在call trace里幾小時內(nèi)定位問題——恰恰是AI最不擅長的。那些都是經(jīng)驗不是語法。所以我給新人的建議始終不變把中斷、并發(fā)、DMA這三塊硬骨頭啃明白比抄一百遍例程都管用。等你真正被客戶現(xiàn)場的偶發(fā)故障折磨過幾回再回頭看這篇文章里說的每一句話大概都會有一種原來當初的鍋出在這里的恍然。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
97婷婷狠狠| 免费视频WWW在线观看网站| 婷婷五月天激情网| 99热久久日本| 色九九九综合| 五月天婷婷久久综合| 婷婷五月天AV在线| 91seAV| 久久六月天| www天天爽| 欧美欧盟性爱网| 无码一级片| 国产看真人毛片爱做A片| 五月天六月色| 婷婷五月天无码| 91精品电影18T| 六月激情婷婷综合| 麻豆精品| 99热在线观看99| av高清无码| 五月婷婷六月丁香| 久久久五月天| 婷婷五月天色色| A久久| 日韩人妻操逼视频| 日日操,夜夜爽| 第2色五月婷| 97人人操在线| 亚洲AV网址| 久久综合综合综合| 五月丁香婷婷激情四射迷人| 日本道久久91| 39视频第二区| 久七香蕉| 亚洲不卡| 在线国产精品色| 五月丁香婷婷啪啪综合网| 就要爱综合| 97人人射| chaopeng在线人人| 丁香五月婷婷久久综合激情网| 色吊操色妞| 五月激情小说| BBWCUCKOLD精品熟妇| 九九视频在线观看| 婷婷91| 日本色色网| 免费婷婷| 激情五月丁香五月| www.色五月| 91久久久久久久久18| 色婷婷视频| 综合五月婷婷| 中国丰满熟女A片免费观| 亚洲操b| www.久久久久| 中文字幕无码人妻少妇免费视频| www.com久久久久久久久久久久久久久久久| 激情五月天网站| 免费看欧美成人A片无码| 国产精品18久久久| 色都都狠狠色都都色综合色| 五月丁香网站| 操碰99| 91热久久| 青草视频在线播放| 玖玖婷婷视频| 成人五月天婷婷| 99热国品免费| 五月丁香另类网| 日日爱699| 亚洲色婷婷五月| 十月色综合| 久久少妇视频| 99爱在线精品视频免费观看| 双性美人被调教到喷水A片| 亚洲亚洲人成综合网络| 综合www色| 一区二区免费看| 综合另类视频| 玖玖精品资源| 亚洲网站999| 在线观看欧美| 婷婷色五月综合| 色婷婷激情视频| 99黄色在线视频精品熟女| 91玖玖| 操操操操操操婷婷五月天| 婷婷五六月丁香| 综合视频五月| 激情综合网五月| 五月色网| www.com色播五月天| 尔尔AV一区| 99噜噜噜在线播放| 日韩另类在线观看| 五月天五月色| 99热这里只有精品3| 99精品视频在线观看| 精品九九九久| 五月丁香爱婷婷深深| 五月天婷婷深深爱| 色色色综合网| 大香线蕉伊人| 噜噜噜噜噜色| 激情五月天网站| Www.se.久久| 亚洲激情综| 色五月丁香五月五月婷婷| 五月天激情子轮| 黄网在线播放| 婷婷五月六月| 亚洲综合婷婷六月丁香五月| 99热自拍| 日本三级日本三级三级人妇四虎| 99视频网| 国产熟妇的荡欲午夜视频| 丁香五月WWW| 丁香五月精品视频| 色婷婷888| 亚洲乱码日产精品BD| 97人妻碰碰碰久久香蕉| 婷婷.com| 九月激情婷婷丁香| 婷婷五月丁香五月丁香| 9久精品| 狠狠色综合久久| 六月丁香五月婷婷| 第四色激情网| 啪啪99| 成人av在线网| 婷婷激情六月综合| 丝袜大香蕉| 草草影院爱爱| 99热这里只有精品22| www.天天干| 久久视频婷婷| www.激情| 亚洲xx网| 天天插天天日| www.五月丁香| 激情五月天婷婷五月天| 亚洲乱啪| 日韩三级高清无码| 九九热99在线视频| 综合五月丁香六月婷婷| 色吊丝99| 激情六月色| 色五月美女| 很很干在线视频| 激情五月天色播| √天堂资源在线人妻熟女| 99无码黄色视频| 亚洲乱码日产精品BD| 丁香九月综合| 91狠狠综合久久| 中美日韩成人在线| 大香蕉五月丁香| 国产免费一区二区三州老师F1F1……| 99视频这里有精品| 99精品国产在热久久婷婷| 色情五月天婷婷| 精品国产乱码久久久久夜深人妻 | 日韩三级视频一区二区| www.日日夜夜.com| 五月天婷婷久草丁香| 人人操人人爱丁香五月| 97成人视频| 婷婷色Av| 六月色婷婷综合影视| 无码人妻一区二区三区免费九色| 超级碰碰碰久久网站视频| 天天碰天天插天天操| 婷婷五月天影院| 丁香狠狠| 中文字幕综合色| 亚洲最大五月天成人网| 丁香婷婷五月人体| 五月丁香性爱| 亚洲激情丁香五月天色| 久久婷婷五月综合色欧美| 欧美色小说婷婷| 乱精品一区字幕二区| 丁香婷停五月激情综合深爱| 99干在线视频| 99操久久| 国产欧美婷婷五月| 嫩草视频。| 深爱五月激情| 欧美日韩成人在线| 亚洲综合网在线| 激情五月天www| 亚洲中文字幕在线电影| 亚洲无线视频| 性小说五月天| 九九综合图片网| 这里只有精彩视频| 第2色五月婷| 欧美成人在线观看| 91色在线 | 日韩| 99久久婷婷五月综合| 色999亚洲人成色| 思思热在线视频观看精品| 性做爰A片免费视频A片直播| 色综合久久88色综合天天99| 五月丁香色婷婷伊人| 午夜精品久久久久久久爽| 五月天啪啪| 成人中文字幕在线| 国产亚洲精品久久久久久郑州| 五月丁香激情综合网官网| 色吧网91| 丁香五月播播| 五月丁香六月婷婷亚洲综合| 狠狠做五月| 99热99艹在线观看| 色色色色色色色色五月先| 五月激情精品视频| 9l视频自拍9l九色9l成人| 欧美婷婷五月丁香| 色99网| 久久久久久久97| 五月丁香| 99九九在线视频| 激情综合五月激情| 超碰成人av| 狠狠干综合| 亚洲色色香蕉| 色婷婷视频| 五月婷丁香久久综合| 色婷婷久久久| 色 色 色综合com| 天天色月| 97色97干| 欧美成综合在线观看| 五月婷婷激情综合| 丁香五月天堂网| 狠狠久久婷五月综合色| 人人澡玖玖一| 色欲婷婷五月天丁香| 欧美成人精品A片免费一区99| 五月天婷婷综合免费| 26uuu欧美日韩| 绿色小导航AV| 99视频免费播放| www超碰| 欧美α√| 狠狠草综合网| www.十八禁不禁AV.com| 成人五月天婷婷| 97碰成超视频免费视频| 玖久久网站| 婷婷五月天开心网| 九九这里是免费的视频5| 5月婷婷六月丁香| 日韩欧洲亚洲| 五月婷啪啪| 婷婷热色| 久久99人人| 亚洲午夜av| 九九婷婷综合| 五月婷婷成人| 涩涩五月天| 五月婷婷伊人久久| 日韩按摩二区| 天天操天天操| 桃色激情婷婷伊人网| 欧美三级欧美一级| 香蕉狠狠爱视频| 丁香五月婷婷欧美成人色图| 精品操逼一区二区| 欧美六月婷婷| 五月天大香蕉婷| 成人国产欧美大片一区| 国产美女无遮挡裸体毛片A片| 亲子乱AV一区二区三区下载| 久久9久| 日日夜夜干| 五月天天爽| 婷婷涩五月天综合| 五月婷婷我| 欧洲综合视频在线观看。欧洲,亚洲综合食品在线观看。 | 五月丁香在线婷婷蜜桃| 久热2025无码| 99这里只有免费的小视频在线观看| 99ri国产在线| 丁香 婷婷 激情 综合 五月| 精品色情一区二区三区四区| 激情婷婷综合| 五月婷婷深爱六月| 都市激情五月婷婷亚洲| 婷婷五月天激情网站| 久热视频这里只有精品| 99精彩视频| 日本人人xxx| 亚洲丁香五月| 成人在线综合| 亚洲五月婷| 亚洲成人在线播放| 久久婷婷免费| 日韩综合久| 激情五月综合第一页| 99啊精典免费视频| 99亚洲精品视频在线观看| 五月丁香另类图片| 五月天色婷伊人| 天天在线天天综合网色| 丁香九月婷婷色| 五月婷婷在线综合| 婷婷五月AV| 九九热精品| 99爱在线免费视频| 色综合久久久无码中文字幕999| 天天日天天肏天天奸| 丁香五月婷婷av影院| 天天综合网~91| 伊人大香久久| 久热91| 天堂爱爱| 狠狠色综合精品视频在线| 综合五月婷婷| 五月丁香成人网| 中文毛片无遮挡高潮免费| WWW.久久.COM| 五月丁香成年黄色| 九九99视频精品| 六月婷婷狠狠做| 新精品99| 色色色综合色| 影音先锋一区二区资源站| 国洲夜色亚热在线久久| 久久五月天婷婷| 久久综合激情五月天| 中文字幕簧片| 97色欧美| 中文字幕 中文字幕明步| 涩婷婷视频快播人妻| www99久久| 六月欧美综合色情| 九九这里只有精品| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 亚洲精品网址| 亚洲五月天伊人| 婷婷五月天AV| 国产高潮A片羞羞视频涩涩| 五月婷婷丁香大香蕉| aa久久| 激情婷婷综合| 538任你爽| 国产美女无遮挡裸体毛片A片 | 五月丁香少妇A| 深爱激情六月天| 亚洲人妻av| 影音先锋高清无码资源网| 天天综合久久| 亚洲精品国产精品乱码不99| 中文字幕在线观看视频www| 婷婷99视频全集高清| 五月丁香久| 婷婷激情五月天亚洲综合| 婷婷综合五月天| 国内外色色色色色成人视频| 天堂色婷婷| 五月天久久成人| 91人操| 变态 另类 在线| 日韩一级A片黄色| 大香蕉天堂色| 成人婷婷五月天| 色婷久久| 五月婷婷先锋| 天天射综合网天天插| 成人短视频在线| 五月色亭丁香| 97好吊操| 性做爰A片免费视频A片直播| 国产亚洲精品人人| 天天色综网| 色天堂操| 中文乱子伦视频| 丁香五月激情网| 91碰| 亭亭色网| 一区二区免费看| 丁香五月六月婷婷殴美综合| 丁香婷婷成年| 日日干综合| 九九99久久| 天天综合五月| 日本久久天堂| 9色在线| 一二区成人电影| 天天做天天爱综合| 亚洲丁香婷婷| 五月综合六月婷婷| 久久人人添人人爽添人人片αV| 狠狠五月激情在线| 五月丁香色情| 婷婷九月激情| 色五月激情五月| 五月丁香婷婷网网网网| 国产67194| 久久曰曰| 色婷婷五月天在线观看| 九玖视频这里只有精品| 色婷婷五月天偷拍| 婷婷五月天成人娱乐| 九月丁香婷婷| 激情综合网之激情五月| 极品少妇XXXX精品少妇偷拍| 99热20| 欧美日韩99| 亚洲综合在线伊人婷| 婷婷在线视频| 免费日韩99| 婷婷五月天久久久| 六月丁香综合999| 熟女人妻一区二区三区免费看| 欧美婷婷六月丁香综合色连续高潮抽搐| 五月丁香狠狠爱| 激情综合婷婷| 婷婷五月天xxx| 丁香五月天激情综合| 丁香五月天色综合| 丁香五月天成人| 另类综合国产| 丁香六月婷婷社区| 97色色婷婷| 婷婷五月丁香综合亚洲 | 色99欧洲色19| 国产婷婷综合| 99精品在线| 热九九在线| 午夜69成人做爰视频| 亚洲中文乱字字幕线在永久| 午夜日韩久久久网站| 五月天婷婷综合网| 五月开心婷婷极品激情| av大片在线| 五月天激情视频网站| 成人片在线免费看| 久久久精品色| 亚洲五月天狠狠| 丁香伊人五月色婷婷五十路| 丁香五月婷婷啪啪啪| 99久热| 极品人妻VIDEOSSS人妻| 欧美婷婷五月天| 99超级碰碰| 五月丁香五月婷婷| 有哪些A片网站| 超碰在线免费9| 丁香五月天啪啪| 9久热这里只有精品| 免费啪啪啪网站| 婷婷色九月| 久久6这里只有精品| 狼人伊人干| 97碰在线| 中文字幕久久一区二区三区| 婷婷五月香蕉| 九九色情网站| 丁香五月天在线观看| 永久AⅤ1| 玖玖综合色| 中文字幕1区2区。| 97狠狠色| 五月激情婷婷开心| 99热国品免费| 麻豆精品| 粉嫩AV久久一区二区三区| 丁香五月激情啪啪| 伍月婷丁香婷| 最新日韩久热免费视频看看| 欧美S码亚洲码精品M码| 91碰| 十月丁香九月婷婷综合| 五月天色婷伊人| 青青草网武则天| 欧洲亚洲精品| 婷婷激情六月视频| 五月天婷婷导航| 成人五月丁香社区| 潮汕成人AV片在线| 亚洲乱码日产精品BD在线观看| 色5月丁香婷婷| 99国产小视频免费观看| www.99热在线观看| 超碰免费电影| 九九热123| 99热这里只有精品22| 色婷婷婷婷五月天| 婷婷五月天激情视频| 玖玖爱资源站| 久久亚洲天堂| 五月丁香激情综合网官网| 婷婷色六月| 夜夜撸夜夜骑| 色永久| 婷婷五月免费观看| 99热这里在线精品| 亚洲天堂爱爱| 国产黄色一级片| 五月精品99综合| 99热超碰在线| 色色色热| 日本三级中国三级99人妇网站| 人人播| 日本在线噜噜| 91dy.av| 婷婷五月激情网站| 婷婷激情综合网| 亚洲乱码w在线观看| 丁香五月婷婷色| 开心久久爱五月天| 秋霞三级影视资源| 日本色噜| 日木狠狠干| 嫩草视频在线观看| 欧美激情综合色综合啪啪五月| 狠狠 久久| 九九色婷婷五月天| 九久久婷婷| 风流少妇A片一区二区蜜桃| 色屌丝中文字幕| 久久婷婷视频| 色久天| 伊人久久婷婷| 丁香五月手机在线| 色婷婷狠狠| 99热这里只有精品青草| 丁香婷婷久久 | 国产亚洲成AV人片在线观黄桃| 丁香五月天之婷婷影院| 97五月天| 三男玩一女三A片| 欧美精品999| 日本高清久久| 韩日另类| 婷婷五月另类网站| 东北黄色一级| 丁香五月婷婷亚洲综合精品| 91一起操| 777久久综合视频| 日韩狠狠色婷婷| 夜夜天天久久婷婷| 无码人妻一区二区三区免费九色| 俺也去在线视频| 欧美25p| www.99热| 婷婷六月色| 婷婷基地爱| 99热| 99热97美女| 欧美啪啪五月天| 中文字幕av亚洲| 久久色婷婷| 激情开心五月天| 另类图片五月天| www.97视频| 中文字幕无码人妻少妇免费视频| 五月丁香综合久久夜夜| 天堂综合久| 超碰人人操人人干| 亚洲 日韩色色| 激情五月丁香色婷婷| 国产日韩亚洲欧美在线观看| 日本九九网| 大香蕉久操| 深爱激情五月天| 中文字幕中文有码在线| 开心五月婷婷婷美女| 97碰碰在线看视频免费| 中文网AV| 婷婷六月五月天综合| 婷婷五月天美女21p| 在线成人网站| 日韩艹比| 亚洲AV第二区国产精品| 日日色五月天| 色J香五月天| 色婷婷丁香| 99无码精品| 97成人丁香| 一级性感黄色内射视频| 六月丁香婷婷网| 亚洲精品午夜国产va久久成人| 超碰成人在线观看| 色一情一乱一伦一区二区三区| 墨西哥毛片内射精| 久久久婷| 99热这里只有免费精品| 99热这里只有精品中文字幕| 九九久久9 9在线观看| 91精品综合久久婷婷九色| 色热久资源| 青草激情在线| 俺去也婷婷| 2050人人操免费工开爱 | 韩国中文字幕91| 久久亚洲天堂| 五月丁香久人妻中文| 婷婷射图五月天| 丁香综合网| 丁香五月综合网| 操操人人| 丁香涩涩爱| 丁香五月婷婷基地| 偷偷操99| 91久久婷婷人人澡草 | 激情网五月天| 色婷婷色99国产综合精品| 国产精品-第3页-91JQ就要激情网91JQ5.JQJQ926.XYZ | 大香蕉九九| 真实熟女-91九色| 伊人网欧美在线男人天堂五月丁香 | 先锋影音男人的天堂AV| 激情五月天婷婷图| 天天爱综合网| 亚洲六月综合激情久久下卡| 99免费视频久久| 婷婷丁香人妻天天爽| 九九这里只有精品| 五月天天堂久久| 五月丁香婷婷俺| 欧美精品XXXXBBBB| 99色干| 日本丁香五月| 色吧网91| 婷婷五月天伦理| 久操人妻| 人人干女人| 久久色五月天综合网| 99精品无码| 久久超级碰碰| 婷婷五月天情色| 沈娜娜av| 色婷婷五月天不卡| 成人国产欧美大片一区| 婷婷六月丁香在线| 激情小说五月天| 停停五月色宗合| 激情深爱五月| 91久久久久| 提提热五月天婷婷| 国产av天堂| 丁香婷婷久久| 五月婷婷激情久久| 激情另类综合| 人人爽欧美婷婷久久久五月丁香| 综合色七七| 亚洲五月丁| 五月综合激情婷婷六月色窝| 深爱五月婷婷开心中文字幕| 中文字幕成人| 久热久色| 亚洲激情综合| 久久精品国产色| 丁香五月社区| 二人电影免费版在线观看| 色五月丁香婷婷| 99re热精品视频国| 91色婷婷综合久久中文字幕二区| 久久激情五月| 蜘蛛女免费观看完整版高清电影| 色色99| 欧美在线骚货| 五月综合色| 91视屏在线观看com.wwwvv| 99综合网| 99秘 在线| 久久您您综合网| 丁香色情五月综合网站| www亚洲无码| 狠狠xx| 色婷婷91| 激情综合网五月天| 精品一二三区视频立| 免费看欧美成人A片无码| 婷婷丁香五月天综合网| 狠狠爱成人综合网| 日日夜夜爽| 久久图色4| 综合色99| 99高级会所久久| 韩日另类| 国产在这里只有精品| 夜夜爱伊人| 狠狠干狠狠色| 色播五月天天| 久久99jiu9| 亚洲无码yw| 五月婷婷干干干| 操91| jiZZdr| 99热超碰天堂网| 婷婷激情九月| 涩涩五| 丁香五月婷综合| 亚洲性爱电影| 天色综合网站| 久碰综合| 99欧美| 在线可以看的av网址| 91肏| 风流少妇A片一区二区蜜桃| 一根材五月婷成人| 激情宗合 激情宗合| 日日.c| 五月婷婷网站| 五月天婷婷网站888| 裸体做A爰片毛片A片免费| 国产婷婷五月天| 中美日韩成人在线| 国产偷人爽久久久久久老妇APP| 丁香五月天网友自拍啪啪啪视频| 色色五月婷婷| 99热这里只有精彩| 99热这只有| 99热999| 欧美性生交XXXXX无码小说 | 91久久久久久久久| 久久这里只| 啪啪啪综合网| 91色欲综合| 五月婷婷丁香六月| 激情五月综合婷婷| 欧美久久五月婷婷| 久婷婷婷| 沈娜娜av| 超碰在线国产| www.maotanji.com| 五月激情基地| wuyuedingxiang99| www.com亚洲网站在线免费| 麻豆AV一区二区三区| 激情五月天天狠狠久久| 五月综合激情综合久| 香蕉婷婷色五月| 女人被躁到高潮嗷嗷叫小| 九色视频91疯狂| 激情综合网 激情五月天| 色婷婷手机在线| 色五月婷婷天堂| 日韩黄色影院| 五月丁香综合在线| 色色丁香婷婷综合| 丁香五月婷久久| 五月激情另类| 六月丁香激情综合网| 五月丁香五月丁香五月丁香五月丁香91| 国产成人精品一区二区三区视频 | 99日韩| 另类专区在线| 色播五月网| 五月天停停成人网| 亚洲婷婷五月草久| 综合激情啪啪| 婷婷99中文字幕| 超碰人人操| 日本色啪| 操操综合网婷婷| 五月天综合网| 婷婷五月综激情| 天天影院色| 九九爱激情| 婷婷五月天a| 操操操av| 亚洲中文无码成人| 婷婷八月激情| 亚洲色精彩| 丁香九月久久| www.激情| 丁香五月婷婷啪| 99网址在线看| 99久久99久久| 色吊丝av中文字幕| 色色色无码| 色婷婷五月天不卡| 婷婷五月丁香综合人妻| 青青草日本亚洲| 色五月五月天| 五月丁香久久呀| 狠狠色综合网站| 国产精品色一哟哟| 精品51XX| 91精品久久久久久综合五月天| Www,五月天| 狠狠撸激情综合丁香五月天俺来啦| 深爱激情五月天婷婷网| 天天爱天天做天天爽| 日本九九热| 丁香五月23111| WWW,婷婷,COM| 丁香五月电影| 欧美日韩成人一区二区| 色婷婷中文在线| 五月丁香欧美综合| 天天干天天干天天干| 综合五月丁香六月婷婷| 久久激情五月天| 成人婷99最新| 婷婷视频网| 精品一区二区三区免费毛片爱| 偷偷与邻居做爰完整视频| 国产成人精品亚洲线观看| Blackedraw视频一区二区| 久久97久久99久久综合欧美| 中文字幕丰满乱孑伦无码专区 | 狠狠干综合| WWW色五月| www.久久久久久久久久.com| 日韩高清久久| 久99久在线| 丁香五月天导航| 国产99精品免费视频| 开心四月婷婷在线色播播| 久久av电影| 人妻熟妇六区| 天天插天天日| 久9久9久9久9久9久9| 五月亭亭六月天| 天天插综合网| 99久久婷婷精品视频| Aα在线免费观看| 色综合区| 天天日天天摸天天| 日韩无码色色| 99人妻碰碰碰久久久久禁片| 被强行糟蹋的女人A片| 91久久久久| 超碰成人在线观看| 色婷婷在线综合色播网| 久久99网| www.狠狠| 超碰在线资源| 日本三级大片| 亚洲天码视频www蛋播视频| 国产激情av| 国产乱人偷精品人妻A片| 97在线视频 欧美| 俺来也综合网精品一区| 玖久精品视频9| 色玖玖综合网| 超碰成人黄色网| 日韩在线视频中文字幕| 婷婷天天插天天爱| 久久五月婷婷丁香| 五月婷无码| 天堂综合久久 | www.99婷婷| 超碰操日| 热中文字幕| 色五月丁香网| 久久久久9| 丁香五月性爱爱五月| 入口五月婷婷六月香| 丁香色五月婷婷| 狼人久草| 色情五月天丁香社区| 婷婷色香六月综合激情| 操操人人| 丁香婷婷老司机久操| 99r久久这里只有精品| 色婷婷五月综合| 久久99最新地址| 超碰人人超碰| 亚洲国产精品VA在线看黑人| 综合五月天| 成人视屏在线观看| 日日夜夜婷婷| 97搞在线| 狠色狠色狠狠色综合网| 丁香九月婷| 五月婷婷久久网| 婷婷五月天亚洲色| 婷婷久久精品| 午夜福利成人AV91| 欧美激情丁香五月天久久婷婷一区| 另类激情综合| 欧美在线视频9| 日韩精品无码99| 国产古装妇女野外A片| 五月婷婷啪啪网| 丁香六月久久| 1024成人免费看| \\五月天婷婷激情| 五月天色社区| 丁香五月香蕉| 国产日韩欧美性爱| 亚州色综合| 五月精品免费XXX| 国产精品a无线| 天天爽在线视频| 色色五月天激情| 丁香五月婷婷大香蕉| 婷婷丁香五月在线播放| 伊人久久婷婷| 伍月婷丁香婷| 激情五月综合亚洲另类| www.91九色| 欧美色97| 色五月婷婷五月天激情综合| 五月天激情久久| 182无码| 五月天婷婷视频30| 4438亚洲欧美| 3www激情| 五月久久丁香| 五月婷婷在线观看| 九九色婷婷五月天| 五月天婷a| www.色欲丁香婷婷| 婷婷日韩| 久久这里有精品视频| 五月J香蕉婷婷| www.26uuu.com亚洲电影| 99国产在线精品视频| 六月丁香婷婷开心综合基地| 三年高清大片免费观看国语| 777精品成人a v久久| 国产亚洲成AV人片在线观黄桃| 日日干综合| AV片一区在线观看| 欧美色五月天| 婷婷丁香综合网| 综合久久人妻| 夜夜爱影院| 丁香五月婷婷av| 婷婷综合在线| 婷婷91| 日日操日日射| 热99玖玖99玖玖99九九| 久色婷婷200| 六月激情网| 九九色人| 五月丁香亭亭成人电影| 国产成人AV| 六月婷婷久久| 激情综合在线播放| 91丨九色丨大屁股| 五月天色狠狠| 久久黄色片| 五月天婷婷无码| 九九干视频| 久久久18| 九九成人精品| 丁香五月天影院| 丁香五月成人| 99五月婷| 久久精彩视频| 激情二色月| 葵花AV在线| 日韩999| 操笔无码| 五月精品99综合| 五月婷婷在线视频| 九九99久久| 免费无码毛片一区二区A片| 激情綜合W W W,激情五月天| 天天干天天操天天射| 9色在线| 五月婷六月天| 99久久五月丁香野外| 激情五月天网| 五月天婷婷五月| 久久9999| 天天操天天干天天日| 五月婷婷综合潮喷| 激情爱爱网站超大免费| 九九色热| 日本久久爱| 日韩综合网络男女香蕉a片| 激情文学综合婷婷五月天丁香花| 日本成人噜噜噜| 色五月涩涩婷婷蜜桃| 日本色色影院| 色五月婷婷丁香五月| 99久久九九| 综合亚洲AV| 五月综合视频| 五月婷婷激情久久| 日本一级一级一级一级| 亚洲1区| 99热免费| 五月婷婷丁香五月亚洲色| 综合网色综合| 国产99久久久国产精品免费看| 激情五月视频在线婷婷| 国产午夜精品AV一区二区麻豆| 久草久青福利| 综合色视频| 最新高清无码专区| www.久久综合| av中文网站| 丁香婷婷人妻| 国洲夜色亚热在线久久| 精品国产AV色一区二区深夜久久| 中文AV网站| 久久五月天综合视频网站| 午夜丁香 婷婷| 色五月婷婷在线观看第一页舔| 丁香五月天激情免费在线观看AV777| 男人天堂伊人五月丁香| 亚洲AV无码影院| 五月婷婷爽爽爽| 夜夜撸日日操| 免费观看大片视频 丁香婷婷 六月欧美| 色播五月丁香婷婷| 久久ww| 大香蕉啪啪啪啪啪啪| 成人αV视频免费观看| 亚洲99综合| 深夜A片| 婷婷丁香视频| 综合亚洲六月婷婷在线| 青青草Avb在线| 久久A极片| 97综合在线| 精品久久人妻| 国产精品A片| 亚洲综合色婷婷| 久草视频大香蕉99| 久久婷婷老| 婷婷天天色| 五月婷婷丁香五月婷婷| 精品一二三区视频立| 99久在线观看| 婷婷趴趴| 色婷大香蕉| 亚洲乱码日产精品BD| 丁香五月社区| 激情五月天色色| 婷婷五月丁香欧洲| 国产精品热搜丁香五月婷婷| 秋霞电影理论| 色情五月丁香婷婷网| 日本69日人视频| 五月丁香久| WWW·色色色·COM| 婷婷九月丁香天堂丁香天堂| 丁香五月婷综合| 婷婷五月天免费99| 丁香综合日产精品久久| 五月天激情网站| 久青草影院| 九九热精品视频在线观看| 五月丁香啪啪啪综合网| 激情五月婷黄版| 噜噜吧天天爱| 99视频在线精品| 日韩爱操视频| 亚洲综合激情五月| 婷婷五月天激情免费在线观看| 开心五月婷婷在线| www.久久66| 99久久综合精品五月天| 五月综合亚洲婷婷| A A色色| 思思热久久久在线| 这里只有精品69| 久久亚洲婷婷| 这里只有精品在线免费视频| 五月天激情婷婷五月天久久| 99久久99热这里只有精品| 五月色导航| renrencaoav| 啪啪91| 99久热这里有精品| 丁香五月天激情网址| 九九热在线亚洲免费视频| 丁香五月AV综合| 精品一区二区三区四区五区六区介绍| 天天爽天天弄| 丁香婷婷成人在线播放| 色五月丁香五月婷婷五月成人网 | 白人荫道BBWBBB大荫道| 99ri在线| 丁香激情网| av网站免费在线| 国产成人AV| 色婷婷网大全在线| 九月婷婷综合色干| 色婷婷AV在线| 91婷婷| 热这里只有精| 在线可以看的av网址| www.99视频| 97干在线播放| 亚洲精品亚洲人成人网| 九九在线精点品| 日本欧美成人片AAAA| 日韩成人电泉AV| 91精品无码久久久久久五月天| 日日干五月天婷婷| 99re这里有精品手机在线| 噜噜色com| 丁香五月最新地址| 精品久热| 热99色| 精品久久婷婷| 成人婷婷桔色| 综合久久六月| 亚洲成人高清在线| 色五月综合网| 狠狠干狠狠操狠狠爱| 婷婷操久久| 成人色五月天婷婷| 色五月天本日| 婷婷开心激情| 婷婷丁香18| 亚洲av网站在线观看| 日韩按摩二区| 婷婷亚洲五月| 日韩成人精品中文字幕| 色婷婷网大全在线| 婷婷色资源| 五月综合激情| 亚洲综合干| 九九99热| 99在线免费视频| 9在线9在线婷婷在线国产| 激情五月天在线观看婷婷| 天天cha成人综合网| 婷婷久久精品| 九九色婷婷五月天| 六月婷婷色综合| 六月婷婷AV| 天天综合干| enecarbon-materials.com污K127封锁请涟系@wip1688 | www激情五月天| 五月色婷| 丁香色五月天| 九九中文字幕九| 丁香五月综合色婷婷| 五月婷婷亚洲色视频| 丁香色婷婷| 成人网站高清无码| 婷婷色播综合五月| 丁香五月婷婷色播艳门照| 日日夜夜婷婷| 98永久精品| 另类的婷婷| 五月丁香成人视频| AV在线不卡播放| 婷五月天六| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 色5月婷婷色| 亚洲无码影音| 久久精品国产色| 五月婷婷六月婷| -91九色大屁股| 天天色综合网吨吧| 啪啪啪大香蕉| 99热在线观看99| 99热免费| 天天搡日日搡aaaaⅩ| 丁香五月婷婷手机| 中国女人内射6XXXXX| 久久性操| 激情五月天小说| 日韩黄在免| 色五月激情视频在线综合| 丁香婷婷深情五月亚洲| 色婷婷伊人激情在线观看| 色综合婷婷| 久久92| 国产欧美大香蕉一区| 日本色婷婷五月天成人电影| 99热亚洲精品| 99综合99| 九九热在线观看视频网站| 99热这里都是精品| 激情四射五月天| 丁香激情五月天| 91综合视频在线| 99在线精品免费视频| 日韩一区二区A片免费观看| 婷婷六月激情小说网| 久久人人看| 91啪啪网| 五月天电影网| 三人荫蒂添的好舒服A片| 色婷婷久久综合久色综| 超碰国产AV| 婷婷激情啪啪| 五月丁香另类网| 日韩精品无码一区二区| 深爱婷婷色| 成人日韩欧美| 天天综合情| 亚洲色视频| 婷婷五月丁香基地在线视频官网| 久久伦乱| 国产99久久久| 色吧五月婷婷| 99黄色性生活| 日韩成人无码人妻| WWW色色色COm| 99re久久| 99re熱| 丁香六月婷婷综合| 天天肏屄夜夜爽| 欧美搡BBBBB摔BBBBB| 人妻熟妇六区| 亚洲情综合五月天| 毛片新网地| 色婷婷亚洲综合天堂| 五月天社区狠狠| 操逼视频网址| 天天爽天天干| 五月丁香亚州综合网| 国产成人99久久亚洲综合精品| 丁香花狠狠婷婷亚洲中文字幕| 婷婷六月激情综合| 大香蕉在线观看9| 婷婷综合色播网| 欧美一黄一色一乱一伦| 婷婷五月天激情文学| h亚洲| 狠狠摸狠狠摸| 色婷婷丁香九月| 高清无码.com| 日本精品人妻无码77777| 少妇婷婷五月天| 婷婷五月丁香欧洲| 91大神操美女| 色婷婷综合网| 中文字幕人妻熟女在线| 丁香五月激情综合在线观看| www五月婷婷| 丁香成人五月天| 亚洲精品亚洲人成人网| 亚洲中文乱字字幕在线永久| 五月天开心色情网| 久久无意婷婷| 激情婷婷色色| 日韩欧美一区二区三区四区| 99久久国产宗和精品1上映| 成人色站,在线视频,看片-SS1AV| 五月开心久久| 六月婷婷狠狠| 欧美偷偷操| 五月婷婷丁香大陆免费| 思思久久99热| 婷婷五月天影院| 丁香五月激情天AV无码| 亚洲激情婷婷| 婷婷五月天亚洲综合网| 午夜婷婷久久| 99亚洲精品| 青草五月天| 婷香五月| 成人.在线日韩| 久久色9| 开心五月丁香综合久久| 77777亚洲午夜久久| 色墦五月丁香| 五月天婷婷视频30| 九九热av| 91九九九色在| 91人人网| 特级片神马电影| 亚洲黄色影视| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 婷婷五月天小说|