欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

故障注入攻擊全面解析:從威脅模型到縱深防御實踐

故障注入攻擊全面解析:從威脅模型到縱深防御實踐 1. 故障注入攻擊的威脅模型與攻擊面分析1.1 從一次“意外”談起為什么故障注入值得被認真對待先講個我早期經(jīng)歷的事。那時我在做一款安全支付終端的固件開發(fā)產(chǎn)品已經(jīng)進入量產(chǎn)前最后一輪測試。硬件組同事在實驗室里給主控芯片做電壓波動測試原本只是常規(guī)的信號完整性驗證結(jié)果測試設備在某個特定瞬間產(chǎn)生了一個極窄的電壓毛刺設備竟然跳過了Secure Boot的簽名校驗環(huán)節(jié)直接進入了主系統(tǒng)。當時大家的第一反應是“硬件bug”但做安全審計的同事立刻警覺——這不是普通的電氣干擾而是一類被稱為fault injection attacks的攻擊行為被無意間觸發(fā)了一次。那次之后我對故障注入攻擊的理解發(fā)生了根本轉(zhuǎn)變。它不是發(fā)生在抽象加密算法層面的數(shù)學攻擊而是發(fā)生在物理世界里的真實干擾。攻擊者不需要破解你的算法不需要知道你的密鑰只需要讓芯片在某一瞬間“算錯一次”安全邊界就可能被撕開。這個認知是構(gòu)建一切防御方案的起點。故障注入攻擊的本質(zhì)是在芯片正常執(zhí)行過程中人為引入瞬態(tài)錯誤讓處理器、存儲單元或外設產(chǎn)生違背設計預期的行為。最常見的目標包括跳過認證檢查、繞過安全啟動、降低加密輪次、篡改控制流、提取密鑰材料。這類攻擊的可怕之處在于代碼層面的算法強度再高如果底層硬件在執(zhí)行時被“物理黑客”改寫了狀態(tài)一切防御都可能形同虛設。1.2 攻擊者的目標與攻擊面的分布要把防御做扎實必須先搞清楚攻擊者想打哪里、能打哪里。我在實際項目中會把攻擊面按“數(shù)據(jù)通路”和“控制通路”進行區(qū)分這兩條路徑在故障注入下的表現(xiàn)完全不同。在數(shù)據(jù)通路上攻擊者希望篡改正在處理的數(shù)據(jù)本身。比如在RSA簽名計算中注入故障讓模冪運算的中間結(jié)果出錯就可能通過錯誤簽名反推私鑰。教科書上經(jīng)典的Bellcore攻擊和Boneh-DeMillo-Lipton攻擊核心思路都是讓簽名計算產(chǎn)生錯誤結(jié)果再對比正確與錯誤輸出從數(shù)學上恢復密鑰。這類攻擊最有效的注入目標是存儲運算結(jié)果的寄存器、SRAM、Cache或者代數(shù)協(xié)處理器。在控制通路上攻擊者希望改變程序執(zhí)行的走向。典型效果是“跳過關(guān)鍵跳轉(zhuǎn)指令”讓條件判斷永遠為真或永遠為假。比如固件中有一段“if (verify_signature() FAIL) return;”的邏輯攻擊者如果在verify_signature()返回值寫入寄存器的那條指令附近注入故障就可能讓CPU拿到一個錯誤的“SUCCESS”返回值進而繞過認證。密碼輸入驗證、啟動流程檢查、權(quán)限判斷、許可證校驗這些統(tǒng)統(tǒng)是控制通路上的高危目標。從攻擊者的角度看還有一個更省力的思路是針對芯片生命周期狀態(tài)做手腳。許多安全芯片有OTP一次性可編程存儲區(qū)、efuse陣列、安全狀態(tài)寄存器用來記錄“是否已經(jīng)完成初始化”“是否處于調(diào)試模式”“安全等級是多少”。攻擊者注入故障把這些位翻轉(zhuǎn)就可能把芯片從安全模式拉回調(diào)試模式或者讓OTP寫入校驗失效。這塊在實際產(chǎn)品中最容易被忽略因為硬件狀態(tài)的管理通常由廠商SDK封裝好固件工程師很少會深究其物理實現(xiàn)。1.3 現(xiàn)實攻擊者畫像威脅建模的出發(fā)點做防御設計時不能拍腦袋決定花多大成本必須先對攻擊者做分級畫像。我通常把防護對象分成三類第一類是機會型攻擊者手里只有市場上買得到的通用設備比如稍微改裝過的SMD貼片機探頭、電磁脈沖槍、廉價信號發(fā)生器和簡單的電壓毛刺發(fā)生器。他們的攻擊能力有限通常只會做簡單的外部電壓毛刺或時鐘毛刺不會做復雜的激光定位或芯片開蓋。對這類攻擊者一部分硬件層面的基本防護就能攔住絕大多數(shù)嘗試。第二類是精通硬件攻擊的實驗室級攻擊者具備芯片開蓋、FIB聚焦離子束電路修改、精密激光注入臺、高速示波器和邏輯分析儀等工具。他們能對芯片做反向分析找到安全Metal層走線精確打擊某個Flip-Flop。這類攻擊者的威脅非常大單一防御措施很難完全擋住必須靠縱深防御和實時檢測來對抗。第三類則是國家級機構(gòu)或頂級安全實驗室擁有芯片級全流程分析能力甚至可能直接通過供應鏈植入后門。對絕大多數(shù)普通電子產(chǎn)品而言這類攻擊者的威脅模型超出了合理成本范圍——但如果你在做金融安全芯片、車規(guī)域控制器或者政府級加密模塊那也不得不考慮。在項目啟動時我會把攻擊者畫像寫成文檔同步給硬件、軟件、結(jié)構(gòu)設計三個團隊因為不同等級的威脅直接決定了后續(xù)的防護措施投入。比如只防機會型攻擊者可能加個電壓監(jiān)測芯片就夠了如果考慮實驗室級攻擊者那就必須有冗余計算、運算隨機化、內(nèi)聯(lián)檢測邏輯這些組合拳。2. 故障注入手段詳解攻擊者是怎么“動手”的2.1 電壓毛刺注入最容易上手的大門電壓毛刺Voltage Glitch是故障注入攻擊里門檻最低、也最常見的手段。原理很簡單芯片工作電壓都有個規(guī)定的容差范圍比如3.3V的IO供電允許±10%波動。攻擊者通過一個快速響應的MOSFET開關(guān)電路在精確控制的時刻把供電電壓短暫拉低到2.5V甚至更低寬度在幾納秒到幾百微秒之間就能讓芯片內(nèi)部的邏輯門因為供電不足而產(chǎn)生時序違規(guī)導致某些寄存器采樣到錯誤值。我的經(jīng)驗是電壓毛刺的攻擊參數(shù)里最關(guān)鍵的三個變量分別是毛刺寬度、深度和注入時刻。毛刺寬度決定了影響的時間窗口太窄可能影響不到關(guān)鍵指令太寬容易讓整個芯片直接復位毛刺深度決定了邏輯出錯的程度太淺可能只是讓非關(guān)鍵路徑上的電路工作異常太深會直接造成掉電而注入時刻是真正的難點——攻擊者需要知道目標指令大概在什么時間點執(zhí)行這通常需要通過側(cè)信道分析或者經(jīng)驗試探來確定。防御電壓毛刺最常用的措施是片上電壓監(jiān)測。許多安全MCU內(nèi)置了BODBrown-Out Detector或?qū)S玫碾妷簜鞲衅鳟敊z測到供電電壓跌破閾值時立即產(chǎn)生復位信號。但這里有個關(guān)鍵細節(jié)電壓傳感器本身的響應時間必須夠快如果傳感器需要幾十微秒才觸發(fā)復位而攻擊者的毛刺只有幾納秒很可能毛刺已經(jīng)打完、故障已經(jīng)注入成功復位信號才姍姍來遲。選型時一定要看芯片數(shù)據(jù)手冊里的電壓監(jiān)測響應時間實測時也要用示波器驗證真實行為。2.2 時鐘毛刺注入把“時間”變成武器時鐘毛刺和電壓毛刺思路類似只不過干擾對象從供電變成了時鐘信號。芯片內(nèi)部的時序電路依賴時鐘沿來觸發(fā)寄存器采樣如果某個時鐘沿來得太早寄存器就可能采到還在傳播途中的不穩(wěn)定數(shù)據(jù)產(chǎn)生建立時間Setup Time違規(guī)如果某個時鐘沿被刪掉指令又會重復執(zhí)行或跳過。攻擊者通常會在外部時鐘線或者PLL反饋路徑上注入一個極窄的額外脈沖就能讓CPU在某個特定周期“快進”或“卡頓”一次。時鐘毛刺的高明之處在于它比電壓毛刺更容易精確定位。因為芯片是同步時序系統(tǒng)每條指令的執(zhí)行周期數(shù)是固定的攻擊者只要數(shù)好從復位開始經(jīng)過了多少個時鐘周期就能精準預測敏感指令比如比較指令、跳轉(zhuǎn)指令、密鑰加載指令何時執(zhí)行。這也是為什么很多安全芯片會選擇使用內(nèi)部RC振蕩器而不是外部晶振——內(nèi)部RC振蕩器的頻率會隨工藝偏差變化而且不暴露給外部攻擊者讓精確的時鐘周期預測變得困難。防御時鐘毛刺硬件上通常的做法是使用帶監(jiān)測功能的PLL檢測到參考時鐘異常跳變就自動切換到備份時鐘源軟件上則要盡量減少對外部時間的依賴避免用固定周期數(shù)的循環(huán)去處理安全關(guān)鍵操作。我遇到過一種很有意思的軟件緩解方案把安全認證流程的指令執(zhí)行序列故意加進隨機空轉(zhuǎn)指令NOP 隨機跳轉(zhuǎn)讓每條指令的執(zhí)行周期變得不可預測攻擊者很難對準注入窗口。2.3 電磁故障注入與激光注入無接觸的“外科手術(shù)”電磁故障注入EMFI這幾年在安全研究圈子里越來越火。攻擊者用一個手工繞制的線圈探頭貼在芯片上方通過高壓放電在探頭中產(chǎn)生瞬態(tài)強磁場強磁場在芯片內(nèi)部感應出渦流局部電壓被擾動從而影響附近邏輯電路的正常工作。它的優(yōu)點是完全無接觸不需要對芯片做物理連接所以非常適合針對封裝完好、無法直接探針點測的產(chǎn)品。EMFI的定位精度取決于探頭的尺寸和位置。幾毫米直徑的線圈就能影響到一個功能模塊配合XYZ三軸移動平臺攻擊者可以掃描芯片表面的不同位置來找敏感區(qū)域。我見過一些研究團隊用步進電機加攝像頭做自動化掃描一個晚上就能畫出芯片的“故障注入敏感度熱力圖”哪些位置能跳過Boot代碼哪些位置能讓AES解密出錯一清二楚。激光注入則是精度最高的故障注入方式。激光照射到芯片襯底或金屬層時會產(chǎn)生光生載流子進而改變晶體管節(jié)點的電荷狀態(tài)相當于對特定存儲單元做了一次“精確翻轉(zhuǎn)”。配合高倍顯微鏡和精密位移臺激光可以精確定位到單個晶體管或者單個SRAM單元。但激光注入通常需要芯片開蓋去封裝這讓它的攻擊門檻高了不少主要出現(xiàn)在實驗室級的攻擊場景中。2.4 溫度、頻率與組合攻擊別忽視“非主流”手段有些攻擊者會用極端溫度把芯片推到工作范圍邊緣。低溫會讓芯片時序裕量變小高頻下更容易出錯高溫則可能讓存儲單元的數(shù)據(jù)保持能力下降導致SRAM或Flash內(nèi)容翻轉(zhuǎn)。雖然單靠溫度很難實現(xiàn)精確的故障注入但作為一種輔助手段它能降低其他注入方式的成功率。比如攻擊者先把芯片冷卻到-40℃再配合一個很弱的電壓毛刺可能本來毛刺深度不夠造成故障低溫下就能輕易得手。還有一種容易被忽略的組合攻擊思路先用軟件漏洞或者調(diào)試接口進入一個低權(quán)限狀態(tài)再用故障注入跳過剩余的高權(quán)限檢查。很多防御設計只考慮了系統(tǒng)在正常啟動流程中如何對抗故障注入?yún)s忽略了低權(quán)限狀態(tài)下同樣需要保持故障檢測能力。我建議做威脅建模時把“已進入到Ring 3/非安全態(tài)/用戶態(tài)”之后還能用故障注入提升權(quán)限的場景也一并納入分析——軟件邊界和物理攻擊邊界之間存在大量灰色地帶。3. 防御設計總體架構(gòu)縱深防御與多層級協(xié)同3.1 為什么單點防護永遠不夠我見過不少團隊在早期做防護設計時喜歡押注在“某個特別強的防護點上”。比如用了一顆號稱“抗故障注入”的安全芯片就認為萬事大吉或者寫了一套復雜的狀態(tài)校驗代碼就覺得攻擊者無隙可乘。但實際漏檢案例幾乎永遠來自“沒想到的組合”。根本原因在于攻擊者擁有物理層面的優(yōu)勢。芯片內(nèi)部的每一個電壓域、每個時鐘域、每個存儲單元對攻擊者來說都是潛在的注入點。你的軟件防護可能覆蓋了CPU執(zhí)行的路徑但電源管理單元、DMA控制器、總線仲裁器、DDR控制器這些地方同樣可能被注入故障。單點防護做得再好攻擊者只要換個注入目標就能繞開你的防線??v深防御Defense in Depth的核心思想是讓攻擊者在每一層都要付出代價、承擔不確定性。攻擊者即便繞過第一層檢測第二層獨立的檢測機制還可能讓他的注入結(jié)果無效即便硬件檢測全部失效軟件層面還有一致性校驗在守著。每一層機制不要求100%阻斷攻擊但它們的組合效應會讓攻擊成功率降低到實際不可利用的水平。3.2 縱深防御的四層架構(gòu)參考我習慣把故障注入防御設計分成四個層級從底層到頂層依次是器件級、硬件架構(gòu)級、固件/軟件級、業(yè)務流程級。每一級的防御效果可以獨立評估最終總體安全性由各級防御覆蓋率共同決定。器件級防御主要依賴芯片廠商的內(nèi)建安全特性。包括電壓/時鐘/溫度監(jiān)測器、主動屏蔽層、片內(nèi)傳感器、安全存儲、亂序執(zhí)行、物理不可克隆函數(shù)PUF等。對應用開發(fā)者來說這一層的選擇相對被動——你只能通過選型來獲取更堅實的底層防線無法自行修改硅片實現(xiàn)。硬件架構(gòu)級防御是系統(tǒng)設計者可以掌控的部分。比如外部電路上的電壓監(jiān)控芯片、看門狗、雙片冗余方案、總線寬度校驗ECC、硬件安全模塊HSM隔離、物理防拆保護殼等。這一層需要硬件工程師和安全工程師密切配合要考慮的是“板級電路如何容忍和檢測上層的異常狀態(tài)”。固件/軟件級防御是大多數(shù)安全工程師投入精力最多的地方。包括控制流完整性檢查、關(guān)鍵函數(shù)雙執(zhí)行、關(guān)鍵數(shù)據(jù)冗余存儲、隨機延遲與隨機冗余指令、循環(huán)計數(shù)器、校驗和/CRC、基于時序和功耗的異常檢測等。這層防御的價值在于它不依賴額外硬件可以在現(xiàn)有MCU上直接落地而且可以根據(jù)實際攻擊手段持續(xù)迭代。業(yè)務流程級防御是最容易被忽視的一層。比如在安全關(guān)鍵操作密鑰生成、簽名中加入人工確認機制在多步操作中加入狀態(tài)機推進順序校驗在安全芯片內(nèi)使用一次性隨機數(shù)作為會話標識來隔離重放和注入。這個層面的防護思路是即使攻擊者讓某次操作在錯誤狀態(tài)下執(zhí)行成功業(yè)務層面的狀態(tài)約束也讓它無法真正造成危害。3.3 分層設計中的職責劃分與接口約定在一個實際項目中防御設計最怕的是責任邊界不清。我當時做過一個安全功能模塊“芯片內(nèi)部SRAM錯誤檢測”是器件級的事“外部DDR的數(shù)據(jù)校驗”是硬件架構(gòu)級的事“固件中關(guān)鍵變量的鏡像校驗”是軟件級的事“密鑰輪換策略”是業(yè)務級的事。分工如果不明確就會出現(xiàn)某個安全關(guān)鍵參數(shù)在四個層級之間拷來拷去最后每一層都認為別的層做了校驗結(jié)果是每一層都沒做完整校驗。我建議在項目設計文檔中專門用一張表格列出“安全屬性分配矩陣”逐項標明哪些屬性由哪個層級負責保障。比如安全屬性器件級措施硬件架構(gòu)級措施固件級措施業(yè)務級措施電壓異常檢測內(nèi)建BOD傳感器外部電壓監(jiān)控IC啟動時自檢電壓校準運行日志記錄異常事件時鐘異常檢測PLL失效監(jiān)測外部看門狗時鐘關(guān)鍵循環(huán)耗時評估時間戳連續(xù)性校驗關(guān)鍵數(shù)據(jù)完整性SRAM ECC校驗外部Flash ECC/CRC雙變量冗余定時校驗數(shù)據(jù)重建/重置策略控制流完整性硬件返回地址堆棧保護MPU/TrustZone區(qū)域隔離關(guān)鍵函數(shù)CFI檢查狀態(tài)機推進順序約束這個表格的威力在于每個團隊都能清楚看到自己負責的“安全屬性”避免出現(xiàn)重疊負責但執(zhí)行程度不一樣、或者無人負責的真空區(qū)。表格評審完成后各團隊再圍繞表格中的每項措施討論具體的實施方案和驗收標準反復迭代直到所有安全屬性都有明確的落地路徑。4. 硬件層加固實踐從選型到板級設計4.1 安全MCU選型時的故障注入防護功能怎么挑很多工程師選安全MCU時只關(guān)注CPU主頻、Flash大小、外設豐富度對故障注入相關(guān)的硬件特性關(guān)注不夠。等到做故障注入評估時才發(fā)現(xiàn)芯片內(nèi)置的防護能力遠不夠用這時候只能靠軟件硬補代價非常大。我總結(jié)了選型時需要優(yōu)先確認的幾項關(guān)鍵特性每一項都在實際對抗測試中證明過價值。首先是電壓監(jiān)測器的數(shù)量和響應時間。一片合格的安全MCU至少要有兩路以上獨立的電壓監(jiān)測通道一路監(jiān)測核心供電一路監(jiān)測IO供電而且響應時間要足夠快。不少工業(yè)級MCU的BOD響應時間在幾十微秒級別聽著很快但對于納秒級的毛刺注入其實談不上可靠攔截。真正合格的安全芯片會提供“快速電壓毛刺檢測”引腳或內(nèi)部事件響應時間做到納秒級同時包含可配置的觸發(fā)閾值。選型時直接向FAE要這個參數(shù)很多廠商會支支吾吾支支吾吾本身就說明他們沒做過針對性設計。其次是時鐘監(jiān)測器。安全芯片最好能同時接受外部晶振和內(nèi)部RC振蕩器并且具有自動切換能力。故障注入攻擊者一旦發(fā)現(xiàn)你在用外部晶振最大的概率是直接在晶體附近做時鐘毛刺注入因為引腳裸露在外、信號容易捕捉。如果芯片檢測到時鐘頻率異??梢粤⒓辞袚Q到內(nèi)部RC并發(fā)出報警中斷——這個特性在對抗時鐘毛刺攻擊時幾乎是救命級別的。然后是安全啟動和調(diào)試保護。調(diào)試接口JTAG/SWD是故障注入攻擊的最佳跳板。攻擊者通過物理手段解除調(diào)試保護比如用激光切斷efuse的熔斷檢測電路就能獲得CPU的完全控制權(quán)。選型時要確認芯片是否支持基于密鑰的調(diào)試認證、調(diào)試端口是否可以在量產(chǎn)階段徹底永久關(guān)閉、efuse區(qū)域是否有防篡改檢測。這里要特別提醒關(guān)閉調(diào)試端口的操作一定要在產(chǎn)線上作為最后一道工序執(zhí)行我之前見過有工廠為了方便返修把調(diào)試端口保留到軟件發(fā)布流程的最后一刻結(jié)果留下了大量的攻擊面。4.2 板級防護電路外部器件如何補足芯片的盲區(qū)芯片內(nèi)置的防護再強也不可能覆蓋所有板級場景。我在板級設計中通常會加三類外部電路來增強故障注入抵抗力。外部電壓監(jiān)控IC是必備項。選擇響應速度快納秒級、帶閾值遲滯的監(jiān)控芯片放在主控芯片的供電入口處。它和芯片內(nèi)部BOD的區(qū)別在于它是獨立于主控之外的“另一個裁判”即便攻擊者先讓主控芯片內(nèi)部某個傳感器邏輯失效外部監(jiān)控IC依然能檢測到異常電壓并觸發(fā)復位。復位信號最好直接連到主控的復位引腳同時也要連一個GPIO讓固件能感知到“發(fā)生過電壓異?!?。如果把外部電壓監(jiān)控IC設計成獨立于主控之外的“另一個裁判”它還應該具備獨立的供電來源或者至少獨立的參考源否則攻擊者將整個電源域拉低時監(jiān)控IC自身也會失靈——好的設計會把監(jiān)控IC的供電接到一個不易被同一個毛刺干擾的域比如獨立的LDO輸出。板級看門狗則是另一重保障。現(xiàn)在很多MCU自帶看門狗但都有個共同弱點可以被固件關(guān)閉或喂狗時間可以被預測。我傾向于使用外部獨立看門狗芯片喂狗信號由固件中一個專門的安全任務控制喂狗序列使用偽隨機數(shù)生成這樣攻擊者即使讓主流程序卡死在某個循環(huán)里也沒法輕松模擬出正確的喂狗序列。外部看門狗超時后觸發(fā)的動作不只是復位最好是“復位將安全關(guān)鍵信號拉到安全態(tài)”比如關(guān)閉輸出繼電器、斷開電機驅(qū)動、標記非易失存儲區(qū)中的安全事件。對于物理攻擊防護板級還能做的是“安全圍欄”——用一組PCB走線包裹住敏感信號區(qū)域走線連接到主控的中斷引腳一旦走線被切斷或橋接就觸發(fā)緊急處理。做這種圍欄走線時寬度、間距、過孔位置都要仔細規(guī)劃避免圍欄本身成為天線把毛刺引入內(nèi)部信號。我見過一個產(chǎn)品把圍欄走線布得又長又寬結(jié)果攻擊者直接在圍欄上方用EMFI探頭打了一個強脈沖圍欄沒報警倒是內(nèi)部信號被感應電壓干擾了——這就很諷刺。4.3 電源網(wǎng)絡設計中的“抗毛刺”細節(jié)電源網(wǎng)絡設計對故障注入防御的影響常常被很多團隊當成“信號完整性”問題而非“安全問題”來處理但實際攻擊已驗證過不合理的電源設計會讓本來很弱的毛刺攻擊也奏效。我在低噪聲LDO或DC-DC的輸出端會特別關(guān)注大容量去耦電容的布局。常規(guī)經(jīng)驗是每顆IC旁邊放0.1uF高頻去耦電容主電源輸入端放10uF~100uF的儲能電容。但這只能平滑普通紋波對幾十納秒的毛刺效果有限。想要真正抗毛刺需要在主控芯片的電源引腳附近組合使用多種容值的電容比如0.1uF、1nF、100pF各一只形成寬頻段的低阻抗路徑。高頻小電容離芯片電源引腳越近越好最好壓在PCB的背面正對電源腳的位置這樣毛刺能量在進入芯片之前就被旁路掉了。還有一個小細節(jié)電源走線寬度。有些人為了省空間把電源走線畫得很細導致路徑電感偏大。電感大的后果是毛刺電流通過時瞬間電壓下降得更劇烈相當于攻擊者用同樣的毛刺槍在你家地板上打出更深的坑。我習慣把安全關(guān)鍵芯片的電源走線做到能通過3倍以上額定電流的寬度并避免在走線中間打過孔或者細頸盡量保持完整平面供電。4.4 封裝與物理防護要不要做開蓋防護設計對于那些有物理攻擊威脅的產(chǎn)品封裝層面的防護值得納入設計考慮。最高防護等級需要采用帶主動屏蔽層的安全芯片它在芯片頂層金屬覆蓋一層蛇形走線網(wǎng)格任何試圖用FIB或激光切斷這條走線的行為都會導致安全邏輯觸發(fā)數(shù)據(jù)擦除。帶主動屏蔽層的芯片成本不低但對金融終端、汽車T-Box這類產(chǎn)品來說是值得的。如果芯片本身沒有主動屏蔽層退而求其次的做法是在PCB上覆蓋一層防拆網(wǎng)格或防拆膠。防拆膠通常是環(huán)氧樹脂能讓開蓋難度大增攻擊者需要用熱風槍長時間加熱才能軟化膠水但這個過程中芯片溫度異常、功耗特征變化明顯恰好能被電壓/溫度監(jiān)測器捕捉到。網(wǎng)格設計則是在關(guān)鍵走線上方鋪一層細密的地網(wǎng)絡任何物理侵入都會破壞這層網(wǎng)絡觸發(fā)報警。不過要注意網(wǎng)格只能防“開蓋”防不了“不接觸的EMFI攻擊”所以它不能替代加密算法層面的抗注入設計。5. 軟件層防御在固件內(nèi)部構(gòu)筑多道防線5.1 關(guān)鍵數(shù)據(jù)冗余讓“翻轉(zhuǎn)一位”失效軟件層面的故障注入防御核心思路之一就是讓單點故障注入的“性價比”降到最低。最簡單有效的手段就是關(guān)鍵數(shù)據(jù)冗余存儲。這里的“冗余”不只是存兩份一樣的值而是要把原始值和校驗備份放在不同的存儲位置、用不同的編碼方式。我通常會把安全關(guān)鍵變量比如認證狀態(tài)、密鑰索引、權(quán)限等級按照“原值反碼鏡像CRC校驗”的格式存儲。每次讀取時將三份數(shù)據(jù)分別讀出驗證原值與反碼鏡像是否互補、CRC是否匹配。任何一份數(shù)據(jù)被翻轉(zhuǎn)都能被檢測出來。更嚴格的設計是每隔一段時間由RTOS的tick驅(qū)動或?qū)iT的安全任務驅(qū)動主動執(zhí)行一次全量校驗而不是等到使用時才檢查——因為有些故障注入不直接改變當前行為而是改變后續(xù)某條分支的判斷條件主動校驗能及時發(fā)現(xiàn)潛伏的修改。存儲位置也有講究。如果原值放在SRAM的固定地址鏡像就放在距離較遠、甚至不同總線域的位置如果原值在寄存器里鏡像就放在SRAM里。必須避免攻擊者用一個寬范圍激光脈沖把原值和鏡像一并翻轉(zhuǎn)。這個思路同樣適用于Flash中的關(guān)鍵配置項可以存儲兩份不同編碼的副本啟動時做交叉校驗。做這些校驗的代碼本身也需要提高抗注入能力——我見過有人辛辛苦苦存了三份冗余結(jié)果校驗代碼只有一條if語句攻擊者把if語句跳過就前功盡棄了。5.2 控制流完整性讓跳轉(zhuǎn)命令不可被隨意跳過故障注入攻擊最經(jīng)典的戰(zhàn)果就是“跳過一條關(guān)鍵跳轉(zhuǎn)指令”所以控制流完整性CFI檢查在防御設計里位置極高。最簡單的CFI實現(xiàn)是在關(guān)鍵分支之后立即放置校驗變量。假設你有這樣的代碼if (authenticate_user(input) AUTH_OK) { enter_privileged_mode(); }攻擊者只要在authenticate_user()返回后的比較指令上注入一個故障讓比較結(jié)果錯誤地判定為相等就能直接進入特權(quán)模式。改進后的寫法是uint32_t auth_result authenticate_user(input); uint32_t auth_mirror ~auth_result; if (auth_result AUTH_OK) { if (auth_mirror ! ~AUTH_OK) { fault_recovery(); } enter_privileged_mode(); }多了一次校驗攻擊者需要同時保證兩處比較都出錯成功率立刻下降一個數(shù)量級。但這種方法要想再進一步加固就得采用獨立校驗函數(shù)——讓校驗邏輯放在另一個編譯單元、甚至不同的代碼段中避免攻擊者通過分析二進制找到所有比較點一次性全部繞過。我之前做過一個項目把CFI校驗拆成了三個獨立的函數(shù)分布在不同的Flash頁每個函數(shù)之間插入隨機延遲實測下來想精準定位并繞過全部校驗點的時間成本翻了好幾倍。再進一步還可以使用硬件輔助的CFI。ARM的TrustZone-M和最新的Cortex-M55系列提供了可編程的異常事件監(jiān)測可以在非法跳轉(zhuǎn)發(fā)生時捕獲異常。有些高端MCU甚至帶硬件返回地址棧Hardware Return Address Stack防止攻擊者通過故障注入改寫返回地址。選型階段如果確認需要應對高等級物理攻擊這些特性會是重要的加分項。5.3 雙重執(zhí)行與結(jié)果比較用算兩遍來對抗“算錯一次”雙重執(zhí)行Dual Execution的防御邏輯非常樸素對關(guān)鍵計算算兩遍比較兩次的結(jié)果是否一致不一致就報錯。這個思路實現(xiàn)起來不復雜但有幾個地方需要特別注意。首先是兩次執(zhí)行之間要有“隨機隔離”。如果攻擊者的故障注入窗口覆蓋了兩步操作比如一個毛刺寬度很大兩次計算都被影響那雙重執(zhí)行就失效了。所以我在兩次執(zhí)行之間會插入隨機長度的延遲或者隨機次數(shù)的空轉(zhuǎn)操作讓攻擊者很難用單一毛刺同時污染兩次計算。有些芯片支持在兩次計算之間切換時鐘源或電壓域這種硬件級別的隔離更可靠。其次是結(jié)果比較本身的抗注入能力。如果比較邏輯只有一句“if (result1 ! result2)”攻擊者把這個判斷跳過后雙重執(zhí)行就形同虛設。我的做法是把比較結(jié)果作為后續(xù)安全操作的狀態(tài)來源而不是僅僅打印一條錯誤日志。比如在簽名流程中兩次簽名結(jié)果不一致時不僅返回失敗還要讓密鑰寄存器立即進行自毀清零。這樣攻擊者即使繞過了比較后續(xù)仍然會因為沒有合法簽名而卡住。這里還要提一下“比較次數(shù)”的問題。有些設計只比較結(jié)果但攻擊者可以注入故障讓兩次計算產(chǎn)生相同錯誤結(jié)果。為了防止這種情況雙重執(zhí)行比較的不僅是數(shù)值還可以把中間狀態(tài)也納入比較——比如記錄中間輪次的狀態(tài)哈希。對于計算量允許的場景可以把整個計算過程做成可驗證的增量哈希鏈任何一步被擾動都會導致最終校驗失敗。代價是性能開銷收益是非??捎^的抗注入強度。5.4 隨機化與時間混淆讓攻擊者抓不準時機故障注入攻擊對時序有極強的依賴——攻擊者需要知道“在哪一條指令執(zhí)行的哪個時鐘周期”觸發(fā)毛刺。因此在軟件執(zhí)行流程中引入不可預測的時間和順序擾動是成本低但效果顯著的防御手段。我常用的技術(shù)包括在安全關(guān)鍵函數(shù)入口插入隨機數(shù)量的NOP指令順序由真隨機數(shù)發(fā)生器TRNG驅(qū)動將安全關(guān)鍵操作的執(zhí)行順序在多條等價路徑之間隨機切換比如AES的S盒查表和位切片兩種實現(xiàn)方式隨機選擇在循環(huán)計算里加入隨機的迭代順序或隨機的分塊大小。這些手段的根本目的是提高攻擊者的“瞄準難度”當攻擊者無法預知目標指令何時執(zhí)行、在哪條路徑上執(zhí)行時即便毛刺注入成功故障落在安全關(guān)鍵指令上的概率也大幅下降。時間混淆還有一個容易被忽視的價值它破壞了攻擊者對芯片行為的“可預測性建模”。很多自動化故障注入工具會先做一輪掃參掃描毛刺寬度、深度、注入時間找到最容易成功的參數(shù)組合然后再批量精確打擊。如果關(guān)鍵路徑的執(zhí)行時間每次都不一樣工具掃出的“敏感窗口”就無法穩(wěn)定復現(xiàn)攻擊者需要反復重試才能偶爾命中一次成功率大幅下降從而更可能被檢測機制發(fā)現(xiàn)。5.5 安全啟動流程中的故障注入防護細節(jié)Secure Boot是所有安全固件的信任根也是故障注入攻擊的重點目標。攻擊者的理想目標是讓Bootloader跳過簽名校驗、跳到非授權(quán)代碼或者加載錯誤版本固件。我在設計安全啟動流程時除了常規(guī)的逐級哈希鏈校驗還會疊加幾層故障注入專用的防御措施啟動時對Boot ROM的哈希值和啟動狀態(tài)寄存器做多次讀取和交叉驗證。Boot ROM是只讀的正常狀況下每次讀到的內(nèi)容一致但受到物理干擾時可能讀到不一致的值。這里的做法是連續(xù)讀取3次每次中間插入一個隨機延遲3次結(jié)果必須完全一致才通過。如果有一個字節(jié)對不上直接進入死亡循環(huán)或強制進入Bootloader升級模式而不是繼續(xù)往下執(zhí)行。啟動流程中的安全狀態(tài)寄存器也要特殊對待。安全狀態(tài)寄存器記錄“當前是否已完成安全啟動”這類信息攻擊者如果翻轉(zhuǎn)它可能在未完成校驗時就獲得高權(quán)限。我會把這些寄存器所有位都冗余存儲一份鏡像每次狀態(tài)遷移前先做一致性檢查。狀態(tài)遷移本身也要用狀態(tài)機固化——不允許從“未驗證”狀態(tài)直接跳到“系統(tǒng)運行”狀態(tài)必須經(jīng)過“校驗中”和“校驗完成”兩個中間狀態(tài)。另外Secure Boot中每一步的執(zhí)行順序不能是固定的。我在Bootloader中把幾個獨立校驗模塊的執(zhí)行順序隨機打亂依賴關(guān)系通過狀態(tài)字而非物理順序來管理。這樣攻擊者無法假定“第幾個模塊是簽名校驗”大幅增加了定時瞄準的難度。6. 密碼算法實現(xiàn)的抗故障注入設計6.1 為什么算法實現(xiàn)比算法本身更重要在很多人的理解里AES、RSA、ECC這類標準算法只要密鑰長度夠長就安全。但故障注入攻擊正好打在這個認知的盲區(qū)上——算法本身的數(shù)學強度只解決了計算邏輯問題而物理實現(xiàn)過程中出現(xiàn)的瞬時錯誤則完全繞開了數(shù)學強度。以AES為例標準AES-128執(zhí)行10輪運算如果某次故障注入剛好讓第9輪之后的MixColumns變換被跳過攻擊者拿一個正確密文和一個錯誤密文做差分分析就能在極短時間內(nèi)恢復出密鑰。算法本身沒有任何問題問題出在“第9輪的計算結(jié)果被物理手段篡改”上。也就是說密碼算法實現(xiàn)必須在邏輯正確之外額外建立一組錯誤檢測、結(jié)果驗證機制保證“即便算錯也算不出有用的錯誤結(jié)果”。6.2 AES實現(xiàn)中的冗余與校驗方案我在物聯(lián)網(wǎng)設備中最常落地的是AES-GCM它自帶認證標簽天然能發(fā)現(xiàn)密文被篡改。但認證標簽在解密末尾才校驗如果攻擊者在解密過程中注入故障可能得到部分錯誤明文的同時標簽校驗還沒來得及生效。所以更穩(wěn)妥的做法是AES解密完成后再用獨立密鑰做一次加密對比——如果解密結(jié)果正確用同一密鑰重新加密后應該得到原始密文。這個方案的性能開銷是兩倍的AES計算但對于安全關(guān)鍵操作比如固件解包、通信握手來說完全值得。還有一點要注意用于對比的計算路徑要和主路徑保持隔離。如果兩次運算用同一份S盒、同一段代碼攻擊者既可以對主路徑注入故障也可以對驗證路徑注入故障。我見過一個實現(xiàn)驗證路徑和主路徑共用同一個S盒查找表結(jié)果是攻擊者把SRAM中的S盒表內(nèi)容翻轉(zhuǎn)了一個字節(jié)兩條路徑同時出錯最終錯誤數(shù)據(jù)反而通過了校驗。更進一步的AES加固是拆分為獨立的字節(jié)代換和列混淆階段在每個階段之間插入CRC校驗或奇偶校驗。這類檢測粒度更細能更快發(fā)現(xiàn)故障發(fā)生的位置但實現(xiàn)復雜度也更高。對于一般物聯(lián)網(wǎng)產(chǎn)品我會在“解密后回算加密”和“S盒表CRC校驗”這兩項中至少做一項。6.3 RSA/ECC實現(xiàn)中的抗故障注入特殊手段RSA和ECC這類公鑰算法對故障注入特別敏感。RSA使用CRT加速計算時如果模指數(shù)運算中任何一步出錯攻擊者通過錯誤的簽名結(jié)果可以直接分解N從而恢復私鑰。這個攻擊Bellcore攻擊在1997年提出至今依然是RSA-CRT實現(xiàn)里最致命的威脅。防御RSA-CRT的標準做法是計算完成后驗簽用公鑰驗證簽名結(jié)果是否合法不合法就拒絕輸出。驗簽的代價比簽名小得多而且公鑰是公開信息不存在密鑰泄露風險。我的建議是驗簽邏輯不可省略而且驗簽用的公鑰必須來自安全的非易失存儲區(qū)域不能存在可被故障注入篡改的動態(tài)內(nèi)存里——否則攻擊者把公鑰也改了驗簽就成了擺設。ECC方面故障注入的主要目標是讓標量乘法[k]P產(chǎn)生錯誤的中間點尤其是讓計算中某些坐標值變?yōu)闊o窮遠點零點攻擊者可通過錯誤點反推標量k。防御手段是在標量乘法過程中對每個中間點做曲線方程校驗驗證點是否還在曲線上如果在曲線外立即中止。具體實現(xiàn)時坐標的x、y、z三個值都要單獨校驗不能只驗x。另外還可以在計算結(jié)束后做一次“隨機點伴隨”驗證——在計算前生成一個隨機數(shù)r計算出[r]P在計算完成后用[r]P校驗結(jié)果的一致性。這類方法需要消耗一定的額外計算時間但對抗標量乘法故障注入非常有效。6.4 密鑰存儲與使用時的故障注入邊界防護密鑰的生命周期管理往往是故障注入防護里最薄弱的環(huán)節(jié)。許多產(chǎn)品的密鑰由外部安全芯片管理但如果主控在向安全芯片發(fā)送密鑰使用指令時被注入了故障可能把“使用密鑰A簽名”篡改成“使用密鑰B導出”或者“擦除全部密鑰”。我的建議是主控與安全芯片之間的通信必須使用帶消息認證碼MAC的協(xié)議確保指令在執(zhí)行前經(jīng)過完整性和來源校驗每次使用密鑰的請求必須包含隨機數(shù)nonce和遞增計數(shù)器安全芯片只有在nonce有效且計數(shù)器單調(diào)遞增時才執(zhí)行這樣即便攻擊者重放指令也無法重復使用舊請求。密鑰本身的使用過程也要有故障容忍設計。比如密鑰加載到寄存器后先校驗整個寄存器組的數(shù)據(jù)完整性CRC/奇偶校驗再執(zhí)行密碼運算。運算結(jié)束后立即清除寄存器中的密鑰材料避免密鑰殘留時間過長而擴大故障注入的攻擊窗口。清除動作也建議執(zhí)行兩次并在兩次清除之間插入隨機延遲——攻擊者可能瞄準“判斷清除是否完成的分支”來阻止清除動作。7. 檢測、響應與故障恢復機制7.1 異常事件檢測從單一告警到關(guān)聯(lián)分析故障注入攻擊留下的痕跡不會像軟件入侵那樣有明確的日志記錄但物理層、時序?qū)印?shù)據(jù)完整性層往往會出現(xiàn)多個“小異?!?。我在設計檢測體系時會把各類異常事件匯集到一個統(tǒng)一的安全事件處理器再做關(guān)聯(lián)分析。一個典型的攻擊過程中可能出現(xiàn)的異常序列是電磁毛刺引起供電短暫波動電壓監(jiān)測器觸發(fā)→ 某個關(guān)鍵變量校驗失敗軟件冗余檢查觸發(fā)→ 密碼協(xié)處理器報告了一個罕見錯誤算法引擎狀態(tài)異常。單獨看每一類事件都可能被當成偶發(fā)干擾忽略但放在一起看它們的關(guān)聯(lián)性就是一次明確的攻擊信號。設計檢測系統(tǒng)時我會定義三檔安全響應等級。第一檔是“觀察級”單個低風險異常只記錄日志不中斷系統(tǒng)運行第二檔是“警示級”兩個及以上低風險異常在短時間內(nèi)相繼出現(xiàn)時主動觸發(fā)一次完整的安全狀態(tài)自檢第三檔是“應急級”檢測到高置信度的攻擊特征比如電壓監(jiān)測和CRC校驗同時失敗時立即執(zhí)行擦除密鑰、鎖定設備、進入安全故障狀態(tài)等動作。不同等級響應之間應該配置獨立的閾值和超時機制避免攻擊者通過頻繁觸發(fā)低等級事件讓系統(tǒng)疲于應對而錯過真正的攻擊。7.2 故障響應策略擦除、鎖定、還是靜默降級面對一次疑似故障注入攻擊系統(tǒng)應該做出什么響應這個決策非常關(guān)鍵。我在這部分反復跟產(chǎn)品經(jīng)理、運維團隊爭論過最后形成了三個原則。第一原則是“安全關(guān)鍵信息必須立即失效”。一旦檢測到攻擊先將所有活躍的關(guān)鍵密鑰材料清零、將安全狀態(tài)機強制置為“未認證”狀態(tài)。這樣即便攻擊者后續(xù)成功突破了其他檢查它也無法在這個狀態(tài)下獲得任何敏感訪問權(quán)限。第二原則是“盡量做到非破壞性”。如果一個安全事件只是因為環(huán)境干擾導致的偶發(fā)抖動直接把設備變磚會造成巨大的維護成本。所以高置信度攻擊事件觸發(fā)的動作是“鎖定”而不是“擦除”——鎖定后設備仍然能啟動到受限恢復模式但所有安全功能關(guān)閉必須通過授權(quán)流程解鎖。只有檢測到等級極高且反復出現(xiàn)比如連續(xù)3次的攻擊信號時才執(zhí)行徹底的密鑰自毀。第三原則是“有攻擊痕跡的失敗要刻意失敗”。防止攻擊者把自己注入的故障偽裝成普通的隨機錯誤。檢測到異常時返回的錯誤碼要特意設計成與普通隨機錯誤不同的值同時要在日志中寫入帶時間戳和事件ID的記錄甚至通過帶外通道比如加密的運維上報通道把異常事件通知到后臺。那些試圖用概率來掩蓋攻擊痕跡的攻擊者最忌諱的就是系統(tǒng)明確知道自己被打過。7.3 故障恢復流程從安全狀態(tài)回到正常運行設定恢復流程時我踩過的坑是“恢復流程本身成為攻擊面”。曾經(jīng)有一個設備檢測到故障注入后重啟重啟后一切正??雌饋戆踩珶o虞。后來做紅隊測試時發(fā)現(xiàn)攻擊者可以在“故障處理例程準備好但還沒重啟”的窗口內(nèi)注入第二個毛刺阻止重啟動作同時跳過之前的錯誤處理邏輯讓系統(tǒng)帶著攻擊者的目標狀態(tài)繼續(xù)運行。最終的解決辦法是故障響應和恢復動作盡量在硬件層面完成而不是依賴軟件例程。比如由外部看門狗負責強制斷電重啟軟件側(cè)只負責設置安全狀態(tài)標志和保存日志不負責“決定何時恢復”?;謴椭笙到y(tǒng)必須先運行一個“健康檢查例程”確認所有傳感器的自檢結(jié)果、關(guān)鍵數(shù)據(jù)區(qū)的完整性、安全狀態(tài)機所處位置都符合預期才能重新進入正常工作流程。健康檢查如果發(fā)現(xiàn)還有任何殘留異常就直接進入更嚴格的故障處理等級不能自行無限循環(huán)重試。8. 驗證與評估怎么證明防御真的有效8.1 自建故障注入測試平臺的基本構(gòu)成防御方案做完了怎么驗證有效性最靠譜的方法是自己先當一回攻擊者。我建議安全研發(fā)團隊盡早搭建一套基礎的故障注入測試平臺不需要一開始就采購幾十萬的激光臺有幾個關(guān)鍵組件就可以做初步驗證。平臺通常由四部分組成待測設備DUT、注入裝置、觸發(fā)控制、結(jié)果觀測。注入裝置最入門的是“電壓毛刺發(fā)生器”用一個大功率MOSFET、電容和精密延時電路就能搭出來成本幾百到幾千元不等。如果預算允許再上一臺電磁注入探頭和配套脈沖源就能覆蓋大多數(shù)攻擊手法。觸發(fā)控制部分需要和DUT的某個活動信號比如串口輸出、GPIO翻轉(zhuǎn)、電流波形做同步精確定位注入時刻。結(jié)果觀測則是最重要的部分。不能只觀測“設備最終是否正常工作”而要把安全關(guān)鍵狀態(tài)比如認證狀態(tài)寄存器、密鑰完好標志、安全日志條目在每次測試前后的變化記錄下來。一套好的測試平臺應該能自動遍歷毛刺寬度、深度、注入時刻三個參數(shù)空間記錄每組參數(shù)下的成功失敗結(jié)果最終輸出一張“故障注入成功率熱力圖”。8.2 怎么判斷一個防御方案“通過”了評估防御方案的時候一個常見的誤區(qū)是只看“攻擊是否成功”。這里要引入兩個更細致的指標故障注入成功率和檢測覆蓋率。故障注入成功率指 “在N次注入中有M次讓安全關(guān)鍵狀態(tài)跳出預期并且沒有被檢測到”。檢測覆蓋率指“所有實際造成的異常狀態(tài)中有多少比例被防御機制發(fā)現(xiàn)并進入了錯誤處理流程”。一個設計優(yōu)良的系統(tǒng)哪怕無法把攻擊成功率降到0至少要把檢測覆蓋率拉到95%以上——因為檢測到并且失敗得安全意味著攻擊者獲得了無用的輸出只有既影響安全狀態(tài)又沒被檢測到才算真正有效攻擊。在測試過程中我會額外關(guān)注“半成功”狀態(tài)設備沒有完全崩潰但也沒有按預期走向安全失敗而是進入了某個不確定狀態(tài)。這類狀態(tài)是最危險的因為它可能讓系統(tǒng)既無法正常服務也沒有觸發(fā)安全報警攻擊者反而可以利用這種“中間態(tài)”繼續(xù)推進攻擊。我在代碼審計時會專門審查所有錯誤處理路徑確保每個“失敗”分支都會導致系統(tǒng)進入明確的、經(jīng)過設計的安全狀態(tài)。實踐中還有一個經(jīng)驗防御方案測完“攻擊不成功”還不夠還要測“攻擊不成功時系統(tǒng)是否能正常恢復”。理想的情況是設備在攻擊后能自動重啟并進入正常狀態(tài)對于機會型攻擊者最常見的場景而不是動不動就鎖死。8.3 紅隊測試中的真實案例分析分享一個我們做過的一次紅隊測試結(jié)果。被測設備是一臺TEE安全芯片驅(qū)動的支付終端團隊在固件中實現(xiàn)了CFI、雙重執(zhí)行、關(guān)鍵變量冗余存儲等多重軟件防護。我們用EMFI探頭對主控芯片做了全自動掃描在約2萬次注入中發(fā)現(xiàn)了3個“敏感窗口”其中1個窗口能讓設備跳過一個非關(guān)鍵的日志記錄步驟但沒有造成安全越權(quán)另外2個窗口會導致設備看門狗復位屬于無效故障。不過這并非說明系統(tǒng)絕對安全。紅隊把掃描結(jié)果和固件反匯編結(jié)果對比后發(fā)現(xiàn)有一個安全關(guān)鍵函數(shù)雖然做了雙重執(zhí)行但編譯器在優(yōu)化時把兩次調(diào)用的指令重排到了一起導致一個寬毛刺可能同時影響兩次計算。雖然最終測試沒有利用成功但這個隱患足以讓我們在后續(xù)構(gòu)建選項中顯式關(guān)閉這個函數(shù)的優(yōu)化并加入?yún)R編級指令屏障保證隔離。這個案例說明軟件層面的防御和編譯器的交互非常微妙。“紙面上設計合理的防護”可能因為編譯器優(yōu)化、鏈接順序、代碼對齊等問題在實際上打了折扣。所以我強烈建議安全關(guān)鍵函數(shù)在發(fā)布前要檢查反匯編代碼確認加固邏輯沒有在優(yōu)化級別-O2/-O3下被意外簡化。9. 常見問題與排查技巧實錄9.1 為什么設備在攻擊測試中經(jīng)?!澳涿钪貑ⅰ痹诠收献⑷霚y試中最常見的結(jié)果不是“安全繞過成功”而是“設備莫名重啟”。許多團隊會把重啟當成“攻擊失敗”的記錄但我的建議是認真統(tǒng)計重啟頻率。重啟本身就是系統(tǒng)對異常的一種反應——如果系統(tǒng)在注入測試中頻繁重啟說明系統(tǒng)的供電監(jiān)測、看門狗等機制在真正起作用攻擊者想單靠毛刺就繞過安全邏輯難度很高。但如果重啟頻率過高以至于影響到正常體驗那說明電壓監(jiān)測的閾值設置得太敏感了。我在調(diào)試中遇到過一個案例設的電壓閾值接近正常工作電壓波動范圍的上限結(jié)果設備在上電瞬間、大電流負載切換時偶發(fā)重啟巡檢日志全是Brown-Out事件。排查方法是把測試設備接上示波器記錄啟動和運行不同階段的實際電壓波形觀察電壓最低點與閾值的余量再留出至少100mV的遲滯帶。9.2 安全檢測代碼報錯但找不到攻擊源系統(tǒng)偶爾觸發(fā)“安全事件報警”但現(xiàn)場排查又找不到任何故障注入設備這是很讓人頭疼的問題。常見的可能性有三類一是電源質(zhì)量差市電接入的毛刺通過電源路徑傳導到芯片讓BOD誤觸發(fā)二是強射頻干擾旁邊的大功率無線設備或變頻器產(chǎn)生窄帶干擾三是軟件自身存在bug例如某個校驗函數(shù)的校驗值計算有誤導致正常情況下的誤報。排查這類問題不能只盯安全模塊本身。我會先從系統(tǒng)的供電環(huán)境入手用一個高帶寬示波器和差分探頭長時間記錄供電波形用電網(wǎng)質(zhì)量分析儀做幾天的連續(xù)監(jiān)測同時把安全事件處理器的日志級別調(diào)高記錄觸發(fā)時刻的系統(tǒng)上下文正在執(zhí)行哪個任務、外設狀態(tài)、系統(tǒng)負載。如果確認無外部攻擊就要考慮代碼邏輯層面重點檢查是否有數(shù)據(jù)競爭或者中斷嵌套導出的校驗值被破壞。最有效的工具是做一個“攻擊特征指紋庫”把不同原因?qū)е碌膱缶瘹w類存放積累一段時間后就能按概率排序快速定位。9.3 編譯器優(yōu)化“吃掉”防御代碼的排查方法編譯器優(yōu)化導致安全防御邏輯失效是特別隱蔽的問題。之前討論過雙重執(zhí)行被重排、CFI校驗被合并這類案例這里補充一個排查方法和一個規(guī)避手段。排查方法是在編譯完成后檢查安全關(guān)鍵函數(shù)的匯編代碼。關(guān)注幾個點校驗變量是否被優(yōu)化掉明明做了冗余賦值匯編里卻找不到對鏡像變量的寫操作、兩次驗證之間是否插入了編譯器自動的指令重排序、安全分支是否被合并成單一比較。如果發(fā)現(xiàn)可疑點直接看編譯器的優(yōu)化報告-fopt-info或者用objdump反匯編核對。規(guī)避手段則包括在安全關(guān)鍵函數(shù)上使用__attribute__((optimize(O0)))或者__attribute__((noinline))把關(guān)鍵變量聲明為volatile防止被優(yōu)化在驗證邏輯之間插入?yún)R編級的內(nèi)存屏障barrier或者用編譯器提供的atomic/fence原語。這里要注意的是這些手段雖然可靠但會犧牲一定的性能和代碼密度所以只建議用在安全關(guān)鍵路徑上不要一股腦都用上。9.4 安全事件處理函數(shù)本身被注入攻擊怎么辦最后一個經(jīng)典問題如果攻擊者的目標不是主流程而是安全事件處理函數(shù)本身呢檢測機制再好如果處理函數(shù)被繞過這些機制就形同虛設。我的實踐心得是安全事件處理邏輯必須和設備主應用隔離。在硬件上使用MPU/TrustZone把安全處理代碼放在獨立的受保護區(qū)域在軟件上安全處理函數(shù)不依賴主應用程序提供任何服務包括內(nèi)存分配、日志寫入、網(wǎng)絡上報都不依賴主應用。同時檢測到攻擊后觸發(fā)的第一動作應該盡量是“硬件動作”——例如拉高某個復位引腳、關(guān)閉外設電源、觸發(fā)DMA擦除——不能只停在軟件變量上。我曾經(jīng)把“三重觸發(fā)機制”寫進設計文檔第一重是軟件中斷第二重是外部看門狗第三重是安全芯片的獨立GPIO輸出。任何一重視乎失效其他兩重都能兜底整體攻擊成功率會被壓得非常低。10. 從項目實踐出發(fā)的一些個人體會寫了這么多技術(shù)細節(jié)最后分享幾段真實的操作體會。第一點故障注入防御不是一次性工程而是一個持續(xù)對抗的過程。攻擊設備越來越便宜、攻擊手法越來越自動化的今天固件升級、甚至現(xiàn)場部署的設備都可能成為新的攻擊目標。防御設計必須跟著威脅演進不斷迭代不能有一勞永逸的心態(tài)。第二點故障注入攻擊的防御本質(zhì)上是“成本和不確定性的游戲”。能把攻擊者的成功率降到一個不可接受的區(qū)間防御就算成功追求百分之百的絕對防護在工程上既不現(xiàn)實也沒有必要——更重要的是設計出“即使攻擊成功也不會造成不可控損失”的系統(tǒng)結(jié)構(gòu)。第三點防止被攻擊的一個隱含前提是“開發(fā)團隊自己先理解攻擊”。我見過太多防御方案是照著安全清單逐條打勾做出來的沒有真正理解每條防御在對抗何種攻擊手段反而在遇到組合攻擊時徹底失效。安全設計和攻擊理解是一體兩面只有先把自己放在攻擊者的位置上思考才能把防御做扎實。最后如果你正準備為自己的產(chǎn)品加入故障注入防護我的建議是從最簡單的“冗余存儲 控制流校驗 獨立電壓監(jiān)控”起步先用基礎防線攔住絕大多數(shù)機會型攻擊者再用紅隊測試實際檢驗防線強度然后針對暴露出的弱點逐步加固。防線可以慢慢加厚但方向和思路一定要在一開始就擺正。這套方法在我經(jīng)歷的項目中反復驗證過穩(wěn)定、務實也希望對你的設計有所幫助。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产午夜一区二区三区| 欧美婷婷综合网| 婷婷五月丁香久久| 99热综合网| enecarbon-materials.com污K127封锁请涟系@wip1688 | 色婷婷香蕉| 国产高潮A片羞羞视频涩涩| www狠狠| 91九色欧美| 91丨九色丨国产打屁股| 91日本在线| 亚洲 小说 欧美 激情 另类| 久久久人人操A V| 五月婷婷中文| 色色热| 可以看的AV网站| 久久只有这里精品免费| 2018夜夜草| 开心五月网 | 女人高潮内射99精品| 思思热高清在线观看| 丁香五月停停基地| 久久久日韩特色特黄AAAA| 色噜噜狠狠色综| 色狠狠婷婷| a网站免费观看| 夜夜操夜夜操| 婷婷五月丁香基地| 婷婷色爱| 五月丁香婷婷色| 99热在线观看成人| 无码字幕中文| 丁香六月欧美| 久久婷婷精品| www.婷婷| 丁香五月在线观看| 色综合色色色| 激情文学五月丁香六月婷婷| 玖玖伦理电影| 性色欲情 网站| 在线观看亚洲AV| 无码99| 五月天婷婷基地| 99在线视频精品| 玖玖99免费视频| 性爱五月婷| 亚洲综合另类| 白人荫道BBWBBB大荫道| 丁香五月香蕉| 大香蕉AV在线| 能看的av| 国产婷伊人| 疯狂做受XXXX高潮A片动画| 色5月婷婷色| 五月天婷婷在线观看| 情五月亚洲婷婷| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 大鸡巴伊人网| 熟妇人妻中文字幕无码老熟妇| 99热精品中文字幕| 激情丁香五月婷婷| 午夜成人天堂久久无码日韩久久| 婷婷五月天开心激情网| 婷婷操婷婷干婷婷射| 一级二级香港秋霞欧美欧美秋霞| 另类婷婷丁香| 狠狠色丁香久久婷婷综合五月| 爆乳熟妇一区二区三区爆乳照片| 日本在线观看99| 国精产品一区一区三区免费视频 | 国产精品99久久久久久久女警| 婷婷五月天精品| 五月婷网站| 色色色色色爱| 婷婷成人AV| 亚洲午夜一区二区| 五月天激情四射| 丁香五月天啪啪| 色婷婷导航| 天天日天天爽| 欧美一黄一色一乱一伦| 六月婷久久| 成人欧美日韩| 深爱激情九九五月天 | 色哟呦av| 91超级碰在线| 成人婷婷桔色| 97se在线视频| 久热中文字幕| 五月天色婷婷视频| 99热这里只有精品最新网址| 情五月亚洲婷婷| 激情婷婷亚洲五月| 婷婷五月天成人动漫 | 婷婷五月天激情基地| 人人妻久久妻| 任你爽视频| 色欲色香综合网| 色呦呦美女| 五月色婷| 26uuu色五月| 610018岁成人视频| 4438激情网| 久久黄A片| 日本视频欧美观看免费| 久久综合激情五月天| 思思99精品视频在线观看| 三十路磁力链接| 快乐婷婷五月天| 中文不卡一二三区| 激情五月六月丁香| 久久精品9| 丁香五月天色婷婷| 日韩精品99久久| 精品人人操| 噜噜视频| 潮汕成人AV片在线| 天天综合网~91综合网| 色综合网综合| 五月丁香综合啪啪| 久久91久久91色欲精品| 欧美综合五月丁香五月天| 色色色色色色色色网站| 五月婷婷综合网| 91伦| 丁香六月av| 九九色中文| 99热播放| 综合图片色色| 天天插操| 久久五月网| 色婷婷小说网| 亚洲无码影音| 婷婷激情六月中文| 97色色色| 爆乳熟妇一区二区三区四区| 九九热99免费视频| 99久久综合| 成人五月天丁香| 操人妻AV| 国产精品丝| 深爱五月天婷综合| 婷婷五月天电影网| 色开心五月丁香| 亚洲综合网激情小说| 婷婷五月天天| 五月色亭丁香| 激情综合网五月天| 五月丁香精品| www.射伊蕉婷婷| 超碰在线观看三级片| 五月综合激情| 五月丁香六月色| 久久五月天影院| 亚洲激情图文小说| 九九黄色网| 激情6月| 婷婷丁香色五月亚洲| 婷婷色色播五月天| 五月丁香啪啪啪| 久久婷婷啪啪视频| 久久精品婷婷| 色婷婷操逼| 五月天另类小说| 9久精品| 99色日本| 伊人www22综合色| 伊人激情综合| 99热大全在线观看| 五月婷婷影| 色站9/| 99久久综合网| 天天干在线播放| 天天激情夜夜干| 色情综合| WWW色五月天| 午夜丁香婷婷| 另类小说五月天| 五月丁香好婷婷A片网| 色婷婷操逼网| 五月丁香综合激情| 五月激情六月丁香| 欧洲激情五月天婷婷| 五月天国产| 在线观看免费狠狠色丁香香综合| 青娱乐美女福利视频美臀| 另类天堂| 激情99热| 婷婷五月色播天| 99久久思思| 亚洲V国产V欧美V久久久久久| 小色小蛇伊人婷婷色香五月| 影视av久久久噜噜噜噜噜三级| 日韩无码AV电影网站| 日日操日日撸| 久久人妻系列| 密视AV综合在线| 天天综合中文| 人操人| 可以免费观看的AV| 快乐激情五月色婷婷| 91九九| 天天天久久久| 精品热九九| 欧美va欧美va差| 亚洲AV成人精品网站在线播放| 狠狠色婷婷在线| 99∨VTV| 亚洲性视频| 免费看成人747474九号视频在线观看| 老师把我爽高潮了免费A片| 色视频五月天| 任你日视频| 欧美婷婷五月丁香| 99热只有精品综合| 碰超亚洲| Av九九| 9久久婷婷国产综合精品性色| 色综合天天天天做夜夜| 婷婷99中文字幕| 激情五月天电影| 玖玖午夜视频| 丁香婷婷久久| 丁香五月天BBw| 久草丁香婷婷五月天婷| 国产精品色色| 蜜乳中文字| 91九色国产熟女| 丁香六月五月天| 亚洲精品小视频| 欧美色色色色色色色色| 日本综合久久| 五月天精品| 丁香九月婷| 无码激情AAAAA片-区区| 久久五月天视频| 2025中文在线视频字幕免费观看| 日韩精品视频中文字幕| 99九九视频| 丁香五月狠狠在线观看| 婷婷综合影院| 丁香六月天婷婷色| 在线另类| 美女丁香五婷婷| 天天综合色丁香| 九九热最新| 99成人免费热视频| 精品久久人妻热| 99国产欧美视频| 久久99视频| 综合综合网| 九九99精品视频| 无码激情AAAAA片-区区| 99精品在线| 欧美婷婷五月天综合| 9婷婷内射| 欧美搡BBBBB摔BBBBB| 亚洲中文丁香| 婷婷久久内射| 182tv992tv人之初午夜免费观看| 青青草原伊人网| 五月www| 九九综合伊人| 小色小蛇伊人婷婷色香五月| 色五月色开心开心五月| 综合久久99| 欧美视频五区| 五月天另类激情在线| 97人人操人人| 色情开心五月| 五月天激情亚洲| 亚洲九区| 538任你爽| 丁香五月婷在线观看| 伊人婷婷青青cao| 99久久新视频| 精品亚洲日韩99欧美片| 97操女视频| 国产69久久久欧美黑人A片| 99精品久久久久久久婷婷久久| 色一情一乱一乱一区9| 99久久66综合| 精品一二三区久久AAA片| 狠狠色综合网站久久久久| 五月丁香六月玩女人| 婷婷六月网| 丁香五月天无码AV| 国产韩日亚洲美州欧亚综合在线| 日韩啪啪自拍| 一本色道久久综合狠狠躁一二三| 丁香五月天激情视频| 91青娱乐青青草| 色五月丁香六月欧美综合| 六月丁婷婷| 亚洲色9| 婷婷伊人久久| 日韩成人AV在线| 婷婷丁香五月激情密臀av| 久久综合婷婷| 久久精品99| 9热精品| 色欲色香综合网| 国精产品久久| 婷婷五月情天| 精品色| 激情综合丁香五月| 天天噜| 天天婷婷色六月| 国产资源91在线| 综合五月激情| 婷婷五月色網站| 丁香五月天婷婷久久| 玖玖在线资源视频| 五月婷婷丁香六月在线| 思思热视频在线观看| 国产视频婷婷| 翔田千里 50岁 无码| 婷婷九月激情| 啪啪操超碰| 久久九九@| 久久婷婷五月丁香网| 久久亚洲天堂| 激情五月影院| 这里只有精品视频| 色综合77777| 久久月天堂| 青青草Avb在线| 97色五月婷婷在线| 在线播放成人| 另类图片色五月| 99在线免费视频| 久热大香蕉| 91久久综合亚洲噜噜成人在线| 丁香婷婷婷婷十二月在线观看视频| 99色色| 国产精产国品一二三在观看| 日本天天操| 亚洲精品字幕在线观看| 国产性爱在线| 国产激情在线| ww久久| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 婷婷色色狠狠| 丁香六月婷婷综合麻豆| 五月丁香 啪啪啪| 色五月丁香总合网| www天天爽| 五月综合激情| 免费视频WWW在线观看网站| 亚洲激情网| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 色综合99色| av在线中文| 99热精品10| www一区二区三区| 欧美色色色色色色| 大香蕉中文| 91蜜桃婷婷狠狠久久综合9色| 欧美性做爰大片免费看办公室 | 99热99艹在线观看| 婷婷激情在线| 亚洲久热无码| 五月婷婷五月天| 五月激情小说| 不卡在线超碰| 欧亚色色| 色婷婷AV在线| 亚洲综合五月天| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 亚洲AV网站| 亚洲国产精品VA在线看黑人| 激情碰碰碰| 久9视频免费播放| 婷婷色系婷色| 久久狠狠干| 久热免费| 美国天天操无码| 日日天天天| 精品久久久人妻| 很很干天天干| 激情婷婷久久| 色婷婷亚洲五月天| 国产全是老熟女太爽了| 我想看国产大学生口爆吞精的视频| 丁香六月婷婷色播| 婷婷丁香色情| 香蕉AV777XXX色综合一区| 9l视频自拍9l九色9l成人| 日韩精品色| 婷婷亚洲综合| 亚洲丁香婷婷| 色五月激情综合| 91久久| 亚洲视频在线网| 996er热| 99久视频| 超碰在线资源| 亚洲色色色色色| a久久| 五月婷婷六月丁香| 五月天社区| 五月婷婷官网色| 玖玖爱伊人网| www,五月丁,com| 婷婷色色网| 婷婷六月综合基地| 亚洲天堂aaaa| 99人人干人人操| 天天综合亚洲综合| 婷婷五月天开心网| 亚洲欧洲另类| 五月婷婷香| 色色网站免费| 久久久宗合视频88| 伊人婷婷色激情丁香| 国产67194| 在线观看av网站| 婷婷五月激情图片| 97伊人综合婷婷| 色五月 激情婷婷 综合五月天| 99无码黄色视频| 婷婷丁香五月天激情四射| 久久奄也去色色网站| 日日撸夜夜操| 亚洲激情淫网| 精品国产乱码久久久久久免费| 激情无码网| 日本色婷婷| 色九综合| 婷婷久久五月天| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 97操女视频| av中文网站| 人人操婷婷| 亚洲成人精品三区| 激情五月婷婷丁香| 日本123区日韩欧美不卡在线看| 色婷婷丁香五月观看| 婷婷激情五月| 五月天婷婷伊人| 91av成人| 天天干天天爽| 99综合色色色| 亚洲V国产V欧美V久久久久久| 亚洲综合婷婷五月| 欧美性爱五月天| 丁香五月天人体| 欧美性生交XXXXX无码小说| 亚洲另类久久| 狠狠se| A1片久久久| 91性高潮久久久久久久久| 99热手机在线精品| 久久久99精品| 日韩淑女人妻luan伦激情精品一区二| 色婷五月天激情| 色婷婷影| 中文字幕在线免费观看视频| 五月婷婷网站| 九月色婷婷综合| 激情AV| 蜜桃婷婷丁香五月天狠狠久久综合| 五月天婷婷在线观看| 久热这里这里有精品| 青青草激情网| 丁香五月婷婷天激情| 色婷婷AV久久| 性色天| 色噜噜狠狠色综合无码久久欧美| 这里只有精品视频在线| 手机免费福利视频| 色色色五月婷婷| 99久久99综合| 伊人超碰| 五月婷婷丁香综合| 婷婷五月天av| 天天久久九九| 狠狠干狠狠干| 天天日天天爽夜夜爽| 久久人人看| 影音先锋 萱萱| 五月激情婷婷综合| 99久久成人| 久久婷婷五月天激情四射| 99热国品免费| 五月婷婷九| 婷婷99狠狠| 日婷婷| www色婷婷久久综合久色 | 亚洲成人中心| 婷婷五月天成人影片| pom538精品视频| 99色色| 婷婷日欧美在线观看| 欧美色骚婷婷五月天| www.9797国产| 99五月香婷婷丁香在线视频| 五月婷婷香| 六月综合在线| 男女99免费视频| a性生活久久无| 99九无网码| 另类小说婷婷色| a在线观看| 色婷婷91激情小说| 强辱丰满人妻HD中文字幕| 欧美啪啪9| 丁香婷婷久久老熟女综合网| 视频综合网| 91综合在线观看| 欧美三级A做爰在线观看| 五月婷婷丁香色吧网| 天天操夜夜爽天天操| 欧美成人AAA片一区国产精品| 26uuu另类亚洲欧美日本一| 日韩色色色色色| 五月婷婷激情啪啪| 538在线精品| 免费AV播放| 亚洲美女网Va| 色五月开心五月激情五月| 手机在线视频观看9| 人妻丰满精品一区二区A片| 色噜噜婷婷| 五月丁香六月欧美综合| 99久久精彩视频。| 中文字幕,综合,91| 色约约视频一区二区三区四区五区| 色玖玖综合网| 婷婷丁香九月| 99热新网址| 婷婷瑟瑟五月天| 思思re视频在线| 五月丁香久人妻中文| www.婷婷五月.com| 久777| 日本婷婷在线| 五月天婷婷綜合院| 丁香六月综合| www.91婷婷| 久热免费视频| 欧美日韩成人在线网| 久久亚洲婷婷| 色五婷婷| 亚洲人妻五月丁香婷婷| 丁香婷婷大香蕉| www.综合久久.com| 久99精品视频| 日本三级99人妇网站| 久久se 综合网| 超碰免费人| 国产免费性爱| 丁香五月影院| 狠狠色噜噜狠狠狠888| 五月婷婷之综合激情| 色色色色五月天| 天天操综合网| 婷婷中文字幕网| 婷婷久久免费| 超碰成人av| 成人视频在线免费播放| 欧美久久婷婷| 99无码视频| 五月天社区| 国产69久久久欧美黑人A片| 国自产拍偷拍精品啪啪一区二区| 九九色影视| 五月激情六月综合| 五月激情天| 国产性av| 色噜久| wWW九九在线播放| www.91九色| 五月婷婷色色| 久久av电影| 色五月亚洲开心网| 久久激情网| 色婷婷www| 六月婷婷中文字幕| 九九这里有精品| 日日操夜夜爽| www.婷婷com| 婷婷五月天丁香久久| 日本在线播放97| 综合久久六月| 狠狠色色| 婷婷五月久久| 激情综合色图| 国产人妻人伦精品一区二区| 国产九月婷婷| 五月丁香婷婷色播无码| 日本一级黄色电影| 五月丁香欧美| av在线观看网站| 国产亚洲精品久久久久久郑州| 99久视频| 9在线9在线婷婷在线国产| 色综合久网| 第四色婷婷日本| 综合久久五月| 伊人狠狠丁香婷婷综合尤物| 激情婷婷丁香| 日韩性视频| 亚洲AAA| 五月婷婷色播| 国产成人AV| 亚洲AV第二区国产精品| 婷婷丁香五月视频| 色婷婷国产精品综合在线观看| 婷婷丁香六月| 色色99| 欧美成人AAA片一区国产精品| 亚洲春色奇米影视| 美国不卡视频| 色波激情五月天| 丁香桃色网| 天天爽夜夜操| 久久婷婷五月综合成人d啪| 狠狠色综合777| 日本九九网| 国产伦亲子伦亲子视频观看| 91丨九色丨白浆秘| 成人五月天视频播放| 色婷婷AV在线| 亚洲性图一区二区| 99热啪啪| 久人操| 久久 这里只有精品1| 天天久久狠狠色综合| 久久久久久久久久久久久久久久一道本| 超级碰 久久9| 色综合婷婷| 五月天婷婷六月| 五月天综合久久| 七七色综合| 狠狠 婷婷| 超碰AV在线| 极品少妇婷婷五月| 亚洲天堂99| 亚洲无码九九| 青草视频在线播放| 丁香五月AV在线| 五月丁香好婷婷A片网| 人妻久久久久久| 91成人视频| 婷婷五月激情六月| 午夜不卡久久精品无码免费| 久久九九怡红院| 激情久久久久久| 色五月综合97| 这里只有精彩视| 久久久com| 97久人人| 青青草原伊人网| 日韩无码系列| 天天插天天插天天插天天插| 婷婷99狠| 五月婷婷激情综合视频| 99热99在线| 亚洲激情在线| 丁香五月香蕉| 激情九月综合| 婷婷五月天伊人网| 99热国内精品| 538任你爽| 久操大| 99精品一二三四视频| 99人妻碰碰碰久久久久| 五月丁香六月婷婷操操操| 人人摸人人干| 日日夜夜天天综合| 99热超碰天堂网| 亚洲另类视频| 91婷婷视频| 狠狠草综合网| 中文字幕精品推荐免费在线观| 五月丁香激情五月天| 久久五月天婷婷| 99热精在线九九久久保| 九九香蕉网| 欧美激情丁香五月| 91日韩在线| 婷婷深爱五月天在线| 九九激情网| 狠狠另类视频| 日韩AC在线免费观看| 久鲁鲁色网 | 九月色婷婷| 成人色五月天| 激情综合色婷婷啪啪五月天| 日本五月天一页| 婷婷久久图片| 激情五月天色色| 综合五月婷婷| 中文字幕丰满孑伦无码专区| 天天舔天天插天天爱| 日韩1区2区| 久久亚洲精品成人无码网站导航| 婷婷五月天小说| 久久机热这里只有| 我想看国产大学生口爆吞精的视频| 夜夜夜叫天天天做| 久久精品日| 五月婷婷偷拍| 伊人网大香| 日韩999| 婷婷 亚洲图片 丁香| 亚洲色频| 色色色9| 婷婷丁香视频| 激情五月天色婷婷综合| 丁香五月在线播放| 好激情在线综合网| 91色涩| 五月亭亭直播| 99久久精品视频女神1| 久久婷婷亚洲无码一起| 天天色播| 极品五月天| 99热人人操人人操| 丁香婷婷久久| 婷婷综合伊人丁香| 五月丁香成人| 蜜乳av一级av| 日韩aaaaa| 这里只有精品在线视频精品| 色婷婷狠狠禁久久| 婷婷丁香五另类网站| 五月天婷婷伊人| 97电影99热| 五月丁香综合| 丁香五月最新地址| 五月丁香亚洲综合网| 日韩精品成人在线| 成人美女网| 大香蕉婷婷久久| 五月丁香久久激情网| 色婷婷五月综合在线| 成人精品视频99在线观看免费| 国产高清精品色| 亚洲性爱电影| 激情99| 狠狠干,狠狠操| 久久精品国产色| 香港九九六区八区99| 97色色色色色| 六月婷婷五月丁香| 五月丁香亚洲五月| 亚洲操人| 99视频在线观看视频| 丁香激情网| 停婷丁五月在线| 色色色999| 久久中国毛毛片爱久久| 爱99干99| 天天肏夜夜肏| 九九这里是免费的视频5| 伍月婷丁香花全集| 91玖玖| 丁香九月婷婷色| 亚洲视频在线观看99| 99A片| 五月丁香影院| 在线观看中文字幕| 狼人狠狠操| 五月婷婷中文| 五月丁香六月婷婷亚洲视频| www.精品99| 久久五月丁香| 婷婷久久久久| 人妻中文字幕精品| 99久久超级| 欧美成人AAA片一区国产精品| 五月婷av| 五月婷婷激情综合拍| 五月激情婷婷六月丁香| 欧美va视频| 黄色一级影片| 色综合狠狠色| 色九月丁香婷婷蜜桃在线观看| 丁香五月性| 99热在线免费| 五月天天天开心激情网| 99热最新地址在线| 日本老女人黄页在线播放| www999日韩精品| 久久99大全| 久久久久久久久久久44| 中文字幕在线日亚洲9| 97av在线视频| 超碰亚洲天堂| 综合色播| AV大香蕉| 婷婷五月成人| 玖玖色综合| 99热这里只有精品9| www.色婷婷| 热久久这里只有精品| 色婷婷www| 欧美色色色色色| 99自拍视频在线| 99热.com| 99热综合| 思思久久99热只有频精品66| 性一交一乱一交A片久| 免费视频WWW在线观看网站| 欧美精品XXXXBBBB| 最近免费中文字幕大全高清大全1| 六月婷婷综合激情| 性爱网五月天| 人妻少妇色综合| 久久九九网| 少妇高潮A片无套内谢麻豆传| 看婷婷五月天网| 丁香五月 性爱| se婷97| 婷婷五月丁香香蕉| 激情久久久久| a69在线视频| 天天干天天 亚洲| 色色综合日韩| 狠狠色噜噜狠狠狠888了| 欧美精品熟女一区二区| 五月激情六月丁香| 久久婷婷五月天懂色| 色婷婷六月| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 久草天堂| 亚洲丁香五月美女| 婷婷六月激情综合| 亚洲va在线∨a天堂va欧美va| 婷婷五月天综合中文| 狠狠色噜噜狠狠狠888| 婷婷久久久久| 天天做天天爱| 丁香社92视频| 二色av| 天天干天天 亚洲| 91成人性爱视频| 婷婷五月天av| 中文字幕日产A片在线看| 人人操超碰| 91丨九色丨丰满人妖| 丁香五月婷婷综合视频| 人人视频色| 99热这里都是精品| 国产又爽又猛又粗的视频A片| 色婷婷六月| 亚洲图色五月天| 8区视频在线| 色天天综合色| 色婷婷深爱五月| 五月花免费视频| 亚洲中文字幕av| 五月天丁香色色| 久久久久亚洲AV无码网影音先锋| 国产av影片| 激情纯色婷婷五月天在线不卡视频| 99热这里精| 久久天堂| 日韩性爱AV| 色九月婷婷综合| 欧美天天性| 丁香花五月天激情| 丁香五月综合网| 97人妻碰碰碰久| 久久人妻高清中文| 婷婷伊人| 色婷婷丁香五月天| www.色婷婷| 亚洲精品无码99热| www婷婷| 五月婷在线色视频| 爱射综合| 日韩AV在线影片| 99爱99操| 天天干-天天日| 久久多色| 天天看A片| 91在线资源| 噜噜噜噜噜在线| 噜噜国产| 深夜婷婷 丁香| 9久久久久| 人妻久久久久久久久久| 色五月五月婷婷| 久xxxx| 成 久久| 开心激情婷婷| 久久狠狠干| 亚洲第一色色色| 婷婷婷久久久| 97成人视频| 婷婷五月色花丁香社区| 91视频精品99| 超碰京东热av男人的天堂| 丁香婷婷六月激情| 婷婷色婷婷| 伊人www22综合色| www,天天干| 亚州男人天堂婷婷五月| 五月六月激情婷婷| 五月在线| 综合AV在线| 九九热精品视频| 91精选国| 一本久久亚洲五月婷婷| 996er热| 中文字幕不卡+婷婷五月| 丁香婷婷月| 97自拍视频网| 丁香五月欧美色综合| 成人精品视频99在线观看免费| 婷婷性爱综合| 凹凸操Av| www.99.色| 亚洲国产成人裸舞| 国产午夜精品AV一区二区麻豆| 9精品视频在线| 婷婷 色 丁香 夜| 伊人激情综合| 国模淫穴色图| 天天干人人奸97| 人妻自慰在线| 狠狠插狠狠插| 天天艹天天综合网| 五月婷婷之综合激情| 激情骚五月| 日本操逼九九九九58日本操逼| 国产亚洲在线观看| 伊人五月天日日夜夜久久久天天| 国产熟女大叫受不了| 午夜丁香综合婷婷| 久久98热re| 亚洲av网站| 丁香六月婷月91婷月| 超碰91在线| 99热久只有| 亚洲亚洲人成综合网络| 色久综合天天做视频| 婷婷丁香五月在线观看91| 99久久99热这里只有精品| 久久伊人五月天| 日日噜狠狠色综| 香蕉婷婷| www.日韩艹| 香蕉影院色| 色综合爱综合| 综合久久激情久久| 99久久玖玖| 久久久久久久久久婷婷| 丁香五月先锋| 狠狠色色| 婷婷久久综合| 久久机热这里只有精品| 久久久免费图片视频| 综合网天天| 亚洲av免费在线| 另类专区在线观看| 婷婷激情欧美| 丁香六月av| 天天插天天射| 久久久激情| 一本色道久久88综合日韩精品| 久久久久久97| 91久久久久久久久18| 五月丁花色综合网| 日本网站久久| 裸体美女丁香五月天。| 97干欧美| 精品人妻久久久久久| 九九草热在线观看| 四川操逼站| 伊人久久婷婷| 五月色欧美| 在线超碰91| 人妻久久人妻久久第一区| 伊人婷婷91| 五月丁香五月综合欧美| 大香伊人婷婷影院| 超碰人人色| 国产精品久久久60086| 热久国产| 五月网站| 超碰a女人的天堂| jiujiu无码五区| 欧美黑人巨大性生话| 亚洲综合色色| 开心深爱五月天| 无码九九九九| 99热综合| 天天狠狠插| 色五月超碰| 国产日产亚洲系列最新| 免费国产视频| 亚洲丁香五月天在线视频| 激情综合网激情五月天| 国产精品久久久久久久久久久久| 日本va视频| 综合99久久天天综合| 免费播放99性爱视频| 97色天堂| 激情网 久久| 99综合视频| 免费观看的婷婷五月视频在线| 五月天天综合| 亚洲成人在线观看av| 日日天天干| 天天射射夜| 99久久高清视频| 婷婷五月天色| 五月丁香六月婷婷啪啪| 激情五月综合ì香亚洲| AV在线免费播放| 在线色婷婷| 成人无码精品1区2区3区免费看| 天天干天天干天天干天天干天天干天天干天天| www.97干视频| 亚洲六月综合激情久久下卡| 九九综合| 色狠狠色综合| VA国产在线综合网站| 天堂网亚洲色图| 色色欧美色色| 九久9精品| 大香蕉婷婷五月| 久久精品亚洲热| 色亚洲婷婷| 成人五月天综合网| 9l视频自拍9l视频自拍九色学生| 国产乱妇无乱码大黄AA片| 中文字幕成人| 少妇人妻人伦A片| 99热这里只有精品最新地址获取| 激情丁香五月天综合| 色吊丝永久访问网址| 精品99*| 狠狠综合网| 欧美日综合| 99在线观看| 91丁香五月| 丁香婷婷久久激情| 精品久色| av在线免费播放| 五月婷婷综合社区| 91久久久久久久久久| 极品嫩草| 99热成人| 另类激情综合| 热九九精品| 色色色色色色色色网站| 99re这里| 四色五月婷婷| 五月情婷婷| 成 人 色 色| 性色99| 五月激情久久综合网| 五月天色网站| 久久在线人妻| 新伍月婷婷| 五月婷婷激情四月| 丁香五月激情性色郤| 五月丁香六月婷婷中合网| 色综久久AV| 天天拍夜夜撸| 日韩人妻无码一区二区| 五月人人丁香婷婷五月人人丁香| 1024操逼视频| 98色花堂98t.R| 亚洲AV网站| 色狠狠综合| 五月丁香| 色天使色婷婷| 99精品热| 成人五月天婷婷| 激情五月黄色小说| www.超碰| 亚洲VA欧美VA| 午夜天堂一区人妻| 热久久这里只有精品| 五月婷婷涩涩爱| www.丁香黄色五月天人与| 欧美性爱五月天| 色婷婷在线电影| 97成人在线视频| 丁香五月激情图片婷婷| 91精品视频男人的天堂| 婷婷丁香社区| 婷婷五月天丁香久久| 久久机热探花| 日韩人妻无码专区| 丁香丁香激情网| 深爱五月天 开心网| 五月天亚洲色| 99九九综合久久九九| 六月 丁香 视频| 91夫妻视频| 久人人操| 超碰免费成人| 五月天中文字幕在线婷婷| 五月婷婷九月婷婷九月婷婷| 色色AV色色色东莞| va婷婷在线免费观看| 俺去也婷婷| 玩熟女五十AV一二三区| 久久性爱视频| 艹B高清无码| 啪啪黄页网| 思思热久久阴99| 色婷婷影音| 婷婷色啪| 91在线日| 国产精品人成A片一区二区| 无码91中文字幕| 91oumei| 色婷婷久久| 一本道综合网| 欧美中文五月天| 99免费在线| 内射在线CHINESE| www.色情五月天.com| 久热超碰| 欧美色小说婷婷| 99ri视频在线播放| 综合久久婷婷| 999九九九久久久99HD| 91精品综合久久久久久五月天| 九九精品婷| 人妻22p| 婷婷色丁香六月| 亚洲热久久| 亚洲AV日韩在线观看| av九九| 欧美激情综合色丁香婷婷五月天| www,天天干| 青青青在线视频国产| 丁香五月之久操视频| 狠狠干狠狠操狠狠爱| 五月天伊人av| 色五月亚洲| 丰满女老板BD高清A片| 色爽九九| 五月噜噜| 九九99精品视频在线观看| 色色热日| 99久热这里有精品| 五月激情综合网| 182.t午在线观看| 99小视频在线| 17.c黄色| 思思久久99热只有频精品66| 婷婷五月天中文字幕| 婷婷五月天成人基地| 五月丁香啪啪| 99伊人婷婷在线| www.99热日韩.com| 婷婷五月婷婷| 99色综合| 玖玖五月| 丁香五月婷婷色| 色999;丁香五月| 色综合区| 天天爽夜夜爽夜夜爽精品视频 | 五月婷婷六月丁香首页| 99re热精品在线视频| 在线成人网站| 2023天天日夜夜爽| 天天狠天天叉| 疯狂做受XXXX高潮A片| 99热永久在线观看| 狠狠色丁香婷婷久久综合| 91干婷婷| 久久久精品99亚洲综合| 色五月欧美| 久久久噜噜噜操操操| 色色丁香五月婷婷| 亚洲五月天激情| 黄色AV日韩| 人人色婷婷| 怡红院成人AV| 婷婷五月六月丁香综合| 婷婷五月影院| 日本色频| 啪啪小说五月天| 国产亚洲99久久精品| 五月婷亚洲精品AV天堂| 夜夜撸夜夜骑| 91丨九色丨老农村| 婷婷五月伦理网站| 五月天福利影院导航| 亚洲无码成人性爰网| 五月丁香影视| 久久黄色免费视频| 天天日天天操心| 色色色激情| 无码色色色| 婷婷99| 26uuu欧美日本| 97啪啪| 99九九精品| 五月婷婷综合网| www.99视频| 婷婷97碰碰| 熟女激情五月天| 中文字幕精品无码一区二区| 亚洲日韩26uuu| 九九黄色网| 久久99日本精品视频免费观看| 五月人妻婷婷| 成人免费120分钟啪啪| 国产永久一二一起草| 99性爱| 韩国情人在线电视剧免费观看高清版全集 | 激情网战码亚洲A| www色色com| 无码网| 久草热8精品视频在线观看| 天天操天天操| 色爽干| 欧美va在线| 99免费在线视频| 色五月婷婷网| 久久亚洲婷婷| 99性爱视频| 天天艹夜夜爽| 婷婷六月天| 最新激情五月天| 狠狠久久婷五月综合色| 狠狠搞亚洲| www.婷婷,com| 九九99精品| 婷香五月| 国产欧美熟妇另类久久久| 天天操天天操天天操| 色黄啪啪| 可以免费看的av网站| 五月天啪啪网| 天天做天天爱| 伊人久久大香线蕉av最新| 婷婷五月成人| 婷婷丁香五月噜噜噜| 9视频1在线| 伊人久久大香网| 婷婷激情啪啪| 激情综合五月| 欧美日韩大黄| 国产成人精品一区二三区熟女在线| 天天做综合| 香蕉97碰碰碰欧美| 艾小青av| 人人操人人看97干| 狠狠狠狠狠狠狠狠| 爱草视频在线观看| 丁香网站| 丁香五月婷婷香| 99热日本| 91九色PORNY大屁股| 婷婷九月丁香| 夜夜资源站| 久久久久人妻| 亚洲天堂aaa| 丁香五月色| 99热精品6| 亚洲午夜av| 丁香网五月天| www.色9|