欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

RK3588同源多任務(wù)調(diào)度:NPU/GPU/CPU協(xié)同,讓多路視覺(jué)流穩(wěn)跑不掉幀

RK3588同源多任務(wù)調(diào)度:NPU/GPU/CPU協(xié)同,讓多路視覺(jué)流穩(wěn)跑不掉幀 1. “同源”這兩個(gè)字才是RK3588多任務(wù)調(diào)度的核心我最早看到“同源多任務(wù)調(diào)度”這個(gè)詞的時(shí)候第一反應(yīng)是這不就是多線程嗎RK3588有8個(gè)CPU核再配上NPU、GPU、RGA這些協(xié)處理器把任務(wù)丟給不同的核去跑就是調(diào)度有什么好單獨(dú)拿出來(lái)講的直到真正在板子上做視覺(jué)應(yīng)用被NPU算力瓶頸、GPU管線沖突、以及多路視頻流同時(shí)進(jìn)來(lái)時(shí)的資源爭(zhēng)搶反復(fù)打臉之后我才明白“同源”這兩個(gè)字的份量。先解釋一下我理解的“同源”。在RK3588上做邊緣AI視覺(jué)同一個(gè)模型文件比如yolov8的rknn版本可以被加載到三種不同的執(zhí)行后端NPU、GPU、CPU。所謂同源指的是模型權(quán)重、模型結(jié)構(gòu)來(lái)自同一個(gè)來(lái)源但推理任務(wù)可以分發(fā)到不同的算力單元上執(zhí)行。這跟“異源”是兩回事異源往往是不同模型跑在不同芯片上比如用NPU跑檢測(cè)、用GPU跑分割、用CPU跑分類而同源是同一份rknn模型在同一個(gè)系統(tǒng)里被多路任務(wù)共用NPU跑不過(guò)來(lái)的時(shí)候GPU兜底CPU再兜底并且這些推理請(qǐng)求由一個(gè)統(tǒng)一的調(diào)度器來(lái)分發(fā)。這里就有一個(gè)很多人會(huì)忽略的問(wèn)題RK3588的NPU雖然是6 TOPS算力但它不是無(wú)限并行的。NPU內(nèi)部有3個(gè)核心Core官方文檔里寫的“3 TOPs per core”但在實(shí)際使用中3個(gè)核心不是隨便就能同時(shí)被不同進(jìn)程打滿的尤其是用了RKNN Toolkit生成的模型默認(rèn)情況下一個(gè)應(yīng)用只會(huì)占用一個(gè)NPU core。如果同時(shí)跑多路YOLOv8檢測(cè)NPU core 0可能已經(jīng)100%滿載core 1和core 2還在閑著但你的代碼就是沒(méi)讓它們干活。這時(shí)候同源多任務(wù)調(diào)度要解決的第一個(gè)問(wèn)題就是怎么把模型的一路推理請(qǐng)求分發(fā)到不同的NPU核心上并讓它們真正并發(fā)執(zhí)行。我在開發(fā)板上做過(guò)一次很直接的對(duì)比同一份yolov8s.rknn用單核連續(xù)跑4路RTSP視頻流每路畫面對(duì)應(yīng)一個(gè)獨(dú)立線程結(jié)果NPU占用率直接頂?shù)?00%GPU和CPU幾乎沒(méi)參與平均每幀推理耗時(shí)從16ms飆到45ms視頻開始卡頓改成同源調(diào)度把4路推理請(qǐng)求通過(guò)調(diào)度器拆到NPU雙核 GPUCPU做預(yù)處理兜底同樣4路視頻流每幀推理耗時(shí)穩(wěn)定在20ms左右雖然單幀沒(méi)有單核單路那么快但整機(jī)吞吐量高了一倍以上。這就是我寫這篇文章的起因。這篇文章面向的是已經(jīng)跑通過(guò)RK3588基礎(chǔ)環(huán)境、準(zhǔn)備做多路視覺(jué)任務(wù)的開發(fā)者或者正在為“模型在開發(fā)板上跑得太慢”“多路視頻流一來(lái)就掉幀”頭疼的朋友。我會(huì)把同源多任務(wù)調(diào)度的完整思路、調(diào)度器設(shè)計(jì)、以及我在RK3588上實(shí)測(cè)的數(shù)據(jù)和踩過(guò)的坑都整理出來(lái)重點(diǎn)講清楚三個(gè)問(wèn)題為什么同源能提高整體吞吐調(diào)度器的優(yōu)先級(jí)和隊(duì)列怎么設(shè)計(jì)以及雙核NPU并發(fā)和GPU接入時(shí)最容易被忽略的坑。2. 先把四路算力盤清楚NPU雙核、GPU與CPU的實(shí)際承擔(dān)角色在寫調(diào)度代碼之前必須先把RK3588的算力資源摸清楚。我見過(guò)不少人犯同一個(gè)錯(cuò)誤把所有AI推理全部丟給NPU然后把NPU跑滿之后剩下的活兒丟給CPUGPU完全閑置。這樣不算調(diào)度只能叫“讓NPU硬扛”。2.1 RK3588算力架構(gòu)里真正能跑模型的單元有哪些RK3588的關(guān)鍵算力單元是這幾塊6 TOPS NPU3核單核約2 TOPSMali-G610 MP4 GPU4核支持部分通用計(jì)算但生態(tài)不如NPU成熟4個(gè)Cortex-A76大核 4個(gè)Cortex-A55小核2個(gè)RGA圖像處理加速單元可以做縮放、格式轉(zhuǎn)換、鏡像等這里要特別說(shuō)明一下RGA。它不是跑AI模型的但它承擔(dān)了預(yù)處理圖像resize、crop、顏色空間轉(zhuǎn)換這些臟活。我們做視覺(jué)任務(wù)時(shí)模型輸入往往是640x640或320x320而攝像頭輸入是1920x1080或2688x1520如果不經(jīng)過(guò)RGA直接用CPU做resizeCPU占用率會(huì)高得離譜。同源多任務(wù)調(diào)度中我把RGA當(dāng)作獨(dú)立的“第5路算力”來(lái)規(guī)劃它不參與推理但參與整個(gè)pipeline調(diào)度器必須給RGA任務(wù)預(yù)留帶寬。GPU在RK3588上跑AI模型的選擇不多。RKNN Toolkit生成的模型可以直接跑NPU但GPU推理需要走OpenCL。我實(shí)測(cè)過(guò)用GPU跑yolov8s的rknn轉(zhuǎn)onnx再轉(zhuǎn)OpenCL的方案單幀推理時(shí)延大概在35~50ms比NPU單核16~25ms慢不少但在NPU滿載時(shí)GPU可以作為次級(jí)執(zhí)行端把積壓的任務(wù)消化掉。這里要提醒一點(diǎn)GPU在RK3588上和顯示共用一套資源如果上面還跑著QT界面或HDMI輸出GPU做AI推理會(huì)拖累顯示性能所以在調(diào)度器里GPU執(zhí)行端的優(yōu)先級(jí)必須低于NPU并且要設(shè)置任務(wù)超時(shí)。CPU的A76大核就更好理解了。RKNN推理在CPU模式下其實(shí)不是直接跑模型而是用RKNN的模擬層去執(zhí)行速度很慢我實(shí)測(cè)yolov8s在A76上單幀推理要150~250ms基本只能做兜底。但CPU在調(diào)度器里的角色不止推理它還負(fù)責(zé)視頻解碼、圖像預(yù)處理、調(diào)度邏輯、以及部分后處理比如NMS、目標(biāo)跟蹤關(guān)聯(lián)。所以調(diào)度器給CPU分配任務(wù)時(shí)要區(qū)分“推理任務(wù)”和“非推理任務(wù)”。2.2 算力分工的指導(dǎo)原則慢設(shè)備不能拖垮快設(shè)備設(shè)計(jì)調(diào)度器之前我給自己定了一條原則每一類任務(wù)都有一個(gè)“主執(zhí)行端”和一個(gè)“備執(zhí)行端”主執(zhí)行端跑不過(guò)來(lái)時(shí)才降級(jí)到備執(zhí)行端。這就像一條高速公路NPU是主車道GPU是應(yīng)急車道CPU是輔路不能一上來(lái)就把所有車都堵在輔路上。我的分配策略如下任務(wù)類型主執(zhí)行端備執(zhí)行端適用場(chǎng)景YOLOv5s/v8s檢測(cè)NPU Core 0/1GPU / CPU多路RTSP實(shí)時(shí)檢測(cè)輕量分類模型小于20MBNPU Core 2CPU A76人體屬性、車輛顏色圖像縮放/格式轉(zhuǎn)換RGACPU NEON所有視頻幀預(yù)處理后處理NMS/跟蹤C(jī)PU A76CPU A55所有檢測(cè)結(jié)果過(guò)濾分割類模型GPUOpenCLNPU Core 2慢速場(chǎng)景不要求實(shí)時(shí)我一再?gòu)?qiáng)調(diào)“同源”就是因?yàn)橥粋€(gè)模型在NPU、GPU、CPU上都有一份執(zhí)行上下文調(diào)度器才能在這三者之間自由切換任務(wù)。如果模型只部署到NPU那GPU和CPU根本沒(méi)資格接任務(wù)說(shuō)什么調(diào)度都是空話。3. 一個(gè)真正能跑起來(lái)的同源調(diào)度器請(qǐng)求隊(duì)列、優(yōu)先級(jí)與線程池我最初想得很簡(jiǎn)單寫一個(gè)全局任務(wù)隊(duì)列NPU空閑就丟給NPUGPU空閑就丟給GPU。但跑起來(lái)之后發(fā)現(xiàn)判斷“空閑”本身就很困難而且RKNN推理是阻塞式API一個(gè)線程在調(diào)用rknn_run的時(shí)候其他線程看不到它的“忙閑”狀態(tài)只能通過(guò)互斥鎖硬等。這會(huì)導(dǎo)致一個(gè)嚴(yán)重問(wèn)題一個(gè)線程在NPU上跑推理時(shí)另一個(gè)線程即使想用NPU的另一個(gè)核也被同一把鎖擋住了。3.1 RLS調(diào)度器的核心設(shè)計(jì)后來(lái)我設(shè)計(jì)了一個(gè)輕量級(jí)的RLSRequest-Level Scheduler模塊它不修改RKNN底層驅(qū)動(dòng)只在應(yīng)用層做請(qǐng)求分發(fā)。核心數(shù)據(jù)結(jié)構(gòu)是這樣typedef struct rk_aiot_request { uint32_t req_id; // 請(qǐng)求ID自增 const char *model_name; // 模型標(biāo)識(shí)同源模型共用 int task_type; // 0detect 1classify 2segment int priority; // 0最高3最低 uint64_t arrival_ts; // 請(qǐng)求到達(dá)時(shí)間 uint64_t deadline_us; // 期望完成的時(shí)間上限 int exec_target; // 分配結(jié)果0NPU0 1NPU1 2GPU 3CPU void *input_data; // 輸入幀指針 void *private_ctx; // 模型上下文指針 struct rk_aiot_request *next; } rk_aiot_request_t;每個(gè)請(qǐng)求從視頻流線程進(jìn)來(lái)之后先進(jìn)入全局請(qǐng)求隊(duì)列調(diào)度線程每隔5ms做一次批量分發(fā)。這里的優(yōu)化點(diǎn)是批量分發(fā)比逐個(gè)分發(fā)吞吐高得多。我實(shí)測(cè)過(guò)調(diào)度線程每5ms輪詢一次4路視頻流ping-pong式發(fā)請(qǐng)求比每來(lái)一幀就立刻調(diào)度一次CPU占用率降低了12%因?yàn)闇p少了線程切換和鎖競(jìng)爭(zhēng)。分發(fā)邏輯不復(fù)雜但優(yōu)先級(jí)策略值得展開說(shuō)priority 0人機(jī)交互類比如觸摸屏點(diǎn)擊框選目標(biāo)必須立刻響應(yīng)直接插隊(duì)到NPU Core 0。priority 1實(shí)時(shí)檢測(cè)類比如視頻流里的入侵檢測(cè)要求幀率大于15fps分配到當(dāng)前負(fù)載最低的執(zhí)行端。priority 2上報(bào)類比如每隔幾秒做一次車流統(tǒng)計(jì)不要求實(shí)時(shí)放到低優(yōu)先級(jí)隊(duì)列等NPU或GPU閑下來(lái)再執(zhí)行。priority 3后臺(tái)離線分析比如抓拍圖片入庫(kù)前的屬性分析直接放到CPU A55執(zhí)行幾乎不影響主流程。3.2 任務(wù)動(dòng)態(tài)分發(fā)其實(shí)最難的是“下次別走錯(cuò)門”分發(fā)到哪個(gè)執(zhí)行端不能只看當(dāng)前負(fù)載還得看“上一次這個(gè)模型在哪個(gè)端執(zhí)行”。這里面有個(gè)性能陷阱RKNN模型上下文在NPU上需要8~30ms的初始化時(shí)間但上下文建好之后同一份上下文的重復(fù)推理非???。如果你的調(diào)度器每次都把一個(gè)任務(wù)分發(fā)到不同的執(zhí)行端那就等于每次都要重新做上下文初始化性能不升反降。所以我在調(diào)度器里加了親和性策略每個(gè)模型維護(hù)一個(gè)“最近執(zhí)行端”的字段新請(qǐng)求到達(dá)時(shí)優(yōu)先嘗試最近執(zhí)行端只有當(dāng)最近執(zhí)行端的待處理隊(duì)列超過(guò)閾值比如隊(duì)列里積壓了超過(guò)3個(gè)請(qǐng)求才把新請(qǐng)求分發(fā)給其他執(zhí)行端。這就好像一個(gè)人干活手里的活兒沒(méi)堆積完就別打斷他換了別人來(lái)又要重新熟悉工具。我在4路視頻流上實(shí)測(cè)時(shí)這個(gè)親和性策略對(duì)吞吐的貢獻(xiàn)非常大。沒(méi)有親和性時(shí)系統(tǒng)每秒鐘能處理約20幀4路每路5fps加上親和性每秒能處理28~32幀。原因就是上下文初始化的開銷被攤薄了NPU執(zhí)行端大部分時(shí)間在做純推理而不是重建上下文。4. 雙核NPU并發(fā)與RKNN異步標(biāo)志跑yolov8實(shí)測(cè)的數(shù)據(jù)變化要說(shuō)RK3588同源多任務(wù)調(diào)度里最核心的實(shí)戰(zhàn)環(huán)節(jié)就是把同一份yolov8模型加載到NPU的兩個(gè)核上并發(fā)執(zhí)行。RKNN官方SDK從RKNN Toolkit 1.6開始支持NPU Core的分配控制很多人不知道這個(gè)特性把兩個(gè)NPU核當(dāng)成一顆用等于浪費(fèi)了一半算力。4.1 RKNN_FLAG_ASYNC_MASK 與 zero-copy 的配合加載模型時(shí)需要設(shè)置RKNN的flag和核心掩碼。下面是我在C環(huán)境里用的關(guān)鍵配置// 創(chuàng)建RKNN上下文 rknn_context ctx_npu0; rknn_context ctx_npu1; // 分別加載同一份rknn模型到兩個(gè)上下文 rknn_init(ctx_npu0, model_data, model_size, RKNN_FLAG_ASYNC_MASK, nullptr); rknn_init(ctx_npu1, model_data, model_size, RKNN_FLAG_ASYNC_MASK, nullptr); // 通過(guò)set_core_mask把這兩個(gè)上下文綁定到不同NPU核 uint32_t core_mask_0 1; // core 0 uint32_t core_mask_1 2; // core 1 rknn_set_core_mask(ctx_npu0, core_mask_0); rknn_set_core_mask(ctx_npu1, core_mask_1); // 推理時(shí)使用異步標(biāo)志 rknn_run(ctx_npu0, inputs, outputs, RKNN_FLAG_ASYNC_MASK); // 同步等待結(jié)果 rknn_wait(ctx_npu0, outputs);注意這里有個(gè)大坑rknn_init同一個(gè)模型文件兩次等于在NPU上創(chuàng)建了兩份權(quán)重副本。如果你的模型文件是80MB兩份就是160MBDDR要能扛得住。yolov8s的rknn模型大約40~50MB兩份大概100MB對(duì)RK3588的8GB內(nèi)存版本沒(méi)問(wèn)題但4GB版本就會(huì)緊張。后面我會(huì)單獨(dú)講權(quán)重復(fù)用的問(wèn)題。4.2 yolov8s在四種執(zhí)行模式下的實(shí)測(cè)數(shù)據(jù)我使用baseline rknn的yolov8s模型輸入640x640做4路RTSP視頻流的人體檢測(cè)對(duì)比了四種執(zhí)行方案。這里把實(shí)測(cè)數(shù)據(jù)放出來(lái)執(zhí)行方案平均單幀推理耗時(shí)4路總幀率NPU占用率整機(jī)CPU占用率備注單上下文單核串行42ms約10fpscore0 100%35%最容易寫的代碼但掉幀嚴(yán)重雙上下文雙核無(wú)調(diào)度器26ms約15fpscore0/core1各60~70%48%提升明顯但有任務(wù)積壓雙上下文雙核調(diào)度器20ms約20fpscore0/core1各75%41%調(diào)度器把負(fù)載壓得非常平雙核NPU GPU兜底18ms約24fpscore0/core1各80%GPU 30%52%整體吞吐最高但功耗也最高需要說(shuō)明這里的“平均單幀推理耗時(shí)”是4路視頻流里的平均單幀延遲不是單路獨(dú)占時(shí)的推理延遲。單路獨(dú)占時(shí)yolov8s在RK3588 NPU上大約16~18ms這個(gè)大家應(yīng)該都比較熟悉。從數(shù)據(jù)能看出雙核并發(fā)不是簡(jiǎn)單地把單核翻倍因?yàn)檫€有輸入排隊(duì)、內(nèi)存拷貝、后處理這些開銷。再加上調(diào)度器之后收益的一部分來(lái)自負(fù)載均衡另一部分來(lái)自親和性策略減少了上下文切換。GPU兜底帶來(lái)的吞吐提升只多了4fps但CPU占用率直接從41%漲到52%因?yàn)镺penCL路徑需要CPU做大量?jī)?nèi)存搬運(yùn)。于是我在實(shí)際部署時(shí)默認(rèn)關(guān)掉GPU兜底只在NPU過(guò)載時(shí)動(dòng)態(tài)開啟。4.3 一個(gè)容易誤判的現(xiàn)象異步標(biāo)志不是開了就“真異步”RKNN的RKNN_FLAG_ASYNC_MASK這個(gè)標(biāo)志名字里有“ASYNC”但我用了很久才摸清它的脾氣。它解決的不是“調(diào)用線程不阻塞”而是“NPU執(zhí)行過(guò)程中CPU可以繼續(xù)做別的事”。如果你在rknn_run之后立刻調(diào)用rknn_wait那其實(shí)和同步執(zhí)行沒(méi)區(qū)別CPU還是會(huì)等著。真正的異步用法是發(fā)起rknn_run之后CPU馬上去處理上一批已經(jīng)完成的推理結(jié)果然后再回來(lái)rknn_wait當(dāng)前這一批。我在調(diào)度器里把這種“流水線”思路落實(shí)成三塊緩沖區(qū)緩沖A正在NPU上推理緩沖B正在做后處理緩沖C正在被視頻流線程填充輸入數(shù)據(jù)。三個(gè)區(qū)互不重疊CPU、NPU、解碼器才能并行起來(lái)。這也是我覺(jué)得“同源多任務(wù)調(diào)度”里最有工程價(jià)值的部分不是調(diào)度器本身多復(fù)雜而是它把RK3588的每個(gè)算力單元都當(dāng)成一個(gè)獨(dú)立的流水線級(jí)來(lái)用同一份模型在算力鏈路上從頭到尾沒(méi)有真正的空閑等待。5. 上下文復(fù)用時(shí)最容易踩的坑權(quán)重拷貝、NPU句柄與CPU線程綁定這部分是實(shí)打?qū)嵉慕?jīng)驗(yàn)匯總。同源多任務(wù)調(diào)度最大的優(yōu)勢(shì)是“同一份模型多端復(fù)用”但也正因?yàn)閺?fù)用會(huì)踩到一些單模型部署時(shí)永遠(yuǎn)不會(huì)出現(xiàn)的問(wèn)題。5.1 兩次rknn_init等于雙倍權(quán)重拷貝4GB板子怎么辦如果你的開發(fā)板內(nèi)存是4GB版本一定要謹(jǐn)慎使用“創(chuàng)建兩套上下文”的方式。我在8GB板子上做雙核NPU并發(fā)沒(méi)覺(jué)得內(nèi)存緊張后來(lái)?yè)Q到4GB板子測(cè)試一個(gè)yolov8s.rknn加載兩份系統(tǒng)可用內(nèi)存直接從900MB掉到300MB再疊加4路視頻流的緩沖直接觸發(fā)OOM進(jìn)程被殺掉重啟。解決這個(gè)問(wèn)題有兩個(gè)方向。第一個(gè)方向是改用RKNN Toolkit Framework的Zero-Copy功能讓兩個(gè)上下文盡可能共享模型權(quán)重段但RKNN底層對(duì)零拷貝的支持和模型結(jié)構(gòu)相關(guān)不是所有模型都能吃到紅利。第二個(gè)方向更通用4GB板子上不要做“兩份NPU上下文”改成一個(gè)上下文調(diào)度器強(qiáng)制串行另一個(gè)模型跑GPU或CPU。實(shí)驗(yàn)數(shù)據(jù)告訴我4GB板子上雙NPU并發(fā)的內(nèi)存壓力遠(yuǎn)大于吞吐收益不如混合執(zhí)行端方案劃算。5.2 npu句柄的線程安全問(wèn)題別跨線程亂調(diào)rknn_apiRKNN官方文檔不太強(qiáng)調(diào)這件事但我把血淚史寫在這里同一個(gè)rknn_context的rknn_run和rknn_wait不能在不同的線程里并發(fā)調(diào)用。我最初想用“一個(gè)線程把輸入丟進(jìn)rknn_run另一個(gè)線程立刻rknn_wait”的方式提高吞吐結(jié)果跑了一個(gè)多小時(shí)系統(tǒng)隨機(jī)報(bào)RKNN_ERR_PARAM_INVALID有時(shí)候直接段錯(cuò)誤。后來(lái)查了SDK源碼才發(fā)現(xiàn)rknn_context內(nèi)部的命令緩沖區(qū)不是線程安全的。正確做法是每個(gè)執(zhí)行上下文綁定一個(gè)專屬工作線程比如NPU0上下文只被線程A調(diào)用NPU1上下文只被線程B調(diào)用調(diào)度器通過(guò)隊(duì)列把請(qǐng)求投遞給對(duì)應(yīng)線程而不是直接跨線程調(diào)API。這樣一來(lái)RKNN調(diào)用全部單線程化吞吐靠多個(gè)執(zhí)行端并行撐起來(lái)而不是靠單執(zhí)行端內(nèi)多線程并發(fā)。5.3 CPU側(cè)的線程綁核實(shí)時(shí)性提升比想象中大我在跑調(diào)度器時(shí)把后處理線程綁到A76大核CPU 4~7把視頻解碼線程綁到A55小核CPU 0~3這樣大核不會(huì)被解碼中斷打攪小核也不會(huì)因?yàn)榕芎筇幚矶D。用pthread_setaffinity_np做綁核代碼很簡(jiǎn)單cpu_set_t cpuset; CPU_ZERO(cpuset); CPU_SET(4, cpuset); // 綁定到CPU4A76大核 pthread_setaffinity_np(pthread_self(), sizeof(cpuset), cpuset);實(shí)測(cè)效果調(diào)度線程的響應(yīng)波動(dòng)從±8ms下降到±2ms。這個(gè)優(yōu)化其實(shí)不復(fù)雜但在多任務(wù)調(diào)度系統(tǒng)里特別管用因?yàn)檎{(diào)度器如果自身抖動(dòng)過(guò)大后面所有執(zhí)行端的負(fù)載估計(jì)都會(huì)失真。6. 路由策略與內(nèi)存占用同源多任務(wù)比“一模型一進(jìn)程”到底省在哪最后聊一個(gè)很多人忽略的問(wèn)題既然多任務(wù)調(diào)度這么麻煩我能不能簡(jiǎn)單粗暴一點(diǎn)每路視頻流起一個(gè)獨(dú)立進(jìn)程每個(gè)進(jìn)程獨(dú)立加載一份模型互不干擾答案是可以但代價(jià)非常大。我做過(guò)對(duì)比測(cè)試4路視頻流每路一個(gè)進(jìn)程每個(gè)進(jìn)程各加載一份yolov8s.rknn總內(nèi)存占用從單進(jìn)程調(diào)度方案的約650MB漲到約1.6GB。多出來(lái)的這1GB就是四個(gè)進(jìn)程各自持有的模型權(quán)重、RKNN內(nèi)部緩沖區(qū)、以及重復(fù)的預(yù)處理中間結(jié)果。在同源多任務(wù)調(diào)度方案里模型權(quán)重只保留一份公共副本各路任務(wù)通過(guò)調(diào)度器共享同一份模型上下文只有輸入輸出緩沖區(qū)和后處理結(jié)果是各自獨(dú)立的。這在大內(nèi)存場(chǎng)景下不算致命但在邊緣設(shè)備上內(nèi)存每多出1GB就意味著散熱、功耗、穩(wěn)定性全面受影響。調(diào)度器的路由時(shí)機(jī)也非常重要。我的原則是調(diào)度決策要在預(yù)處理之前而不是推理之前。幀從攝像頭抓進(jìn)來(lái)后先根據(jù)當(dāng)前各執(zhí)行端的負(fù)載決定這幀交給NPU、GPU還是CPU然后再做對(duì)應(yīng)的輸入格式轉(zhuǎn)換。如果等預(yù)處理完再?zèng)Q定一旦發(fā)現(xiàn)NPU忙要轉(zhuǎn)給GPU就得重新做一次格式轉(zhuǎn)換白費(fèi)功夫。這個(gè)細(xì)節(jié)讓我的整體pipeline延遲降了約3ms/幀。再補(bǔ)充一個(gè)我自己覺(jué)得很有用的收尾技巧把調(diào)度器的狀態(tài)導(dǎo)出來(lái)通過(guò)串口或者日志定期打印一張“各執(zhí)行端任務(wù)分布圖”包含每個(gè)端已經(jīng)處理的總請(qǐng)求數(shù)、當(dāng)前隊(duì)列積壓數(shù)、平均處理時(shí)延。初期調(diào)優(yōu)時(shí)我在RK3588上同時(shí)跑兩路模型任務(wù)一張4路視頻流的調(diào)度拓?fù)鋱D就能很快看出哪一路在偷懶、哪一路過(guò)載。這類診斷信息用RKNN自己的profiler很難直接拿到因?yàn)閜rofiler只關(guān)注單模型的NPU執(zhí)行細(xì)節(jié)不管應(yīng)用層的請(qǐng)求分發(fā)。7. 關(guān)于RK3588調(diào)試流程和固件版本的一些提醒調(diào)度器寫完能不能跑其實(shí)還取決于你板子上的環(huán)境和固件。我調(diào)試RK3588的過(guò)程中遇到過(guò)幾次特別困惑的事代碼沒(méi)問(wèn)題但NPU推理結(jié)果一直不對(duì)后來(lái)發(fā)現(xiàn)是固件里的NPU驅(qū)動(dòng)版本太老和RKNN Toolkit生成的模型版本不匹配。這類問(wèn)題很難靠看日志定位因?yàn)楦骷议_發(fā)板的系統(tǒng)鏡像版本五花八門有時(shí)候同一個(gè)RKNN版本在不同板子上表現(xiàn)都不一樣。我現(xiàn)在的做法是上車第一件事先確認(rèn)四樣?xùn)|西NPU驅(qū)動(dòng)版本dmesg | grep rknpu或者直接cat /sys/kernel/debug/rknpu/versionRKNN Toolkit版本跟模型轉(zhuǎn)換環(huán)境嚴(yán)格對(duì)應(yīng)不要在PC上用了新版轉(zhuǎn)換板子上還跑老版runtime系統(tǒng)鏡像版本強(qiáng)烈建議用開發(fā)板廠商提供的最新官方固件自己裁剪的內(nèi)核有時(shí)會(huì)把RKNPU的dts節(jié)點(diǎn)配置錯(cuò)內(nèi)存帶寬壓力跑業(yè)務(wù)時(shí)用perf或top盯著CPU使用率如果整機(jī)CPU一直處于80%以上先查是不是解碼和RGA擠占了NPU的DDR帶寬電源也是個(gè)大坑。RK3588在NPU滿載GPU滿載4路視頻解碼同時(shí)工作時(shí)功耗上得很快。我用的開發(fā)板在12V 2A供電下整機(jī)高負(fù)載跑10分鐘就會(huì)觸發(fā)降頻NPU頻率從1.0GHz掉到0.7GHz推理時(shí)延大幅增加。后來(lái)?yè)Q成12V 3A電源穩(wěn)態(tài)功耗才穩(wěn)住。電源不足導(dǎo)致的“假性卡頓”容易被誤判成調(diào)度器問(wèn)題排查時(shí)要先排除。從我的經(jīng)驗(yàn)看RK3588作為一塊邊緣AI開發(fā)板性能和靈活性在同類設(shè)備里是第一梯隊(duì)。但“算力”和“實(shí)際能用的算力”之間隔著系統(tǒng)、驅(qū)動(dòng)、調(diào)度器、內(nèi)存管理這一堆工程問(wèn)題。同源多任務(wù)調(diào)度不是銀彈它解決的是多路任務(wù)共享同一份模型資源時(shí)的調(diào)度效率問(wèn)題如果你的業(yè)務(wù)只有一路視頻流老老實(shí)實(shí)單核NPU跑就是最優(yōu)解。但只要有超過(guò)兩路的視覺(jué)任務(wù)進(jìn)來(lái)這個(gè)調(diào)度器思路的價(jià)值就會(huì)立刻體現(xiàn)出來(lái)。希望這篇文章能幫你少走我之前走過(guò)的彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色狠狠伊人久久五月丁香| 亚洲成人网站在线播放| 嫩草AV久久伊人妇女超级A| www.五月婷婷久久.com| 9视频在线成人网站| 婷婷激情小说| 99久久成人| 91丨九色丨43老版熟女| 中文AV在线观看| 色欲天天综合| 少妇AB又爽又紧无码网站| 色久在| 天天肏天天肏| 激情综合一| 深爱 五月天| 影院久久久| 五月色天五月色| 色色色五月| www夜夜操com| 91超级碰| 伊人婷婷综合| 九九性爱网| 99综合| 可以看的av| 五月婷婷综合社区| 99热这里只有精品在线观看| 久热 91| 97av在线视频| 91九色超碰| 九月丁香五月婷婷| 五月婷婷网久久| 久久99婷婷| 99久久婷婷国产综合精品电影| 婷婷爱五月天人人爱| 久久婷婷五月综合精品蜜芽| 青青久在线视频免费观看| 久热a| 69精品人人人人| 深爱激情五月天| 六月久久婷婷| 婷婷丁香基地在线| 思思久久精品视频| 99丁香五月婷| www.99热在线观看| 97丁香五月| 91在线观看九区| 99色视频| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 丁香婷婷五月| 六月激情婷婷| 九九热最新| 秋霞网在线观看理论91| 九色视频91| 丁香六月激情综合网| 丰满少妇乱A片无码| 婷婷五月色情天| 婷婷五月天久久| 成人欧美Va| 婷婷丁香日韩五月| 久9热| 丁香五月亚洲激情婷婷射| 国产婷婷婷| 婷婷五月婷婷| 激情丁香五月| 不卡成人免费| 人妻精品久久久久久| 九九99精品免费播放| 婷婷噜噜| 色婷婷激情小说网| 一级性感毛片| 99久久婷婷| 色婷婷九月综合| 天堂爱啪啪| 五月色综合| 五月成人天| 九九国产视频| 色婷婷五月天偷拍| 婷婷五月丁香性爱| AAA级久久久精品| www..999热久| 天天婷婷| 91热在线| 激情综合网五月| www久久99com| 99碰超| 五月天色丁香| 色日本五月天| 天天操天天日天天操| 久久婷婷五月综合| 伊人久热91| 成人av中文字幕| 91色在线/日韩| 少妇人妻偷人精品无码视频新浪| 丰满熟女人妻一区二区三| 丁香五月天啪啪| 色色草97| 色5月婷婷| 五月婷婷AV| 激情丁香网| 亚洲五月天色| 99综合| 久久aaaaa| 97精品在线| 色综合天天天天做夜夜| 狠狠狠狠操| 亚州综合色| 五月婷婷色情| 成人综合伍月天| 丁香五月视频在线观看| 婷婷六月丁香在线| 99玖玖人人| 婷婷综合中文| 五月丁香影院| 色色激情| .操區COm| 99色.com| 成人午夜天| 五月亭亭开心网| 久久婷婷五月天激情唯美| 婷婷激情肏屄网| 91国产精品视频播放| 国产精品成人在线| 人妻AV在线| 日本91在线| 色噜噜狠狠色综无码久久合欧美| 色婷婷久久| 日本五月天一页| 99在线er热| 精品色情一区二区三区四区| 婷婷综合激情| 欧洲MV日韩MV国产| 噜噜狠狠| 激情综合网五月丁香| www.色五月| 四川操逼站| 99久热在线精品| 色色五月婷婷丁香| 九九无码| 日本三级日本三级99| 韩国中文字幕91| 国产AV影片| 无码免费人妻A片AAA毛片西瓜 | 丁香婷婷六月激情文学| 婷婷五月天AV| 2050人人操免费工开爱| 97色在线观看视频| 五月天天天色| 99热6这里只有精品| 超PEN精品在线| 一起草Av| 久热精品视频| 国产偷人爽久久久久久老妇APP | 91大操| 色五月婷婷中文字幕在线观看 | 99精品网址| 狠狠色狠狠爱| 久久成人人妻| 日本色图综合| 色碰干| 五月婷婷新网站| 丁香婷婷色五月合集| 97久久超碰| 国产精品人成A片一区二区| 国产乱人偷精品人妻A片| 日韩不卡DvD| 精品人妻久久久久| 亚洲色99综合天堂| 激情婷婷综合| 婷婷天堂综合| 大香蕉精品视频| 九九热精品| 综合久久五| 操笔无码| 三人荫蒂添的好舒服A片| 国产乱码久久| 超碰av在线| 丁香五月 性爱| 亚洲精品欧洲精品| 大香蕉视频99| 成人网站av免费网站推荐| 六月婷婷色| 五月婷婷深深爱| 色婷五月天| 天天综合色| 五月丁香综合啪啪| WWW.桔色成人.COM| 九色在线五月婷婷网址| 日韩国产在线免费观看| 婷婷大乡焦噜噜| 九九人人看| 亚州综合色| 婷婷五月色播网| 99热只有精品在线观看| 五月婷婷婷| 五月天天天色| 五月综合激情图片| 丁香六月中文| 五月婷亚洲精品| www,超碰| 综合欧美五月婷婷| 掩去也综合五月视频| 久久伊人9| 六月丁香婷| 婷婷综合网站| 久色婷婷200| 99热婷婷| 五月天婷婷激情六月久久| 大香蕉久久久久| 婷婷天堂综合| 亚洲婷婷免费| 中文字幕有多少字| 五月婷婷人人人操| 五月天天丁香婷婷在线中| 五月婷六月天| 激情丁香五月婷婷| 五月天婷婷激情| 亚洲正能量欧美| 色色丁香色五月| 五月婷婷新网站| 99免费在线| 婷婷射丁香| 亚洲精品国产setv| 日本一級黃色一級片| 人妻免费网站| 色五月网址| 9久热这里只有精品| 第五色色色婷婷| 亚洲综合五月天婷婷丁香| www.色婷婷| 99综合熟女| 色五月首页| 999影院成人在线影院| 色婷婷激情| 51精品国自产在线| 97干婷婷| xxx综合在线| 丁香五月开心五月激情| 国产真实乱了老女人视频| 五月婷婷狠狠干| a网站免费观看| 天天综合天天玩夜夜玩天天玩夜夜玩 | 九色PORNY自拍成人精彩视频| 亚洲激情另类| 天天肏在线观看| 婷婷五月天777| 人妻久久人妻久久第一区| 伊人久久婷婷| 久久综合五月天| www.婷婷五月| 色婷婷精| 婷婷五月天成人网站| 超碰av在线| 91在线日| WWW久久久| 91久久九色| 婷婷五月黄色激情在线| 99热免费| PORNY九色9l自拍视频成人| 色五月天视频| 在线综合亚洲欧美65| 丁香激情合作五月| 欧美性生交A片免费看| 伊人网欧美在线男人天堂五月丁香 | 大香蕉九九| 丁香五月婷婷激情小说| 久久精品这里只有精品免费首页| 久99热在线观看| 五月天.com| 国产午夜一区二区三区| 99热在线精品播放| 91碰碰视频| av在线免费播放观看| 婷婷久久婷婷色五月| 久久9久久| 五月天色色网站| 日本在线视频播放91| Av狠狠色丁香婷| av在线免费播放| 天天射夜夜骑| 丁香六月婷婷社区| 在线观看亚洲视频影院| 大香蕉久久综合网| 激情五月综合ì香亚洲| 欧美一级色| 夜夜爱伊人| 91.com男女操| 人妻av在线| 天天插天天日| 九九视频精品视频精品| 亚洲人成网站999久久久综合| 精品久久66| 99热亚洲只有色| 亚洲 无码 中文字幕 中出| 丁香五月天成人| 99热国产在线| 婷婷六月视频| 99综合网| 六月丁香婷婷视频综合在线观看| 国产成人精品亚洲线观看| 五月丁香六月婷精品视频| 青青久在线视频免费观看| 99精品久久| 日本综合色图| 国产日韩亚洲欧美在线观看| 99热在线精品播放| 国产99久久久国产精品免费看| 丁香五月激情六月| 97成人在线视频精品| 99九无网码| 久久人操-久草婷婷-成人AV| 色播激情五月天| 色和综合网| 激情五月婷婷欧美极品| 激情五月最新网址| 免费精品99| 特黄三级片| 婷婷大香蕉| 另类五月婷婷| 久久久99精品免费观看| 五月激情综合美女久久| 在线观看亚洲AV| 91chinese在线| 人妻av在线| 色五月婷婷综合| 九九激情网| 久久人妻视频| 97色色综合| 国产91视频| 国色天香成人网| 99精品福利视频| 国产黄色大片| 天天插天天干| 开心婷婷丁香五月| 午夜丁香六月婷| 亚洲国产精品二二三三区| 操人妻视频91| 久久丁香五月婷婷激情综合网| 五月婷在线| 99热99热不卡| 丁香久久久| 欧美大肥婆大肥BBBBB| 九九热99热| 亚洲久热| 激情五月丁香色色去久久| 激情网五月天| 国产性爱一级| 婷婷色爱| 六月亚洲| 夜夜 操无码| 97色色色| 六月丁AV| 五月色亭丁香| 欧美 色婷婷| 欧美成人五月天| 五月五月婷婷| 色碰碰视频| 九色色| 婷婷久久五月天| 热久久这里只有三级视频| 思思热精品在线| 嫩草乱码一区三区四区| 天天摸日日舔狠狠添婷婷婷| 激情丁香久久| 色五月激情网| 五月天婷婷影院影院观看| 色婷五月婷婷| 丁香五月97视频| 操日视频| xxx综合在线| 大香伊人婷婷| 精品热九九| 五月丁香激情综合| 六月婷婷激情| 五月婷婷丁香大陆免费| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 丰满老熟妇BBBBB搡BBB| 高清无码入口| 99久久激情视频| 超碰不卡在线| 国产古装妇女野外A片| 色噜噜狠狠色综合成人99| 骚货艹网站视频| www.91.com黄| 一本色道久久综合狠狠躁一二三| 中字幕视频在线永久在线观看免费| 丁香五月在线观看完整版| 久久中文人妻系列| 婷婷综合五月| 久青草大香蕉| 五月天婷婷影院| 色综合激情| 97色色色色色色色色色色色色色| 激情婷婷内射| 五月丁香六月色婷婷综合五月天| 日本啪啪天堂| 五月丁香久久网| 激情久久网| 少妇人妻人伦A片| 婷婷婷婷婷婷婷五月丁香| 激情五月婷婷| 丁香五月激情无码视频| 综合激情深爱| 精品无码99| 天天色天天噜| 九九热这里只有精品556| 成人欧美日韩| 超碰中文字幕在线| 苗黎美女四级成人版一级二级毛片| 欧美色色色色色色色色色色| 亚洲第一综合| 人人爱人人摸人人澡| 丁香五月激情澎湃一区| 五月丁香色婷基地综合久久| 亚洲碰碰碰| 亚洲综合另类| www.五月婷婷久久.com| 99久久9| 大香蕉丁香| 精品欧美一区二区三区久久久| 免费观看的av| 大香焦啪啪啪| 熟女国产在线一区二区三区四区| 18久久| 婷婷色色亚洲| 六月婷婷综合网2| 激情五月影院| 亚洲国产精品VA在线看黑人| 97日本操| 六月色婷婷综合影视| 日韩啪图| 婷婷五月天丁香综合网| www,超碰| AV电影在线播放| 婷婷色婷婷亚洲成人| www.婷婷网| 99自拍网| 99热免费精品| 久久黄A片| 丁香 婷婷五月| 五月深爱婷婷| 丁香五月综合在线观看| 久热超碰91| 久久五月激情综合| 日本婷婷五月天| 色激情五月| 91久操| 亚洲av综合网| 亚洲无AV在线中文字幕| www色色com| 婷婷丁香久久| 又大又粗九一在线| 色五月大| 5月婷婷综合| 色欲日日躁| 五月天堂婷婷| 丁香五月婷老师| www.黄色片-久久成人国产精品在线播放-999AV | 久久a热| 婷婷色在线| 精品一二三区久久AAA片| 97精品自拍| 五月丁香婷婷色| AⅤ网站在线看| 91一道本| 亚洲精品操一操、噜一噜、摸一摸、爽 | 五月天激情综合在线| 99精彩视频在线观看| 色婷婷婷婷五月天| 婷婷丁香六月| 青柠影视免费高清电视剧| 综久久久| 天堂爱啪啪| 久热这里只有精品在线观看| 婷婷五月天激情电影小说| 夜夜干天天干| 五月丁香综合在线| 99色综合网| 亚洲A片成人无码久久精品青桔| 人人草碰| 九九综合九九| 五月婷婷丁香综合网| 国产成人在线精品| 午夜]香婷婷深深爱| 六月丁香大香蕉| 国产67194| 婷婷玉月丁香五月在线视频| 色婷婷综合久久久久| 99操视频| 96色婷婷| 精品99爱免费视频在线观看| 婷婷色狠狠| 狠狠色噜噜狠狠狠888| 五月激情偷拍| 中文字幕1区2区。| 日本99热| 五月香婷婷| 91夫妻视频| 天天久综合网永久入口17v| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | 国产毛片精品一区二区色欲黄A片 极品人妻VIDEOSSS人妻 | 六月婷婷天天操夜夜爽视频| 久久这里99| 久久精品99| 涩涩激情五月婷婷| 色五月婷婷激情五月| 五月婷婷丁香综合| 激情综合区| 丁香8月手机综合| 一级片sese片.COM| 久久色这里只有精品| 五月婷婷色| 网色99| 狠狠干2007| 日韩欧美颜射| 99久久.www| 丁香婷婷六月婷婷六月婷婷六月婷婷| 婷婷丁香五月综合激情小说| 超碰人妻在线| 日韩欧美老妇性视频91久久久| 激情五月天噢美| 久久久久激情网| 伊综合蕉| 九九热在线视频,| 五月丁香综合网| 五月天婷婷综合色| 色久五月| 亚洲视频在线观看| 91成人看片| 99热这里只有精品96| 天天色亚洲| 任你爽精品免费视频6| 99精品视频在线| 99热免费观看| 五月婷婷高清| 啪啪黄页网| av在线观看网址| 丁香女人五月天| 天天天天天日| 婷婷五月超碰| 开心婷婷五月天激情网| 激情综合网激情五月俺也去| VA色婷婷| 99精品网站| 久久婷婷精品| 大香蕉99热| 色婷久久| 五月丁香亚州综合网| 精品九九在线观看视频| 综合色播| 日本在线视频播放91| 国产热精品| 人妻内射一区二区在线视频| 五月丁香天堂网婷婷| 婷婷激情九月| 9色操| 婷婷综合五月天激情| 99精品偷自拍| 久久只这里有精品| 色综合99无码 | 五月婷婷在线观看| 久久精品A片777777| 成人婷婷五月天| 精品国产乱码久久久久夜深人妻 | 性无码专区无码| 五月亚洲激情| 婷婷狠狠综合网入口| 立川无码av| 成人av免费观看| 久久婷婷五月综合成人d啪| 色色婷婷丁香五月天| AV色婷婷| 五月天婷婷无码| 亚洲精品在线视频| 久久九九综合| 8区视频在线| 丁香六月婷婷综合缴| 丁香六月婷婷综合啪啪| 91婷婷五月天嫩女| 大香蕉啪啪| 丁香五月综合网亚洲综合欧美狠狠| 996热| 亚洲 小说 欧美 激情 另类| 婷婷导航| 久热这里这里有精品| 中文字幕无码人妻少妇免费视频| 久久欧洲综合网| 伊人久久综合| 五月天激情图片| 无码G高清天| 婷婷五月色| 五月天激情久色| 中文成人在线| 人人爱人人添| 亚洲国产色婷婷| 99亚州综合精品成人网| 97se在线视频| 91人操| 婷婷五月天丁香社区| 综合视频久久| 免费婷婷| 蜜臀av粉嫩av懂色av| 啊V视频在线观看| 五月婷婷久久久| 91干| 五月婷视频| 99在线视频播放| 亚洲成人在线播放| 琪琪理论片| 欧美性爱专区| www.色五月| 婷婷五月天亚洲综合网| 久久久久久五月天| 色婷婷六月天| 色情性爱视频网址| 99ri6在线视频| 色亚洲激情| 激情亭亭五月| 婷婷在线视频| 久久人妻伊人| 激情小说五月丁香在线视频观看视频| 极品五月天| 99久久6| 色婷婷五月影视| 久99热| www.五月激情红色| www.久操| www.婷婷| 成人网站免费在线播放| 婷婷综合中文| 久久久五月婷婷| 99视频35精品视频在线观看| av婷婷六月丁香社区在线观看| 亚洲欧美999| 丁香色五月直播| 草草夜夜操| 婷婷六月丁| 久久综合网免费视频| www五月天com| ..真实国产乱子伦对白在线_欧 | 婷婷天天五月天| 久久久久人妻| 婷丁香五月天| 丁香五月婷婷六月婷婷| 在线观看亚洲AV| 极骚大香蕉伊人| 99综合视频| 五月天婷婷色播在线网| 久久狠婷婷| 99精品偷自拍| 玖玖婷婷五月| 丁香五月婷婷激情蜜桃| 丁六月激情| 久久丁香综合香蕉| 二色av| 狠狠人妻色综合| 综合激情网五月激情| 六月久久婷婷| 婷婷自拍| 俺也去色| 色五月欧美| 欧美日比视频| 久久性爱视频免费| 99久久精| 婷婷五月AV| 人人妻人人澡人人爽| 亚洲春色奇米影视| 99热这里有精品| 99综合视频| www.久久久久久久| www,超碰| 综合色五月天| 久婷自拍视频| 9在线9在线婷婷在线国产| 99在线精品免费视频| 五月婷婷啪| 日韩99色| 凹凸探花电影| 丁香色六月婷婷| 极品另类| 色色网站在线| jizzdr| 婷婷色狠狠| 99亚色色色| 婷婷五月丁香99| 99热主页日本| 丁香大香蕉| 变态另类9| 五月天婷婷青青草| 九九无码视屏| 九九爱看亚洲| 伊人五月天综合网| 婷婷丁香五月av| 久久五月婷婷视频| 丁香九月激情久久| 久久亭亭电影| 久久久人妻| 99re在线播放| 97操碰| 五月丁香六月情| 99色色| 99熟女啪啪视频| 五区毛片七区毛片| 先锋男人99资源| 天天射综合网天天插| 婷婷成人在线| 天天艹夜夜爽| 色五月丁香总合网| 色婷婷综合中心| 深爱五月月天| 日日操,日日爽| 婷婷爱婷婷| 色五月婷婷久久| 国产激情综合五月久久| 五月婷婷啪啪综合网| 操一操| 丁香午夜天| 激情五月亚洲| 激情亚洲色图片丁香综合| 99热久只有| 狠狠做五月| 天天狠狠插| 99热99干| 午夜激情五月| 五月亭亭开心网| 国产性爱亚洲是图| 99激情在线| 色狠狠综合| 五月综合无码| 成人国产欧美大片一区| 精品一二三区久久AAA片 | 九九AV在线| 中文激情网| 思思久久99热| caopeng97日韩| 五月婷婷性| 六月婷婷av| 综合网激情| 五月丁香操婷逼| 婷婷欧美激情综合| 精品99视频| 99男人的天堂| 91啪啪啪啪| 色婷成人狠干| 色VA| 婷婷五月花西瓜| 青青草原精品久久| 色欲色香综合网| 99操碰| 久爱综合| 五月婷精品| 婷婷五月丁香婷婷| 99色在线观看视频| 人妻丰满精品一区二区A片| 亚洲成人av在线观看| 丁香婷婷九月| 狠狠色丁香五月婷巨| 激情com| 夜夜爽天天干| 色婷婷99| 激情超碰网| 亚洲天堂啪啪| 开心五月婷婷在线| 婷婷激情综合网| 精品色色| 久久女人九九| 97色97干| 黄色成人网站在线播放| 五月天婷婷色| 五月丁香网站在线播放| 婷婷五月天激情在线观看| 日韩aaaaa| 色婷婷成人做爰A片免费看网站| 91无码色色| 人人澡玖玖一| 亚洲激情综合免费| 99九九久久| 成人无码精品1区2区3区免费看 | 亚洲碰碰碰| 日韩国产在线精品| 玖久久网站| 天天爱天天做天天日| 色婷婷先锋| 深爱婷婷网| 99视频这里只有久久精品| 丁香婷婷五月综合| 久久91久久精品久久| 亚洲四色五月| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 五月婷啪| 亚洲天堂AAA| 五月丁香婷婷综合视频| 久久激情综合| 天堂久久大香蕉| 亚洲色域网| 99热在线只有精品| 在线综合亚洲欧美65| 女人露出p毛视频www网站| 九一99| 亚洲成人综合在线| 色综合狠狠色| 日日噜人人人做人| 成人 视频免费观看网站| 九九久久偷拍| 激情五月丁香激情综合网| 99色热| 爱iii做iiii日日| 九九九午夜影院成人| 亚洲操操操| 五月天播播| 五月刺激丁香月综合| 天天上天天爽| 另类图片五月天| 色色六月| 色欲婷婷五月天| 丁香美女五月天婷婷| 久草五月丁香婷婷综合| 五月丁香亚洲五月| 色综合五月天| 五月婷婷|欧美| 精品久久久久久久久久久久人妻| 天天操加勒比| 99热热这里只精品996小说| 我爱宗和色| www.99热| 婷婷五月天伊人在线| 久久人人九| a性生活久久无| 欧美激情综合| 97色色色色色| 色色丁香| 天天干电影| 八戒青柠影视剧在线观看| 中文字幕激情综合| 五月丁香六月婷婷的女人| 无码色| 99久久99九九99九九九| 激情深爱五月天| 97色婷| 79成人网| 中文字幕无码AV| 99在线精品观看99| 色五月天综合网| 亚洲va欧美| 久久思思热| 26uuu丁香婷婷五月| 99网99热| 久久激情四射| WWW.桔色成人.COM入口| 欧美电影在线观看| 米奇影视资源婷婷狠狠色激情欧美五月丁香| 婷婷五月激情小说| 激情综合网激情五月丁香五月俺也去| 四五月婷婷| 六月婷婷色色网| 99日这里只有精品| 婷婷基地成人五月天| 婷婷导航| 免费AV播放| 丁香六月啪| 深爱激情六月天| 婷婷欧美色| 最近免费中文字幕大全高清大全1| 97干婷婷五月天| 综合网色| 另类小说婷婷色| 色婷婷丁香五月天| 精品一区二区三区木瓜| 中文字幕人妻AV| 色婷婷亚洲在线| 久热9| 日韩AV色色色| 国产乱子轮XXX农村| 天天狠狠色| 韩日另类| 开心五月天激情网站| 欧美成人猛片AAAAAAA| 欧美久热| 亚洲熟妇AV乱码在线观看| 欧美成人无码一区二区三区| 天天综合在线网| 久久婷婷五月国产激情综合片| 婷婷色六月| 99久久9| 色吧五月婷婷| 久久综合五月天| 丰满人妻一区二区三区| 99在线观看精彩视频| 久久久天堂国产精品女人| 丁香六月婷婷综合啪啪| 色九月婷婷综合| 五月色婷婷综合| 激情九月综合| 国产99热| 六月婷婷七月丁香| www.97干视频| 色婷婷偷拍| 亚洲激情综合| 综合五月网| 婷婷丁香69精华| 爽极品色| 伊人在线婷婷草| 久久的爱大香蕉| av在线资源| 俺来也综合网精品一区| 国产人妻人伦精品一区二区| 婷婷五月天激情五月天| 婷婷va| 99色性爰网络| 亚洲AV第二区国产精品| 婷婷色导航| 亚洲人妻一区二区 | 六月婷婷久久| 九九色图| 色久激情在线| 亚洲成人九九九| 色综合五月天| 天天做天天爱天天玩夜夜爽| 丁香花大香蕉婷婷综合| 97操在线视频| 色色色在线免费视频| 亚洲AV无码电影| 五月成人网站| 婷婷五月丁香手机在线视频| 久热9热| 久久在线大香蕉| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 天天日夜夜高潮| 91妻人人爽人人看片| 色色五月天丁香| 婷婷欧美色| 黄久久久| 香蕉婷婷五月| 激情五月丁香五月| 亚洲性受XXXX五月丁香| 婷婷综合偷拍| 日本五月婷| 六月五月久久丁香| 玖玖色综合网| 久久综合最新网址| 精品一二三区久久AAA片| 久re热视频| 激情婷婷五月| 久久R激情| 日韩黄黄| 婷婷五月天视| 五月丁香毛片| 色婷视频| 黄色五月婷婷| 五月婷婷在线视频| 精品无码视频| 五月丁香婷婷无码A∨| 999热这里只有美国精品| 天天爽天天干| 99自拍视频网站| 丁香六月婷婷色XXXXX| 天天日夜夜草进麻麻的子宫| 婷色五月| 激情99| 久久久99精品免费观看| 久久激情五月| 久9无码视频| 欧美丁香五月| 五月开心啪啪| 六月婷婷日| 欧美群妇大交乱婬网| 99热综合在线| 中文字幕日产A片在线看| 乱码操操| 丁香色五月婷婷91桃色| 婷婷五月天激情网| 色婷婷播放| 日本色道视频网站| 五月天,激情四射,婷婷频道| 亚洲综合字幕色色| 中文字幕高清av| 婷婷综合性爱网| 五月丁香综合啪啪| 超碰免费大香蕉| 狠狠操狠狠| 五月丁六月香av| 亚州欧美国产久精国产99综合视频| 97精品综合久久内射| 九九99热精品| 丁香五月婷婷社区| 五月色视频| 色99xx| 久久久久久9热不雅视频| 99人人爽| 97碰碰叉| 99热免费18| 九九99热精品| 偷偷操99| 色欲久久久久久综合网综合网| 丁香五月开心五月激情| 另类的婷婷| 激情五月婷| 欧美综合123区| 99热爱爱干干日| 色婷婷五月天无码视频| www.婷婷五月.com| 色噜噜狠狠色综合日日| 五月丁香| 国产精品成人AV在线观看春天| 国产成人av在线播放| www九九| 丁香九月婷| 丁香婷婷基地| 久久香蕉网| 久热婷婷| 丁香五月六月婷婷怡红院| 超碰AAAAAAV| 六月丁香深深爱| 79色色免费| 九九热思思热| 亚洲色综合性| 色情五月婷婷| 草AV9999| 日韩a热| 丁香成人综合| 九九青青草成人| 一级性感黄色内射视频| 国产精品电影| 色婷婷狠| 99re热精品视频国| 丁香五月综合福利视频导航| 五月天精品综合在线| 婷婷亚洲欧美丁香五月| 99视频精品视频| 色噜噜狠狠色综合日日| 热热久久精品视频| 日本狠狠爽| 五月丁香花婷婷玉莉AV| 天天爽综合| 成人丁香五月| 26uuu精品国产| 情婷婷五月天| 婷婷激情五月综合在线视频| 色婷五月丁香久亚洲| 五月婷婷色影院| 欧美 日韩 成人 在线| 婷婷六月激情| 99re久热只有精品6在线直播| WWW,激情五月天,COM| 26uuu亚洲色| 久热这里只有精品99re,久热这里只有精品7| 午夜丁香 婷婷| 五月天伊人久久久久| 香蕉乱插| 婷婷丁香五月色偷偷| 91啦丨九色丨刺激中文| 久久天堂女人| 男人天堂99| 欧洲亚洲最新精品| 人人爱天天摸摸天天爱| 激情五月天开心网丁香无码| 色狠久| 丁香婷婷久久 | 激情涩播| 日本久久激情| 五月停停999| 色婷婷六月综合| 久久婷婷五月天丁香| 亚洲午夜成人av电影网| 亚洲AV电影美洲AV电影| 99久久9| 狠狠色丁香久久婷婷综合五月| 丁香五月激情综合啪啪| 日本激情五月天‘| 婷婷视频网| 亚洲激情四射色| 欧美男女婷婷| av婷婷丁香 六月| 婷婷综合五月激情| 免费视频99| 精品夜夜澡人妻无码AV| 婷婷丁香六月天| 影音先锋五月天婷婷丁香在线观看| 成年人夜夜喷水| 日韩欧美四五区| 久久婷婷五月天激情四射| 人妻丰满精品一区二区A片| 色激情五月| 久久婷婷视频| 熟女五月天久久综合| 日韩黄色电影| 色135综合网| 五月花综合| 丁香 婷婷 亚洲 熟女| 思思热精品在线| 无码人妻精品一区二区蜜桃色欲| 日本色色视频| 色情综合网| 可以直接看的AV网站| 啊V视频在线观看| 久草 tingting| 久久婷婷成人视频| 囯产精品一品二区三区| wwwss在线观看| 一区二区三区XXXXXX| 婷婷久久视频| 九色色| www.五月婷婷久久.com| 综合色色五月| 婷婷免费精品视频| 久婷久婷| 五六月婷婷久久| 午夜美女人啪最红院| 婷婷五月天激情AV影院| 丁香五月婷婷基地| 超级碰碰碰碰视频| 五月激情婷婷开心| 国产精自产拍久久久久久蜜| 伊人九九九久| 五月婷婷co.m| 能看的av网站| 成人一级片| 五月天四色房丁香亭亭| 99热午夜精品| 激情综合网五月| 亚洲这里只有精品| 69凹凸成人综合网| 九九色影院| 激情伊人五月天| 亚洲色五月天| 激情久久五月天| 婷婷丁香六月| 国产精品久久久久久久久久免费| 亚洲AV无码影院| 六月狠狠综合| 四LLL少妇BBBB槡BBBB| 婷婷激情肏屄网| 久久五月丁香婷婷| 99热66| 色综合色色色色| 五月天色婷婷激情| 色色色网站| 97丁香五月| 91人人爽久久涩噜噜噜| 91狼友视频在线观看| 色大综合| www.久久久久久久| 天天干一干| 久久婷狠狠色| 五月婷婷亚洲| 97啪在线观看视频| 天天弄天天爽| 综合色色婷婷| 男女免费视频999| 色婷婷视频综合| 亚洲色图欧美色图日本视频| 日韩在线观看网址| wwwxxx五月婷婷小说| 黑人巨粗进入警花疼哭A片| 久思思久视频| 色综合色色| 99玖玖视频| 婷婷天天色| 中文字幕无码人妻少妇免费视频| 五月丁香婷婷福利| 丁香五月天婷婷激情| 操久久网| 91精品综合久久久久久五月丁香| 天天摸天天肏| 久久婷婷六月综合| 日本a片网址| 人人爱人人摸人人澡| 一级操逼大片| 五月丁花色综合网| 色偷偷AV亚洲男人的天堂| 狠狠干2007| 五月婷在线| 久久99久久99久久99人受| 亚洲99在线| 九九热青青草| 能看的AV| 亚洲av日韩无码| 久久婷婷色| 亚洲久久视频| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 色综合五月天| AV在线大香蕉| VA色婷婷| 亚洲一区国产传媒| 欧美视频五区| 九九99久久| 六月激情婷婷| A√天堂网在线| 高清无码视频网址| 婷婷综合五月天激情| 色五月首页| 99热99日…..| 丁香五月天AV在线 | 人人摸人人干| 色狠狠综合网| 日韩在线观看网址| 色天天综合成人网| 欧美月久久| 超碰在线人妻| 亚洲五月天天| 婷婷五月天中文字幕| 五月丁香六月激情| www.激情五月天。com| 九九亚洲| 婷婷五月天六月综合| 中文字幕无码人妻少妇免费视频| 桃色激情婷婷伊人网| 国产精品久久久久久久久久| 五月色色激情网| 久久丁香九| 泰州成人视频| 久婷婷五月激情| 任你弄在线视频免费| 激情综合五月天| 九色自拍| 丁香六月情| 97丁香花五月天激情小说| 九月婷婷| 亚洲麻豆乱码国产2028| 激情五月天的婷婷| 成人丁香| 丁香六月色情| 色婷小说| 日日爽夜夜爽| 五月天色站| 天天玩夜夜操| 深爱激情六月天| 狠狠搞五月天| 欧美精品狠狠色丁香婷婷| 久久久久思思热| 色九月婷婷丁香| 99热9| 五月婷婷色激情| 国产免费AV网站| 新激情五月天| 天天激情欧美美女| 99re66热这里只有精品| 操日本99| 玖玖婷婷色五月| 天天插天天日天天爽| 超碰色色综合| 亚洲无码影音| 亚洲成人免费电影| 成人超碰Av| 六月色伊人婷婷| 天堂在线婷婷| 91精品综合久久久久久五月丁香| 精品一区二区三区四区五区六区介绍 | 五月天婷婷无码| 5月丁香婷婷| 色色色五月| 亚洲精品99| 热久视频| 亚洲激情高潮| 91精品91久久久中77777久久玖玖九九| 99在线视频精品| 欧美色欲色欲天天天www| 婷婷六月丁香开心深深爱| 超碰免费人| AV网站免费在线| sS丁香五月婷婷| 九九热在线99| 9热超碰| 国产熟妇的荡欲午夜视频| 激情婷婷丁香| 这里只有精品视频一区| 丁香五月婷婷亚洲色图|