UpdateGraphFeatureMemoryBase【免費(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge產(chǎn)品支持情況產(chǎn)品是否支持Atlas A3 訓(xùn)練系列產(chǎn)品 / Atlas A3 推理系列產(chǎn)品√Atlas A2 訓(xùn)練系列產(chǎn)品 / Atlas A2 推理系列產(chǎn)品√頭文件/庫(kù)文件頭文件#include ge/ge_api_v2.h庫(kù)文件libge_runner_v2.so功能說(shuō)明用于更新Graph的Feature內(nèi)存基址。在調(diào)用本接口前必須先調(diào)用CompileGraph接口進(jìn)行圖編譯內(nèi)存大小從GetCompiledGraphSummaryGetFeatureMemorySize接口中獲取。Feature內(nèi)存指的是模型執(zhí)行過(guò)程中所需要的中間內(nèi)存比如中間節(jié)點(diǎn)的輸入輸出等內(nèi)存。函數(shù)原型Status UpdateGraphFeatureMemoryBase(uint32_t graph_id, const void *const memory, size_t size)參數(shù)說(shuō)明參數(shù)名輸入/輸出說(shuō)明graph_id輸入子圖對(duì)應(yīng)的ID。memory輸入設(shè)置的Feature內(nèi)存基地址。size輸入設(shè)置的Feature內(nèi)存大小。返回值說(shuō)明參數(shù)名類型說(shuō)明-StatusSUCCESS設(shè)置成功。FAILED設(shè)置失敗。約束說(shuō)明調(diào)用CompileGraph完成圖編譯后您可以通過(guò)GetCompiledGraphSummary接口獲取Feature地址是否可刷新只有Feature地址可刷新的圖才支持重復(fù)調(diào)用本接口刷新Feature地址。該接口只適用于靜態(tài)編譯圖可以通過(guò)GetCompiledGraphSummary接口中的IsStatic接口獲取圖是否為靜態(tài)編譯。若使用了本接口又配置了RegisterExternalAllocator接口則RegisterExternalAllocator接口不生效。不能與SetGraphFixedFeatureMemoryBaseWithType接口入?yún)镸EMORY_TYPE_DEFAULT同時(shí)使用。不能與UpdateGraphRefreshableFeatureMemoryBase同時(shí)使用。【免費(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考