一区二区三区电影_国产伦精品一区二区三区视频免费_亚洲欧美国产精品va在线观看_国产精品一二三四

聯(lián)系我們 - 廣告服務(wù) - 聯(lián)系電話:
您的當(dāng)前位置: > 關(guān)注 > > 正文

全球快看:干貨|MindSporeLite整體架構(gòu)介紹

來源:CSDN 時間:2023-03-10 14:57:12


(相關(guān)資料圖)

MindSpore Lite整體架構(gòu)介紹 MindSpore Lite框架的總體架構(gòu)如下所示:

前端(Frontend): 負(fù)責(zé)模型生成,用戶可以通過模型構(gòu)建接口構(gòu)建模型,將第三方模型和MindSpore訓(xùn)練的模型轉(zhuǎn)換為MindSpore Lite模型,其中第三方模型包括TensorFlow Lite、Caffe 1.0和ONNX模型。 ? IR: 負(fù)責(zé)MindSpore的Tensor定義、算子定義和圖定義。 ? Backend: 基于IR進(jìn)行圖優(yōu)化,包括GHLO、GLLO和量化三部分。其中,GHLO負(fù)責(zé)和硬件無關(guān)的優(yōu)化,如算子融合、常量折疊等;GLLO負(fù)責(zé)與硬件相關(guān)的優(yōu)化;量化Quantizer支持權(quán)重量化、激活值量化等訓(xùn)練后量化手段。 ? Runtime: 智能終端的推理運(yùn)行時,其中session負(fù)責(zé)會話管理,提供對外接口;線程池和并行原語負(fù)責(zé)圖執(zhí)行使用的線程池管理,內(nèi)存分配負(fù)責(zé)圖執(zhí)行中各個算子的內(nèi)存復(fù)用,算子庫提供CPU、GPU和NPU算子。 ? Micro: IoT設(shè)備的運(yùn)行時,包括模型生成.c文件、線程池、內(nèi)存復(fù)用和算子庫。 其中,Runtime和Micro共享底層的算子庫、內(nèi)存分配、線程池、并行原語等基礎(chǔ)設(shè)施層。

責(zé)任編輯:

標(biāo)簽:

相關(guān)推薦:

精彩放送:

新聞聚焦
Top 主站蜘蛛池模板: 广灵县| 沿河| 弥勒县| 德格县| 内丘县| 雷州市| 肃南| 建德市| 宣化县| 马龙县| 泸溪县| 卓尼县| 伊宁县| 贵阳市| 宁河县| 白城市| 阿鲁科尔沁旗| 太谷县| 襄汾县| 孟州市| 海南省| 东方市| 五指山市| 肥城市| 罗甸县| 马山县| 瓮安县| 舒城县| 聂荣县| 通道| 南靖县| 阿克陶县| 安丘市| 武穴市| 双流县| 沾化县| 清水河县| 河北省| 清镇市| 象州县| 新乡市|