一区二区三区电影_国产伦精品一区二区三区视频免费_亚洲欧美国产精品va在线观看_国产精品一二三四

聯(lián)系我們 - 廣告服務(wù) - 聯(lián)系電話:
您的當(dāng)前位置: > 關(guān)注 > > 正文

全球快看:干貨|MindSporeLite整體架構(gòu)介紹

來源:CSDN 時間:2023-03-10 14:57:12


(相關(guān)資料圖)

MindSpore Lite整體架構(gòu)介紹 MindSpore Lite框架的總體架構(gòu)如下所示:

前端(Frontend): 負(fù)責(zé)模型生成,用戶可以通過模型構(gòu)建接口構(gòu)建模型,將第三方模型和MindSpore訓(xùn)練的模型轉(zhuǎn)換為MindSpore Lite模型,其中第三方模型包括TensorFlow Lite、Caffe 1.0和ONNX模型。 ? IR: 負(fù)責(zé)MindSpore的Tensor定義、算子定義和圖定義。 ? Backend: 基于IR進(jìn)行圖優(yōu)化,包括GHLO、GLLO和量化三部分。其中,GHLO負(fù)責(zé)和硬件無關(guān)的優(yōu)化,如算子融合、常量折疊等;GLLO負(fù)責(zé)與硬件相關(guān)的優(yōu)化;量化Quantizer支持權(quán)重量化、激活值量化等訓(xùn)練后量化手段。 ? Runtime: 智能終端的推理運(yùn)行時,其中session負(fù)責(zé)會話管理,提供對外接口;線程池和并行原語負(fù)責(zé)圖執(zhí)行使用的線程池管理,內(nèi)存分配負(fù)責(zé)圖執(zhí)行中各個算子的內(nèi)存復(fù)用,算子庫提供CPU、GPU和NPU算子。 ? Micro: IoT設(shè)備的運(yùn)行時,包括模型生成.c文件、線程池、內(nèi)存復(fù)用和算子庫。 其中,Runtime和Micro共享底層的算子庫、內(nèi)存分配、線程池、并行原語等基礎(chǔ)設(shè)施層。

責(zé)任編輯:

標(biāo)簽:

相關(guān)推薦:

精彩放送:

新聞聚焦
Top 主站蜘蛛池模板: 仁布县| 阿拉善盟| 灵石县| 南城县| 兰溪市| 罗甸县| 广宗县| 玉溪市| 香港| 息烽县| 浦北县| 区。| 延川县| 井研县| 西畴县| 孝感市| 永仁县| 鄂托克前旗| 和田县| 丹寨县| 额敏县| 白银市| 乾安县| 稻城县| 清原| 石泉县| 陆川县| 柏乡县| 岢岚县| 额敏县| 灵川县| 禄丰县| 冷水江市| 祁阳县| 邯郸市| 资阳市| 山西省| 博客| 进贤县| 江永县| 灌阳县|