harmony 鸿蒙ModelTypes.idl

  • 2023-06-24
  • 浏览 (598)

ModelTypes.idl

概述

该文件定义AI模型相关的结构体。

PrepareModel阶段,需要解析Model并将其转换为用于推理的模型结构,在Run阶段则会执行模型推理。大致流程如下:

  1. 编写NodeAttrTypes.idl文件中每一个算子的函数,并将函数与NodeType进行关联。

  2. 遍历Model的subGraph参数,然后从子图的nodeIndecies中获得该子图包含的算子节点以及算子的输入输出张量和整个Model的输入输出张量。

  3. 通过Node的nodeType参数找到算子函数,并构建用于运行时的模型结构。

  4. 执行模型推理时,通过用户输入张量传递给模型并执行模型推理,最终输出模型推理的结果。

Since:

3.2

Version:

1.0

相关模块:

NNRt

汇总

名称 描述
Tensor struct
张量结构体。
Node struct
算子节点结构体。
SubGraph struct
子图结构体。
Model struct
模型结构体。

关键字

名称 描述
package ohos.hdi.nnrt.v2_0 NNRt模块的包路径。

你可能感兴趣的鸿蒙文章

harmony 鸿蒙HDI 参数参考

harmony 鸿蒙ActRecognitionEvent

harmony 鸿蒙Activation

harmony 鸿蒙ActivityRecognitionTypes.idl

harmony 鸿蒙AddFusion

harmony 鸿蒙Alignment

harmony 鸿蒙AllocInfo

harmony 鸿蒙ApduSimIORequestInfo

harmony 鸿蒙ArgMaxFusion

harmony 鸿蒙Audio

0  赞