harmony 鸿蒙IPreparedModel

  • 2023-06-24
  • 浏览 (463)

IPreparedModel

概述

定义模型编译后的对象,包含编译后模型导出、模型推理接口。

Since:

3.2

Version:

2.0

相关模块:

NNRt

汇总

Public 成员函数

名称 描述
ExportModelCache ([out] struct SharedBuffer[] modelCache) 导出模型缓存。 
GetInputDimRanges ([out] unsigned int[][] minInputDims, [out] unsigned int[][] maxInputDims) 获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。 
Run ([in] struct IOTensor[] inputs, [in] struct IOTensor[] outputs, [out] int[][] outputsDims) 推理模型 

成员函数说明

ExportModelCache()

IPreparedModel::ExportModelCache ([out] struct SharedBuffer[] modelCache)

描述: 导出模型缓存。

参数:

名称 描述
modelCache 模型缓存数组,元素顺序与导出时元素顺序一致,SharedBuffer定义请查看SharedBuffer

返回:

返回0表示成功

返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看NNRT_ReturnCode

GetInputDimRanges()

IPreparedModel::GetInputDimRanges ([out] unsigned int minInputDims[][], [out] unsigned int maxInputDims[][] )

描述: 获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。

参数:

名称 描述
minInputDims 二维数组存放模型输入数据的最小维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。 
maxInputDims 二维数组存放模型输入数据的最大维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。

返回:

返回0表示成功

返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看NNRT_ReturnCode

Run()

IPreparedModel::Run ([in] struct IOTensor[] inputs, [in] struct IOTensor[] outputs, [out] int outputsDims[][] )

描述: 推理模型

参数:

名称 描述
inputs 模型推理的输入数据,输入的顺序与模型中定义的输入顺序一致,输入数据类型参考IOTensor定义IOTensor。 
outputs 模型推理的输出数据,推理完后需要往outputs的sharedBuffer中写入输出数据,IOTensor定义请查看IOTensor。 
outputsDims 模型推理输出数据的形状,输出顺序与outputs顺序一一对应。 
isOutputBufferEnough 模型推理输出数据的SharedBuffer空间是否足够,足够的话返回true,不足则返回false,输出顺序与outputs顺序一一对应。

返回:

返回0表示成功

返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看NNRT_ReturnCode

你可能感兴趣的鸿蒙文章

harmony 鸿蒙HDI 参数参考

harmony 鸿蒙ActRecognitionEvent

harmony 鸿蒙Activation

harmony 鸿蒙ActivityRecognitionTypes.idl

harmony 鸿蒙AddFusion

harmony 鸿蒙Alignment

harmony 鸿蒙AllocInfo

harmony 鸿蒙ApduSimIORequestInfo

harmony 鸿蒙ArgMaxFusion

harmony 鸿蒙Audio

0  赞