harmony 鸿蒙AI开发概述

  • 2023-10-30
  • 浏览 (600)

AI开发概述

简介

OpenHarmony提供的原生AI框架,AI子系统部件包括: - MindSpore Lite:AI推理框架,为开发者提供统一的AI推理接口; - Neural Network Runtime:神经网络运行时,作为中间桥梁连接推理框架和AI硬件。

MindSpore Lite

MindSpore Lite是OpenHarmony内置的AI推理框架,提供面向不同硬件设备的AI模型推理能力,使能全场景智能应用,为开发者提供端到端的解决方案,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。

图 1 使用MindSpore Lite进行模型推理的开发流程 mindspore workflow

MindSpore Lite开发流程分为两个阶段:

  • 模型转换

MindSpore Lite使用.ms格式模型进行推理。对于第三方框架模型,比如 TensorFlow、TensorFlow Lite、Caffe、ONNX等,可以使用MindSpore Lite提供的模型转换工具转换为.ms模型,使用方法可参考推理模型转换

  • 模型推理

调用MindSpore Lite运行时接口,实现模型推理,大致步骤如下:

  1. 创建推理上下文,包括指定推理硬件、设置线程数等。
  2. 加载.ms模型文件。
  3. 设置模型输入数据。
  4. 执行推理,读取输出。

MindSpore Lite已作为系统部件在OpenHarmony标准系统内置,基于MindSpore Lite开发AI应用的开发方式有:

Neural Network Runtime

Neural Network Runtime(NNRt, 神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。

MindSpore Lite已支持配置Neural Network Runtime后端,开发者可直接配置MindSpore Lite来使用NNRt硬件。因此,这里不再对NNRt具体展开说明,主要针对MindSpore开发AI应用提供指导。关于更多NNRt的Native使用,请参见NNRt Native模块

你可能感兴趣的鸿蒙文章

harmony 鸿蒙AI

harmony 鸿蒙使用MindSpore Lite JS API开发AI应用

harmony 鸿蒙使用MindSpore Lite Native API开发AI应用

0  赞