harmony 鸿蒙LayerNormFusion

  • 2023-06-24
  • 浏览 (588)

LayerNormFusion

概述

对一个tensor从某一axis开始做层归一化。

该算子对应的NodeType为NODE_TYPE_LAYER_NORM_FUSION。

输入:

  • x,n维tensor。

  • gamma,一个m维tensor,gamma维度应该与input做归一化部分的shape一致。

  • beta,一个m维tensor,shape与gamma一样。

输出:

  • output,n维输出tensor,数据类型和shape和input一致。

Since:

3.2

Version:

1.0

相关模块:

NNRt

汇总

Public 属性

名称 描述
beginNormAxis long
指定x需进行层归一化的起始维度。 
epsilon float
为数值稳定性定义一个加到分母上的值。 
elementwiseAffine boolean
是否为元素级别的操作。 
beginParamsAxis long
指定输入参数gamma,beta需进行层归一化的开始维度,其值必须在[-n, n)范围内。 

类成员变量说明

beginNormAxis

long LayerNormFusion::beginNormAxis

描述: 指定x需进行层归一化的起始维度。

beginParamsAxis

long LayerNormFusion::beginParamsAxis

描述: 指定输入参数gamma,beta需进行层归一化的开始维度,其值必须在[-n, n)范围内。

elementwiseAffine

boolean LayerNormFusion::elementwiseAffine

描述: 是否为元素级别的操作。

epsilon

float LayerNormFusion::epsilon

描述: 为数值稳定性定义一个加到分母上的值。

你可能感兴趣的鸿蒙文章

harmony 鸿蒙HDI 参数参考

harmony 鸿蒙ActRecognitionEvent

harmony 鸿蒙Activation

harmony 鸿蒙ActivityRecognitionTypes.idl

harmony 鸿蒙AddFusion

harmony 鸿蒙Alignment

harmony 鸿蒙AllocInfo

harmony 鸿蒙ApduSimIORequestInfo

harmony 鸿蒙ArgMaxFusion

harmony 鸿蒙Audio

0  赞