harmony 鸿蒙LayerNormFusion
LayerNormFusion
概述
对一个tensor从某一axis开始做层归一化。
该算子对应的NodeType为NODE_TYPE_LAYER_NORM_FUSION。
输入:
x,n维tensor。
gamma,一个m维tensor,gamma维度应该与input做归一化部分的shape一致。
beta,一个m维tensor,shape与gamma一样。
输出:
- output,n维输出tensor,数据类型和shape和input一致。
Since:
3.2
Version:
1.0
相关模块:
汇总
Public 属性
名称 | 描述 |
---|---|
beginNormAxis | long 指定x需进行层归一化的起始维度。 |
epsilon | float 为数值稳定性定义一个加到分母上的值。 |
elementwiseAffine | boolean 是否为元素级别的操作。 |
beginParamsAxis | long 指定输入参数gamma,beta需进行层归一化的开始维度,其值必须在[-n, n)范围内。 |
类成员变量说明
beginNormAxis
long LayerNormFusion::beginNormAxis
描述: 指定x需进行层归一化的起始维度。
beginParamsAxis
long LayerNormFusion::beginParamsAxis
描述: 指定输入参数gamma,beta需进行层归一化的开始维度,其值必须在[-n, n)范围内。
elementwiseAffine
boolean LayerNormFusion::elementwiseAffine
描述: 是否为元素级别的操作。
epsilon
float LayerNormFusion::epsilon
描述: 为数值稳定性定义一个加到分母上的值。
你可能感兴趣的鸿蒙文章
harmony 鸿蒙ActivityRecognitionTypes.idl
0
赞
- 所属分类: 后端技术
- 本文标签:
热门推荐
-
2、 - 优质文章
-
3、 gate.io
-
8、 golang
-
9、 openharmony
-
10、 Vue中input框自动聚焦