create_dl_layer_activationT_create_dl_layer_activationCreateDlLayerActivationCreateDlLayerActivationcreate_dl_layer_activation创建深度学习层激活(算子)
名称
create_dl_layer_activationT_create_dl_layer_activationCreateDlLayerActivationCreateDlLayerActivationcreate_dl_layer_activation — 创建激活层。
签名
void CreateDlLayerActivation(const HTuple& DLLayerInput, const HTuple& LayerName, const HTuple& ActivationType, const HTuple& GenParamName, const HTuple& GenParamValue, HTuple* DLLayerActivation)
HDlLayer HDlLayer::CreateDlLayerActivation(const HString& LayerName, const HString& ActivationType, const HTuple& GenParamName, const HTuple& GenParamValue) const
HDlLayer HDlLayer::CreateDlLayerActivation(const HString& LayerName, const HString& ActivationType, const HString& GenParamName, const HString& GenParamValue) const
HDlLayer HDlLayer::CreateDlLayerActivation(const char* LayerName, const char* ActivationType, const char* GenParamName, const char* GenParamValue) const
HDlLayer HDlLayer::CreateDlLayerActivation(const wchar_t* LayerName, const wchar_t* ActivationType, const wchar_t* GenParamName, const wchar_t* GenParamValue) const
(
Windows only)
static void HOperatorSet.CreateDlLayerActivation(HTuple DLLayerInput, HTuple layerName, HTuple activationType, HTuple genParamName, HTuple genParamValue, out HTuple DLLayerActivation)
HDlLayer HDlLayer.CreateDlLayerActivation(string layerName, string activationType, HTuple genParamName, HTuple genParamValue)
HDlLayer HDlLayer.CreateDlLayerActivation(string layerName, string activationType, string genParamName, string genParamValue)
描述
算子 create_dl_layer_activationcreate_dl_layer_activationCreateDlLayerActivationCreateDlLayerActivationCreateDlLayerActivationcreate_dl_layer_activation 创建一个激活层,其句柄将通过 DLLayerActivationDLLayerActivationDLLayerActivationDLLayerActivationDLLayerActivationdllayer_activation 返回。
参数 DLLayerInputDLLayerInputDLLayerInputDLLayerInputDLLayerInputdllayer_input 决定输入层的数量,并期望该层句柄作为值。
参数 LayerNameLayerNameLayerNameLayerNamelayerNamelayer_name 用于设置单个层的名称。请注意,若使用 create_dl_modelcreate_dl_modelCreateDlModelCreateDlModelCreateDlModelcreate_dl_model 创建模型,则创建网络中的每个层必须具有唯一名称。
参数 ActivationTypeActivationTypeActivationTypeActivationTypeactivationTypeactivation_type 设置激活类型。支持的激活类型包括:
- 'relu'"relu""relu""relu""relu""relu":
-
整流线性单元(ReLU)激活。通过设置特定的 ReLU 参数,可指定替代标准 ReLU 的另一种类型:
-
标准 ReLU,定义如下:
-
有界 ReLU,定义如下:
设置泛型参数 'upper_bound'"upper_bound""upper_bound""upper_bound""upper_bound""upper_bound" 将生成有界 ReLU,并确定参数 的值。
-
泄漏 ReLU,定义如下:
设置泛型参数 'leaky_relu_alpha'"leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha" 将生成泄漏ReLU,并确定参数 的值。
- 'sigmoid'"sigmoid""sigmoid""sigmoid""sigmoid""sigmoid":
Sigmoid 激活,其定义如下:
以下泛型参数 GenParamNameGenParamNameGenParamNameGenParamNamegenParamNamegen_param_name 及其对应值 GenParamValueGenParamValueGenParamValueGenParamValuegenParamValuegen_param_value 受支持:
- 'is_inference_output'"is_inference_output""is_inference_output""is_inference_output""is_inference_output""is_inference_output":
-
确定 apply_dl_modelapply_dl_modelApplyDlModelApplyDlModelApplyDlModelapply_dl_model 是否将此层的输出包含在字典 DLResultBatchDLResultBatchDLResultBatchDLResultBatchDLResultBatchdlresult_batch 中,即使未在 OutputsOutputsOutputsOutputsoutputsoutputs 中指定此层('true'"true""true""true""true""true")或不包含('false'"false""false""false""false""false")。
默认值: 'false'"false""false""false""false""false"
- 'upper_bound'"upper_bound""upper_bound""upper_bound""upper_bound""upper_bound":
-
浮点数值,用于定义整流线性单元的上界。若激活层属于通过
create_dl_modelcreate_dl_modelCreateDlModelCreateDlModelCreateDlModelcreate_dl_model 创建的模型,则可取消设置上界。操作时需调用
set_dl_model_layer_paramset_dl_model_layer_paramSetDlModelLayerParamSetDlModelLayerParamSetDlModelLayerParamset_dl_model_layer_param,并将
'upper_bound'"upper_bound""upper_bound""upper_bound""upper_bound""upper_bound" 参数设置为空元组。
默认值: []
- 'leaky_relu_alpha'"leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha":
-
浮点数值,用于定义泄漏 ReLU 的 alpha 参数。
限制: 'leaky_relu_alpha'"leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha" 的值必须为正数或零。
默认值: 0.0
使用
create_dl_layer_activationcreate_dl_layer_activationCreateDlLayerActivationCreateDlLayerActivationCreateDlLayerActivationcreate_dl_layer_activation 算子创建的层,其特定参数可通过其他算子进行设置与检索。下表概述了可通过 set_dl_model_layer_paramset_dl_model_layer_paramSetDlModelLayerParamSetDlModelLayerParamSetDlModelLayerParamset_dl_model_layer_param 设置的参数,以及可通过 get_dl_model_layer_paramget_dl_model_layer_paramGetDlModelLayerParamGetDlModelLayerParamGetDlModelLayerParamget_dl_model_layer_param 或 get_dl_layer_paramget_dl_layer_paramGetDlLayerParamGetDlLayerParamGetDlLayerParamget_dl_layer_param 检索的参数。请注意,算子 set_dl_model_layer_paramset_dl_model_layer_paramSetDlModelLayerParamSetDlModelLayerParamSetDlModelLayerParamset_dl_model_layer_param 和 get_dl_model_layer_paramget_dl_model_layer_paramGetDlModelLayerParamGetDlModelLayerParamGetDlModelLayerParamget_dl_model_layer_param
需基于 create_dl_modelcreate_dl_modelCreateDlModelCreateDlModelCreateDlModelcreate_dl_model 创建的模型。
|
泛型层参数 |
设置 |
获取 |
|
'is_inference_output'"is_inference_output""is_inference_output""is_inference_output""is_inference_output""is_inference_output" |
|
|
|
'leaky_relu_alpha'"leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha" |
|
|
|
'num_trainable_params'"num_trainable_params""num_trainable_params""num_trainable_params""num_trainable_params""num_trainable_params" |
|
|
|
'upper_bound'"upper_bound""upper_bound""upper_bound""upper_bound""upper_bound" |
|
|
执行信息
- 多线程类型:可重入(与非独占算子并行运行)。
- 多线程作用域:全局(可从任何线程调用)。
- 未采用并行化处理。
参数
DLLayerInputDLLayerInputDLLayerInputDLLayerInputDLLayerInputdllayer_input (输入控制) dl_layer → HDlLayer, HTupleHHandleHTupleHtuple (handle) (IntPtr) (HHandle) (handle)
输入层。
LayerNameLayerNameLayerNameLayerNamelayerNamelayer_name (输入控制) string → HTuplestrHTupleHtuple (string) (string) (HString) (char*)
输出层的名称。
ActivationTypeActivationTypeActivationTypeActivationTypeactivationTypeactivation_type (输入控制) string → HTuplestrHTupleHtuple (string) (string) (HString) (char*)
激活类型。
默认值:
'relu'
"relu"
"relu"
"relu"
"relu"
"relu"
值列表:
'relu'"relu""relu""relu""relu""relu", 'sigmoid'"sigmoid""sigmoid""sigmoid""sigmoid""sigmoid"
GenParamNameGenParamNameGenParamNameGenParamNamegenParamNamegen_param_name (输入控制) attribute.name(-array) → HTupleMaybeSequence[str]HTupleHtuple (string) (string) (HString) (char*)
泛型输入参数名称。
默认值:
[]
值列表:
'is_inference_output'"is_inference_output""is_inference_output""is_inference_output""is_inference_output""is_inference_output", 'leaky_relu_alpha'"leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha""leaky_relu_alpha", 'upper_bound'"upper_bound""upper_bound""upper_bound""upper_bound""upper_bound"
GenParamValueGenParamValueGenParamValueGenParamValuegenParamValuegen_param_value (输入控制) attribute.value(-array) → HTupleMaybeSequence[Union[int, float, str]]HTupleHtuple (string / integer / real) (string / int / long / double) (HString / Hlong / double) (char* / Hlong / double)
泛型输入参数值。
默认值:
[]
建议值:
'true'"true""true""true""true""true", 'false'"false""false""false""false""false"
DLLayerActivationDLLayerActivationDLLayerActivationDLLayerActivationDLLayerActivationdllayer_activation (输出控制) dl_layer → HDlLayer, HTupleHHandleHTupleHtuple (handle) (IntPtr) (HHandle) (handle)
激活层。
模块
深度学习训练