其他

模型参数初始化相关接口

常数初始化

void init_constant_kernel(Layer *l, float x);
void init_constant_bias(Layer *l, float x);

参数	描述
Layer *l	计算层对象
float x	常数

高斯分布初始化

void init_normal_kernel(Layer *l, float mean, float std);
void init_normal_bias(Layer *l, float mean, float std);

参数	描述
Layer *l	计算层对象
float mean	均值
float std	方差

形成均值为mean方差为std的参数

均匀分布初始化

void init_uniform_kernel(Layer *l, float min, float max);
void init_uniform_bias(Layer *l, float min, float max);

参数	描述
Layer *l	计算层对象
float min	最小值
float max	最大值

形成(min,max)的参数

xavier参数初始化方案

void init_xavier_normal_kernel(Layer *l, float gain);
void init_xavier_uniform_kernel(Layer *l, float gain);
void init_xavier_normal_bias(Layer *l, float gain);
void init_xavier_uniform_bias(Layer *l, float gain);

参数	描述
Layer *l	计算层对象
float gain	xavier常量

kaiming参数初始化方案

void init_kaiming_normal_kernel(Layer *l, float a, char *mode, char *nonlinearity);
void init_kaiming_uniform_kernel(Layer *l, float a, char *mode, char *nonlinearity);
void init_kaiming_normal_bias(Layer *l, char *mode);
void init_kaiming_uniform_bias(Layer *l, char *mode);

参数	描述
Layer *l	计算层对象
float a	kaiming常量
char *mode	fan_in / fan_out
char *nonlinearity	激活函数类型