Caffe前身是decaf,由伯克利大学博士贾扬青开发的一个用于深度卷积网络的Python框架(无GPU)模式,之后被伯克利大学实验室团队丰富成caffe。
卷积层定义了图像的卷积操作(即特征抽象),参数设置在prototxt中 ,它相关的类定义在conv_layer.cpp。
受限线性单元实际上就是激活函数max(0,x),梦到钱包丢了 它的相关类定义在relu_layer.cpp中。
池化层定义了对对象的降维操作。它的相关类定义在pooling_layer.cpp。参数设置prototxt中。
LRN全称是Local Response Normalization,相关的类定义在lrn_layer.cpp中,其参数定义在prototxt中。局部响应归一化层完成一种“临近”操作,对局部输入区域进行归一化。本质上是防止激活函数饱和,能提升网络的泛化能力,将错误率降低。
在通道间归一化模式中,局部区域范围在相邻通道间,但没有空间扩展(即尺寸为local_size11);在通道内归一化模式中,局部区域在空间上扩展,但只针对通道进行(即尺寸为1local_sizelocal_size);每个输入值都将除以
Dropout层的相关类定义在dropout.cpp中,它的作用是防止过拟合和降低计算复杂度。
在实际训练中,每个节点都以相互的以p概率出现,实验证明p=0.5时在大规模网络中效果最优。
网友评论 ()条 查看