CNN
卷积和子采样过程:
卷积过程包括:用一个可训练的滤波器fx去卷积一个输入的图像(第一阶段是输入的图像,后面的阶段就是卷积特征map了),然后加一个偏置bx,得到卷积层Cx。子采样过程包括:每邻域四个像素求和变为一个像素,然后通过标量Wx+1加权,再增加偏置bx+1,然后通过一个sigmoid激活函数,产生一个大概缩小四倍的特征映射图Sx+1。
卷积层的参数个数只跟卷积核有关,而连接数的计算是feature map里面的每一个神经元(每一个格子)跟卷积核里面的每一个神经元进行连接。
推荐阅读
黄金三博客
WildML – AI, Deep Learning, NLP
http://colah.github.io/
Andrej Karpathy blog