step by step.
目录
1. 人工神经元模型
2. BP神经网络算法原理
(1) Delta学习规则
(2)BP网络结构
(3)算法原理
(4) 例题
1. 人工神经元模型
权值:人工神经元有许多输入信号,针对每个输入都有一个加权系数Wij称为权值。
式子中的从其它神经元传来的输入信号;
是该神经元的阈值;
表示从神经元i到神经元j的连接权值;
为激活函数或挤压函数。
多输入,单输出。
2. BP神经网络算法原理
(1) Delta学习规则
F()函数:训练样本实际输入和目标输入之间差的平方和
(2)BP网络结构
三层或以上:输入层、隐含层、输出层。
(3)算法原理
从后向前(反向)逐层传播输出层的误差,以间接算出隐层误差。
算法分为两个阶段:
第一阶段(正向传播过程)输入信息从输入层经隐层逐层计算各单元的输出值。
第二阶段(反向传播过程)输出误差逐层向前算出隐层各单元的误差,并用此误差修正前层权值。
其中的网络权值调整采用Delta学习规则,即根据梯度法沿着误差曲面的梯度最速下降,从而实现网络误差的最小化。
(4) 例题
3. BP特点
优点:非线性映射能力、自学习和自适应能力、泛化能力、容错能力。
缺点:局部极小化问题、收敛速度慢、结构选择不一、样本依赖性……
有空再更新。