step by step.

目录

1. 人工神经元模型

 2. BP神经网络算法原理

(1) Delta学习规则

(2)BP网络结构

(3)算法原理

(4) 例题




1. 人工神经元模型

权值:人工神经元有许多输入信号,针对每个输入都有一个加权系数Wij称为权值。

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_算法原理

式子中的 

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_权值_02

从其它神经元传来的输入信号;

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_深度学习_03

是该神经元的阈值;

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_权值_04

表示从神经元i到神经元j的连接权值;

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_神经网络_05

为激活函数或挤压函数。

 多输入,单输出。

 2. BP神经网络算法原理

(1) Delta学习规则

F()函数:训练样本实际输入和目标输入之间差的平方和

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_数据挖掘_06

用SPSS做BP神经网络分析问题用于几元 spssau神经网络_深度学习_07

 (2)BP网络结构

三层或以上:输入层隐含层输出层

 (3)算法原理

从后向前(反向)逐层传播输出层的误差,以间接算出隐层误差。

算法分为两个阶段:

        第一阶段(正向传播过程)输入信息从输入层经隐层逐层计算各单元的输出值。

        第二阶段(反向传播过程)输出误差逐层向前算出隐层各单元的误差,并用此误差修正前层权值

其中的网络权值调整采用Delta学习规则,即根据梯度法沿着误差曲面的梯度最速下降,从而实现网络误差的最小化。

(4) 例题

3. BP特点

        优点:非线性映射能力、自学习和自适应能力、泛化能力、容错能力。

        缺点:局部极小化问题、收敛速度慢、结构选择不一、样本依赖性……

有空再更新。