粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_Python

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_数据_02

1.项目背景

PSO是粒子群优化算法（Particle Swarm Optimization）的英文缩写，是一种基于种群的随机优化技术，由Eberhart和Kennedy于1995年提出。粒子群算法模仿昆虫、兽群、鸟群和鱼群等的群集行为，这些群体按照一种合作的方式寻找食物，群体中的每个成员通过学习它自身的经验和其他成员的经验来不断改变其搜索模式。

本项目通过PSO粒子群优化卷积神经网络CNN算法来构建回归模型。

2.数据获取

本次建模数据来源于网络(本项目撰写人整理而成)，数据项统计如下：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_卷积神经网络CNN回归模型_03

 数据详情如下(部分展示)：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_04

3.数据预处理

3.1 用Pandas工具查看数据

使用Pandas工具的head()方法查看前五行数据：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_05

关键代码：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_卷积神经网络CNN回归模型_06

3.2数据缺失查看

使用Pandas工具的info()方法查看数据信息：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_数据_07

从上图可以看到，总共有10个变量，数据中无缺失值，共2000条数据。

关键代码：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_PSO粒子群优化算法_08

3.3数据描述性统计

通过Pandas工具的describe()方法来查看数据的平均值、标准差、最小值、分位数、最大值。

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_数据_09

关键代码如下：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_PSO粒子群优化算法_10

4.探索性数据分析

4.1 y变量直方图

用Matplotlib工具的hist()方法绘制直方图：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_PSO粒子群优化算法_11

从上图可以看到，y变量主要集中在-200~200之间。

4.2 相关性分析

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_12

从上图中可以看到，数值越大相关性越强，正值是正相关、负值是负相关。

5.特征工程

5.1 建立特征数据和标签数据

关键代码如下：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_13

5.2 数据集拆分

通过train_test_split()方法按照80%训练集、20%测试集进行划分，关键代码如下：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_14

6.构建PSO粒子群优化卷积神经网络CNN回归模型

主要使用PSO粒子群算法优化CNN算法，用于目标回归。

6.1 算法介绍

     说明：PSO算法介绍来源于网络，供参考,需要更多算法原理，请自行查找资料。

(1)基本思想:

PSO是由Eberhart 和Kennedy于1995年提出的一种全局搜索算法，是一种模拟自然界的生物活动以及群体智能的随机搜索算法。除了考虑模拟生物的群体活动之外，融入了个体认知和社会影响，是一种群体智能算法。

鸟群觅食和粒子群优化算法的基本定义对照表： 

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_卷积神经网络CNN回归模型_15

(2)基本流程:

粒子群优化算法要求每个粒子在寻优的过程中维护两个向量，速度向量vi=[vi1,vi2,…,viD]   和位置向量xi=[xi1,xi2,…,xiD]   ，其中i表示例子的编号，D是求解问题的维数。粒子的速度决定了其运动的方向和速度，而位置则体现了粒子所代表的解在解空间中的位置，是评估该解质量的基础。算法同时还要求每个粒子各自维护一个自身的历史最优位置向量（pBest）和群体还维护一个全局最优向量（gBest）。

  • PSO的算法步骤：

（1）初始化所有粒子、初始化它们的速度和位置，并且将粒子的历史最优pBest设为当前位置，而群体中最优的粒子作为当前的gBest。

（2）在每一次迭代中，计算各个粒子的适应度函数值。

（3）如果该粒子当前的适应度函数值比历史最优值好，那么历史最优将会被当前位置所替代。

（4）如果该粒子的历史最优比全局最优好，全局最优将会被粒子的历史最优所替代。

（5）对每个粒子  的第  维的速度和位置分别按照下面公式进行更新：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_16

 

(6)如果未满足结束条件，则转到（2），否则输出gBest并结束。

  • 参数说明：

ω ：惯性权重，非负数，调节对解空间的搜索范围，一般初始化未0.9，随着迭代可递减到0.4.

c1,c2 :加速度常数，调节学习最大步长.

rand1d,rand2d :两个随机函数，取值范围[0，1]，以增加搜索随机性.

需要注意的是在更新过程中，PSO要求采用一个由用户设定的Vmax 来限制速度的范围，Vmax 的每一维Vmaxd 一般可以取相应维的取值范围的10%-20%，另外位置更新后必须是合法的，所以每次更新后要检查是否合法，否则进行修正，一般修正方法是重新随机设定或者限定在边界。

6.2 PSO粒子群算法寻找最优参数值

关键代码：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_17

迭代过程数据：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_数据_18

 最优参数：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_卷积神经网络CNN回归模型_19

 6.3 最优参数值构建模型

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_数据_20

6.4 最优模型的摘要信息

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_21

 通过上图可以看到，模型共有4936个参数，以及每一层的参数。

6.5 最优模型的结构

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_Python_22

通过上图可以看到，每一层的输入和输出以及层与层之间的结果关联关系。

6.6 模型损失可视化图

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_Python_23

 通过上图可以看到，训练集和测试集损失随着迭代次数的增加逐步减小，在迭代8次以后损失逐渐趋于平稳。

7.模型评估

7.1 评估指标及结果

评估指标主要包括可解释方差值、平均绝对误差、均方误差、R方值等等。

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_Python_24

从上表可以看出，R方0.9518，为模型效果较好。  

关键代码如下：

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_Python_25

7.2 真实值与预测值对比图

粒子群优化算法BP神经网络matlab程序 粒子群优化cnn_毕业设计项目_26

 从上图可以看出真实值和预测值波动基本一致，模型拟合效果良好。

8.结论与展望

综上所述，本项目采用了PSO粒子群算法寻找卷积神经网络CNN算法的最优参数值来构建回归模型，最终证明了我们提出的模型效果良好。此模型可用于日常产品的预测。