分类预测 | Matlab实现PSO-XGBoost粒子群算法优化XGBoost的多特征分类预测
目录
- 分类预测 | Matlab实现PSO-XGBoost粒子群算法优化XGBoost的多特征分类预测
- 效果一览
- 基本介绍
- 程序设计
- 参考资料
效果一览
基本介绍
Matlab实现PSO-XGBoost粒子群算法优化XGBoost的多特征分类预测,输入多个特征,分四类。
1.Matlab实现PSO-XGBoost粒子群算法优化XGBoost的多特征分类预测,运行环境Matlab2018b及以上;
2.输入12个特征,输出分4类,可视化展示分类准确率,可在下载区获取数据和程序内容。
3.优化参数为最大迭代次数,深度,学习率。
4.data为数据集,main为主程序,其他为函数文件,无需运行。
注:程序和数据放在一个文件夹。
XGBoost的核心算法思想基本就是:不断地添加树,不断地进行特征分裂来生长一棵树,每次添加一个树,其实是学习一个新函数f(x),去拟合上次预测的残差。
程序设计
- 完整程序和数据下载私信博主回复Matlab实现PSO-XGBoost粒子群算法优化XGBoost的多特征分类预测
%% 清空环境变量
warning off % 关闭报警信息
close all % 关闭开启的图窗
clear % 清空变量
clc % 清空命令行
%% 读取数据
res = xlsread('data.xlsx');
%% 分析数据
num_class = length(unique(res(:, end))); % 类别数(Excel最后一列放类别)
num_res = size(res, 1); % 样本数(每一行,是一个样本)
num_size = 0.7; % 训练集占数据集的比例
res = res(randperm(num_res), :); % 打乱数据集(不打乱数据时,注释该行)
flag_conusion = 1; % 标志位为1,打开混淆矩阵(要求2018版本及以上)
%% 设置变量存储数据
P_train = []; P_test = [];
T_train = []; T_test = [];
%% 划分数据集
for i = 1 : num_class
mid_res = res((res(:, end) == i), :); % 循环取出不同类别的样本
mid_size = size(mid_res, 1); % 得到不同类别样本个数
mid_tiran = round(num_size * mid_size); % 得到该类别的训练样本个数
P_train = [P_train; mid_res(1: mid_tiran, 1: end - 1)]; % 训练集输入
T_train = [T_train; mid_res(1: mid_tiran, end)]; % 训练集输出
P_test = [P_test; mid_res(mid_tiran + 1: end, 1: end - 1)]; % 测试集输入
T_test = [T_test; mid_res(mid_tiran + 1: end, end)]; % 测试集输出
end
%% 数据转置
P_train = P_train'; P_test = P_test';
T_train = T_train'; T_test = T_test';
%% 得到训练集和测试样本个数
M = size(P_train, 2);
N = size(P_test , 2);
%% 数据归一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input);
t_train = T_train;
t_test = T_test;
%% 数据转置
p_train = p_train'; p_test = p_test';
t_train = t_train'; t_test = t_test';
%% 参数设置
fun = @getObjValue; % 目标函数
dim = 3; % 优化参数个数
lb = [001, 001, 0.01]; % 优化参数目标下限(最大迭代次数,深度,学习率)
ub = [ 50, 012, 0.1]; % 优化参数目标上限(最大迭代次数,深度,学习率)