python主成分回归

原创

mob649e8152a959 2023-08-03 08:28:19 ©著作权

©著作权归作者所有：来自51CTO博客作者mob649e8152a959的原创作品，请联系作者获取转载授权，否则将追究法律责任

主成分回归（Principal Component Regression）

主成分回归是一种结合了主成分分析（PCA）和线性回归的统计建模方法。主成分分析用于降维，将高维数据转换为低维数据，而线性回归用于建立预测模型。主成分回归的目标是利用主成分分析减少特征数量的同时保留大部分信息，然后使用线性回归对降维后的数据进行建模和预测。

主成分分析

主成分分析是一种常用的数据降维技术。它通过寻找数据中最主要的特征，将原始数据转换为一组新的无关的变量，称为主成分。每个主成分都是原始特征的线性组合。

下面是一个简单的主成分分析的示例代码：

from sklearn.decomposition import PCA
import numpy as np

# 原始数据
X = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]])

# 创建PCA对象
pca = PCA(n_components=2)

# 拟合数据并进行主成分分析
X_pca = pca.fit_transform(X)

# 打印主成分
print("主成分：")
print(pca.components_)

# 打印降维后的数据
print("降维后的数据：")
print(X_pca)

运行这段代码，会输出主成分和降维后的数据。主成分是一个3x2的矩阵，表示原始数据的主要特征。降维后的数据是一个3x2的矩阵，表示原始数据经过主成分分析后的结果。

主成分回归

主成分回归是在主成分分析的基础上进行的线性回归。它将主成分作为输入特征，使用线性回归模型建立预测模型。

下面是一个简单的主成分回归的示例代码：

from sklearn.decomposition import PCA
from sklearn.linear_model import LinearRegression
import numpy as np

# 原始数据
X = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
y = np.array([1, 2, 3])

# 创建PCA对象
pca = PCA(n_components=2)

# 拟合数据并进行主成分分析
X_pca = pca.fit_transform(X)

# 创建线性回归模型
regression = LinearRegression()

# 拟合主成分和目标变量
regression.fit(X_pca, y)

# 新数据
new_data = np.array([[10, 11, 12]])

# 进行主成分分析
new_data_pca = pca.transform(new_data)

# 预测
prediction = regression.predict(new_data_pca)

# 打印预测结果
print("预测结果：")
print(prediction)

运行这段代码，会输出预测结果。首先，我们通过主成分分析将原始数据降维为2维，然后使用线性回归模型拟合降维后的数据和目标变量。最后，使用新数据进行主成分分析，并利用训练好的模型进行预测。