多元二次回归模型python

原创

mob64ca12f463e6 2024-08-28 08:01:52 ©著作权

©著作权归作者所有：来自51CTO博客作者mob64ca12f463e6的原创作品，请联系作者获取转载授权，否则将追究法律责任

如何在Python中实现多元二次回归模型

在数据科学和机器学习领域，多元二次回归是一种常见的统计方法，用于分析两个或多个自变量与一个因变量之间的关系。本文将指导您如何用Python实现多元二次回归模型。下面是整个实现流程的概览。

流程概述

步骤	描述
1	导入必要的库
2	准备数据集
3	进行特征工程
4	建立回归模型
5	模型评估与可视化

流程图

flowchart TD
    A[导入必要的库] --> B[准备数据集]
    B --> C[进行特征工程]
    C --> D[建立回归模型]
    D --> E[模型评估与可视化]

步骤详解

1. 导入必要的库

首先，您需要导入一些Python库来处理数据和建立回归模型。以下是您需要用到的库：

# 导入 pandas 库用于数据处理
import pandas as pd
# 导入 numpy 库用于数学计算
import numpy as np
# 导入 matplotlib 库用于可视化
import matplotlib.pyplot as plt
# 导入 sklearn 库中的工具进行回归分析
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import PolynomialFeatures
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error, r2_score

2. 准备数据集

接下来，您需要准备数据集。假设您已经有一个CSV格式的数据文件，您可以使用pandas库来读取这个文件。

# 读取数据集
data = pd.read_csv("data.csv")
# 查看数据集的前几行
print(data.head())

这里data.csv是您的数据文件名。您可以使用.head()方法查看数据集的结构。

3. 进行特征工程

在多元二次回归中，您可能需要准备二次特征。使用PolynomialFeatures来生成二次特征。

# 假设您想要的特征是 X，目标变量是 y
X = data[['feature1', 'feature2']]  # 选择特征列
y = data['target']                   # 选择目标变量列

# 使用 PolynomialFeatures 创建二次特征
poly = PolynomialFeatures(degree=2)
X_poly = poly.fit_transform(X)

# 打印新特征矩阵
print(X_poly)

这段代码的作用是生成包含 linear 和 quadratic 的特征矩阵。

4. 建立回归模型

将生成的二次特征用于建立线性回归模型。首先，将数据分为训练集和测试集。

# 将数据集分为训练集和测试集，比例为80%训练，20%测试
X_train, X_test, y_train, y_test = train_test_split(X_poly, y, test_size=0.2, random_state=42)

# 创建线性回归模型
model = LinearRegression()
# 训练模型
model.fit(X_train, y_train)

这段代码执行了数据分割和模型训练。

5. 模型评估与可视化

接下来，我们需要评估模型的性能，并可视化结果。

# 使用测试集进行预测
y_pred = model.predict(X_test)

# 计算均方误差和 R² 分数来评估模型
mse = mean_squared_error(y_test, y_pred)
r2 = r2_score(y_test, y_pred)

print(f"均方误差: {mse}")
print(f"R² 分数: {r2}")

# 可视化真实值和预测值的对比
plt.scatter(y_test, y_pred)
plt.xlabel("真实值")
plt.ylabel("预测值")
plt.title("真实值与预测值的对比")
plt.plot([min(y_test), max(y_test)], [min(y_test), max(y_test)], color='red') # 添加 y=x 线
plt.show()

这里我们通过均方误差（MSE）和R²分数评估模型效果。在可视化方面，我们提高了真实值与预测值的对比，通过散点图展示。