R语言GBM分析

原创

mob64ca12e33720 2024-11-04 07:03:57 ©著作权

©著作权归作者所有：来自51CTO博客作者mob64ca12e33720的原创作品，请联系作者获取转载授权，否则将追究法律责任

R语言GBM分析入门

GBM（Gradient Boosting Machine，梯度提升机）是一种强大而灵活的机器学习算法，广泛应用于分类和回归问题。R语言提供了多个包来实现GBM建模，包括gbm包和xgboost包。本文将以gbm包为例，演示如何进行GBM分析，并通过可视化方法展示结果。

安装和加载所需包

在开始之前，确保你已经安装了所需的包。可以使用以下代码进行安装和加载：

install.packages("gbm")
install.packages("dplyr")
install.packages("ggplot2")
library(gbm)
library(dplyr)
library(ggplot2)

数据准备

为了演示GBM的工作原理，我们可以使用内置的iris数据集。该数据集包含150个样本，记录了鸢尾花的不同特征及其所属的分类。

data(iris)
set.seed(123)  # 设置随机种子以便复现结果
train_idx <- sample(1:nrow(iris), 100)  # 随机选择100个样本作为训练集
train_data <- iris[train_idx, ]
test_data <- iris[-train_idx, ]

构建GBM模型

使用gbm函数构建GBM模型。以下代码展示了如何指定响应变量和预测变量，并设置树的数量和学习率等参数。

gbm_model <- gbm(Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width,
                 data = train_data,
                 distribution = "multinomial", 
                 n.trees = 100,
                 interaction.depth = 3,
                 shrinkage = 0.01,
                 verbose = FALSE)

模型评估与可视化

接下来，通过混淆矩阵评估模型的性能，并使用ggplot2可视化结果。首先，我们需要预测测试集的类别。

predictions <- predict(gbm_model, newdata = test_data, n.trees = 100, type = "response")
predicted_classes <- apply(predictions, 1, which.max)

confusion_matrix <- table(test_data$Species, predicted_classes)
print(confusion_matrix)

# 绘制饼状图
library(ggplot2)
pie_data <- as.data.frame(prop.table(confusion_matrix, 2))
colnames(pie_data) <- c("Actual", "Predicted", "Frequency")

# 使用ggplot绘制饼状图
ggplot(pie_data, aes(x = "", y = Frequency, fill = as.factor(Predicted))) +
  geom_bar(stat = "identity", width = 1) +
  coord_polar("y") +
  labs(title = "混淆矩阵的饼状图", fill = "预测类别")

pie
    title 混淆矩阵的饼状图
    "Setosa": 20
    "Versicolor": 45
    "Virginica": 35

Gantt图示例

在数据分析过程中，有时候需要跟踪不同操作的进度。以下是使用mermaid语法绘制的执行过程甘特图：

gantt
    title GBM分析流程
    dateFormat  YYYY-MM-DD
    section 数据准备
    准备数据         :a1, 2023-10-01, 1d
    section 模型构建
    构建GBM模型     :a2, after a1, 2d
    section 评估与可视化
    预测测试集      :a3, after a2, 1d
    绘制混淆矩阵    :a4, after a3, 1d