目录
决策树
决策树的实际划分
信息熵
信息增益
常见决策树使用的算法
泰坦尼克号乘客生存分类模型
泰坦尼克号数据
步骤
决策树的结构、本地保存
随机森林
集成学习方法
学习算法
集成学习API
随机森林的优点
决策树
决策树:程序设计中的条件分支结构就是if-then结构,最早的决策树就是利用这类结构分割数据的一种分类学习方法。
决策树的实际划分
猜谁是冠军?假设有32支球队
32支球队,log(2为底,对数为32)=5比特
64支球队,log(2为底,对数为64)=6比特
信息熵
“谁是世界杯冠军”的信息量应该比5比特少。香农指出,它的准确信息量应该是:
H = -(p1logp1 + p2logp2 + ... + p32log32)
信息和消除不确定性是相联系的,信息熵越大,不确定性越大。
信息增益
定义:当得知一个特征条件后,减少的信息熵的大小。
特征A对训练数据集D的信息增益g(D,A),定义为集合D的信息熵H(D)与特征A给定条件下D的信息条件熵H(D|A)之差,即公式为
注意log以2为底数
常见决策树使用的算法
•ID3
信息增益 最大的准则
•C4.5
信息增益比 最大的准则
•CART
回归树: 平方误差 最小
分类树: 基尼系数(划分更加仔细), 最小的准则 在sklearn中可以选择划分的默认原则
sklearn决策树API
class sklearn.tree.DecisionTreeClassifier ( criterion=’ gini ’ , max_depth = None , random_state =None )
决策树分类器
criterion: 默认是 ’ gini ’ 系数,也可以选择信息增益的熵 ’entropy’
max_depth : 树的深度大小
random_state : 随机数种子
•
method:
decision_path : 返回决策树的路径
泰坦尼克号乘客生存分类模型
泰坦尼克号数据
在泰坦尼克号和titanic2数据帧描述泰坦尼克号上的个别乘客的生存状态。在泰坦尼克号的数据帧不包含从剧组信息,但它确实包含了乘客的一半的实际年龄。关于泰坦尼克号旅客的数据的主要来源是百科全书Titanica。这里使用的数据集是由各种研究人员开始的。其中包括许多研究人员创建的旅客名单,由Michael A. Findlay编辑。
我们提取的数据集中的特征是票的类别,存活,乘坐班,年龄,登陆,home.dest,房间,票,船和性别。乘坐班是指乘客班(1,2,3),是社会经济阶层的代表。
其中age数据存在缺失。
步骤
1、pd读取数据
2、选择有影响的特征,处理缺失值
3、进行特征工程,pd转换字典,特征抽取
x_train.to_dict(orient="records")
4、决策树估计器流程
导入字典特征抽取
from sklearn.feature_extraction import DictVectorizer
"""
决策树对泰坦尼克号进行预测生死
:return: None
"""
# 网页上获取数据
titan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
# 处理数据,找出特征值和目标值
x = titan[['pclass', 'age', 'sex']]
y = titan['survived']
print(x)
# 缺失值处理
x['age'].fillna(x['age'].mean(), inplace=True)
# 分割数据集到训练集合测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)
# 进行处理(特征工程)特征-》类别-》one_hot编码
dict = DictVectorizer(sparse=False)
把样本转化为字典,默认一行转化为一个字典
x_train = dict.fit_transform(x_train.to_dict(orient="records"))
print(dict.get_feature_names())
x_test = dict.transform(x_test.to_dict(orient="records"))
print(x_train)
用决策树进行预测
导包
from sklearn.tree import DecisionTreeClassifier
# 用决策树进行预测
dec = DecisionTreeClassifier()#实例化 (超参数)
dec.fit(x_train, y_train)
# 预测准确率
print("预测的准确率:", dec.score(x_test, y_test))
决策树的结构、本地保存
1、sklearn.tree.export_graphviz() 该函数能够导出DOT格式
tree.export_graphviz(estimator,out_file='tree.dot’,feature_names=[‘’,’’])
2、工具:(能够将dot文件转换为pdf、png)
安装graphviz
ubuntu:sudo apt-get install graphviz Mac:brew install graphviz
3、运行命令
然后我们运行这个命令
$ dot -Tpng tree.dot -o tree.png
在tree里导入, export_graphviz
from sklearn.tree import DecisionTreeClassifier, export_graphviz
工具:(能够将dot文件转换为pdf、png)
安装graphviz
ubuntu:sudo apt-get install graphviz Mac:brew install graphviz
运行命令
然后我们运行这个命令
$ dot -Tpng tree.dot -o tree.png
随机森林
集成学习方法
集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型,各自独立地学习和作出预测。这些预测最后结合成单预测,因此优于任何一个单分类的做出预测。
同理,在机器学习中,多个决策树的分类器结合在一起,就组成了一个随机森林,并且其输出的类别是由个别树输出的类别的众数而定。
例如, 如果你训练了5个树, 其中有4个树的结果是True, 1个数的结果是False, 那么最终结果会是True.
随机森林建立多个决策树的过程
(N个样本,M个特征)单个树的建立过程:
1.随机在N个样本中选择一个样本,重复N次,样本有可能重复。
2.随机在M个特征中选出m个特征,m取值
建立10棵决策树,样本,特征大多不一样 随机有放回的抽样 bootstrap抽样
学习算法
根据下列算法而建造每棵树:
用 N 来表示训练用例(样本)的个数, M 表示特征数目。
输入特征数目 m ,用于确定决策树上一个节点的决策结果;其中 m 应远小于 M 。
从 N 个训练用例(样本)中以 有放回抽样 的方式,取样 N 次,形成一个训练集(即 bootstrap 取样),并用未抽到的用例(样本)作预测,评估其误差。
•为什么要随机抽样训练集?
如果不进行随机抽样,每棵树的训练集都一样,那么最终训练出的树分类结果也是完全一样的。
•为什么要有放回地抽样?
如果不是有放回的抽样,那么每棵树的训练样本都是不同的,都是没有交集的,这样每棵树都是“有偏的”,都是绝对“片面的”(当然这样说可能不对),也就是说每棵树训练出来都是有很大的差异的;而随机森林最后分类取决于多棵树(弱分类器)的投票表决。
集成学习API
class sklearn.ensemble.RandomForestClassifier ( n_estimators =10 , criterion=’ gini ’ ,
max_depth=None, bootstrap=True, random_state=None)
随机森林分类器
n_estimators : integer , optional ( default = 10 ) 森林里的树木数量
criteria : string ,可选( default =“ gini ” )分割特征的测量方法
max_depth : integer 或 None ,可选(默认 = 无)树的最大深度
bootstrap : boolean , optional ( default = True )是否在构建树时使用放回抽样
随机森林进行预测 (超参数调优)
导包
from sklearn.ensemble import RandomForestClassifier
# 随机森林进行预测 (超参数调优
rf = RandomForestClassifier()
param = {"n_estimators": [120, 200, 300, 500, 800, 1200], "max_depth": [5, 8, 15, 25, 30]}
网格搜索与交叉验证
# 网格搜索与交叉验证
gc = GridSearchCV(rf, param_grid=param, cv=2)
gc.fit(x_train, y_train)
print("准确率:", gc.score(x_test, y_test))
print("查看选择的参数模型:", gc.best_params_)
return None
随机森林的优点
在当前所有算法中,具有极好的准确率
能够有效地运行在大数据集上
能够处理具有高维特征的输入样本,而且不需要降维
能够评估各个特征在分类问题上的重要性
对于缺省值问题也能够获得很好得结果