·阅读摘要:
本文提出基于Seq2Seq模型,提出CNN-RNN模型应用于多标签文本分类。论文表示CNN-RNN模型在大型数据集上表现的效果很好,在小数据集效果不好。
·参考文献:
[1] Ensemble Application of Convolutional and Recurrent Neural Networks for Multi-label Text Categorization
[2] Seq2Seq模型讲解,参考博客:【多标签文本分类】代码详解Seq2Seq模型
本文的收获有三:
1、CNN-RNN模型;
2、多标签数据集Reuters-21578;
3、多标签评价指标:one-error 、hamming loss、Precision、Recall、F1
[1] CNN-RNN模型图
如下图:模型很简单,左边是一个TextCNN模型,右边是一个解码器Decoder。
【注一】:在理解Seq2Seq的基础上,CNN-RNN模型很好理解。
[2] 多标签数据集Reuters-21578
多标签数据集比较难得,获取数据集Reuters-21578
,可以使用如下代码:
[3] 多标签文本分类评价指标
one-error
:统计top1的预测标签不在实际标签中的实例的比例;
hamming loss
:计算预测标签和相关标签的对称差异,并计算其差异在标签空间中的分数;
Precision、Recall、 F1
:是二元评估指标B(、、、),用于评估分类问题的性能,这是基于真阳性()、真阴性()、假阳性()和假阴性()的数量计算的。有两种方法可以在整个测试数据中计算这些指标:宏观平均macro-averaged
和微观平均micro-averaged
。宏观平均是指标签的平均性能(精度、召回率和F1分数),而微观平均首先统计所有标签中的所有真阳性、真阴性、假阳性和假阴性,然后对其总体计数进行二元评估。