pytorch 从训练集抽样 测试集 pytorch训练yolov3数据集

yolov3代码在训练时不可以在windows下，回报多线程相关的错误，最好在linux环境下并且有显卡。

1 数据集标注

首先我们要对自己的数据进行标注，标注的工具LabelImg，使用方式可以参考我之前的博客：图像标注工具labelImg使用.

2 训练代码

由于本次不采用官网的代码，使用PyTorch框架，这里我们采用github上https://github.com/ultralytics/yolov3，clone下来。

3 数据集准备

为方便跑通流程，可使用以下已经标注好的数据进行测试。已经标注好了数据集（红细胞数据）：https://github.com/cosmicad/dataset

3.1 数据集文件夹准备

将标注好的数据Annotations和JPEGImages放入yolov3下的data目录下，并新建文件ImageSets，labels，复制JPEGImages，重命名images。

3.2 划分训练集、验证集、测试集

在根目录下新建makeTxt.py，用以将数据分成训练集，测试集和验证集，其中比例可以在代码设置，代码如下：

import os  
import random  

trainval_percent = 0.9
train_percent = 0.8  
xmlfilepath = 'data/Annotations'  
txtsavepath = 'data/ImageSets'  
total_xml = os.listdir(xmlfilepath)  
num=len(total_xml)  
list=range(num)  
tv=int(num*trainval_percent)  
tr=int(tv*train_percent)  
trainval= random.sample(list,tv)  
train=random.sample(trainval,tr)  

ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')

for i  in list:  
    name=total_xml[i][:-4]+'\n'  
    if i in trainval:  
        ftrainval.write(name)  
        if i in train:  
            ftrain.write(name)  
        else:  
            fval.write(name)  
    else:  
        ftest.write(name)  

ftrainval.close()  
ftrain.close()  
fval.close()  
ftest.close()

运行上述代码，在ImageSets得到四个文件，其中我们主要关注的是train.txt，test.txt，val.txt，文件里主要存储图片名称。

训练集比例设置：trainval_percent：训练和验证集占所有数据的比例，train_percent：训练和验证集中训练集的比例

假设原始数据有100个，trainval_percent=0.9，train_percent=0.9，那么训练数据有$100*0.9*0.9=81$，验证集有$100*0.9*（1-0.9）=9$，测试集有$100*（1-0.9）=10$个。但数据集比较少时，可以不要验证集，甚至不要测试集。

3.3 生成训练集、测试集

在根目录下新建voc_label.py，得到labels的具体内容以及data目录下的train.txt，test.txt，val.txt，这里的train.txt与之前的区别在于，不仅仅得到文件名，还有文件的具体路径。voc_label.py的代码如下：

# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join

sets = ['train', 'test','val']
classes = ["car","person","bird"] # 自己数据的类别

def convert(size, box):
    dw = 1. / size[0]
    dh = 1. / size[1]
    x = (box[0] + box[1]) / 2.0
    y = (box[2] + box[3]) / 2.0
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)
    
def convert_annotation(image_id):
    in_file = open('data/Annotations/%s.xml' % (image_id))
    out_file = open('data/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')

wd = getcwd()
print(wd)
for image_set in sets:
    if not os.path.exists('data/labels/'):
        os.makedirs('data/labels/')
    image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
    list_file = open('data/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write('data/images/%s.jpg\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()

labels文件下的具体labels信息：

data目录下train.txt

4 配置文件

4.1 ***.data文件

在data目录下新建rbc.data，配置训练的数据，内容如下

classes = 3
train = data/train.txt
valid = data/test.txt
names = data/rbc.names
backup = backup/

• classes ：类别数量，改成你的数据集的类别个数
• train ：训练集位置， 通过voc_label.py文件生成的txt文件
• valid ：验证集位置， 通过voc_label.py文件生成的txt文件
• names ：类别信息
• backup ： checkpoint存放位置
  注意：rbc.data中尽量不要出现注释的信息（#开头），不然可能会报错。

4.2 ***.names文件

在data目录下新建rbc.names，配置预测的类别，内容如下

4.3 网络结构配置

在原工程下cfg目录下有很多的yolov3网络结构，以yolov3-tiny.cfg为例进行介绍，其他的更改方式一样。

默认情况下，每个YOLO层都有255个输出：每个锚点85个值[4个框坐标+ 1个对象置信度+ 80个类置信度]，乘以3个锚点。将设置更新为filters=[5 + n] * 3和classes=n，这n是您的类别数量。修改的地方主要是filter和classes，因为我们每一个网格就预测3个anchor结果，所以直接更改filters=255为filters =18。注意：cfg中的filter和classes一定要全部改完，yolov3-tiny有两个filter和两个classes要改，yolov3分别由3个。另外，cfg文件中尽量不要出现注释的信息（#开头），有的话最好单独一行，不然可能会报错。

在训练时，把Training部分打开，把Testing注释掉，另外如果GPU显存小时，可以将batch改小一些；测试时，把Training部分注释，把Testing部分打开，当然也可以不改。

4.4 超参数设置（可选）

train.py为您的特定任务更新超参数，例如LR，LR调度程序，优化器，扩充设置，多标度设置等。

4.5 下载预训练模型

参考download_yolov3_weights.sh中的说明，但是下载可能比较麻烦。这里直接给出：获取网络参数yolov3-tiny.weights，下载链接https://pjreddie.com/media/files/yolov3-tiny.weights，下载后导入weights文件夹下；同样还需要下载yolov3-tiny.conv.15，下载导入weights文件夹下，下载链接如下：https://pan.baidu.com/s/1nv1cErZeb6s0A5UOhOmZcA提取码：t7vp

4.6训练。

python train.py --data data/rbc.data --cfg cfg/yolov3-tiny.cfg --epochs 50 --weights weights/yolov3-tiny.weights

另外，还可以通过–batch-size修改batch大小。也可以不使用预训练模型，直接从头训练整个模型。

4.7检测

python detect.py --names data/rbc.names --source data/samples/ --cfg cfg/yolov3-tiny.cfg --weights weights/best.pt

可以通过–conf-thres（yolov3-tiny默认是0.3）控制输出框的数量。

4.8 测试

python test.py --data data/rbc.data --cfg cfg/yolov3-tiny.cfg --weights weights/best.pt

4.9 可视化

在训练完成后，会生成一个results.png