写在开头,最近学习mmyolo的框架,想着它能将所有配置都写在一个config文件里,只需要改配置文件就可以改动模型,感觉挺方便的。
就想着Yolov6用mmyolo框架来实现,但mmyolo并没有提供v6的voc实现配置,v5是有的(看下图),因此博主想自己学着将VOC12数据集当作自定义数据集来实现。
想法虽好,但真实现起来,中途还是踩了不少坑啊!!! 因此在这总结,方便后来人-.-
论文:《YOLOv6: A Single-Stage Object Detection Framework for Industrial Applications》
原理可以看mmyolo给的文档
一、环境安装和项目克隆
根据mmyolo给的文档15 分钟上手 MMYOLO 目标检测来快速上手,最好将这篇文档中的流程都过一遍,自己复现下,博主试过了,很快的。
二、数据集以及转换
2.1 数据准备
VOC2012数据集下载链接:https://pan.baidu.com/s/1E0WDCqxkvROpLVoOUMWdpQ?pwd=o05u
提取码:o05u
解压后文件格式应该是这样的。
2.2 数据集转换和划分
将VOC数据集转换为coco格式
这里可以自己创建一个项目用于转换,例如
其中merge.py就是下面的代码,用于转换数据集
import xml.etree.ElementTree as ET
import os
import json
from datetime import datetime
import sys
import argparsecoco = dict()
coco['images'] = []
coco['type'] = 'instances'
coco['annotations'] = []
coco['categories'] = []category_set = dict()
image_set = set()category_item_id = -1
image_id = 000000
annotation_id = 0def addCatItem(name):global category_item_idcategory_item = dict()category_item['supercategory'] = 'none'category_item_id += 1category_item['id'] = category_item_idcategory_item['name'] = namecoco['categories'].append(category_item)category_set[name] = category_item_idreturn category_item_iddef addImgItem(file_name, size):global image_idif file_name is None:raise Exception('Could not find filename tag in xml file.')if size['width'] is None:raise Exception('Could not find width tag in xml file.')if size['height'] is None:raise Exception('Could not find height tag in xml file.')image_id += 1image_item = dict()image_item['id'] = image_idimage_item['file_name'] = file_nameimage_item['width'] = size['width']image_item['height'] = size['height']image_item['license'] = Noneimage_item['flickr_url'] = Noneimage_item['coco_url'] = Noneimage_item['date_captured'] = str(datetime.today())coco['images'].append(image_item)image_set.add(file_name)return image_iddef addAnnoItem(object_name, image_id, category_id, bbox):global annotation_idannotation_item = dict()annotation_item['segmentation'] = []seg = []# bbox[] is x,y,w,h# left_topseg.append(bbox[0])seg.append(bbox[1])# left_bottomseg.append(bbox[0])seg.append(bbox[1] + bbox[3])# right_bottomseg.append(bbox[0] + bbox[2])seg.append(bbox[1] + bbox[3])# right_topseg.append(bbox[0] + bbox[2])seg.append(bbox[1])annotation_item['segmentation'].append(seg)annotation_item['area'] = bbox[2] * bbox[3]annotation_item['iscrowd'] = 0annotation_item['ignore'] = 0annotation_item['image_id'] = image_idannotation_item['bbox'] = bboxannotation_item['category_id'] = category_idannotation_id += 1annotation_item['id'] = annotation_idcoco['annotations'].append(annotation_item)def read_image_ids(image_sets_file):ids = []with open(image_sets_file, 'r') as f:for line in f.readlines():ids.append(line.strip())return idsdef parseXmlFilse(data_dir, json_save_path, split='train'):assert os.path.exists(data_dir), "data path:{} does not exist".format(data_dir)labelfile = split + ".txt"image_sets_file = os.path.join(data_dir, "ImageSets", "Main", labelfile)xml_files_list = []if os.path.isfile(image_sets_file):ids = read_image_ids(image_sets_file)xml_files_list = [os.path.join(data_dir, "Annotations", f"{i}.xml") for i in ids]elif os.path.isdir(data_dir):# 修改此处xml的路径即可# xml_dir = os.path.join(data_dir,"labels/voc")xml_dir = data_dirxml_list = os.listdir(xml_dir)xml_files_list = [os.path.join(xml_dir, i) for i in xml_list]for xml_file in xml_files_list:if not xml_file.endswith('.xml'):continuetree = ET.parse(xml_file)root = tree.getroot()# 初始化size = dict()size['width'] = Nonesize['height'] = Noneif root.tag != 'annotation':raise Exception('pascal voc xml root element should be annotation, rather than {}'.format(root.tag))# 提取图片名字file_name = root.findtext('filename')assert file_name is not None, "filename is not in the file"# 提取图片 size {width,height,depth}size_info = root.findall('size')assert size_info is not None, "size is not in the file"for subelem in size_info[0]:size[subelem.tag] = int(subelem.text)if file_name is not None and size['width'] is not None and file_name not in image_set:# 添加coco['image'],返回当前图片IDcurrent_image_id = addImgItem(file_name, size)print('add image with name: {}\tand\tsize: {}'.format(file_name, size))elif file_name in image_set:raise Exception('file_name duplicated')else:raise Exception("file name:{}\t size:{}".format(file_name, size))# 提取一张图片内所有目标object标注信息object_info = root.findall('object')if len(object_info) == 0:continue# 遍历每个目标的标注信息for object in object_info:# 提取目标名字object_name = object.findtext('name')if object_name not in category_set:# 创建类别索引current_category_id = addCatItem(object_name)else:current_category_id = category_set[object_name]# 初始化标签列表bndbox = dict()bndbox['xmin'] = Nonebndbox['xmax'] = Nonebndbox['ymin'] = Nonebndbox['ymax'] = None# 提取box:[xmin,ymin,xmax,ymax]bndbox_info = object.findall('bndbox')for box in bndbox_info[0]:bndbox[box.tag] = int(box.text)if bndbox['xmin'] is not None:if object_name is None:raise Exception('xml structure broken at bndbox tag')if current_image_id is None:raise Exception('xml structure broken at bndbox tag')if current_category_id is None:raise Exception('xml structure broken at bndbox tag')bbox = []# xbbox.append(bndbox['xmin'])# ybbox.append(bndbox['ymin'])# wbbox.append(bndbox['xmax'] - bndbox['xmin'])# hbbox.append(bndbox['ymax'] - bndbox['ymin'])print('add annotation with object_name:{}\timage_id:{}\tcat_id:{}\tbbox:{}'.format(object_name,current_image_id,current_category_id,bbox))addAnnoItem(object_name, current_image_id, current_category_id, bbox)json_parent_dir = os.path.dirname(json_save_path)if not os.path.exists(json_parent_dir):os.makedirs(json_parent_dir)json.dump(coco, open(json_save_path, 'w'))print("class nums:{}".format(len(coco['categories'])))print("image nums:{}".format(len(coco['images'])))print("bbox nums:{}".format(len(coco['annotations'])))if __name__ == '__main__':"""脚本说明:本脚本用于将VOC格式的标注文件.xml转换为coco格式的标注文件.json需要改动参数说明:--voc-dir=voc_data_dir,改为voc路径,例如:'../VOCdevkit\VOC2012'--save-path=json_save_path:保存json文件输出的文件夹,例如:'./data/val.json'--type=split:主要用于voc2012查找xx.txt,如train.txt."""parser = argparse.ArgumentParser()parser.add_argument('-d', '--voc-dir', type=str, default='../VOCdevkit\VOC2012', help='voc path')parser.add_argument('-s', '--save-path', type=str, default='./data/train.json', help='json save path')parser.add_argument('-t', '--type', type=str, default='train', help='only use in voc2012/2007')opt = parser.parse_args()if len(sys.argv) > 1:print(opt)parseXmlFilse(opt.voc_dir, opt.save_path, opt.type)else:# voc_data_dir = r'D:\dataset\VOC2012\VOCdevkit\VOC2012'voc_data_dir = '../VOCdevkit\VOC2012'json_save_path = './data/train.json'split = 'train'parseXmlFilse(data_dir=voc_data_dir, json_save_path=json_save_path, split=split)
2.2.1 踩坑注意
----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
注意下面这是我刚开始是这样做的,但把我坑惨了,你看到这步可以参考,但最好别这样做
这样做会出现一个问题,就是在训练集和验证集标签不对应,不管你怎么训练,都不会有效果(就比如,你考试答案写错题了,无论你写的多好都是错的)
上述代码需要运行两遍,因为一遍将train转换,第二遍再将val转换,转换后的格式
再将其放入如下格式中这个data文件是mmyolo项目里的,也就是之前克隆下来的,将其放入
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
2.2.2 正确的做法
这里给出代码,直接复制到上面代码将if语句中的替换即可
if __name__ == '__main__':"""脚本说明:本脚本用于将VOC格式的标注文件.xml转换为coco格式的标注文件.json需要改动参数说明:--voc-dir=voc_data_dir,改为voc路径,例如:'../VOCdevkit\VOC2012'--save-path=json_save_path:保存json文件输出的文件夹,例如:'./data/val.json'--type=split:主要用于voc2012查找xx.txt,如train.txt."""parser = argparse.ArgumentParser()parser.add_argument('-d', '--voc-dir', type=str, default='../VOCdevkit\VOC2012', help='voc path')parser.add_argument('-s', '--save-path', type=str, default='./data/trainval.json', help='json save path')parser.add_argument('-t', '--type', type=str, default='annotations_all', help='only use in voc2012/2007')opt = parser.parse_args()if len(sys.argv) > 1:print(opt)parseXmlFilse(opt.voc_dir, opt.save_path, opt.type)else:# voc_data_dir = r'D:\dataset\VOC2012\VOCdevkit\VOC2012'voc_data_dir = '../VOCdevkit\VOC2012'json_save_path = './data/trainval.json'split = 'annotations_all'parseXmlFilse(data_dir=voc_data_dir, json_save_path=json_save_path, split=split)
也就是用VOC2012的trainval,将train和val标签放到一起,转换后你可以看到
merge文件就是转换代码,生成的文件在data下
你如果跑过第一步环境安装和项目克隆中的(15 分钟上手 MMYOLO 目标检测)你的项目结构应该是这样
我们在data文件下创建voc目录结构如下图所示
其中将之前转换后的annotations_all.json放到annotations文件中
test.json和trainval.json之后划分后会自动生成.
将VOC2012train+val对应的图片放入images文件中,不过VOC图像不仅包括目标检测还包括分割的
VOC12总共:17125张图片,而train+val:11540张图片
这里如果不想自己分的话博主直接给出整合后的trainval数据集链接下载
链接:https://pan.baidu.com/s/1Tan3tgO1xRtzJxJ9T7SKug?pwd=h4rv
提取码:h4rv
2.3 检查转换为coco的标签
转换后我们需要检查标签是否有问题,
打开mmyolo项目,在终端输入如下命令
python tools/analysis_tools/browse_coco_json.py --img-dir ./data/voc/images --ann-file ./data/voc/annotations/annotations_all.json
运行结果如下图所示,每3s会切换下一张图片,可以检测框以及类别是否会出错
大家可以多看几张图片,如果检测框以及类别都每问题就在终端ctrl+c关闭就行了
2.4 数据集划分
上面annotations(标签)+images(图像)都准备好后,就可以划分数据集了
注意:本来博主是打算用原本VOC的train(5718张)当训练集,用val(5824张)当验证集的,但是上面也说了,train和val分别转换为coco标签后里面的类别不一样,导致训练不了
打开mmyolo项目,在终端输入
python tools/misc/coco_split.py --json ./data/voc/annotations/annotations_all.json --out-dir ./data/voc/annotations --ratios 0.7 0.3 --shuffle --seed 10
"""
参数解释:
--json:之前转换为coco数据集后的标签
--out-dir:划分后文件的保存路径
--ratios:划分比例,train:val,如需test,写三个参数即可比如0.6 0.2 0.2
--shuffle:是否打乱
--seed:随机种子
"""
划分后格式如下图所示
三、训练配置文件
3.1 创建配置文件
根据下图创建文件夹以及.py文件
这里给出配置文件中代码
"""
需要根据自己环境修改的参数
data_root:VOC目录的路径
其他epoch,batch-size之类的参数,直接看配置吧,基本都写注释了很容易理解
batch-size参数如果显存不够的话自己适当调小,博主显卡3070ti(8g)
"""
_base_ = '../yolov6/yolov6_s_syncbn_fast_8xb32-400e_coco.py'max_epochs = 30 # 训练的最大 epoch
data_root = 'C:/app/daima/object_detection/mmyolo-main/data/voc/' # 数据集目录的绝对路径# 结果保存的路径,可以省略,省略保存的文件名位于 work_dirs 下 config 同名的文件夹中
# 如果某个 config 只是修改了部分参数,修改这个变量就可以将新的训练文件保存到其他地方
work_dir = './work_dirs/yolov6_s_syncbn_fast_8xb8_40e_voc'# load_from 可以指定本地路径或者 URL,设置了 URL 会自动进行下载,因为上面已经下载过,我们这里设置本地路径
load_from = 'https://download.openmmlab.com/mmyolo/v0/yolov6/yolov6_s_syncbn_fast_8xb32-400e_coco/yolov6_s_syncbn_fast_8xb32-400e_coco_20221102_203035-932e1d91.pth' # 根据自己的 GPU 情况,修改 batch size,YOLOv5-s 默认为 8卡 x 16bs
train_batch_size_per_gpu = 8
train_num_workers = 4 # 推荐使用 train_num_workers = nGPU x 4save_epoch_intervals = 2 # 每 interval 轮迭代进行一次保存一次权重# 根据自己的 GPU 情况,修改 base_lr,修改的比例是 base_lr_default * (your_bs / default_bs)
base_lr = _base_.base_lr * (8 / 32)# 根据 class_with_id.txt 类别信息,设置 class_name
class_name = ('tvmonitor', 'train', 'person', 'boat', 'horse', 'cow', 'bottle', 'dog', 'aeroplane', 'car', 'bus','bicycle', 'chair', 'diningtable', 'pottedplant', 'bird', 'cat', 'motorbike', 'sheep', 'sofa')
num_classes = len(class_name)
metainfo = dict(classes=class_name)train_cfg = dict(max_epochs=max_epochs,# val_begin=20, # 第几个 epoch 后验证,这里设置 20 是因为前 20 个 epoch 精度不高,测试意义不大,故跳过val_interval=5 # 每 val_interval 轮迭代进行一次测试评估
)model = dict(backbone=dict(frozen_stages=4),bbox_head=dict(head_module=dict(num_classes=num_classes)),train_cfg=dict(initial_assigner=dict(num_classes=num_classes),assigner=dict(num_classes=num_classes)))train_dataloader = dict(batch_size=train_batch_size_per_gpu,num_workers=train_num_workers,dataset=dict(data_root=data_root,metainfo=metainfo,ann_file='annotations/trainval.json', # 训练标签data_prefix=dict(img='images/'))) # 保存图片的文件名val_dataloader = dict(dataset=dict(metainfo=metainfo,data_root=data_root,ann_file='annotations/test.json', # 验证标签data_prefix=dict(img='images/')))test_dataloader = val_dataloaderval_evaluator = dict(ann_file=data_root + 'annotations/test.json')
test_evaluator = val_evaluatoroptim_wrapper = dict(optimizer=dict(lr=base_lr))default_hooks = dict(# 设置间隔多少个 epoch 保存模型,以及保存模型最多几个,`save_best` 是另外保存最佳模型(推荐)checkpoint=dict(type='CheckpointHook',interval=save_epoch_intervals,max_keep_ckpts=1,save_best='auto'),param_scheduler=dict(max_epochs=max_epochs),# logger 输出的间隔logger=dict(type='LoggerHook', interval=5))
# wandb可视化
# visualizer = dict(
# vis_backends = [dict(type='LocalVisBackend'),
# dict(
# type='WandbVisBackend',
# init_kwargs=dict(
# project='Yolo', # 项目名字
# name='yolo_v6' # 模型名字
# )
# )]) # noqa
# TensorBoard可视化
# visualizer = dict(vis_backends=[dict(type='LocalVisBackend'),dict(type='TensorboardVisBackend')])
其中代码最后的wandb可视化,你如果会用wandb的话把注释取消就行,不会用就注释把,否则会报错
同理tensorboard,这两个记录训练过程的用一个即可,百度搜一下很简单的,
其中wandb需要注册账号,而tensorboard只需要pip 安装库即可用了
3.2 可视化config配置中数据集处理部分
上面的训练配置文件准备好后,在mmyolo项目的终端运行下面代码
python tools/analysis_tools/browse_dataset.py configs/custom_dataset/yolov6_s_syncbn_fast_8xb8_40e_voc.py --show-interval 3
脚本 tools/analysis_tools/browse_dataset.py 能够帮助用户去直接窗口可视化 config 配置中数据处理部分
比如这样,经过Mosaic等一系列数据增强处理后的训练图片
这里也需要看检测框和类别是否是对的
注意:如果按2.2.1的步骤来划分数据集的话,在可视化config配置中数据处理部分的类别显示就会出错,博主之前就被坑惨了,这步的类别一致不对,例如horse的图像标签显示的是dog,找了一天原因才发现是数据集标签的问题
四、训练和可视化
4.1 训练
在终端输入如下命令
python tools/train.py configs/custom_dataset/yolov6_s_syncbn_fast_8xb8_40e_voc.py
博主3070ti训练时间:1h 30m 45s
训练结束后会产生work_dirs文件夹,在对应配置的文件名下会保存相关文件,一串数字的文件是表示运行时间
可能文件数目不同,因为博主删了点东西
4.2 可视化(可选)
如果你之前在3.1配置文件中选择用了wandb或tensorboard可视化工具的话,在这你就可以看到训练过程图
wandb:
wandb记录的训练过程图
tensorboard:
这里博主没有用,如果大家用了的话,
训练完后Tensorboard 文件会生成在可视化文件夹 work_dirs/yolov6_s_syncbn_fast_8xb8_40e_voc.py/{时间}/vis_data 下
在终端运行命令,会给个链接,大家点进去就可以看了
tensorboard --logdir=work_dirs/yolov6_s_syncbn_fast_8xb8_40e_voc.py
五、推理和测试
5.1 模型推理
用上一步训练完保存的权重epoch_30.pth
python demo/image_demo.py demo/demo.jpg ./configs/custom_dataset/yolov6_s_syncbn_fast_8xb8_40e_voc.py ./work_dirs/yolov6_s_syncbn_fast_8xb8_40e_voc/epoch_30.pth --out-dir ./demo/output
推理结果保存在
效果如图所示,可能是训练轮数太少了,最大的椅子都识别错了,增加训练epoch可能效果会更好
当然也可以用视频进行推理,用demo/video_demo.py文件即可,将图片路径改为视频路径
5.2 模型测试
在mmyolo终端运行以下测试命令,
python tools/test.py configs/custom_dataset/yolov6_s_syncbn_fast_8xb8_40e_voc.py work_dirs/yolov6_s_syncbn_fast_8xb8_40e_voc/epoch_30.pth --show-dir show_results
运行代码后,测试结束会显示voc数据集在coco标准的精度,
这里我们主要看最后一行,平均精度bbox_map:59%,iou=0.5的精度bbox_map_50:78%
你不仅可以得到模型训练部分所打印的 AP 性能,还可以将推理结果图片自动保存至 work_dirs/yolov6_s_syncbn_fast_8xb8_40e_vo/{时间}/show_results 文件夹中。
下面为show_results中一张结果图片,左图为实际标注,右图为模型推理结果
最后
到这基本训练流程就完成了,如果对你有帮助请点点赞
博主还会将训练完的模型打包,放到评论区链接中!!!