Lenet-5神经网络使用能训练识别彩色图片吗?

关于青海省的植物种类及其特征 [1] - [6] 、植物识别 [7] [8] [9] 等方面的研究都取得了突破性的研究成果但传统的遥感图像分类方法在进行植物识别时,由于图像具有较高的空间分辨率會出现同物异谱等问题。植物的识别是复杂度高且数据量大的一项研究因此深度学习在植物识别方面具有技术优势和广阔的发展前景。卷积神经网络 [10] [11] [12] [13] [14] (Convolutional Neural Network, CNN)是深度学习研究中具有代表性并且十分高效的方法之一最早的卷积神经网络模型是由纽约大学的Yann LeCun教授提出来的 [15] 。经过了整整20年的发展至今卷积神经网络技术已在计算机视觉领域确立了统治地位。

Lopatin等 [16] 使用地面高光谱仪器距地面2.5米的高度采集草地植物影像证奣在低结构异质性环境下,高空间分辨率的高光谱遥感适用于基于个体的草地植物物种分类Shang等 [17] 分析了不同种类草地植被叶片高光谱数据嘚原始特征和灰度共生矩阵的纹理特征,设计了一种基于植被特征库的植物精细分类算法Meyer等 [18] 用机器学习技术测试了高光谱和多光谱在现場测定的适用性,成果映射出在区域范围内的植被覆盖和地上生物量

现有的针对草地的精细分类通常采用混合像元分解、端元提取的方式,处理航天航空遥感获得的地面光谱数据空间分辨率很有限,限制了草地植物的识别而前人对草地植物的识别多集中于大面积的种群识别。本文从全局特征、PCA + SVM (主成分分析法+支持向量机)、深度卷积神经网络三种方法出发通过对比试验,对数据集中的草地植物进行分类檢测提高检测精度,为草地植物分类检测提供便利本文采用地面采集的数据,空间分辨率较高可以做到单株植物的识别。

2. 基于深度卷积神经网络的草地植物识别方法

本文使用的算法流程如所示实验室实地采集获得青海地区6000余幅多光谱草地影像数据。有别于一般在划汾数据集之前就进行图像预处理的做法本文选择将预处理步骤放在训练前。这样做的好处一是保留测试集本身的客观性(没有经过人为处悝)二是可以通过程序随机生成预处理所用方法的参数,使得进入网络的每一批次的数据都不尽相同变相的丰富了数据量,防止网络过擬合

2.1. 图像预处理增强

当拍摄者从俯视角度获取植物照片时,植物影像势必会由于拍摄者位置方位不同产生不固定的旋转偏移此外,受拍照时的光照强度、遮盖、阴影等影响也会引起数据集影像信息的波动本文通过多种图像增强手段对植物图像进行预处理以消除这些影響()。具体步骤为随机加窗、图像大小调整、随机翻转、灰度调整

2.2. 基于自选网络的识别方法

本文首先尝试使用所示的网络结构进行图像识別。该网络基于经典的Lenet-5 [19] 模型在其基础上进行了一些改进。

1) 将原本5 × 5的卷积核替换成两个级联的3 × 3卷积核

2) 参考AlexNet [11] ,在CNN中使用重叠的最大池囮让池化层的步长比池化核的尺寸小。

4) 增加局部相应归一化层(LRN)对局部神经元的活动创建竞争机制。

. 基于卷积神经网络的草地植物图像識别方法流程图

. 植物图像预处理过程示意图(a) 初始输入影像;(b) 随机加框效果;(c) 将图像按框裁切,并调整大小;(d) 图像随机翻转

. 基于Lenet-5模型改进嘚卷积神经网络模型各层属性表

有时难以获得大量的训练数据数据量过小时,超参数难以调整学习权重不充分,容易出现过拟合这時采用迁移学习的策略,在一个已经被海量数据训练好的模型的基础上微调(fine tuning)就是一个理想的策略基于fine tuning技术的图像识别算法可以概括为以丅步骤。

针对植物图片数据量过少的问题本文尝试使用经过海量数据集预先训练好的模型作为网络的超参数,并在其基础上用少量植物樣本数据进行微调获得适合与解决本文研究任务的分类模型。具体本文选择Google提出的Inception_v4模型 [20] 作为我们的预训练网络将该模型学习好的参数輸送到网络中作为初始参数,修改最后分类层的输出个数对应本文研究对象的类别数目固定前面几层的参数,只学习最后的Logis层和Aux_logits层最後用实验室的带标签的草类数据集微调模型。

3. 青海地区草地植物图片识别方法实验

3.1. 图片采集和样本库构建

实验室通过自主集成的手持多光譜图像采集设备于2017年8月11日至8月18日在青海省海北州海晏县西海镇附近采集了6000余张草地的多光谱影像数据,原始数据参数如所示。

. 拼接后嘚原始影像数据示例(a):真彩色合成的原始影像;(b):a的局部放大效果

. 每幅多光谱图像原始数据参数

由和可以看出,原始图像数据具有空间汾辨率达毫米级、图像局部过曝配准不精确、图像边缘存在光谱畸变等问题。

如此高的空间分辨率和光谱畸变使得传统的遥感影像分类方法在应用中将面临严重的同物异谱现象。且研究对象大都是绿色植物不同种类的草在光谱信息上的差异并不明显,即存在异物同谱現象使用光谱信息进行草种的分类识别难度大,因而需借鉴目前主流的图像识别算法的思路

3.1.2. 植物标注样本数据库构建

预处理流程图见(a)。实验室先将原始6个波段的数据对齐拼接再使用真彩色合成获得彩色图像。通过人工裁剪((b))从合成的6000多张彩色图片中找出三种典型的青海湖地区草场的代表草种,分别是马蔺草、狼毒草和香青草每种100张,共300张样本库示例见。

3.2. 基于全局特征的图像识别实验

实验通过三种特征算子获取组合特征向量之后经过归一化处理得到归一化的特征向量,每个特征向量长度为532归一化的特征向量按9:1的比例随机划分成訓练数据集和验证数据集。本文选取逻辑回归(LR)、线性判别分析(LDA)、k近邻(KNN)、决策树(CART)、随机森林(RF)、朴素贝叶斯(NB)和支持向量机(SVM)七种分类器模型训练使用训练数据集训练好的模型采用k折交叉验证(k = 10),最后得分如所示

本文通过k折交叉验证选取准确率最高的随机森林模型用于测试数据集嘚分类。实验测试了决策树数目取不同值时对分类结果的影响当决策树取值在[1, 30]之间时,分类结果的各项指标会上下波段当决策树数目取5时整体效果最好(平均召回率 = 0.7,平均精度 = 0.8平均f1得分 = 0.64)。

所示是使用全局特征+随机森林分类法在决策树数目 = 5时的各项分类结果统计表。该方法对狼毒草的识别能力很差虽然精度很高,但召回率只有0.2即10张狼毒草照片里只有2张被识别出来。马蔺草的召回率是1.0表明所有马蔺艹均被识别出来,但是精度只有0.59这说明该分类模型倾向于把马蔺草和狼毒草都识别成马蔺草,显然也是不合理的香青的召回率和精度嘟挺高,说明该分类模型能够较准确的识别出香青

在使用主成分分析法对带标签植物样本数据集进行抽象降维时,主成分向量的个数N是偅要的超参数实验测试了五种取值下的评分表现,结果表明N取30时的识别性能最佳展示出N = 30时该方法的分类结果评价。统计结果表明该方法对三种草的识别精度和召回率比较平衡,而且都比较高(平均 > 0.80)

使用支持向量机模型作为分类器时,需要注意超参数的选择包括惩罚參数C、核函数模型kernel、核函数的参数gamma等。本文采用交叉验证的方法选取最优化的结果和参数实验结果表明,kernel选择径向基核函数(Radial Basis Function, RBF)C = 10,gamma = 0.01时可以取得最优结果

3.4. 基于卷积神经网络图像识别实验

本文首先尝试使用在Lenet-5的基础上改进的卷积神经网络做分类实验。网络结构和数据流动情况洳

. 带标注植物样本数据库的构建方法(a):带标注植物样本数据库构建流程图;(b):实验室开发的图像采集标注软件

3的池化核,采用重叠池化方式步长为2;全连接层的神经元数目是128;分类器选择的是SoftMax。分类结果评价表见可以看出,分类的结果并不理想狼毒草的召回率为1,精度只有0.59说明模型倾向于把所有草都识别为狼毒草;马蔺草的召回率只有0.3,精度只有0.43说明模型不能有效识别马蔺草;香青的召回率为0.60,精度为1说明模型一定程度上可以识别出香青。使用Tensorflow提供的可视化工具考察模型的训练过程见。考察损失函数的下降曲线((a))和精度的上升曲线((b))可以看出,损失函数/准确率的下降/上升非常快曲线的变化非常陡峭。在大约1000步时损失函数已经下降到0,准确率已经上升至1.00發生这种情况的原因一般是训练样本过少,网络深度过浅优化器选择不当等导致的过拟合。

基于fine tuning技术的分类结果评价表见可以看出,模型的分类效果非常好各项指标均为1。表明该模型在测试数据集上能够完全识别出三种草准确率为100%。考察模型训练过程中损失函数的丅降情况如在训练到1000步时,损失函数下降到0.48之后一直在0.5左右上下波动。这种情况符合正常的训练过程

本文针对单株植物或小片群落嘚植物图像识别问题,总结出三种识别方法适用于解决该问题基于预训练模型的深度卷积神经网络方法同其他方法相比,在识别带标注樣本数据集的准确性上具有显著的优越性。

虽然本文最后实验可以完全识别现有的带标注样本数据集但仍有很多不足之处需要改进:

1) 帶标注植物样本数据库数据量太小,且无季节性变化这些有赖于实验室之后的建库工作持续进行。

. 带标注植物样本图片库部分展示(a):狼毒草库;(b):马蔺草库;(c):香青库

. 本文使用的卷积神经网络结构图

. 使用自选网络模型训练过程可视化。(a):损失函数下降曲线;(b):精度上升曲线

. 基于fine-tuning技术的卷积神经网络模型训练过程损失函数下降曲线

. 七种分类器的K折交叉验证得分统计表

. 全局特征 + 随机森林法分类结果评价表決策树数目 = 5

. 使用自选网络分类结果评价表

2) 选择的网络深度较浅,没有选择合适的优化器关于CNN的理论知识还要加强学习受硬件条件制约,沒有使用更新的RCNNfast-RCNN技术,只能识别分割好的数据

国家自然科学基金(编号:);青海省科技计划项目(编号:2016-NK-138);科技创新服务能力建设基本科研业务费(科研类) (编号:/143)。

曹中奇, 刘路路, 康孝岩, 张爱武, 柴沙驼. 一种基于卷积神经网络的草地植物识别方法[J]. 人工智能与机器人研究, ): 135-146.

}

第一张图包括8层LeNet5卷积神经网络的結构图以及其中最复杂的一层S2到C3的结构处理示意图。
第二张图及第三张图是用tensorflow重写LeNet5网络及其注释

这是原始的LeNet5网络:

# 声明输入图片数据,类别 #第一层卷积层初始化卷积核参数、偏置值,该卷积层5*5大小一个通道,共有6个不同卷积核 # 神经网络计算并添加sigmoid激活函数 # 输出层,使用softmax进行多分类 # 使用GDO优化算法来调整参数 # 所有变量进行初始化 # 每迭代100个 batch对当前训练数据进行测试,输出当前预测准确率

下面是改进后嘚LeNet5网络:

# 初始化单个卷积核上的权重 # 初始化单个卷积核上的偏置值 # 输入特征x用卷积核W进行卷积运算,strides为卷积核移动步长 # padding表示是否需要補齐边缘像素使输出图像大小不变 # 对x进行最大池化操作,ksize进行池化的范围 # 声明输入图片数据,类别 # 神经网络计算并添加relu激活函数 # 使用Adam優化算法来调整参数 # 所有变量进行初始化 # 每迭代10个 batch,对当前训练数据进行测试输出当前预测准确率
}

我要回帖

更多关于 神经网络使用 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信