卷积神经网络具体步骤范文篇1

（江苏科技大学电子信息学院，江苏镇江212003）

摘要：在实际交通环境中，由于运动模糊、背景干扰、天气条件以及拍摄视角等因素，所采集的交通标志的图像质量往往不高，这就对交通标志自动识别的准确性、鲁棒性和实时性提出了很高的要求。针对这一情况，提出一种基于深层卷积神经网络的交通标志识别方法。该方法采用深层卷积神经网络的有监督学习模型，直接将采集的交通标志图像经二值化后作为输入，通过卷积和池采样的多层处理，来模拟人脑感知视觉信号的层次结构，自动地提取交通标志图像的特征，最后再利用一个全连接的网络实现交通标志的识别。实验结果表明，该方法利用卷积神经网络的深度学习能力，自动地提取交通标志的特征，避免了传统的人工特征提取，有效地提高了交通标志识别的效率，具有良好的泛化能力和适应范围。

关键词：交通标志；识别；卷积神经网络；深度学习

中图分类号：TN911.73?34；TP391.41文献标识码：A文章编号：1004?373X（2015）13?0101?06

收稿日期：2015?01?09

基金项目：国家自然科学基金面上项目（61371114）

0引言

随着智能汽车的发展，道路交通标志的自动识别[1?3]作为智能汽车的基本技术之一，受到人们的高度关注。道路交通标志识别主要包括两个基本环节：首先是交通标志的检测，包括交通标志的定位、提取及必要的预处理；其次是交通标志的识别，包括交通标志的特征提取和分类。

如今，交通标志的识别方法大多数都采用人工智能技术，主要有下述两类形式[4]。一种是采用“人工特征+机器学习”的识别方法，如基于浅层神经网络、支持向量机的特征识别等。在这种方法中，主要依靠先验知识，人工设计特征，机器学习模型仅负责特征的分类或识别，因此特征设计的好坏直接影响到整个系统性能的性能，而要发现一个好的特征，则依赖于研究人员对待解决的问题的深入理解。另一种形式是近几年发展起来的深度学习模型[5]，如基于限制波尔兹曼机和基于自编码器的深度学习模型以及卷积神经网络等。在这种方法中，无需构造任何的人工特征，而是直接将图像的像素作为输入，通过构建含有多个隐层的机器学习模型，模拟人脑认知的多层结构，逐层地进行信息特征抽取，最终形成更具推广性和表达力的特征，从而提升识别的准确性。

卷积神经网络作为深度学习模型之一，是一种多层的监督学习神经网络，它利用一系列的卷积层、池化层以及一个全连接输出层构建一个多层的网络，来模仿人脑感知视觉信号的逐层处理机制，以实现视觉特征信号的自动提取与识别。本文将深层卷积神经网络应用于道路交通标志的识别，通过构建一个由二维卷积和池化处理交替组成的6层网络来逐层地提取交通标志图像的特征，所形成的特征矢量由一个全连接输出层来实现特征的分类和识别。实验中将加入高斯噪声、经过位移、缩放和旋转处理的交通标志图像以及实际道路采集交通标志图像分别构成训练集和测试集，实验结果表明，本文所采用的方法具有良好的识别率和鲁棒性。

1卷积神经网络的基本结构及原理

1.1深度学习

神经科学研究表明，哺乳动物大脑皮层对信号的处理没有一个显示的过程[5]，而是通过信号在大脑皮层复杂的层次结构中的递进传播，逐层地对信号进行提取和表述，最终达到感知世界的目的。这些研究成果促进了深度学习这一新兴研究领域的迅速发展。

深度学习[4，6?7]的目的就是试图模仿人脑感知视觉信号的机制，通过构建含有多个隐层的多层网络来逐层地对信号特征进行新的提取和空间变换，以自动学习到更加有效的特征表述，最终实现视觉功能。目前深度学习已成功地应用到语音识别、图像识别和语言处理等领域。在不同学习框架下构建的深度学习结构是不同的，如卷积神经网络就是一种深度的监督学习下的机器学习模型。

1.2卷积神经网络的基本结构及原理

卷积神经网络受视觉系统的结构启发而产生，第一个卷积神经网络计算模型是在Fukushima的神经认知机中提出的[8]，基于神经元之间的局部连接和分层组织图像转换，将有相同参数的神经元应用于前一层神经网络的不同位置，得到一种平移不变神经网络结构形式。后来，LeCun等人在该思想的基础上，用误差梯度设计并训练卷积神经网络[9?10]，在一些模式识别任务上得到优越的性能。

卷积神经网络本质上是一种有监督的深度学习算法，无需事先知道输入与输出之间精确的数学表达式，只要用已知的模式对卷积神经网络加以训练，就可以学习到输入与输出之间的一种多层的非线性关系，这是非深度学习算法不能做到的。卷积神经网络的基本结构是由一系列的卷积和池化层以及一个全连接的输出层组成，可以采用梯度下降法极小化误差函数对网络中的权值和阈值参数逐层反向调节，以得到网络权值和阈值的最优解，并可以通过增加迭代次数来提高网络训练的精度。

1.2.1前向传播

在卷积神经网络的前向传播中，输入的原始图像经过逐层的卷积和池化处理后，提取出若干特征子图并转换成一维特征矢量，最后由全连接的输出层进行分类识别。

在卷积层中，每个卷积层都可以表示为对前一层输入图像的二维卷积和非线性激励函数，其表达式可用式（1）表示：

式中：Yj表示输出层中第j个输出；Yl+1i是前一层（l+1层）

的输出特征（全连接的特征向量）；n是输出特征向量的长度；Wij表示输出层的权值，连接输入i和输出j；bj表示输出层第j个输出的阈值；f(?)是输出层的非线性

1.2.2反向传播

在反向传播过程中，卷积神经网络的训练方法采用类似于BP神经网络的梯度最速下降法，即按极小化误差的方法反向传播调整权值和阈值。网络反向传播回来的误差是每个神经元的基的灵敏度[12]，也就是误差对基的变化率，即导数。下面将分别求出输出层、池采样层和卷积层的神经元的灵敏度。

（1）输出层的灵敏度

对于误差函数式（6）来说，输出层神经元的灵敏度可表示为：

在前向传播过程中，得到网络的实际输出，进而求出实际输出与目标输出之间的误差；在反向传播过程中，利用误差反向传播，采用式（17）~式（20）来调整网络的权值和阈值，极小化误差；这样，前向传播和反向传播两个过程反复交替，直到达到收敛的要求为止。

2深层卷积神经网络的交通标志识别方法

2.1应用原理

交通标志是一种人为设计的具有特殊颜色（如红、黄、白、蓝、黑等）和特殊形状或图形的公共标志。我国的交通标志主要有警告、禁令、指示和指路等类型，一般采用颜色来区分不同的类型，用形状或图形来标示具体的信息。从交通标志设计的角度来看，属于不同类型（不同颜色）的交通标志在形状或图形上有较大的差异；属于相同类型（相同颜色）的标志中同类的指示信息标志在形状或图形上比较接近，如警告标志中的平面交叉路口标志等。因此，从机器视觉的角度来分析，同类型中同类指示信息的标志之间会比不同类型的标志之间更易引起识别错误。换句话说，相比于颜色，形状或图形是正确识别交通标志的关键因素。

因此，在应用卷积神经网络识别交通标志时，从提高算法效率和降低错误率综合考虑，将交通标志转换为灰度图像并作二值化处理后作为卷积神经网络的输入图像信息。图2给出了应用卷积神经网络识别交通标志的原理图。该网络采用了6层交替的卷积层和池采样层来逐层提取交通标志的特征，形成的特征矢量由一个全连接的输出层进行识别。图中：W1i（i=1，2，…，m1），W1（jj=1，2，…，m2），…，W1k（k=1，2，…，m（n?1））分别表示卷积层L1,L3,…,Ln-1的卷积核；Input表示输入的交通标志图像；

Pool表示每个池采样层的采样池；map表示逐层提取的特征子图；Y是最终的全连接输出。

交通标志识别的判别准则为：对于输入交通标志图像Input，网络的输出矢量Y=[y1,y2,…,yC]，有yj=Max{y1，y2,…,yC}，则Input∈j，即判定输入的交通标志图像Input为第j类交通标志。

2.2交通标志识别的基本步骤

深层神经网络识别交通标志主要包括交通标志的训练与识别，所以将交通标志识别归纳为以下4个步骤：（1）图像预处理：利用公式Gray=0.299R+0.587G+0.114B将彩色交通标志图像转换为灰度图像，再利用邻近插值法将交通标志图像规格化，最后利用最大类间方差将交通标志图像二值化。

（2）网络权值和阈值的初始化：利用随机分布函数将权值W初始化为-1~1之间的随机数；而将阈值b初始化为0。

（3）网络的训练：利用经过预处理的交通标志图像构成训练集，对卷积神经网络进行训练，通过网络前向传播和反向传播的反复交替处理，直到满足识别收敛条件或达到要求的训练次数为止。

（4）交通标志的识别：将实际采集的交通标志图像经过预处理后，送入训练好的卷积神经网络中进行交通标志特征的提取，然后通过一个全连接的网络进行特征分类与识别，得到识别结果。

3实验结果与分析

实验主要选取了我国道路交通标志的警告标志、指示标志和禁令标志三类中较常见的50幅图像。考虑到在实际道路中采集到的交通标志图像会含有噪声和出现几何失真以及背景干扰等现象，因此在构造网络训练集时，除了理想的交通标志以外，还增加了加入高斯噪声、经过位移、旋转和缩放处理和实际采集到的交通标志图像，因此最终的训练样本为72个。其中，加入的高斯噪声为均值为0，方差分别为0.1，0.2，0.3，图像的位移、旋转、缩放的参数分别随机的分布在±10，±5°，0.9~1.1的范围内。图3给出了训练集中的交通标志图像的示例。图4是在实际道路中采集的交通标志图像构成的测试集的示例。

在实验中构造了一个输入为48×48个神经元、输出为50个神经元的9层网络。网络的输入是像素为48×48的规格化的交通标志图像，输出对应于上述的50种交通标志的判别结果。网络的激活函数采用S型函数，如式（2）所示，其输出范围限制在0~1之间。

图6是交通标志的训练总误差EN曲线。在训练开始的1500次，误差能迅速地下降，在迭代2000次以后是一个平稳的收敛过程，当迭代到10万次时，总误差EN可以达到0.1882。

在交通标志的测试实验中，为了全面检验卷积神经网络的识别性能，分别针对理想的交通标志，加入高斯噪声、经过位移、旋转和比例缩放以及采集的交通标志图像进行实验，将以上测试样本分别送入到网络中识别，表2给出了测试实验结果。

综合分析上述实验结果，可以得到以下结论：（1）在卷积神经网络的训练学习过程中，整个网络的误差曲线快速平稳的下降，体现出卷积神经网络的训练学习具有良好的收敛性。

（2）经逐层卷积和池采样所提取的特征具有比例缩放和旋转不变性，因此对于旋转和比例缩放后的交通标志能达到100%的识别率。

（3）与传统的BP网络识别方法[11]相比较，卷积神经网络能够达到更深的学习深度，即在交通标志识别时能够得到更高的所属类别概率（更接近于1），识别效果更好。

（4）卷积神经网络对实际采集的交通标志图像的识别率尚不能达到令人满意的结果，主要原因是实际道路中采集的交通标志图像中存在着较严重的背景干扰，解决的办法是增加实际采集的交通标志训练样本数，通过网络的深度学习，提高网络的识别率和鲁棒性。

4结论

本文将深层卷积神经网络应用于道路交通标志的识别，利用卷积神经网络的深层结构来模仿人脑感知视觉信号的机制，自动地提取交通标志图像的视觉特征并进行分类识别。实验表明，应用深层卷积神经网络识别交通标志取得了良好的识别效果。

在具体实现中，从我国交通标志的设计特点考虑，本文将经过预处理二值化的图像作为网络的输入，主要是利用了交通标志的形状信息，而基本略去了颜色信息，其优点是在保证识别率的基础上，可以简化网络的结构，降低网络的计算量。在实际道路交通标志识别中，将形状信息和颜色信息相结合，以进一步提高识别率和对道路环境的鲁棒性，是值得进一步研究的内容。

此外，本文的研究没有涉及到道路交通标志的动态检测，这也是今后可以进一步研究的内容。

参考文献

[1]刘平华，李建民，胡晓林，等.动态场景下的交通标识检测与识别研究进展[J].中国图象图形学报，2013，18（5）：493?503.

[2]SAHASK，DULALCM，BHUIYANAA.Neuralnetworkbasedsignrecognition[J].InternationalJournalofComputerApplication，2012，50（10）：35?41.

[3]STALLKAMPJ，SCHLIOSINGM，SALMENAJ，etal.Manvs.computer：benchmarkingmachinelearningalgorithmsfortraf?ficsignrecognition[J].NeuralNetwork，2012，32（2）：323?332.

[4]中国计算机学会.深度学习：推进人工智能梦想[EB/OL].[2013?06?10].http：//ccg.org.cn.

[5]郑胤，陈权崎，章毓晋.深度学习及其在目标和行为识别中的新进展[J].中国图象图形学报，2014，19（2）：175?184.

[6]FUKUSHIMAK.Neocognition：aself?organizingneuralnet?workmodelforamechanismofpatternrecognitionunaffectedbyshiftinposition[J].BiologicalCybernetics，1980，36（4）：193?202.

[7]LECUNY，BOTTOUL，BENGIOY，etal.Gradient?basedlearningappliedtodocumentrecognition[J].IEEEJournalandMagazines，1989，86（11）：2278?2324.

[8]LECUNY，BOTTOUL，BENGIOY，etal.Backpropagationappliedtohandwrittenzipcoderecognition[J].NeuralCompu?tation，1989，1（4）：541?551.

[9]CIRESAND，MEIERU，MAsciJ，etal.Multi?columndeepneuralnetworkfortrafficsignclassification[J].NeuralNet?works，2012，32（2）：333?338.

[10]NAGIJ，DUCATELLEF，CAROD，etal.Max?poolingcon?volutionneuralnetworkforvision?basedhandgesturerecogni?tion[C]//2011IEEEInternationalConferenceonSignalandImageProcessingApplication.KualaLumpur：IEEE，2011，342?347.

[11]杨斐，王坤明，马欣，等.应用BP神经网络分类器识别交通标志[J].计算机工程，2003，29（10）：120?121.

[12]BUVRIEJ.Notesonconvolutionalneuralnetworks[EB/OL].[2006?11?12].http：//cogprints.org/5869/.

[13]周开利，康耀红.神经网络模型及其Matlab仿真设计[M].北京：清华大学出版社，2005.

[14]孙志军，薛磊，许阳明，等.深度学习研究综述[J].计算机应用研究，2012，29（8）：2806?2810.

[15]刘建伟，刘媛，罗雄麟.深度学习研究进展[J].计算机应用研究，2014（7）：1921?1930.

卷积神经网络具体步骤范文篇2

【关键词】互联网网络文明建设精神文明

加强网络文明建设是社会主义精神文明建设的一个重要组成部分,是构建和谐社会所必不可少的步骤。搞好我国的社会主义精神文明建设,必须力促网络文明的建设,这既是信息时代的必然要求,也是建设社会主义和谐社会的必然要求。

1当前我国网络文明建设的现状

近年来,我国的网络文明建设在全社会的大力支持与积极参与下,取得了巨大成就,但仍然存在着一些严峻的问题。

(1)我国的网络文明建设起步晚,发展速度远远滞后于西方国家。20世纪90年代,互联网开始在我国普及,而同时期的西方国家,互联网已经发展到了很高的水平。我国互联网普及初期,由于人们对其认识不够,所以忽视了对互联网的管理,直到网络犯罪、青少年沉溺网吧等问题的不断出现,才提醒了人们网络也需要加强管理。与西方国家相比,我国网络文明建设的效率、进程都远远落后。西方国家无论在基础设施方面还是在技术方面,都占有较大的优势[1]。

(2)互联网自身的一些特点增加了网络文明建设的困难。互联网自身具有开放性、虚拟性、隐蔽性等特点,现实世界中的法律法规和伦理道德观念在这个人类自己创造的虚拟空间中难以起到约束作用,现有的网络技术又不能很好地抵制网络垃圾从而出现了网络犯罪、网络侵权等现象。互联网自身的这些特点被一些网民随便利用,严重破坏了网络秩序,阻碍了文明网络氛围的形成。

(3)我国现有的关于互联网的法律法规滞后,网络文明建设缺少坚强的后盾。近些年来,我国有关互联网管理文件虽然不少,但多以规章、办法、通知等工作性文件形式体现,不具法律效力,关于互联网建设的基本法律法规比较滞后。主要表现在两个方面:一是关于互联网法律法规的不健全。我国互联网在起步之时,政府部门就颁布了一些相关的法律条例来约束人们的网络行为,但大都比较模糊,不够详细,而且相关法律法规的制定远远赶不上网络的发展速度。二是现有关于互联网的法律条例存在一些不合理成分。《互联网上网服务经营场所管理条例》第二十一条规定:“互联网上网服务营业场所经营单位,不得接纳未成年人进入营业场所”。在西方国家的小学生已经习惯利用互联网来学习和娱乐之时,我们却规定自己的孩子18岁以后才能接触互联网,这是在保护他们还是在断送他们?

(4)传统伦理道德规范在互联网上的作用有限。道德是通过社会舆论、传统习惯和内心信念三者结合而起作用的[2]。互联网是一个开放的、虚拟的世界,现实世界中的伦理道德观念对人们缺少了约束力,人们在现实世界中被压抑的阴暗的一面在互联网中寻求到了生存的空间,网上伦理道德问题日益增多;同时,西方国家利用网络传播一些腐朽的思想,不断冲击着中华民族传统的伦理道德观念,加之网民自身道德修养不高,极易受其影响。

(5)西方国家利用互联网加紧文化渗透,给我国的网络文明建设带来了巨大的阻力。互联网的基础设施有一半以上都设在美国,西方文化在网络上正处于一个霸权地位。互联网作为一个便捷的信息传播方式,无时无刻不在进行着意识形态的斗争。西方国家利用其在互联网上的优势不断向我国传播资产阶级的腐朽思想,攻击我国社会制度,以达到其文化渗透的预谋。这严重影响着我国的安定团结,对我国的长治久安和长远发展是极其不利的。

2我国网络文明建设的对策研究

如何采取有效的措施来将互联网的负面影响降到最低,建立一个文明的互联网世界,是我国网络文明建设当前的重要目标。

(1)坚持以正确的理论指导网络活动。我国的网络文明建设必须坚持以马列主义、思想、邓小平理论、“三个代表”重要思想和社会主义荣辱观为指导思想,坚持社会主义精神文明建设的指导方针、根本任务和基本原则,还要准确地分析互联网以及人们网络行为的特点,将思想与特点结合起来,用先进的理论占领网络文化阵地,引导网民提高自身的思想水平和自身道德修养,确保我国的网络文明建设的社会主义方向。

(2)完善互联网法律法规,依法治网,为网络文明建设营造良好的法制环境。对于网络犯罪,既要治标,又要治本,必须综合治理。法律相对于技术和道德具有更大的威摄力,所以在互联网世界中,法律是必不可少的手段。通过网络立法,建立网络行为监督机制,健全互联网法律法规,把网络主体的责任、权利与义务以法律法规的形式加以明确,使人们知道什么是必须做的,什么是禁止做的,从而规范人们的行为,引导他们正确上网。同时,针对互联网的一系列问题,都要及时合理地立法、执法。

(3)充分利用中华民族优良的传统文化、伦理资源,建设网上文化基地。互联网是文化的载体之一,无论何时,我们都不能忽视网络中的伦理道德教育。中华文明经历了五千年的凝练,博大精深,我们要充分利用这个优势,有关部门要组织专家学者有步骤、有计划地把中华优秀文化成果、伦理道德资源推上网络,用优秀的文化占领网络文化阵地,同时从整合中华民族的传统伦理道德资源入手,通过教育和引导,使网民自动担负起继承、发扬中华民族优秀伦理资源的神圣使命[3],建设网络文化阵地。

(4)提高互联网科技水平,加强网络的安全防范措施。网络文明建设是一个极其复杂的系统工程,面对网络垃圾产品,不但需要法律法规及伦理道德对其约束,更要技术做保障。要积极开发和研制一些网络安全技术,推出新的网络安全产品,加强网络安全防范,对互联网中的不良垃圾产品予以过滤和查封,或从源头上予以堵截,使其不能发挥应有的破坏作用。

(5)动员一切社会力量,共同营造良好的网络氛围。

首先,政府机构及相关文化部门要不断加强互联网管理和监督,坚持以正确的理论来引导网络行为;不断完善关于互联网的法律法规,做到依法治网、合理管网,坚决清除不良网络现象。

其次,互联网服务提供商要依法经营,加强管理,尤其要做好安全防范措施;网站经营要起到弘扬社会主义精神文明建设、传播优秀文化及伦理道德、抵制不良思想文化的作用。

第三,互联网用户要提高自身的道德修养,熟知关于互联网的法律法规,要严于律己,争做文明网民,积极促进网络文明建设。

参考文献

[1]王秋波.关于网络文明建设的思考[j].理论学刊,2001年7月第4期,第102页.