神经网络初始化方法范文篇1

关键词：模糊控制；人工神经网络；人脸识别

中图分类号：TP18文献标识码：A文章编号：1009-3044(2011)16-3904-03

随着人工智能技术的飞速发展，机器视觉已经成为当前人工智能研究领域的一大热点，很多国家的研究人员都开展了对机器视觉的研究，其中以机器视觉识别人脸最为困难，这主要是因为人的面部带有表情，不同的人具有不同的脸，而不同的脸具有不同的表情，不同的表情则具有不同的面部特征，如何让计算机通过机器视觉高效率的识别人脸，成为当前机器视觉和智能机器人关键技术领域的技术难题。

随着模糊逻辑控制算法和人工神经网络算法的发展，对于机器视觉识别人脸特征的算法也有了新的发展，目前多数研究算法所采用的人脸识别从实现技术上来说，主要可以分为以下几个类别：

1)基于人脸几何特征进行的识别算法，该算法运算量较小，原理简单直观，但是识别率较低，适合应用于人群面部的分类，而不适宜于每一个人脸的识别。

2)基于人脸特征的匹配识别算法，这种算法是预先构建常见的人脸特征以及人脸模板，构成人脸特征库，将被识别的人脸与特征库中的人脸进行逐一比对，从而实现人脸识别，该算法识别效率较高，但是应用有一定局限性，只能够识别预先设立的人脸特征库中的人脸模型，因此人脸特征库就成为该算法实现的技术关键。

3)基于统计的人脸识别算法，该算法将人脸面部进行特征参数的划分，如两眼距离大小，五官之间距离等，通过构建统计特征参数模型实现对人脸模型的识别，该算法识别率较高，但是算法实现起来运算量比较大，且识别效率较低。

4)基于模糊逻辑的人脸识别算法，这一类算法主要结合了模糊逻辑和神经网络能够自我训练学习的机制实现对人脸的识别，识别率较高，且算法运算量适中，但是算法的原理较难理解，且模糊逻辑控制规则的建立存在一定技术难度。

本论文主要结合模糊人工神经网络方法，将其应用于计算机人脸识别，以期从中能够找到有效可靠的人脸识别方法及其算法应用，并以此和广大同行分享。

1模糊逻辑及人工神经网络在图像辨识中的应用可行性分析

1)人脸识别的技术难点

由于计算机只能够认识0和1，任何数据，包括图像，都必须要转化为0和1才能够被计算机识别，这样就带来一个很复杂很棘手的问题：如何将成千上万的带有不同表情的人脸转变为数字信号并被计算机识别。由于人的面部带有表情，不同的人具有不同的脸，而不同的脸具有不同的表情，不同的表情则具有不同的面部特征，因此这些都成为了计算机识别人脸特征的技术难点，具体来说，人脸实现计算机识别的主要技术难度包括：

①人脸表情：人有喜怒哀乐等不同表情，不同的表情具有不同的面部特征，因此如何分辨出不同表情下的人脸特征，这是首要的技术难点；

②光线阴影的变换：由于人脸在不同光线照射下会产生阴影，而阴影敏感程度的不一也会增加计算机识别人脸特征的难度；

③其他因素：如人随着年龄的增长面部特征会发生些微变化，人脸部分因为装饰或者帽饰遮挡而增加识别难度，以及人脸侧面不同姿态也会对计算机识别带来技术难度。

2)模糊人工神经网络在人脸辨识中的应用可行性

如上分析所示，计算机识别人脸，需要考虑的因素太多，并且每一种因素都不是线性化处理那么简单，为此，必须要引入新的处理技术及方法，实现计算机对人脸的高效识别。根据前人的研究表明，模糊人工神经网络算法是非常有效的识别算法。

模糊理论和神经网络技术是近年来人工智能研究较为活跃的两个领域。人工神经网络是模拟人脑结构的思维功能，具有较强的自学习和联想功能，人工干预少，精度较高，对专家知识的利用也较少。但缺点是它不能处理和描述模糊信息，不能很好利用已有的经验知识，特别是学习及问题的求解具有黑箱特性，其工作不具有可解释性，同时它对样本的要求较高;模糊系统相对于神经网络而言，具有推理过程容易理解、专家知识利用较好、对样本的要求较低等优点，但它同时又存在人工干预多、推理速度慢、精度较低等缺点，很难实现自适应学习的功能，而且如何自动生成和调整隶属度函数和模糊规则，也是一个棘手的问题。如果将二者有机地结合起来，可以起到互补的效果。

模糊逻辑控制的基本原理并非传统的是与不是的二维判断逻辑，而是对被控对象进行阈值的设计与划分，根据实际值在阈值领域内的变化相应的产生动态的判断逻辑，并将逻辑判断规则进行神经网络的自我学习，逐渐实现智能判断，最终实现准确的逻辑判断。相较于传统的线性判断规则，基于模糊规则的神经网络是高度复杂的非线性网络，同时由于其广阔的神经元分布并行运算，大大提高了复杂对象（如人脸）识别计算的效率，因此，将模糊神经网络算法应用于人脸的智能识别是完全可行的。

2基于模糊人工神经网络的人脸识别方法研究

2.1基于模糊神经网络的人脸识别分类器设计

1)输入、输出层的设计：针对模糊神经网络层的输入层和输出层的特点，需要对识别分类器的输入、输出层进行设计。由于使用BP神经网络作为识别分类器时，数据源的维数决定输入层节点数量，结合到人脸的计算机识别，人脸识别分类器的输入输出层，应当由人脸特征数据库的类别数决定，如果人脸数据库的类别数为m，那么输入、输出层节点数也为m，由m个神经元进行分布式并行运算，能够极大提高人脸识别的输入和输出速度。

2)隐藏层结点数的选择：由于一般的BP神经网络都是由3层BP网络构成：输入层，隐藏层和输出层，隐层的数量越多，BP神经网络越复杂，那么最终能够实现的运算精度就越高，识别率也就越高；但是随着隐层数量的增加，随之而来的一个突出的问题就是神经网络变的复杂了，神经网络自我训练和学习的时间变长，使得识别效率相对下降，因此提高精度和提高效率是应用模糊神经网络的一个不可避免的矛盾。在这里面向人脸识别的分类器的设计中，仍然采用传统的3层BP神经网络构建人脸识别分类器，只设计一层隐层，能够在保障识别精度的前提下有效的保障神经网络学习和训练的效率，增加人脸识别的正确率。

3)初始值的选取：在设计了3层BP神经网络的基础上，需要确定神经网络的输入初始值。由于模糊神经网络是非线性的，不但具有线性网络的全部优点，同时还具有收敛速度快等特点，而初始值的选取在很大程度上影响神经网络的学习训练时间的长短，以及是否最终能够实现收敛输出得到最优值。如果初始值太大，那么对于初始值加权运算后的输出变化率趋向于零，从而使得神经网络自我学习训练趋向于停止，最终无法得到收敛的最优值；相反，我们总是希望初始值在经过每一次加权运算后的输出都接近于零，从而能够保证每一个参与运算的神经元都能够进行调节，最终实现快速的收敛。为此，这里将人脸识别的初始值设定在[0，0.2]之间，初始运算的权值设定在[0，0.1]之间，这样都不太大的输入初始值和权值初始值能够有效的保证神经网络快速的收敛并得到最优值。

如果收敛速度太慢，则需要重新设置权值和阈值。权值和阈值由单独文件保存，再一次进行训练时，直接从文件导出权值和阈值进行训练，不需要进行初始化，训练后的权值和阈值直接导入文件。

2.2人脸识别的神经网络训练算法步骤

1)神经网络的逐层设计步骤：神经网络需要按层进行设计，构建信号输入层、模糊层以及输出层，同时还要构建模糊化规则库，以构建神经网络模糊算法的完整输入输出条件。具体构建人脸识别的神经网络层可以按照下述步骤执行：

Step1，构建信号输入层，以视觉摄像头为坐标原点构建人脸识别坐标系统，这里推荐采用极坐标系统构建识别坐标系，以人脸平面所处的角度与距离作为信号的输入层，按照坐标系的变换得到神经网络信号输入的距离差值和角度差值Δρ，Δθ，作为完整的输入信号。

Step2，构建模糊化层，将上一层信号输入层传输过来的系统人脸识别信号Δρ与Δθ进行向量传输，将模糊化层中的每一个节点直接与输入信号向量的分量相连接，并进行信号矢量化传输；同时在传输的过程中，根据模糊化规则库的条件制约，对每一个信号向量的传输都使用模糊规则，具体可以采用如下的隶属度函数来进行模糊化处理：

(1)

其中cij和σij分别表示隶属函数的中心和宽度。

Step3，构建信号输出层，将模糊化层经过模糊处理之后的信号进行清晰化运算，并作为最终结果输出。

关于模糊规则库的建立，目前所用的方法都是普遍所采用的匹配模糊规则，即计算每一个传输节点在模糊规则上的适用度，适用就进行模糊化规则匹配并进行模糊化处理，不适用则忽略该模糊规则并依次向下行寻找合适的模糊规则。当所有的，模糊规则构建好之后，需要对每条规则的适用度进行归一化运算，运算方法为：

(2)

2)人脸的识别算法按如下步骤执行：

Step1：一个样本向量被提交给网络中的每一个神经元；

Step2：计算它们与输入样本的相似度di；

Step3：由竞争函数计算出竞争获胜的神经元，若获胜神经元的相似度小于等于相似度门限值ν，则计算每个神经元的奖惩系数γi，否则添加新的神经元；

Step4：根据学习算法更新神经元或将新添加的神经元的突触权值置为x；

Step5：学习结束后，判断是否有错误聚类存在，有则删除。

其中，

(3)

di是第i个神经元的相似度值，β为惩罚度系数，ν为相似度的门限值。γ的计算方法是对一个输入样本x，若竞争获胜神经元k的相似度dk≤ν，则获胜神经元的γk为1，其它神经元的γi=-βdi/ν，i≠k；若dk>ν，则添加新的神经元并将其突触权值置为x。

实际上，网络训练的目的是为了提高本算法的权值实用域，即更加精确的实现对人脸特征的识别，从而提高算法的人脸识别率，当训练结束后，即可输出结果。

2.3算法仿真测试

为了验证本论文所提出的人脸识别模糊神经网络算法的有效性和可靠性，对该算法进行仿真测试，同时为了凸显该算法的有效性，将该算法与传统的BP神经网络算法进行对比仿真测试。

该测试采集样本500张人脸图片，分辨率均为128×128，测试计算机配置为双核处理器，主频2.1GHz，测试软件平台为Matlab，分别构建BP神经网络分类器与本算法的神经网络分类器，对500幅人脸图片进行算法识别测试。

如表1所示，为传统BP神经网络算法和本论文算法的仿真测试结果对比表格。

从表1所示的算法检测对比结果可以发现：传统的算法也具有人脸特征的识别，但是相较于本论文所提出的改进后的算法，本论文提出的算法具有更高的人脸特征识别率，这表明了本算法具有更好的鲁棒性，神经网络模糊算法的执行上效率更高，因而本算法是具有实用价值的，是值得推广和借鉴的。

3结束语

传统的图像识别技术，很多是基于大规模计算的基础之上的，在运算量和运算精度之间存在着不可调和的矛盾。因人工神经网络技术其分布式信息存储和大规模自适应并行处理满足了对大数据量目标图像的实时处理要求，其高容错性又允许大量目标图像出现背景模糊和局部残缺。相对于其他方法而言，利用神经网络来解决人脸图像识别问题，神经网络对问题的先验知识要求较少，可以实现对特征空间较为复杂的划分，适用于高速并行处理系统来实现。正是这些优点决定了模糊神经网络被广泛应用于包括人脸在内的图像识别。本论文对模糊神经网络在人脸图像识别中的应用进行了算法优化设计，对于进一步提高模糊神经网络的研究与应用具有一定借鉴意义。

参考文献：

[1]石幸利.人工神经网络的发展及其应用[J].重庆科技学院学报:自然科学版,2006(2):99-101.

[2]胡小锋,赵辉.VisralC++/MATLAB图像处理与识别实用案例精选[M].北京:人民邮电出版社,2004.

[3]战国科.基于人工神经网络的图像识别方法研究[D].北京:中国计量科学研究院,2007.

[4]王丽华.基于神经网络的图像识别系统的研究[D].北京:中国石油大学,2008.

[5]范立南,韩晓微,张广渊.图像处理与模式识别[M].北京:科学出版社,2007.

[6]金忠.人脸图像特征抽取与维数研究[D].南京:南京理工大学,1999.

神经网络初始化方法范文篇2

关键词：人工神经网络化工安全评价

化工生产具有易燃、易爆、易挥发、易中毒、有腐蚀性等特点，因而较其他工业生产部门有更大的危险性，安全评价工作是安全生产和安全管理的重要环节，安全评价方法的选择是安全评价工作的关键，直接关系到评价的深度和准确度，影响评价的效果。小波神经网络具有自适应、自组织、自学习的功能和非线性问题的处理能力，可以通过小波神经网络对化工企业安全评价中的评价指标体系进行建模分析与评判。通过MATLAB工具能够方便快速准确地建立小波神经网络，不需要繁琐工作，这让化工安全评价具有了较强的实用价值与现实意义。

本文根据某大型炼油化工有限公司的主要生产工段提供的安全状态原始指标数据，在对整个企业进行安全评价的数据整理和分析基础之上，进行安全评价网络结构、相应参数以及网络训练过程参数的设计，对网络性能进行综合测试，以达到适应石化企业安全评价的目的。根据对某大型炼油化工有限公司提供的原油脱盆脱水工段、减压蒸馏工段、催化裂化_T一段、催化重整工段、加氢裂化工段、延迟焦化工段、炼厂气加工工段的生产装备因素指标安全原始数据进行分析和整理，得出20个实例样本，其中15个样本用来完成对神经网络的训练，5个样本用来结果验证。原始数据的训练结果期望目标值与评价结果的输出如下表（安全评价输出结果等级划分对照表）：

一，安全评价系统神经网络结构的确定

人工神经网络的拓扑结构是由网络的层数、各层的节点数以及节点之间的连接方式组成的。本研究拟采用小波神经网络对化工企业安全生产进行建模评价。如前所述，小波神经网络只有相邻层上的节点相互连接，所以，在设计网络的结构时，关键的参数只涉及到网络的层数和各层的神经元个数。

网络的层数对网络的性能具有重要的影响，确定网络层数的方法是通过大量对实际问题的求解来寻求最合适的网络层数。在确定了网络的层数之后，各层的神经元个数同样也是需要确定的关键参数，神经元的个数对网络的训练及网络收敛速度存在很显著的影响，如果隐含层的节点数太少，网络不能建立复杂的判断界，从而无法识别以前没有的样本，且容错性差；而节点数过多，则学习时间长，使网络的泛化能力降低。在函待解决的评价问题上，对应于各评价指标体系，网络的输入层和输出层的神经元个数是确定的，可以调整的参数是隐含层及隐含层神经元的个数。

在前面分析的基础上，综合考虑整个评价问题，决定采用三层神经网络结构模型。由于化工企业安全评价指标体系中各个单元的评价指标数目不同，在对网络进行训练时隐含层的神经元个数根据各评价单元的收敛情况进行适当的调整。

二、网络样本输入数据的初始化

1，数据初始化的方法

在神经网络的训练过程中，传递激活函数是网络训练的关键环节。传递函数的特征要求输入的信息数据必须在区间[0，1]之内，因此必须对网络训练所需要的原始数据进行初始化处理，使它们转化为分布在[0，1]区间范围内的数据。初始化的具体方法取决于原始数据的数量级，根据每组输入数据中的最大值来确定初始化的数量级，并根据下式确定用于网络输入的数据。

2，网络训练样本数据的准备

根据相关的评价指标体系各单元指标以及对人工神经网络进行理论分析的结果，准备基于神经网络的安全评价模型的训练样本数据。根据对某大型炼油化工有限公司提供的原油脱盐脱水工段、减压蒸馏工段、催化裂化工段、催化重整工段、加氢裂化工段、延迟焦化工段、炼厂气加工工段的安全原始数据进行分析和整理，得出20个实例样本，应用这些实例样本完成对小波神经网络的训练。

在神经网络的训练过程中，传递激活函数是网络训练的关键环节。传递函数的特征要求输入的信息数据必须在区间[O，1]之内，因此必须对网络训练所需要的原始数据进行初始化处理，使它们转化为分布在[O，1]区间范围内的数据表。

3，网络训练过程及结果

根据上面的训练样本数据使用MATLAB6.5软件对网络进行训练，使误差落在要求的范围之内并确定网络内部结构参数权值。网络结构参数表示为（L一M一N），其中，L为网络输入矢量的个数，M为隐含层神经元的个数，N为输出层神经元的个数，在本训练中均为5。网络结构参数确定之后，将获得的原始数据输入，对各因素的网络进行训练，由此可以实现从因素到结果之间映射知识的获取，即分别获得网络单元之间的连接权值向量及各隐含层的阈值向量。

生产装备因素。网络结构参数为（4-11-5），网络迭代次数n=3824.

生产人员素质因素。网络结构参数为（10-12-5），网络迭代次数n=2348.

管理因素。网络结构参数为（3-10-5），网络迭代次数n=3407.

环境条件因素。网络结构参数为（3-7-5），网络迭代次数n=2986.

通过训练获得的神经网络模型即可用于对新的输入进行结果的预测评价。由此可知，蕴藏于神经网络中的知识的获取可以通过计算机软件的学习来实现，参与安全评价的专家只需要提供一定数量的实例以及它们所对应的解，并且只需要知道实例与解之间存在着某种特定关系，而对于究竟具体是何种关系，可以由计算机学习来获得，只要所使用的实例样本空间足够大，就可以比较准确地模拟人的思维判断。

参考文献：

[1]李延渊，吴文新等编著，MATLAB神经网络仿真与应用【M】，科学出版社，2003

神经网络初始化方法范文篇3

关键词：油液光谱；神经网络；遗传算法；预测

磨损金属颗粒浓度可直接反映了设备的运行状况，所以在设备状态监控领域金属颗粒浓度预测是油分析的最重要内容之一。文章通过研究磨损金属颗粒浓度数据序列构成的一般规律，根据神经网络与遗传算法在时间序列预测中的优缺点，提出以GA优化BP神经网络的初始权、阈值，构建GA-BP模型。实例预测结果表明，GA-BP模型的精度与速度都比较理想，优于单一的BP模型。

1神经网络和遗传算法

BP神经网络在时间序列分析中不是一个十分完善的网络，这是因为一方面学习算法的收敛速度较慢，另―方面在优化过程中易陷入局部极小点。

而遗传算法具备优秀的全局搜索能力，所以可利用遗传算法对BP网络从三个方面进行优化：（1）优化神经网络的初始权值和阈值；（2）优化神经网络的拓扑结构进化；（3）神经网络学习规则的进化。

通过得出具有最佳隐层节点的网络结构，合理的初始权值和阈值，及最佳学习进化规则，保证网络不陷入局部最小值，同时又具备合理的收敛速度。

2遗传算法优化BP神经网络预测模型

文章GA-BP算法的假设是网络拓扑结构固定。算法的基本思想是：（1）给定网络拓扑结构以及网络的输入、输出样本；（2）构建待寻优参数与GA染色串的映射函数；（3）确定GA算法的目标函数、适应度函数和优化参数，产生初始种群；（4）计算目标函数的值，个体的适应度，判断是否进行优化计算，并进行遗传操作（复制、交叉和变异），产生新一代群体；（5）重复上述过程，直至进化满足停止准则。

step5：新个体插入到种群中，计算评价函数；

step6：如果找到了满意的个体，则结束，否则转step3。最终群体中的最优个体解码即可得到优化后的网络连接权值；

step7：以GA算法获得的连接权值作为初始权值，用BP算法训练网络，直到指定精度。

3GA-BP模型预测油液光谱参数

3.1光谱数据的处理

在机械装备状态监测中，一般不直接对采集到的油液光谱参数进行建模，这是因为，一方面直接建模容易忽视参数的摩擦学特征，另一方面，设备的元素含量之间本身有一定线性比例关系，所以，设备的检修、补换油等因素的影响效果从某种程度上来说是一致的。在文章的研究中，通过将元素间比例关系的数据作为系统的输入与输出，即以元素间浓度比值的形式对原始数据进行处理，使其能够比较客观地表征被监测系统的状态。一定设备的油样中，各种不同元素的浓度差异较大，Fe、Cu、Pb、及A1等元素的变化具有一定的规律。文章数据是引用的SGM冲压机油系统与液压系统的油箱中的采样监测结果为例进行讨论。监测过程中，根据元素光谱分析的结果，选取与设备磨损密切相关的五种元素，并计算各种元素浓度值的比例，如表1所示。

3.2实验分析

将表1的Fe元素百分比数列前6组作为训练样本，后2组作为实验样本，如表2所示。

构建4×9×1的BP神经网络，第一层、第二层采用tansig传递函数，第三层采用purelin传递函数。最大循环次数10000，收敛误差0.002，学习率0.01。设置种群规模为80，遗传代数为800，染色体长度为55，交叉概率为0.98，变异概率0.01。

用Matlab2010编程，主要包括4个程序：主程序gabpfault.m；网络初始化nninit.m；适应值计算函数gabpEval.m；编码解码函数gadecod.m。经过大约700代的搜索后染色体的平均适应度趋于稳定，误差平方和曲线和适应度曲线，如图l所示，将遗传算法的结果分配BP网络所对应的权值、阈值，训练神经网络。如图2所示，给出了GA-BP算法的训练目标曲线。用GAS训练BP网络的权值可以得到满意的结果。GA-BPfflBP都用前6组进行训练，后2组进行仿真，如表3所示，列出了GA-BP和BP的预测结果。