神经网络前向传播算法范文

本文提出了一种基于接收信号强度并结合BP神经网络算法的一种新型定位方法。该方法首先建立一个定位环境模型，用有限数量的参考节点先组建一个无线传感器网络。然后采集样本数据，读取RSSI和实测盲节点的位置坐标，把这些数据用作训练和测试BP神经网络模型。最后把得到的BP神经网络模型应用于具体问题并检测应用效果。经实践检验，该定位方法在短距离定位中比较可行，具有较好的定位性能。

【关键词】无线传感器网络BP算法神经网络定位

随着通信技术、嵌入式计算技术和传感器技术的飞速发展和日益成熟，人们研制出了各种具有感知能力、计算能力和通信能力的微型传感器。许多的微型传感器构成了无线传感器网络引起了人们的极大关注。无线传感网可以使人们在任何时间、地点和任何环境条件下获取大量详实可靠的物理世界的信息，将被广泛地用于国防军事、国家安全、环境监测、交通管理、医疗卫生、制造业、反恐抗灾等领域。

传感器节点的定位技术是无线传感网络的支撑技术。目前，广泛使用的ZigBee无线传感器网络的原理是测量节点间的距离实现网络传输，无线传感器网络定位技术通常采用的方法是在保证信号接收强度（RSSI）的基础上进行测量。这种测量方法采取的主要方式是设置已知的参考节点，通过待定位节点接收到的RSSI值对该节点到各个参考节点的距离进行计算，再利用计算结果、采用不同的算法对目标点的坐标进行推导。本文对一种新型的定位方法进行了分析，此种方法得到未知节点坐标的途径是利用待定位节点与多个固定参考节点间的RSSI值对BP神经网络模型进行训练得到的。

1无线信号传输模型

根据无线通信的基本原理，无线信号在自由空间中传播时信号随传播距离的增加而有规律的变弱。但是在一些复杂的环境里与自由空间相比，无线信号的传播规律性比较差。即便是传播距离相等，所测得的信号强度的差别也比较大。传统的定位技术受接受信号强度的影响，利用无线信号传播模型，利用拟合技术或凭经验得到模型中的未知参数A和N，接着在传播模型中代入信号强度值，计算出对应的距离，最后利用位置距离算法实现定位。此种方法的缺点是经验性强，普遍适用性差，不能得到较高的精度。而且在复杂多变的空间环境中，接收信号强度（RSSI）与传播距离（d）的关系就更加复杂多变。

2用BP神经网络拟合RSSI-d非线性函数关系

Kolmogorov定理对此的证明显示，一个三层BP网络可以实现所有连续函数，所以RSSI与距离d之间建立的非线性函数关系完全可以用BP神经网络来拟合。误差反向传递神经网络是BP神经网络的别称。该网络具有前反馈性，利用的学习方式是均方差。BP网络同时具备输入层和输出层，另外还有一层或多层隐藏神经元结构。该种网络的采用全局逼近方法的学习算法，所以该网络的泛化和容错能力都比较强。

3BP神经网络与无线传感网定位方法

3.1神经网络模型建立

本文采用RSSI方法测量盲节点与各参考节点之间的距离，参考节点固定，盲节点通常是移动的，盲节点每隔一定时间发送一次广播信息，参考节点将监听到广播信息后，将测得的各RSSI值发送至中心盲节点，盲节点收集好信息后再发送给协调器及上位机。

3.2样本数据库建立

通过对训练样本的学习，BP网络才能获得节点位置预测的能力。一般来说，训练样本数量越多，BP神经网络预测能力越强，所以为了提高定位的精准度，应适当多采样来训练样本，同时采用平均值法使样本数据更有效。

3.3BP神经网络参数确定

本文采用3层的BP神经网络来实现，只包含一个隐含层。基本BP算法采用梯度下降法使得误差均方趋向最小，直到达到误差要求。经比较发现，traincgf算法收敛速度快，并且可沿共轭方向达到全局最小点，适合应用于节点位置估测；隐含层节点数对BP神经网络的预测精度有较大影响，隐含层节点数过多会增加训练网络的时间，网络容易过拟合。本文取经验值3为隐含层节点数，经仿真验证，可达到很好的效果。

4仿真结果分析

不同测距误差下BP定位算法与最小二乘估计法的比较：BP定位算法与最小二乘法定位效果表中，进行一千次实验后得到的BP定位算法，利用参考节点与盲节点之间的坐标得到最小二乘法的数据。定位结果到未知节点真实值之间的距离成为定位误差，通过比较BP定位算法得到的平均误差与较之最小二乘估计法得到的误差，前者的误差较小。图1中显示，随着误差的增大，与最小二乘估计法相比BP定位算法得到的误差增大速度慢。可以说，当测距误差较大时，BP定位算法有较大的优势，由此可以说明BP定位算法的定位性能比最小二乘估计法好。

5结语

定位技术是无线传感器网络的关键技术，对提高生产效率、人员安全检查具有重要意义。将智能算法与实际测量相结合，提高了定位精度。具体应用时，可以将C语言编程实现BP神经网络，将编程实现的BP神经网络封装成单个函数的形式，此函数的输入即为RSSI值，输出即为对应的距离d。

参考文献

[1]王小平，罗军，沈昌祥.无线传感器网络定位理论和算法[J].计算机研究与发展，2011（03）：353-363.

[2]王福豹，史龙，任丰原.无线传感器网络中的自身定位系统和算法[J].软件学报，2005（05）：857-868.

[3]吴黎爱.基于不同网络模型的无线传感器网络定位算法研究[D].南昌航空大学，2012.

[4]任梅.基于无线传感器网络定位技术的研究[D].西安电子科技大学，2013.

[5]张颖.无线定位优化算法的研究[D].西安邮电学院，2011.

作者简介

衣治安，硕士学位，现为东北石油大学计算机与信息技术学院副院长，主研领域为计算机网络。

马莉，硕士研究生。

神经网络前向传播算法范文篇2

【关键字】混沌时间序列；BP神经网络；负荷预测

引言

短期负荷预测工作是电力系统运行计划的一个重要组成部分，是电力系统分析系统安全、安排生产计划、进行实时调度的重要参考依据之一，其预测精度直接影响着电力系统的经济效益。

1电力负荷的混沌特性分析

1.1重构相空间

电力系统负荷数据是按照固定的时间间隔取样而得到的离散时间序列。对于这样的时间序列，Pakark和Takens等人提出了重构相空间的思想，该理论的基本思想：系统中全部分量的变化都是由与之相互作用着的其它分量的变化所决定的，所以全部分量的隐含信息就包含在与其相关联的其它分量里。

假设负荷序列为：，将该序列嵌入到m维相空间中，会得到m维相空间下的相点如下：

（1）

式中，为延迟时间，表示由N个X点构成m维的相空间的点数为n。这样就将单变量时间序列嵌入到了m维空间。

1.2延迟时间和嵌入维数m的确定

延迟时间和嵌入维数m的选取非常重要。的选取既不能太小也不能太大，其意义在于不仅要保持相空间轨迹的连续性，又要让参加系统重构的相点尽可能的不相关。

延迟时间选取的方法有很多种，自相关函数法是选取延迟时间的最主要的方法。对于时间序列，N是序列的长度，自相关函数为：

（2）

当自相关函数出现到第一个极小值时，所得到的即为所求的最佳延迟时间，以某市2011年1-3月份的负荷数据作为历史负荷数据，计算得延迟时间。

计算嵌入维数的一个非常简单易行的方法是G-P算法。首先定义嵌入时间序列的关联积分函数为：

是一个累积式的分布函数，当取某个定值之后，表示相空间中全部吸引子两点之间的距离小于的概率。在一定范围内，吸引子的关联维数d与累积分布函数会满足对数线性关系，即：

（3）

以某市2011年1-3月份的负荷数据作为历史负荷数据，做出其关联维数d随m值的变化曲线，如图1所示。

由上图可知：当嵌入维数m=8时，吸引子维数d=3.419，并且此时吸引子维数d在一定误差范围内保持不变，所以，选择此时的空间维数为重构相空间的最佳嵌入维数，即m=8。

2BP神经网络的结构和算法

2.1BP神经网络的结构

任意复杂的映射问题都可以用BP神经网络实现，BP网络是没有反馈的前向网络。前向网络是多层映射网络，每一层中的神经元都是只接受来自前一层神经元的信号，信号是单向传播的。所以BP网络也被称作单向传播的多层前向网络。结构图如图2所示：

BP网络除输入输出节点外，可以有一层或者多层隐含层节点，同层节点间没有任何耦合。输入信号从输入层节点，依次传过各隐含层节点，然后传到输出节点，每一层节点的输出只影响下一层节点的输出[1]。

图3是单个神经元的结构图，它是一个多输入、单输出的非线性元件，其输入输出关系可以描述为：

（4）

（5）

其中，i为前一层神经元，j为后一层神经元，k为前一层神经元的个数，I和O分别为神经元的输入和输出。

神经元的结构非常简单，是神经网络最基本的工作单元，所以它的处理能力也比较单一。但是大量这种结构简单、功能单一的神经元所组成的神经元网络却有许多非常优越的特性。神经元网络对信息的处理是由很多的神经元共同完成的，是一种集合的功能。大规模并行互连、非线性处理、互连结构的可变性等固有结构特性决定了神经网络信息处理的快速性和强大功能[2]。

2.2BP神经网络算法

神经网络中各神经元之间的连接权值决定了神经网络卓越的信息处理能力。神经网络具有学习功能才可以模拟人脑的信息处理能力。调整各神经元之间的连接权值就是学习的本质，不同的学习算法有不同的调整连接权值的方法[3]。

人们己经提出了多种神经网络的学习规则，基本的有以下四种：.Hebbian学习规则、学习规则、概率式学习规则、竞争式学习规则[4]。

BP学习算法是学习规则的推广和发展。学习规则的实质是利用梯度最速下降算法，使权值沿误差函数的负梯度方向改变。

数据前向传播和误差后向传播是BP网络的两个主要过程。数据前向传播完成的是：当网络的输入给定时，它由输入层单元送到隐含层单元，经隐含层单元逐层处理后再传到输出层单元，由输出层单元处理后生成一个输出。误差后向传播是：如果实际输出响应和期望输出响应的误差不满足精度要求，就将误差值沿连接通路逐层向前传输并修正各层的连接权值[5]。

3建立预测模型

由前面可知，对于时间序列，N是序列的长度。则将此时间序列重构相空间为：，n为重构相空间中相点的个数，。由前面的介绍可以得到：

（6）

运用BP神经网络来拟合重构函数，最佳延迟时间和最佳嵌入维数m分别采用前面自相关函数法和G-P算法得到的计算结果，即最佳延迟时间，最佳嵌入维数m=8。首先设参考相点为，，之后从n个相点中根据空间欧式距离选择出距离参考相点最近的k个相点为：。

其中，空间欧式距离的计算公式如下式：

（7）

这k个相点的数据作为训练样本的输入，它们各自对应的作为目标样本，就构成了训练样本集：

（8）

训练样本和目标样本共同构成了训练样本集，这样就可以训练神经网络了。至此，建立了基于混沌时间序列和BP神经网络的预测模型。训练完样本之后，把参考相点作为神经网络的测试样本，则输出数据就是神经网络的预测结果。

4算例分析

以某市2011年1-3月份的负荷数据作为历史负荷数据，利用建立的基于混沌时间序列和BP神经网络的预测模型，对该市2011年4月1日的电力负荷进行预测。表1列出了具体的预测结果以及相对误差。

从表1可以看出最小误差为0.32%，最大误差为2.67%，误差在0-1%的点有33.3%，误差在1%-2%的点有41.7%，误差在2%-3%的点有25%，没有大于3%的点，平均相对误差为1.44%。

5结论

以上预测结果表明：利用基于混沌时间序列和BP神经网络的预测模型进行短期电力负荷预测取得了精度很高的预测结果。证明了该预测方法的有效性和预测精度的可靠性。而且该方法可以不考虑风力、湿度、温度等因素的影响，仅仅利用电力系统的历史负荷数据就可以得到令人满意的预测结果。但是，由于该模型的算例分析所使用的负荷数据是大型电网数据，对于小型电网的实用性还需作进一步的探讨和验证。

参考文献：

[1]H.ChenandX.Yao，RegularizednegativeCorrelationlearningforneuralnetworkensembles[J].IEEETrans.NeuralNetworks，vol.20，no.12，pp.1962–1979，2009.

[2]S.J.Kiartzis，A.G.Bakirtzis，V.Petridis.ShortTermLoadForecastingUsingNeuralnetworks[J].ElectricPowerSystemsResearch.1995，33（1）：1-6.

[3]赵福成，基于人工神经网络的短期负荷预测[D].华北电力大学硕士学位论文，2001.

神经网络前向传播算法范文

本文主要介绍了人工神经网络的概念，并对几种具体的神经网络进行介绍，从它们的提出时间、网络结构和适用范围几个方面来深入讲解。

【关键词】神经网络感知器网络径向基网络反馈神经网络

1引言

人工神经网络是基于对人脑组织结构、活动机制的初步认识提出的一种新型信息处理体系。它实际上是一个由大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统，通过模仿脑神经系统的组织结构以及某些活动机理，人工神经网络可呈现出人脑的许多特征，并具有人脑的一些基本功能，利用这一特性，可以设计处具有类似大脑某些功能的智能系统来处理各种信息，解决不同问题。下面对几种具体的神经网络进行介绍。

2感知器网络

感知器是由美国学者Rosenblatt在1957年首次提出的，感知器可谓是最早的人工神经网络。感知器具有分层结构，信息从输入层进入网络，逐层向前传递到输出层。感知器是神经网络用来进行模式识别的一种最简单模型，属于前向神经网络类型。

2.1单层感知器

单层感知器是指只有一层处理单元的感知器，它的结构与功能都非常简单，通过读网络权值的训练，可以使感知器对一组输入矢量的响应达到元素为0或1的目标输出，从而实现对输入矢量分类的目的，目前在解决实际问题时很少被采用，但由于它在神经网络研究中具有重要意义，是研究其他网络的基础，而且较易学习和理解，适合于作为学习神经网络的起点。

2.2多层感知器

多层感知器是对单层感知器的推广，它能够成功解决单层感知器所不能解决的非线性可分问题，在输入层与输出层之间引入隐层作为输入模式的“内部表示”，即可将单层感知器变成多层感知器。

3线性神经网络

线性神经网络类似于感知器，但是线性

神经网络的激活函数是线性的，而不是硬限转移函数。因此线性神经网络的输出可以使任意值，而感知器的输出不是0就是1。线性神经网络最早的典型代表就是在1963年由美国斯坦福大学教授BerhardWindrow提出的自适应线性元件网络，它是一个由输入层和输出层构成的单层前馈性网络。自适应线性神经网络的学习算法比感知器的学习算法的收敛速度和精度都有较大的提高，自适应线性神经网络主要用于函数逼近、信号预测、系统辨识、模式识别和控制等领域。

4BP神经网络

BP神经网络是1986年由以Rumelhart和McCelland为首的科学家小组提出的，是一种按误差逆传播算法训练的多层前馈网络，在人工神经网络的实际应用中，80%～90%的人工神经网络模型采用BP网络或者它的变化形式，它也是前向网络的核心部分，体现了人工神经网络最精华的部分，BP神经网络由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经过一步处理后完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者达到预先设定的学习次数为止。

BP网络主要应用于以下方面：

（1）函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数。

（2）模式识别：用一个特定的输出矢量将它与输入矢量联系起来。

（3）分类：对输入矢量以所定义的合适方式进行分类。

（4）数据压缩：减少输出矢量维数以便于传输或存储。

5反馈神经网络

美国加州理工学院物理学家J.J.Hopfield教授于1982年发表了对神经网络发展颇具影响的论文，提出一种单层反馈神经网络，后来人们将这种反馈网络称作Hopfield网。在多输入/多输出的动态系统中，控制对象特性复杂，传统方法难以描述复杂的系统。为控制对象建立模型可以减少直接进行实验带来的负面影响，所以模型显得尤为重要。但是，前馈神经网络从结构上说属于一种静态网络，其输入、输出向量之间是简单的非线性函数映射关系。实际应用中系统过程大多是动态的，前馈神经网络辨识就暴露出明显的不足，用前馈神经网络只是非线性对应网络，无反馈记忆环节，因此，利用反馈神经网络的动态特性就可以克服前馈神经网络的缺点，使神经网络更加接近系统的实际过程。

Hopfield神经网络的应用：

（1）在数字识别方面。

（2）高校科研能力评价。

（3）应用于联想记忆的MATLAB程序。

6径向基神经网络

径向基RBF网络是一个3层的网络，除了输入、输出层之间外仅有一个隐层。隐层中的转换函数是局部响应的高斯函数，而其他前向网络，转换函数一般都是全局响应函数。由于这样的差异，要实现同样的功能，RBF需要更多的神经元，这就是RBF网络不能取代标准前向型络的原因。但是RBF网络的训练时间更短，它对函数的逼近时最优的，可以以任意精度逼近任意连续函数。隐层中的神经元越多，逼近越精确。

径向基网络的应用：

（1）用于曲线拟合的RBF网络。

（2）径向基网络实现非线性函数回归。

7自组织神经网络

自组织竞争型神经网络是一种无教师监督学习，具有自组织功能的神经网络，网络通过自身的训练。能自动对输入模式进行分类，一般由输入层和竞争层够曾。两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层之间还存在着横向连接。

常用自组织网络有一下几种：

（1）自组织特征映射网络。

（2）学习矢量量化网络。

（3）自适应共振理论模型。

（4）对偶传播网络。

参考文献

[1]韩力群.人工神经网络教程[M].北京：北京邮电大学出版社，2006.

[2]周品.神经网络设计与应用[M].北京：清华大学出版社，2013.

作者简介

孔令文（1989-），男，黑龙江省齐齐哈尔市人。现为西南林业大学机械与交通学院在读研究生。研究方向为计算机仿真。