神经网络的复杂度篇1

关键词：神经网络应用经济预测改进

神经网络作为新时展最快的人工智能领域研究成果之一，在科学计算、自动控制等方面得到了成功的运用。近年来，我国学者们将神经网络运用于经济预测领域，并且不断地改进应用方法，使基于神经网络的经济预测系统更具效益。本文在此背景下，对神经网络经济预测的应用进行了研究，围绕经济预测的方法应用提出相应的改进建议，从而丰富了经济增长预测理论与实践。

一、神经网络经济预测的方法的概述

1.概念

神经网络，是对人脑或自然神经网络若干基本特征的抽象和模拟。从解剖学和生理学的角度来看，人脑是一个复杂的并行系统，他是由大量的细胞组合而成，这些细胞相互连接。神经细胞与人体中的其他细胞的关键区别在于，神经细胞具有产生、处理和传递信号的能力。在人工神经网络的发展过程中，对生物神经系统进行了不同模拟，提出了各种各样的神经网络模型，其中具有代表的网络模型有感知器神经网络、线性神经网络、BP网络、径向基函数网络、自组织网络。

2.特征

神经网络经济预测的方法不同传统的预测方法，它对经济系统里的多种因素进行分析，进行有效地多输入、多输出的经济预测数据。可以说神经网络经济预测的方法具有以下几种特征：其一，由于神经网络是由复杂的因素构成的，它的输入向量维数比较多。其二，经济系统数据具有很强的非线性，使得输入的向量各分量之间存在着复杂的耦合关系。其三，经济系统处在一个“黑箱”模型下，导致数据之间的相互影响不存在明确表达式的关系。神经网络也会随着时间的增长，数据呈现出增长的趋势。

3.优势

用神经网络进行经济预测相对来说比较准确。因为这种神经网络在计算量允许的范围内，可以很好地拟合任意多对多的映射关系，数据拟合的结果表明，系统拟合相对误差在0%—0.75%，比采取回归分析逼近效果好。此外，神经网络各层节点之间的联结权数及阈值恰好可以表达经济系统中各个因素之间相互交织、相互影响的强耦合关系.而采取多元回归模型。

往往只能引入少量耦合项以避免模型过于复杂而无法求解.因此，神经网络比传统的多元回归预测方法有更好的拟合能力和准确度。神经网络的方法是比较适合对经济预测的，因为它只需要少量训练样本就可以确定网络的权值和阈值从而预测出宏观经济发展趋势，计算简单、快捷、可靠。总而言之，神经网络经济预测方法具有显著的优势，是比较适合经济预测的应用过程的。

二、神经网络经济预测方法应用的改进

由于商业、政府和工业所产生的预测间题，其复杂程度越来越高，以致于现有的预测系统难于解决，这就要求我们的预测系统能够处理复杂度增加的问题，进一步扩展传统神经网络预测方法的能力，使得神经网络系统理论的不断发展和完善、新的神经网络预测方法的不断产生，使得神经网络预测模型更加实用化、现代化，会给商贸和工农业生产带来巨大的经济效益。以下是本人对神经网络经济预测方法应用改进的建议：

首先，我们要改进神经网络经济预测的过程。确定预测的目的，制定预测的计划。经济预测首先要确定预测的目的，从决策和管理的需求出发，紧密联系实际需要与可能，确定预测要解决的问题。预测计划是根据预测目的而制定的预测方案，包括预测的内容、项目，预测所需要的资料，准备选用的预测方法，预测的进程和完成的时间以及预测的预算、组织实施等。只有目的明确、计划科学的预测，才可保证预测的顺利进行。

其次，建立新的神经网络经济预测模型。经过求增长率再进行归一化的处理，在给出的以往的数据的增长率范围内，网络就可能不再陷入训练“盲区”。.当采用了足够年限的已知数据并将其增长率归一化以后，“被预测年”数据的增长率可能不再会大于那些“已知年”数据的增长率.则外延问题可以得到基本解决。

最后，对神经网络经济预测结果进行检验，减小误差。经济预测是立足于过去及现在的已知推测未来的未知，而过去和现在终归不是未来，预测结果和未来实际值不可能绝对相符，存在的差异就是预测误差。为了使预测误差最小化，检验结果通过试探性的反复试验来确定，预测准确度应尽可能进行外推检验。

三、总结

神经网络经济预测的方法相对于其他的经济预测方法，具有独特的、显著的优势，我们可以利用好其优势，从而有助于我们更好的对经济发展进行预测分析，从而把握好经济发展动向，为经济决策提供依据。因此，我们应当根据社会发展需要，不断改进神经网络经济预测方法的应用，使其效能最优化，为我国经济发展助力。

参考文献：

[1]陈健，游玮，田金信.应用神经网络进行经济预测方法的改进[J].哈尔滨工业大学学报，2006（06）

神经网络的复杂度篇2

关键词河流，人工神经网络，水质，DO，BOD,COD

1.前言

河流水体作为淡水资源的重要组成部分，与人类的生活密切相关。目前我国大部分河流都有长期的水文、水质监测资料。但是部分河段和部分指标测量的频率还是比较低。

在河流水体中，存在着复杂的物理、化学和生物的变化，以及贯穿其中的能量循环和物质循环。这些变化和循环使得河流的各个水质指标之间存在着非线性的、复杂的联系。而随着季节的变化，河流的水位及水质也进行着复杂的变化。神经网络是一种非常适合解决复杂的非线性响应关系的数学模型。它可以用在分类、聚类、预测等方面，通过历史数据对神经网络进行训练，网络可以学习到数据中隐含的非线性映射关系。本文试图应用人工神经网络，来研究河流的水质参数之间随着季节变化的规律，从而为河流水质的预测、建立河流水质数学模型时对数据的补充和修正提供新的思路和工具。

2.研究区域以及参数选择

选择白龙江的某河段作为研究对象。神经网络的输出层神经元选择参数为河水的溶解氧DO。输入层神经元选择三个参数，一个是时间方面的参数月份；两个是水质参数：生化需氧量BOD5和化学需氧量COD。

3.人工神经网络的结构

图1为人工神经网络DO模型的结构图。输入层有3个神经元，分别对应月份、BOD5和COD。隐含层有4个神经元，输出层有1个神经元，对应DO值。输入层和隐含层之间以及隐含层和输出层之间用sigmoid函数作为激活函数进行信息的传递。

图1.人工神经网络DO预测模型结构图

4.网络的训练和验证

4.1网络的训练

使用VisualBasic语言在PC机上进行程序的编写，从监测数据中选取各个月份的月平均BOD5、COD值和DO值作为训练样本对网络进行训练。训练步骤如下：（1）将训练样本的输入层和输出层数据进行归一化处理：将数据进行线性变换到区间[0,1]。（2）给神经网络的各个神经元的阈值赋初值，同样给各个神经元之间的连接权值也赋初值。（3）将训练样本归一化后的输入层数据赋值给输入层神经元。通过计算，得出隐含层神经元和输出层神经元的值。（4）将计算出的输出层神经元的值和该神经元的期望值进行对比，计算误差函数。（5）将误差逆向传递给隐含层和输入层，计算网络中各个权值和阈值的修正值，得到修正后的权值和阈值。（6）从步骤（3）开始重复以上步骤多次进行训练，直至误差函数满足精度要求。

4.2网络的验证

将训练好的网络进行验证。从监测数据中选取各个月份的月平均BOD5值和DO值作为检验样本。检验步骤如下：（1）将检验样本的输入层和输出层数据进行归一化处理：将数据进行线性变换到区间[0,1]。（2）将归一化处理后的检验样本输入层数据赋值给输入层神经元。通过计算，得出隐含层神经元和输出层神经元的值。（3）将计算出的输出层神经元的值通过归一化处理的逆变换还原为仿真值。（4）将计算出的仿真值结果与该监测数据的实测值进行对比，计算误差，得出验证结果。

经过验证，使用几组检验样本进行仿真预测，得出的结果与实测结果进行比较，精度在90%以上，能够满足水质预测工作的实际要求。

5.预测结果

将训练之后的网络用于水质预测。分别预测了在3、8、11月不同的BOD5和COD值时，对应的DO的值。结果见表1。

表1.DO的预测结果

6.结论与建议

6.1结论

本文利用神经网络的适合处理非线性映射关系的特点，建立了基于神经网络的水质预测模型。通过验证，证明该预测模型可以在允许的误差范围内模拟月份、BOD5、和COD与DO之间的非线性关系。

6.2建议

（1）由于人工神经网络的学习收敛速度慢，需要较长的训练时间。建议采用改进方法对神经网络的训练方法进行改进，以增快网络的学习速率和收敛速度。

（2）本文使用的训练算法可以使权值和阈值收敛到某个系列值，但并不保证其为误差平面的全局最小值，这是因为采用梯度下降法可能产生一个局部最小值。对于这个问题，要着重在检验网络的时候进行验证。

（3）本网络采用4个神经元节点的隐含层，计算精度可以达到水质预测工作的要求。增加或者减少隐含层神经元个数对预测的影响尚待讨论。

神经网络的复杂度篇3

关键词：BP神经网络牛顿法盲均衡技术

中图分类号：U491.113文献标识码：A文章编号：1007-9416（2016）06-0025-01

Abstract：Withtherapiddevelopmentofcomputertechnology，wehavehigher.Requirementsabouttheperformanceandspeedofthecommunicationnetwork.Becauseofitsstructureisextremelycomplex，unpredictabilityandrandomnessofuseraccesscellswitching，thecurrentproblemisthatbroadbandtechnologytomeettheneedsofusersandtoensurethequalityofcommunicationservice，atthesametimehowtomakefulluseofnetworkresources.ThispaperusesgradientandNewtonCombinationwithBPneuralnetworkalgorithm，theuseoftheirrespectiveadvantagesanddisadvantagesofcomplementaryfeatures，Whatistheuseinblindequalizationalgorithmtosolvethemutualinterferencebetweenchannels.

KeyWords：Neuralnetwork；Newtonmethod；blindequalization

目前，基于BP神经网络的盲均衡算法比其他的算法具有更低的误码率和信噪比。由于BP神经网络的训练时间长且有不确定性，因此不适宜单独应用于盲均衡技术中。牛顿法通过一种迭代求非线性方程的最优解得来，它在学习后期收敛快且有二阶收敛速度的优势，但牛顿法在网络学习初始阶段对学习初值较为敏感，也不适合单独应用，因此本文提出一种基于BP神经网络和牛顿法相结合的算法，利用BP神经网络算法在网络学习初级阶段函数调整速度快，学习后期，牛顿法的迭代算法复杂度较低，收敛较快，充分发挥两种算法各自的优点，从而解决信道的非理想特性引起的码间干扰，从而提高通信的质量。

前馈BP神经网络由多层非线性处理单元组成，相邻层之间通过突触权阵连接起来。由多个选定的发送信号作为一组数据构成原始样本集.经过剔除重复或冲突的样本等加工处理，得到最终样本集。通过前馈BP神经网络学习获得网络的学习模型.从而建立输入到期望结果输出的对应关系，人为的对权系数进行学习，使输出的结果更大程度的趋近预期均衡值，从而很大成都提高信道的使用效率。

前馈BP神经网络中前一层的输出作为下一层的输入，通过对权系数进行学习，从而调整输出结果。设发送信号X（x），将X（x）作为网络的输入，经过信道t，由人给定相应场合下想要输出的均衡信号为O（y），均衡器的长度为l，隐层的神经元的个数为n个，调节权值为d（x）；

因为后期BP神经网络的收敛速度会比较慢，通过牛顿法进行相应的优化，可以提高算法的计算效率，当下对的的任务是将BP神经网络算法作为优化目标函数f，求函数f的极大极小问题，可以转化为求解函数f的导数f’=0的问题，这样求可以把优化问题看成方程求解问题（f’=0）。即剩下的算法优化部分即是对牛顿法进行求解。这次为了求解f’=0的根，把f（m）的泰勒展开，展开到2阶形式：这个式子是成立的，当且仅当Δx无线趋近于0。此时上式等价与：求解：，得出相应迭代公式；牛顿法利用其曲线本身的信息，比梯度下降法更容易收敛（迭代更少次数），从而简化算法的复杂度。

结论：盲均衡技术在通信发展史上具有举足轻重的地位，它解决了自适应均衡技术对通信效率的影响，利用所接收到的信号序列对信道进行均衡。随着通信性能的要求的不断提高，盲均衡技术越来越受到学者们的关注。而BP神经网络算法的应用是近年研究的重要技术之一，它具有鲁棒性、学习性、非线性逼近等特性，为盲均衡技术的研究提供了崭新的思路，但由于其本身还未完全被人们所掌握，目前仍存在训练复杂度较高，时间较长等缺点，BP神经网络本身仍有一系列问题等待解决。运用其他算法弥补该算法的部分缺点，将会大大改进算法的性能。BP神经网络前途广阔，随着问题的各个击破，他将渗透到生活中的每个领域，为生活的方方面面带来便利。

参考文献

[1]焦李成.神经网络系统理论[M].西安：西安电子科技大学出版社，1990.

[2]郭业才.自适应盲均衡技术[M].合肥工业大学出版社，2007：1.

[3]马晓宇，胡建伟.盲均衡技术的研究及发展[J].中国新通信，2009年19期.

神经网络的复杂度篇4

【关键词】力学性能；BP神经网络；质量预测；神经网络算法

在热轧板带的研究分析中，其质量往往是大家最为关注的，分析人员希望能够在热轧产品成型前就能够得到产品的质量特性，专业人士将这一问题称为热轧产品的质量预测问题。然而，热轧板带的形成过程是一个具有典型性质的MI-MO非线性系统，与我们传统的多远线性回归方法所计算的结果通常都会有很大的误差。

神经网络是有大量的、简单的处理单元广泛地相互连接而形成的复杂网络系统。它无需预先给定公式，而是以实验数据为基础，经过有限次迭代计算而获得实验数据的内在规律，适用于研究非线性系统。神经网络是有大量的、简单的处理单元广泛地相互连接而形成的复杂网络系统。因此，我们可采用人工神经网络对热轧产品的质量进行预测。

本文以昆钢热轧产品Q235为例，对热轧板带的质量预测进行研究。利用BP神经网络理论建立以化学成分、轧制参数为输入，以力学性能为输出的质量预测模型―BP热轧板带质量模型，并利用训练好的BP神经网络质量模型，对产品的力学性能进行预测。

1BP神经网络

（1）BP神经网络原理

（2）BP神经网络是一种神经网络学习算法，又输入层、中间层、输出层组成，中层可扩展为多层，相邻层之间各神经元进行权连接，而每层各神经元之间无连接，网络按有教师示教的方式进行学习，当一对学习模式提供给网络后，各神经元获得网络的输入相应产生连接权值，然后按减小希望输出与实际输出误差的方向，从输出层经各中间层逐层修正各连接权，回到输入层。此过程反复交替进行，直至网络的全局误差趋向给定的极小值，即完成学习的整个过程。BP神经网络原理如图1：

图1BP神经网络模型结构

1.2BP神经网络算法

BP神经网络学习算法是一种迭代算法，一次学习过程包括两个子学习过程：输出数据的正向传播和误差的反向传播。如果在输出层没有得到期望输出，则转入反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，使误差信号最小。BP神经网络流程图如图2：

图2BP神经网络算法流程图

2热轧BP神经网络质量模型

本文以昆钢生产的Q235为研究对象，通过对大量数据进行统计与分析，得到主要输入参数与输出参数。神经网络是有大量的、简单的处理单元广泛地相互连接而形成的复杂网络系统。输入参数包括化学成分（碳、硅、锰、硫、磷）和轧制参数（板坯原始厚度、板坯粗轧结束厚度、最终厚度、开闸温度、总闸温度、层流冷却温度、层流冷却开始温度、层流冷却结束温度、卷取温度），输出参数为力学性能（抗拉强度、屈服强度、伸长率）。热轧板带的形成过程是一个具有典型性质的MI-MO非线性系统，通过我们传统的多远线性回归方法所计算的结果通常都会有很大的误差。

根据以上对热轧产品生产流程的分析，我们将要构造的热轧BP神经网络质量模型具有14个输入和3个输出，热轧BP神经网络质量模型。

在确定了热轧BP神经网络质量模型之后，我们从生产数据中随机抽取700条数据，其中600条数据作为BP神经网络训练数据，100条数据作为BP神经网络测试数据。

3热轧BP神经网络质量模型预测结果和分析

使用Matlab中的神经网络工具箱建立热轧BP神经网络质量模型，以屈服强度（RM）为例，使用100组数据进行测试分析，生产中，产品最终规格与要求规格误差在5%之内即为合格，而在误差在5%之内的占到85%之上即处于可接受范围，以此为标准，分析结果如图3（表1、表2）：

图3热轧BP神经网络模型结构

表1输出差值统计表

表2输出误差统计表

表1为屈服强度RM预测输出值与实际输出值之差的绝对值在不同范围时，数据个数统计，样本总数据个数为100，则由表1知，输出误差绝对值在0-10之间的数据有82个，在10-20之间的数据有16个，在20之上的数据有2个，在样本中所占比例分别为82%、16%、2%。

神经网络的复杂度篇5

关键词：图像分类；深度学习；Caffe框架；卷积神经网络

中图分类号：TP18文献标识码：A文章编号：1009-3044（2016）35-0209-03

ResearchandImplementationofImageClassificationBasedonConvolutionNeuralNetwork

WANGChao

（InformationEngineeringInstitute，EastChinaUniversityofTechnology，Nanchang330013，China）

Abstract：Theproblemofimageclassificationhasbeenthecoreproblemincomputervision.Agoodsolutionisdevelopedbyfurtherstudywhichcansolvetheproblemofextractingimagefeaturesinimageclassification.Inordertolearnimagefeaturesefficiently，constructingthemachinelearningmodelwithhiddenlayeraswellastrainingalargenumberofimagedatawilleventuallypromotetheaccuracyofimageclassificationorprediction.Thispaperisintendedasanin-depthCaffelearningframeworktoconstructasmallimagedata-base.TheconvolutionalneuralnetworkprovidedbyCaffeframeworkwillmakeatraininganalysisofthedatasetandthenextracttheinformationoftargetimagefeatures.Thesecanbeusedforthefinalpredictionofthetargetimage.Comparedwiththetraditionalimageclassificationalgorithm，theaccuracyofthepredictionwillbegreatlyimproved.

Keywords：imageclassification；deeplearning；Caffeframework；ConvolutionalNeuralNetwork

S着计算机与互联网技术的快速发展，我们已经进入了一个以图像构建的世界。但是面临有海量图像信息却找不到所需要的数据的困境，因而图像分类技术应运而生。通过各种机器学习算法使计算机自动将各类图像进行有效管理和分类，但是由于图像内容包含着大量复杂且难以描述的信息，图像特征提取和相识度匹配技术也存在一定的难题，要使得计算机能够像人类一样进行分类还是有很大的困难。

深度学习是近十年来人工智能领域取得的重要突破，在图像识别中的应用取得了巨大的进步，传统的机器学习模型属于神经网络模型，神经网络有大量的参数，经常会出现过拟合问题，因而对目标检测准确率上比较低。本文采用卷积神经网络框架，图像特征是从大数据中自动学习得到，而且神经网络的结构深由很多层组成，通过重复利用中间层的计算单元来减少参数，在特征汇聚阶段引入图像中目标的显著信信息，增强了图像的特征表达能力。通过在图像层次稀疏表示中引入图像显著信息，加强了图像特征的语义信息，得到图像显著特征表示，通过实验测试，效果比传统的图像分类算法预测的准确度有明显的提升。

1基于卷积神经网络的图像分类方法

1.1人工神经网络

人工神经网络（ArtificialNeuralNetwork，ANN）是描述生物神经网络运行机理和工作过程的抽象和简化了的数学物理模型，使用路径权值的有向图来表示模型中的人工神经元节点和神经元之间的连接关系，之后通过硬件或软件程序实现上述有向图的运行[1]。目前最典型的人工神经网络算法包括：目前最典型的人工神经网络有BP网络[2]Hopfield网络[3]Boltzmann机[4]SOFM网络[5]以及ART网络人工神经网络[6]，算法流程图如图1所示[7]。

1.2卷积神经网络框架的架构

Caffe是ConvolutionalArchitectureforFastFeatureEmbedding的缩写[8]，意为快速特征嵌入的卷积结构，包含最先进的深度学习算法以及一系列的参考模型，图2表示的是卷积神经网络结构图。Caffe深度学习框架主要依赖CUDA，IntelMKL，OpenCV，glog软件以及caffe文件。本文使用的各个软件版本说明，如表1所示。

Caffe深度学习框架提供了多个经典的卷积神经网络模型，卷积神经网络是一种多层的监督学习神经网络，利用隐含层的卷积层和池采样层是实现卷积神经网络特征提取功能，卷积神经网络模型通过采取梯度下降法最小化损失函数对网络中的权重参数逐层反向调节，通过频繁的迭代训练来提高网络的精度。卷积神经网络使用权值共享，这一结构类似于生物神经网络，从而使网络的复杂程度明显降低，并且权值的数量也有大幅度的减少，本文使用这些模型直接进行训练，和传统的图像分类算法对比，性能有很大的提升，框架系统训练识别基本流程如图3表示。

1.3图像分类特征提取

卷积神经网络的结构层次相比传统的浅层的神经网络来说，要复杂得多，每两层的神经元使用了局部连接的方式进行连接、神经元共享连接权重以及时间或空间上使用降采样充分利用数据本身的特征，因此决定了卷积神经网络与传统神经网络相比维度大幅度降低，从而降低计算时间的复杂度。卷积神经网络主要分为两个过程，分为卷积和采样，分别的对上层数据进行提取抽象和对数据进行降维的作用。

本文以Caffe深度学习框架中的CIFAR-10数据集的猫的网络模型为例，如图4所示，对卷积神经网络模型进行训练。CIFAR-10是一个标准图像图像训练集，由六万张图像组成，共有10类（分为飞机，小汽车，鸟，猫，鹿，狗，青蛙，马，船，卡车），每个图片都是32×32像素的RGB彩色图像。通过对数据进行提取和降维的方法来提取图像数据的特征。

2实验分析

将猫的图像训练集放在train的文件夹下，并统一修改成256×256像素大小，并对猫的图像训练集进行标记，标签为1，运行选择cpu进行训练，每进行10次迭代进行一次测试，测试间隔为10次，初始化学习率为0.001，每20次迭代显示一次信息，最大迭代次数为200次，网络训练的动量为0.9，权重衰退为0.0005，5000次进行一次当前状态的记录，记录显示如下图5所示，预测的准度在98%以上。而相比传统的图像分类算法BP神经网络网络的收敛性慢，训练时间长的，网络的学习和记忆具有不稳定性，因而卷e神经网络框架在训练时间和预测准度上具有非常大的优势。

3结束语

本文使用Caffe深度学习框架，以CIFAR-10数据集中猫的网络模型为例，构建小型猫的数据集，提取猫的图象特征信息，最后和目标猫图像进行预测，并和传统的图像分类算法进行对比，预测的准确率有很大的提升。

参考文献：

[1]杨铮，吴陈沭，刘云浩.位置计算：无线网络定位与可定位性[M].北京：清华大学出版社，2014.

[2]丁士折.人工神经网络基础[M].哈尔滨：哈尔滨工程大学出版社，2008.

[3]McClellandJL，RumelhartDE，PDPResearchGroup.Paralleldistributedprocessing[J].Explorationsinthemicrostructureofcognition，1986，2.

[4]HopfieldJJ.Neuralnetworksandphysicalsystemswithemergentcollectivecomputationalabilities[J].Proceedingsofthenationalacademyofsciences，1982，79（8）：2554-2558.

[5]AckleyDH，HintonGE，SejnowskiTJ.Alearningalgorithmforboltzmannmachines[J].Cognitivescience，1985，9（1）：147-169.

[6]KohonenmapsT.Self-OrganizedFormationofTopologicallyCorrectFeatureMaps[J].BiologicalCybernetics，1982，43（1）：59-69.