论文关于循环神经网络，本文是关于神经网络类在职毕业论文范文跟循环神经网络和研究和神经网络方面在职开题报告范文.
【摘 要】21世纪是人工智能、物流网、智能机器人蓬勃发展的时代,神经网络在其发展中起到了重要作用.本论文主要研究了神经网络的发展历史,分析了传统神经网络、循环神经网络和长短期记忆网络LSTM的具体网络结构,并对其应用进行了归纳总结,最后对循环神经网络在现实中的开发和应用做了简要的阐明.
【关键词】循环神经网络；LSTM
一、引言
神经网络即人工神经网络,最早是由心理学家McCulloch和数学家Pitts于1943年提出的.1949年Hebb描述了神经网络的学习过程.1957年Rosenblatt提出了感知机这一概念,引发了一次大规模的研究热潮.但不久之后的1969年麻省理工学院的Papert和Minsky指出了双层感知器的局限性即无法解决线性不可分问题,使人们对于研究神经网络的热潮大大降低了,进入了第一次研究低谷期.到了1986年,Hinton等在《Nature》上发表了著名的误差反向传播算法.这种算法可用于训练含有多个隐层的神经网络,使得建立具有学习能力的非线性成为了可能,再一次带动了对神经网络的研究.但是由于BP算法训练需要大量数据且算法存在优化困难的问题,所以这次研究热潮仅仅持续了几年,便再一次进入了研究的低谷.到2006年,神经网络的重要意义再一次被人们所发现,由于其远大的发展前景,人们再次掀起了一次深度神经网络发展的大潮.从2009—2011年,谷歌和微软研究院使用深度网络配合大量训练数据,将语音识别的错误率降低了20%以上.此后,神经网络科学又显著提升了搜索、推荐、图像分类、物体检测、视频分析、人脸识别、行人检测、语义分割、机器翻译等众多智能处理任务的性能.
二、传统神经网络
神经网络是一种基于感知机的多层次可学习的计算网络,对于现在这样一个人工智能蓬勃发展的时代有着十分重要的意义.神经网络的结构基础是感知机,感知机是模仿人脑中神经元的一种数学处理系统.人脑一般由个神经元组成,每个神经元由细胞体、轴突、树突、突触等部分组成,如下图所示.
树突接受外界的刺激,细胞体对信息进行整合处理并进行判断,做出抑制或促进两种选择,轴突进行电信号的传导.而感知机则是模仿神经元的结构而设计的.感知机由输入向量、权重向量、激活函数、阈值和输出值组成,如下图所示.
输入向量模拟的是神经元某一时刻接收到103～104的个突触传来的信号.权重向量模拟的是细胞体对不同刺激的重视程度.激活函数模拟人脑细胞对信号的处理与选择.阈值模拟细胞体做出选择的标准,输出值模拟神经细胞所产生的或促进或抑制的电刺激.具体的计算流程如下图所示.
三、循环神经网络
循环神经网络是由传统神经网络进一步发展而来的一种网络结构,专门处理序列型数据,能够捕获时序上的信息.循环神经网络中很重要的一种神经网络就是LSTM长短期记忆网络.长短期记忆网络LSTM是由Hochreiter和Schmidhuber于1997提出的.在这个网络中,记忆模块的记忆机制相比传统的神经网络而言,有了较大的改进.在传统的神经网络中记忆模块对于任意一层的输入的数据都进行相同的处理,对任意数据进行无差别的记忆和遗忘,无法体现信息的序列性,而在LSTM长短期记忆网络中,通过记忆门和遗忘门的加入,使得网络对于不同时间输入数据的记忆和遗忘程度不同,从而可以更好的处理序列型的问题.LSTM长短期记忆神经网络的细胞结构示意图如下：
对于任意的一个时刻,它的下一个时刻会对未遗忘的之前任意时刻的数据进行不同权重的处理,并对本时刻不需要的数据进行遗忘,以体现输入数据的序列性.
四、循环神经网络的应用
上文已经提到循环神经网络适于处理序列性数值的问题,如语音识别,翻译等文本型数据问题,股票的短期预测和降雨量的研究等等.语音识别、翻译等文本型数据问题的序列性,体现在一句话的前半部分可能会影响到后半部分的含义或情感,且只在一定的范围内有效,意义的相关性大致和字符距离正相关,即靠得越近,含义相关度就越高.股票的短期预测的序列性体现在近期短时间内股票的涨落会影响到股民的购买情况从而影响股票接下来的涨跌,而数据的采
集时间越接近,对股票涨落的影响也就越大.降雨量的预测也遵循和股票相似的制约规律.
目前看来,神经网络在智能机器人,人工智能,物流网中的应用前景很大.智能机器人需要对一个时间段内各个时刻,各个不同传感器采集到的数据进行处理,距离其判断时刻越近的数据越重要,因此可以利用循环神经网络对每个时刻采集到的数据进行处理,有利于对智能机器人的改进.人工智能需要机器对人的命令进行有选择的执行,而在一个时间段内,人会有顺序地给出多条命令,这就需要机器对一个序列型的命令进行判断并执行.物流网中,物资调配是动态的,具有时间性,而对其的调控如果能用循环神经网络来处理,便可以更好地实现资源的管理问题.
【参考文献】
[1]山世光,阚美娜,刘昕,等.深度学习:多层神经网络的复兴与变革[J].科技导报,2016.34(13):60-70
[2]江铭虎,袁保宗.神经网络语音识别的研究及进展[J].电信科学,1997(7):1-6
[3]傅国康.智能语言翻译的神经网络方法研究[D].西北工业大学,1996
[4]俞书乐.面向股票预测的神经网络建模与分析[D]. 杭州电子科技大学,2016
[5]张帅,魏正英,张育斌.递归神经网络在降雨量预测中的应用研究[J].节水灌溉,2017(5):63-66
此文总结:上述文章是适合不知如何写循环神经网络和研究和神经网络方面的神经网络专业大学硕士和本科毕业论文以及关于神经网络论文开题报告范文和相关职称论文写作参考文献资料.
参考文献：
1、 基于卷积神经网络的印钞二次核查系统 【摘要】 人民币作为国家的民片,其印刷质量的要求远高于其他印刷品,如何提高人民币票面的检测能力是至关重要的工作 现印钞企业依赖于模式识别技术的检测系统,其误检数量较于实际作废数量为比为101 即平均每.
2、 基于模糊神经网络和粒子群优化算法的机器人路径规划 摘要有评估标准规定,机器人的最优路径规划就是当其在具有障碍物的环境中移动时,能够自动寻找到从初始状态到目标状态的一条无碰撞路径 在本次研究中,首先利用网格法建立了周围环境的数学模型,随后提出一种模糊神.
3、 神经网络在计算机网络安全评价中的应用 周宇摘要随着计算机技术的快速发展,信息能够在短时间内在全世界范围内流动 信息的实时共享使得计算机技术更有价值,同时也充分发挥了信息快速传递的优势 计算机网络给人类社会带来的影响具有两面性；一方面,计算.
4、 卷积神经网络的方程组求解 摘要通过迭代求解方程组的解,提出了一种基于卷积神经网络求解线性方程组的病态方程组的方法,由于条件数过大,影响求解的精度,将求解方程组的过程转换为神经网络学习的过程 通过神经网络学习同目标数据形成一种映.
5、 离散混沌系统的神经网络阶逆系统控制 摘要提出用神经网络α阶逆系统方法控制一类未知模型的离散混沌系统,针对离散混沌系统的特殊性,调整了神经网络建模的输入输出结构,并以Logistic系统为假想未知系统进行实际控制,仿真结果说明.
6、 基于matlab实现人工神经网络在股票评级中的应用 1 引言 近年,我国股市跌宕起伏,远有2008年次贷危机,近有由于场外配资清理、场内融资和分级基金去杠杆形成连锁反应造成的2015年的股灾,国家推出的“熔断机制”……应对措施.