文档介绍：BP神经网络(Back-propagation work) 通常是指基于误差反向传播算法的多层前向神经网络,,目前BP算法已成为应用最为广泛的神经网络学习算法。
图1 BP网络结构图
图1中,表示BP神经网络的输入值;表示神经网络的预测值。
BP神经网络算法的具体流程如下:
Step1:初始化网络。根据神经网络的输入和输出确定神经网络的输入层节点数、隐含层节点数、输出层节点数;初始化输入层、隐含层和输出层神经元之间的连接权值;初始化隐含层阀值和输出层阀值,分别为,设定学习速率和神经元激励函数;
Step2:计算隐含层输出。依据输入变量,输入层、隐含层的连接权值和隐含层阀值,计算隐含层输出;
(1)
式中,表示隐含层节点数;表示隐含层激励函数,本文取。
Step3:计算输出层输出。根据隐含层输出,连接权值和阀值,计算BP神经网络的预测值;
(2)
Step4:计算误差;
(3)
Step5:更新权值;
(4)
(5)
式(4)和式(5)中,表示学习速率。
Step6:更新阀值;
(6)
(7)
Step7:算法停止条件是否满足,若满足,则停止;否则,返回Step2。
算法流程图
BP神经网络的算法流程图如图2所示。
图2 算法流程图
模型
假设丽江旅游人数时间序列为,BP神经网络进行预测,需要构建出输入矩阵和输出矩阵,本文用构建出基于5步的神经网络的丽江旅游人数预测模型,即用前五个月的旅游人数,预测第六月的旅游人数,同理类推,构建出BP神经网络进行丽江人数预测的输入矩阵和输出矩阵。
输入矩阵:
输出矩阵:
图3 丽江2009年1月~2015年5月旅游人数序列图
由图3可知,丽江旅游人数整体呈现增长,属于非平稳序列,因此进行时间序列预测时,需要对旅游人数时间序列进行处理,通常是进行数据差分处理。
% 神经网络的参数设置
= 50;%误差显示间隔
= ;%学习率
= ;%动量系数,[0 1]之间
= 10000;%最大迭代次数
=;%目标误差,,神经网络停止训练
图4 基于5步BP神经网络的旅游人数预测结果
图4表示基于5步BP神经网络的旅游人数预测结果,即1 2 3 4 5 5个月旅游人数预测第6个月旅游人数, 2 3 4 5 6 这5个月旅游人数预测第7个月旅游人数,以此类推,构建出BP神经网络输入和输出矩阵。
图5 基于3步BP神经网络的旅游人数预测结果
图5表示基于3步BP神经网络的旅游人数预测结果,即1 2 3 3个月旅游人数预测第
4个月旅游人数, 2 3 4 这3个月旅游人数预测第5个月旅游人数,以此类推,构建出BP神经网络输入和输出矩阵
图6 基于1步BP神经网络的旅游人数预测结果
图6 基于1步BP神经网络的旅游人数预测结果,即第1月旅游人数预测第2个月旅游人数, 第2月旅游人数预测第3个月旅游人数,以此类推,构建出BP神经网络输入和输出矩阵。
图7 神经网络预测误差图
由图7神经网络预测误差图可知,神经网络迭代到276次时,,神经网络模型建立。
图8 神经网络拟合效果图
由图8可知,R=,非常接近于1,说明神经网络预测接近线性预测,效果很好。
图9 ARIMA时间序列预测结果
通过平稳性检测可知,1次差分处理后,数据序列为平稳序列,可进行ARMA预测。通过偏相关和自相系数检验可知,p=2,q=3,其预测结果如图9所示:
图10 BP和ARMA模型的丽江旅游人数预测对比结果
图11 BP和ARMA模型的预测结果绝对误差
图12 BP和ARMA模型的预测结果相对误差
由图10、图11和图12可知,BP神经网络进行丽江旅游人数预测效果优于ARMA时间序列模型。
图13 不同预测步数,BP预测结果对比
图14 不同预测步数,BP预测的绝对误差