文档介绍:线性神经网络
线性神经元网络模型
线性神经元模型
它与感知器的主要不同之处在于其神经元有一个线性激活函数,这允许输出可以是任意值,而不仅仅只是像感知器中那样只能取0或1。
线性神经网络
线性神经元网络模型
线性神经元模型
它与感知器的主要不同之处在于其神经元有一个线性激活函数,这允许输出可以是任意值,而不仅仅只是像感知器中那样只能取0或1。
线性神经元网络模型
线性神经元激活函数
线性神经元网络模型
线性神经元网络分类图示
双输入
输出如下式所示
线性神经元网络模型
线性神经网络的结构
线性神经网络的学****算法
Widrow-Hoff学****规则
又称为最小均方误差LMS
(Least Mean Square Error)
学****算法, 由Widrow-Hoff提出,
属于有导师学****算法
LMS学****规则定义如下:
目标
是通过调节权值,使mse从误差空间的某点开始,沿着mse的斜面向下滑行,最终使mse达到最小值。
Bernard Widrow
线性神经网络的学****算法
第四步:计算均方误差
第五步:判断误差是否为零或者是否达到预先设定的要求。如果是,则结束算法,否则输入下一个样本,返回第二步进入下一轮求解过程
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
函 数 名
功 能
newlin()
新建一个线性层
learnwh()
Widrow-Hoff的学****函数
purelin()
线性传输函数
mse()
最小均方误差性能函数
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
newlin()
功能 新建一个线性神经网络函数。
格式 (1) net = newlin
(2) net = newlin(PR,S,ID,LR)
说明 式(1)返回一个没有定义结构的空对象,并显示图形用户界面函数nntool的帮助文字;式(2)中net为生成的线性神经网络;PR为网络输入向量中的最大值和最小值组成的矩阵[Pmin,Pmax];S为输出向量的个数;ID为输入延时向量(可省略);LR为学****速率(可省略),。
learnwh( )
功能 线性神经网络学****函数
格式 (1) [dW,LS] = learnwh(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)
(2) [db,LS] = learnwh(b,ones(1,Q),Z,N,A,T,E,gW,gA,D,LP,LS)
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
Purelin()
功能 纯线性传输函数
格式 A = purelin(N)
说明 函数purelin(N)为返回网络输入向量N的输出矩阵a;神经元最简单的传输函数是简单地从神经元输入到输出的线性传输函数,输出仅仅被神经元所附加的偏差所修正,newlin和newlind函数建立的网络都可以用该函数做为传递函数。
mse()
功能 均方误差性能函数
格式 perf=mae(E,w,pp)
说明 perf表示均方误差,E为误差矩阵或向量(网络的目标向量与输出向量之差),w为所有权值和偏值向量(可忽略), pp为性能参数(可忽略)。
线性神经网络的MATLAB实现
例2-2 要求设计一个线性神经网络,寻找给定数据之间的线性关系。
P=[ -];
T=[ 1];
%创建一个只有一个输出,输入延时为0,,minmax(P)表示样
%本数据的取值范围
net=newlin(minmax(P),1,0,);
%对创建的线性神经网络进行初始化,设置权值和阈值的初始值
net=init(net);
=500;
%
=;
net=train(net,P,T);
y=sim(net,P)
%求解网络的均方误差值
E=mse(y-T)
线性神经网络的MATLAB实现
例2-2的输出结果
%使用TRAINB作为训练函数,最大训练次数为500,,
%
>> TRAINB, Epoch 0/500, MSE .
....