文档介绍：线性神经网络
第1页，本讲稿共17页
线性神经元网络模型
线性神经元模型
它与感知器的主要不同之处在于其神经元有一个线性激活函数，这允许输出可以是任意值，而不仅仅只是像感知器中那样只能取0或1。
第2页，本线性神经网络
第1页，本讲稿共17页
线性神经元网络模型
线性神经元模型
它与感知器的主要不同之处在于其神经元有一个线性激活函数，这允许输出可以是任意值，而不仅仅只是像感知器中那样只能取0或1。
第2页，本讲稿共17页
线性神经元网络模型
线性神经元激活函数
第3页，本讲稿共17页
线性神经元网络模型
线性神经元网络分类图示
双输入
输出如下式所示
第4页，本讲稿共17页
线性神经元网络模型
线性神经网络的结构
第5页，本讲稿共17页
线性神经网络的学****算法
Widrow-Hoff学****规则
又称为最小均方误差LMS
（Least Mean Square Error）
学****算法，由Widrow-Hoff提出，
属于有导师学****算法
LMS学****规则定义如下:
目标
是通过调节权值，使mse从误差空间的某点开始，沿着mse的斜面向下滑行,最终使mse达到最小值。
Bernard Widrow
第6页，本讲稿共17页
线性神经网络的学****算法
算法实现步骤
第一步:初始化
给各个连接赋一个较小的随机值
第二步：输入一个样本，计算连接权值的调整量
第7页，本讲稿共17页
线性神经网络的学****算法
其中表示第次循环中的第个输入向量。则有：
第三步：调整连接权值
根据负梯度下降的原则，网络权值和阈值修正公式如下
式中为学****率,当其取较大值时，可以加快网络的训练速度，但是如果其值太大，会导致网络稳定性的降低和训练误差的增加。所以，为了保证网络进行稳定的训练，学****率的值必须选择一个合适的值。
第8页，本讲稿共17页
线性神经网络的学****算法
第四步：计算均方误差
第五步：判断误差是否为零或者是否达到预先设定的要求。如果是，则结束算法，否则输入下一个样本，返回第二步进入下一轮求解过程
第9页，本讲稿共17页
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
函数名
功能
newlin()
新建一个线性层
learnwh()
Widrow-Hoff的学****函数
purelin()
线性传输函数
mse()
最小均方误差性能函数
第10页，本讲稿共17页
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
newlin()
功能新建一个线性神经网络函数。
格式 (1) net = newlin
(2) net = newlin(PR，S，ID，LR)
说明式(1)返回一个没有定义结构的空对象，并显示图形用户界面函数nntool的帮助文字；式(2)中net为生成的线性神经网络；PR为网络输入向量中的最大值和最小值组成的矩阵[Pmin，Pmax]；S为输出向量的个数；ID为输入延时向量（可省略）；LR为学****速率（可省略），。
learnwh( )
功能线性神经网络学****函数
格式 (1) [dW,LS] = learnwh(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)
(2) [db,LS] = learnwh(b,ones(1,Q),Z,N,A,T,E,gW,gA,D,LP,LS)
第11页，本讲稿共17页
线性神经网络的MATLAB实现
MATLAB中线性神经网络相关的常用函数和基本功能
Purelin()
功能纯线性传输函数
格式 A = purelin(N)
说明函数purelin(N)为返回网络输入向量N的输出矩阵a；神经元最简单的传输函数是简单地从神经元输入到输出的线性传输函数，输出仅仅被神经元所附加的偏差所修正，newlin和newlind函数建立的网络都可以用该函数做为传递函数。
mse()
功能均方误差性能函数
格式 perf=mae(E，w，pp)
说明 perf表示均方误差,E为误差矩阵或向量(网络的目标向量与输出向量之差),w为所有权值和偏值向量(可忽略)， pp为性能参数(可忽略)。
第12页，本讲稿共17页
线性神经网络的MATLAB实现
例2-2 要求设计一个线性神经网络，寻找给定数据之间的线性关系。
P=[