文档介绍：人工神经元网络控制论
第1页，共153页，2022年，5月20日，20点17分，星期日
*/153
引言
前向神经网络模型
神经网络控制基础
非线性动态系统的神经定义指标函数
连接权阵的更新规则为
第16页，共153页，2022年，5月20日，20点17分，星期日
*/153
无导师学****br/>学****表现为自适应实现输入空间的检测规则。它常用于ART、Kohonen自组织网络。
在这类学****规则中,关键不在于实际节点的输出怎样与外部的期望输出相一致，而在于调整参数以反映观察事件的分布。
例如Winner-Take-All 学****规则 。基本思想是，假设输出层有no个输出神经元，且当输入为x时，第m个神经元的输出值最大，则称此神经元为胜者，并将与此胜者神经元相连的权系数进行更新。其更新公式为
第17页，共153页，2022年，5月20日，20点17分，星期日
*/153
神经元模型
神经网络的模型分类
神经网络的学****算法
神经网络的泛化能力
引言
第18页，共153页，2022年，5月20日，20点17分，星期日
*/153
神经网络的泛化能力
当输入矢量与样本输入矢量存在差异时，其神经网络的输出同样能够准确地呈现出应有的输出。这种能力就称为神经网络的泛化能力。
在有导师指导下的学****中，泛化能力可以定义为训练误差和测试误差之差。
与输入矢量的个数、网络的节点数、权值和训练样本集数目之间存在密切的关系。
第19页，共153页，2022年，5月20日，20点17分，星期日
*/153
引言
前向神经网络模型
神经网络控制基础
非线性动态系统的神经网络辨识
神经网络控制的学****机制
神经网络控制器的设计
动态神经网络模型
单一神经元控制法
目录
第20页，共153页，2022年，5月20日，20点17分，星期日
*/153
网络结构
多层传播网络的BP学****算法
快速的BP改进算法
前向神经网络模型
第21页，共153页，2022年，5月20日，20点17分，星期日
*/153
网络结构
单一神经元
1
2
3
第22页，共153页，2022年，5月20日，20点17分，星期日
*/153
单一神经元
w0 为阈值，
wj 决定第j个输入的突触权系数。
第23页，共153页，2022年，5月20日，20点17分，星期日
*/153
单层神经网络结构
x0=1
阈值未画出
第24页，共153页，2022年，5月20日，20点17分，星期日
*/153
多层神经网络结构
以单隐含层网络为例：
Oj为隐含层的激励
第25页，共153页，2022年，5月20日，20点17分，星期日
*/153
网络结构
多层传播网络的BP学****算法
快速的BP改进算法
前向神经网络模型
第26页，共153页，2022年，5月20日，20点17分，星期日
*/153
多层传播网络的BP学****算法
有导师学****的基本思想
单层网络的学****算法
多层前向网络学****算法
第27页，共153页，2022年，5月20日，20点17分，星期日
*/153
性能指标为
φ(·)是一个正定的、可微的凸函数 ，常取
1. 有导师学****的基本思想
神经网络可以通过对合适样本集来进行训练。网络的训练实质上是根据对所有样本的误差指标Ep达到极小的方法来实现突触权阵的调整，以满足当输入为Xp时其输出为Tp 。
第28页，共153页，2022年，5月20日，20点17分，星期日
*/153
激励函数为线性函数时，可通过最小二乘法来 学****br/>
激励函数为非线性函数时，可采用Delta规则，即梯度法，有
2. 单层网络的学****算法
α是学****因子
第29页，共153页，2022年，5月20日，20点17分，星期日
*/153
3. 多层前向网络的学****算法
网络模型
第1个隐含层：
第r＋1个隐含层：
输出层
第30页，共153页，2022年，5月20日，20点17分，星期日
*/153
采用梯度法：
其中：
定义广义误差 ：
可得：