文档介绍:2-7 小脑模型神经网络
小脑模型神经网络(CMAC)是模拟人的小脑的一种学****结构,是基于表格查询式输入输出的局部网络模型,提供了一种从输入至输出的多维非线性映射能力。
2-7-1 CMAC的结构及工作原理
CMAC是前馈网,结构见图,由两个基本映射,表示输入输出之间的非线性关系。
y
AC
+
U输入空间
杂散编码
AP(W)
输出
输入向量
CMAC结构
1
1. 概念映射(U——>AC)
y
AC
+
U输入空间
杂散编码
AP(W)
输出
输入向量
CMAC结构
2
2. 实际映射(AC——>AP)
y
AC
+
U输入空间
杂散编码
AP(W)
输出
输入向量
CMAC结构
3
杂散存储
若输入是n维,每一维有q个量化级,则AC占很大容量。但,训练样本
不可能遍历所有输入空间,在AC中被激励的单元是很稀疏的。
杂散存储:可将AC压缩到较小的AP中。
有多种方法,“除余数法”是其中较好的一种。
杂散存储弱点:产生碰撞(冲突)
即AC中多个联想单元,被映射到AP的同一单元,见图,这意味着
信息的丢失。
(c)邻近两点输入重叠单元=3,有碰撞
(b)邻近两点输入重叠单元=3,无碰撞
4
2-7-2 CMAC的学****算法及分析
5
CMAC 工作原理、学****算法
(以单输出为例)
演示
6
2. 学****算法分析
CMAC的学****算法与自适应线性神经元的相同。但,因有重叠、
碰撞,故对学****算法及收敛性,需予以分析(讨论单输出)。
分析算法
Gauss-Seidel迭代法
Jacobi迭代法
分析情况、结论
(1)   输入样本有重叠,杂散编码无碰撞
若重叠少,解收敛
(2)   输入样本有重叠,杂散编码有碰撞
因碰撞,收敛速度降低、
收敛性态变坏、
也可能不收敛
7
0次接收域函数例
(b)邻近两点输入重叠单元=3,
无碰撞
(a) 一维c=4
c=4
1
(c)邻近两点输入重叠单元=3,有碰撞
8
2-7-3 有关的几个问题
略
9
演示
例2-7-1M
CMAC逼近非线性函数1
10