文档介绍：人工神经网络及其应用第6讲自组织网络
2003年3月11日
1
一、自组织神经网络
二、自组织竞争网络
三、科荷伦网络
四、自适应共振网络
五、内容小结
六、考试事宜
内容安排
2
自组织网络特点
网络类型
网络学****规则
一、自组织神经网络
3
自组织网络特点
特点
自组织神经网络可以自动向环境学****不需要教师指导;而前面所讲到的前向网络、反馈网络均需要教师指导学****br/>与BP网络相比,这种自组织自适应的学****能力进一步拓宽了人工神经网络在模式识别、分类方面的应用
思想基础
生物的神经网络中,如人的视网膜中,存在着一种“侧抑制”现象,即一个神经细胞兴奋后,通过它的分支会对周围其他神经细胞产生抑制
借鉴上述思想,自组织网络能够对输入模式进行自组织训练和判断,并将输入模式分为不同的类型
4
网络类型
需要训练
自组织竞争网络
适用与具有典型聚类特性的大量数据的辨识
Kohunen网络
训练学****后使网络权值分布与输入样本概率密度分布相似
可以作为样本特征检测仪,在样本排序、样本分类及样本检测方面有广泛应用
对传网络(Counter work)
在功能上用作统计最优化和概率密度函数分析
可用于图像处理和统计分析
神经认知机等
不需要训练
自适应共振理论(ART)
分类的类型数目可自适应增加
5
网络学****规则
格劳斯贝格()提出了两种类型的神经元模型:内星与外星,用以来解释人类及动物的学****现象
内星可以被训练来识别矢量
外星可以被训练来产生矢量
基本学****规则
内星学****规则
外星学****规则
科荷伦学****规则
6
内星与外星
外星通过联接权矢量向外输出一组信号A
内星通过联接权矢量W接受一组输入信号P
7
内星学****规则
可以通过内星及其学****规则可训练某一神经元节点只响应特定的输入矢量P,它借助于调节网络权矢量W近似于输入矢量P来实现的
单内星中对权值修正的格劳斯贝格内星学****规则为
内星神经元联接强度的变化Δw1j与输出成正比的。
如果内星输出a被某一外部方式而维护高值时,通过不断反复地学****趋使Δw1j逐渐减少,直至最终达到w1j=pj,从而使内星权矢量学****了输入矢量P,达到了用内星来识别一个矢量的目的
另一方面,如果内星输出保持为低值时,网络权矢量被学****的可能性较小,甚至不能被学****br/>8
外星学****规则
外星网络的激活函数是线性函数。它被用来学****回忆一个矢量,其网络输入P也可以是另一个神经元模型的输出
外星被训练来在一层s个线性神经元的输出端产生一个特别的矢量A
对于一个外星,其学****规则为
与内星不同,外星联接强度的变化Δw是与输入矢量P成正比的
当输入矢量被保持高值,比如接近1时,每个权值wij将趋于输出ai值,若pj=1,则外星使权值产生输出矢量
当输入矢量pj为0时,网络权值得不到任何学****与修正
9
外星学****规则
当有r个外星相并联,每个外星与s个线性神经元相连组成一层外星时,其权值修正方式为
W=s×r权值列矢量
lr=学****速率
A=s×q外星输出
P=r×q外星输入
10