文档介绍：自组织神经网络
*
第1页，本讲稿共45页
SONN概述
在人类的认识过程中，除了从教师那里得到知识外，还有一种不需要通过教师，自动向环境学****的能力，这种仅依靠环境刺激的“无师自通”的功能称为自组织学****方法。
在网络结构上，也存在一些局限性：
（1）只用部分输入模式训练网络，当用一个明显不同的新 的输入模式进行分类时，网络的分类能力可能会降 低，甚至无法对其进行分类，这是由于竞争学****网络 采用的是非推理方式调节权值。
（2）竞争学****对模式变换不具备冗余性，其分类不是大 小、位移、旋转不变的，从结构上也不支持大小、 位移、旋转不变的分类模式。因此在使用上通常利用 竞争学****的无监督性，将其包含在其它网络中。
*
第11页，本讲稿共45页
自组织特征映射（SOFM）模型
自组织特征映射模型也称为Kohonen网络．或者称为Self-organizing map，由芬兰学者Teuvo Kohonen于1981年提出。该网络是一个由全互连的神经元阵列形成的无教师自组织自学****网络。Kohonen认为，处于空间中不同区域的神经元有不同的分工，当一个神经网络接受外界输入模式时，将会分为不同的反应区域，各区域对输入模式具有不同的响应特征。
SOFM模型的一个典型特性就是可以在一维或二维的处理单元阵列上形成输入信号的特征拓扑分布,因此SOFM模型具有抽取输入信号模式特征的能力。SOFM模型一般只包含有一维阵列和二维阵列，但可以推广到多维处理单元阵列。
*
第12页，本讲稿共45页
自组织特征映射（SOFM）模型
Kohonen网络模型由四个部分组成：
(1)处理单元阵列：接受事件输入，并且形成对这些信
号的“判别函数”。
(2)比较选择机制：比较“判别函数”并选择一个具有最
大函数输出值的处理单元。
(3)局部互连作用：同时激励被选择的处理单元及其最邻近的处理单元。
(4)自适应过程：修正被激励的处理单元的参数，以增加其相应于特定输入“判别函数”的输出值。
*
第13页，本讲稿共45页
自组织特征映射（SOFM）模型
竞争层竞争规则：
在竞争层中，神经元的竞争是这样进行的：对于获胜的神经元g，在其周围Ng的区域内，神经元在不同程度上都得到兴奋，而在Ng以外的神经元都被抑制。
Ng可以是任何形状，但一般是均匀对称的，如正方形或六角形。
Ng是时间函数，用Ng(t)表示，随t增加，Ng(t)减小，最后达到预定的范围。
SOFM网络在无教师示教的情况下，通过对输入模式的自组织学****在竞争层将分类结果表示出来，这种表现方式的不同之处在于：它不是以一个神经元或者网络的状态矢量反映分类结果的，而是以若干神经元同时（并行）反映结果。与这若干神经元相连的连接权虽略有差别，但这些神经元的分类作用基本上是并列的，即其中任何一个神经元都能代表分类结果和近似分类结果。
*
第14页，本讲稿共45页
自组织特征映射（SOFM）模型
此外，这种网络之所以称为特征映射网络，是因为网络通过对输入模式的反复学****可以使连接权矢量的空间分布密度与输入模式的概率分布趋于一致，即连接权矢量的空间分布能反映输入模式的统计特征。
可见，SOFM网络可用于样本排序、样本分类及样本特征检测等。
*
第15页，本讲稿共45页
自组织特征映射（SOFM）模型
网络实际具有响应的输出单元k，该单元的确定是通过胜者全得(WTA)竞争得到的，即：
SOFM模型的输入输出单元之间是全连接的，其权值修正规则为
设网络输入为X ，输出神经元i与输入层单元的连接权为Wi，则输出层神经元j的输出oi为
*
第16页，本讲稿共45页
自组织特征映射（SOFM）模型
Kohonen算法步骤：
(1)初始化：对m个输入神经元到n个输出神经的连接权随机赋以较小的权值。置迭代次数T，学****参数α(0)。选取输出神经元j的“邻接神经元”的集合Sj (0)，表示时刻t＝0时的神经元j的“邻接神经元”的集合。区域 sj(t) 随时间的增长而不断缩小。
(2)提供归一化的输入模式x。
(3)计算欧氏距离dj，即输入样本与每个输出神经元j之间的欧氏距离：
计算出一个具有最小距离的神经元j* 作为竞争获胜节点
(4) 按下式修正输出神经元j*及其“邻接神经元” sj(t) 的权值
*
第17页，本讲稿共45页
自组织特征映射（SOFM）模型
(4) 重复输入所有样本直到达到迭代次数T
*
第18页，本讲稿共45页
举