1 / 60
文档名称:

神经网络.ppt

格式:ppt   大小:11,988KB   页数:60页
下载后只包含 1 个 PPT 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

神经网络.ppt

上传人:太丑很想放照片 2022/5/25 文件大小:11.71 MB

下载得到文件列表

神经网络.ppt

相关文档

文档介绍

文档介绍:人工神经网络(Artificial Neural Networks,简记作ANN)的主要哲学基础就是它们具有通过范例进行学****的能力,或者更技术地来说,它们可以系统地改进输入数据且能反映到输出数据上。
第一页,共六十页。
什么是人工神m)
–NET=XW
–O=F(NET)
第二十页,共六十页。
b、网络的分层结构
单级网 –单级横向反馈网
第二十一页,共六十页。
V=(vij)
NET=XW+OV
O=F(NET)
时间参数——神经元的状态在主时钟的控制下同步变化
考虑X总加在网上的情况
–NET(t+1)=X(t)W+O(t)V
–O(t+1)=F(NET(t+1))
O(0)=0
考虑仅在t=0时加X的情况。
稳定性判定
第二十二页,共六十页。
b、网络的分层结构
多级网
第二十三页,共六十页。
层次划分
–信号只被允许从较低层流向较高层。
–层号确定层的高低:层号较小者,层次较低,层号较大者,层次较高。
–输入层:被记作第0层。该层负责接收来自网络外部的信息
–第j层:第j-1层的直接后继层(j>0),它直接接受第j-1层的输出。
–输出层:它是网络的最后一层,具有该网络的最大层号,负责输出网络的计算结果。
–隐藏层:除输入层和输出层以外的其它各层叫隐藏层。隐藏层不直接接受外界的信号,也不直接向外界发送信号
第二十四页,共六十页。
约定:
–输出层的层号为该网络的层数:n层网络,或n级网络。
–第j-1层到第j层的联接矩阵为第j层联接矩阵,输出层对应的矩阵叫输出层联接矩阵。今后,在需要的时候,一般我们用W(j)表示第j层矩阵。
第二十五页,共六十页。
多级网
非线性激活函数
F(X)=kX+C
F3(F2(F1(XW(1))W(2))W(3))
第二十六页,共六十页。
b、网络的分层结构
循环网
第二十七页,共六十页。
循环网
如果将输出信号反馈到输入端,就可构成一个多层的循环网络。
输入的原始信号被逐步地“加强”、被“修复”。
大脑的短期记忆特征——看到的东西不是一下子就从脑海里消失的。
稳定:反馈信号会引起网络输出的不断变化。我们希望这种变化逐渐减小,并且最后能消失。当变化最后消失时,网络达到了平衡状态。如果这种变化不能消失,则称该网络是不稳定的。
第二十八页,共六十页。
存储与映射
在学****训练期间,人工神经网络以CAM方式工作;权矩阵又被称为网络的长期存储(Long Term Memory,简记为LTM)。
CAM方式(Content Addressable Memory):内容寻址方式是将数据映射到地址。
网络在正常工作阶段是以AM方式工作的;神经元的状态表示的模式为短期存储(Short Term Memory,简记为STM).
AM方式(Associative Memory):相联存储方式是将数据映射到数据。
第二十九页,共六十页。
自相联(Auto-associative)映射:训练网络的样本集为向量集合为{A1,A2,…,An}。在理想情况下,该网络在完成训练后,其权矩阵存放的将是上面所给的向量集合。
异相联(Hetero-associative)映射:{(A1,B1),(A2,B2),…,(An,Bn)}该网络在完成训练后,其权矩阵存所给的向量集合所蕴含的对应关系。
第三十页,共六十页。
人工神经网络的训练
人工神经网络最具有吸引力的特点是它的学****能力。
1962年,Rosenblatt给出了人工神经网络著名的学****定理:人工神经网络可以学会它可以表达的任何东西。
人工神经网络的表达能力大大地限制了它的学****能力。
人工神经网络的学****过程就是对它的训练过程
第三十一页,共六十页。
无导师学****br/>无导师学****Unsupervised Learning)与无导师训练(Unsupervised Training)相对应
抽取样本集合中蕴含的统计特性,并以神经元之间的联接权的形式存于网络中。
有导师学****br/>有导师学****Supervised Learning)与有导师训练(Supervised Training)相对应。
输入向量与其对应的输出向量构成一个“训练对”。
第三十二页,共六十页。
从样本集合中取一个样本(Ai,Bi);
计算出网络的实际输出O;
求D=Bi-O;
根据D调整权矩阵W;
对每个样本重复上述过程,直到对整个样本集来说,误差不超过规定范围。
训练算法的主要步骤
第三十三页,共六十页。
神经网络的应用
人工神经网络以其具有自学****自组织、较好的容错性和优良的非线性逼近能力,受到众多领域学者的关注。在实际应用中,80%~90%的人工神经网络模型是采用误差反传算法或其变化形式的网络模型(简称BP网络)