1 / 45
文档名称:

有监督的学习.ppt

格式:ppt   大小:2,086KB   页数:45页
下载后只包含 1 个 PPT 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

有监督的学习.ppt

上传人:我是药仙 2022/4/9 文件大小:2.04 MB

下载得到文件列表

有监督的学习.ppt

相关文档

文档介绍

文档介绍:有监督的学习
一、预备知识(6)
5、什么是学习?
学习就是对信息进行编码,其目的就是通过向有限个例子(训练样本)的学习来找到隐藏在例子背后(即产生这些例子)的规律(如函数形式)。
当样本数据 如果使用了类成员信息校正突触矢量,就成了监督学习。因为是监督学习,有“教师”信号,我们预先就知道其期望分类,所以实行了奖惩机制:若分对,则奖励;分错则惩罚。
四、已知类隶属度的监督学习(3)
而对应的监督随机竞争学习定律为:
增强函数为:
若x属于Dj,上式中第一项为+1,说明是分对了;若x不属于Dj,上式中第二项为-1,说明是分错了。奖励正确的模式分类+1,惩罚错误的模式分类为-1,从而调整权值,达到学习的目的。
五、感知器学习算法(1)
1、感知器拓扑结构
五、感知器学习算法(2)
2、感知器学习
网络用误差修正规则( 规则)学习,训练样本对为( , )k=1,2,… =( , … )为模拟值模式,输出向量 =( , ,… )为二值模式。网络中, 层的n个单元对应模式 的n个分量 , 层的p个单元对应模式 的P个分量.
所以,感知器最突出的一个特点便是:输入是模拟向量,输出是二值模式。
五、感知器学习算法(3)
由于 层中每个单元只取值+1或-1,因此可将它视作输入模式 (k=1,2…m)两个可能的分类。在学面随机地被 放到N维空间。随着学面渐渐移动,直到它能将两类模式恰当划分为止。
五、感知器学习算法(4)
3、算法过程
从随机的权值开始;
反复应用每个训练样例到感知器,只要它误分样例,就修改感知器的权值;
重复这个过程,直到感知器正确分类所有的训练样例为止。
五、感知器学习算法(5)
4、具体算法:
(1)初始化连接权。将 层到 层的连接权 ,
i=1,2,…n,j=1,2,…,p及 层单元阈值 j=1,2,…p赋予[-1,+1]间的随机值。
(2)对每一模式对( , )k=1,…m,完成下面操作:
A、将 的值送到 层单元, 层单元的输出之加权和作为 层单元的输入,计算 层单元的输出:
五、感知器学习算法(6)
上式中j=1…p,f(x)为双极阶跃函数
B、计算 层单元希望输出与实际输出间误差
五、感知器学习算法(7)
C、调整 层单元与 层单元之间的连接权
式中i=1…n,j=1…p,0< <1
(3)重复步骤(2)直到误差 (j=1…p且k=1…m)变得足够小或变为0为止。
五、感知器学习算法(8)
5、说明:
感知器算法,如果输入模式是线性可分的,学习后能对输入模式正确分类;
如果输入模式本身是线性不可分的,那么学习后的网络不能对输入模式正确分类。
六、LMS算法(1)
1、LMS就是最小均方误差算法。它采用的准则函数是均方误差函数。
它通过调整单个神经元的权值,以使误差为最小,其数学基础是误差曲面上的梯度下降。
其学习过程也是根据教师信号计算其均方误差,由均方误差调整突触向量,如此反复,最后达到学习的目的。
六、LMS算法(2)
2、权值调整公式:
其中 为下一次权值向量的取值, 为现在的权向量, 为现在的输入向量, 为现在的误差, 为系数, 为输入向量的模.
七、反向传播网络学习(1)
1、定义:反向传播神经网络(Back-Propagation Networks)简称BP模型。由于在这一神经网络模型中引入了中间隐含神经元层,所以,标准的BP模型由三个神经元层次组成,分别为输入层、隐层和输出层。各层次之间的神经元形成全互连接,各层次内的神经元之间没有连接。
七、反向传播网络学习(2)
2、BP算法是通过使代价函数最小化的过程来完成输入到输出的映射。
代价函数有多种,但通常在BP算法中,将代价函数定义为期望输出与实际输出的误差平方和。
在本算法中,将代价函数(期望输出与实际输出的误差平方和)用与其等价

最近更新

高陡岸坡心墙盖板混凝土运输方案应用研究 3页

高职院校学生心理幸福感调查研究 3页

课题4-化学式与化合价-好课件 28页

课件圆柱的认识课件 19页

高压雾化特性及降尘技术试验研究 4页

说明文阅读复习 33页

塑胶制造过程的节能减排技术-全面剖析 28页

青海省加多沟磁铁矿区磁测特征及找矿应用 3页

隆40-1大斜度定向井的钻井液技术(Ⅰ) 3页

长江经济带不同等级城市碳排放时空格局演变及.. 3页

多模态数据融合的图像加密策略-全面剖析 25页

语文上册第一单元复习 18页

金属差压铸造工艺中的电气控制系统 3页

重型空气预热器在常减压装置的应用与效果分析.. 3页

智能木工设备的发展与应用-全面剖析 27页

林业产品绿色品牌建设策略-全面剖析 27页

诗歌人物形象专题 51页

词的构成(单纯词、合成词) 11页

运用项目化教学法优化城市轨道交通车站设备教.. 3页

过磷酸钙混合期添加鸡粪的工艺优化 3页

高中春节的作文 22页

辙叉用贝氏体钢热处理工艺研究 3页

转向工况下汽车操纵稳定性的研究 3页

路桥施工中现代钢纤维砼技术的应用解析 3页

超长双层结构内胆式蓄冷水池施工技术研究 3页

超声波传感器谐振规律的实验研究 3页

资产负债表观对财务报表的影响分析 4页

质优图存 守信求进——机械部第三设计研究院.. 3页

谨慎性原则在会计实务中的应用和注意事项 3页

试论背压机在城市热电联产中的应用 3页