概率神经网络.ppt

文档介绍：LOGO
XX学校
我们毕业啦
其实是答辩的标题地方
概率神经网络
报告人
XXX
XXX
XXX
2
2
概率神经网络(PNN):
以指数函数替代神经网络中常用的S形激活函数,进而构造出能够计算非线性判别边界的概率神经网络。
1、基于贝叶斯最优分类决策理论(错误率、风险最小化)
2、基于概率密度估计方法
不同于反向传播算法中的试探法,而是基于统计学中已有的概率密度函数的非参数估计方法。
3、前馈网络的一种
没有反馈
一、简介
3
贝叶斯决策
概率密度函数估计
其中,
基于训练样本,高斯核的Parzen估计:
分类任务:假设有c类,w1,w2, …wc
二、理论推导
4
判别函数
是属于第
类的第k个训练样本
是样本向量的维数
是平滑参数
是第
类的训练样本总数
判别规则
只需经验给出,或聚类法,可取为在同组中特征向量之间距离平均值的一半。
5
5
右图以三类为例,即C=3;同时,设特征向量维数为3。
输入层
样本层
求和层
竞争层
PNN拓扑结构图
1、网络学****过程简单,学****速度快
学****一次完成,比BP快5个数量级,比RBF2个数量级。
2、分类更准确,没有局部极小值问题
错误率、风险最小化。
3、容错性好,分类能力强。
判别界面渐进地逼近贝叶斯最优分类面。
7
三、优势与不足
1、对训练样本的代表性要求高
2、需要的存储空间更大
不足
优势
8
分类方面已广泛地应用于非线性滤波、模式分类、联想记忆和概率密度估计。其优势在于用线性学****算法来完成非线性学****算法所做的工作,同时保证非线性算法的高精度等特性。
四、应用领域及实例
应用领域
分类
模式识别
主要用于
最广泛
9
2013-5-24
应用实例一
对彩色车牌图像进行二值化
特征向量是每个像素点的颜色RBG值。需要将其分为2类, A类表示背景色,B类为号码色,接近白色的颜色

用PNN对每个像素点进行训练、分类, 再用0、1这两个数值来表示A类、B类,重新设置图片中像素的颜色实现了车牌号图像的二值化。
任务分析
基本思路
10
实验步骤