文档介绍：Linear Discriminant Analysis LDA
线性判别式分析法
利用线性判别函数设计两类分类器
2021/8/22
1
问题的起源
在概率密度函数P(x|wi)未知的条件下,不再设法求出P(x|wi)并转化为后验概率密度函数P(wi | x),而是采用以下方法:
给定某个线性判别函数类g(x)
利用样本集X确定判别函数类g(x)中的未知参数(给定一个cost function用最优化方法使代价函数取极值)
把未知样本x归类到具有最大的判别函数值的类别中
2021/8/22
2
线性判别函数的给定
一般线性判别函数:
2021/8/22
3
2021/8/22
4
广义线性判别函数:
2021/8/22
5
2021/8/22
6
2021/8/22
7
结论:
对任意判别函数作级数展开，然后取其截尾部分的逼近,通过适当的变换，都可以化为广义线性判别函数来处理.
解决由样本集设计线性分类器的主要步骤:
2021/8/22
8
准则函数的选取
感知准则函数(应用于线性可分的样本集)
原理:
设:样本集Y={y1, y2,…, yN}为对应于X= {x1, x2,…, xN}的增广样本集.
2021/8/22
9
感知准则函数
2021/8/22
10