文档介绍：ponent analysis
独立成分分析(ICA)
ICA简介
ICA是20世纪90年代提出的,起初是神经网络的研究中有一个重要的问题,独立成分分析是一个解决问题的新方法。在许多应用方面,包括特征识别、信号分离。这种方法是用一种解线性方程组的方式的估计方式求解信号源。
独立成分分析(ICA)
假想一下,在一个房间里的不同位置放着两个麦克风,同时有两个人说话。两个麦克风能同时记录下两个时间信号,如果仅用这两个记录的信号来估计出原来的两个语音信号,那将是一件非常有意义的事情,这也就是所谓的“鸡尾酒会”问题。
由于主成分分析(PCA)和奇异值分解(SVD)是基于信号二阶统计特性的分析方法,其目的用于去除图像各分量之间的相关性,因而它们主要应用于图像数据的压缩;而ICA 则是基于信号高阶统计特性的分析方法,经ICA分解出的各信号分量之间是相互独立的。正是因为这一特点,使ICA在信号处理领域受到了广泛的关注.
声音提取:
典型例子:“鸡尾酒会”的问题。
人的大脑可以很快辨出或集中听某种需要关注声音。
麦克风1
麦克风2
麦克风3
a为权重的参数,在鸡尾酒舞会问题中为距离,x为两个话筒得到信号,s为两个表演者的声音。这两个人的声音相对独立并且忽略所有的其他因素比如声音的时间延迟。
如果我们知道a的参数,也就是说知道距离,反解出s就很简单。(半盲源)
但ICA是在不知道a和Si(t)的情况下的一种估计的算法,也就是说的盲信号分离的一种算法。
ICA的约束
为了确保上边刚刚给出的基本的ICA模型能被估计,我们必须要做出一定的假设和约束。
;
;
;

该假设是ICA能够成立的前提。
概念上理解:
我们说随机变量y1,y2..yn独立,是指在i≠j时,有关yi的取值情况对于yj如何取值没有提供任何信息。
技术角度上理解:
联合概率密度等于各边缘概率密度的乘积。

如果观测到的变量具有高斯分布,那么ICA在本质上是不可能实现的。
原因:因为独立成分联合分布是高斯的,那么他们的联合概率密度为:
P(s1,s2) =1/2π*exp[-(s12+s22)/2]
= 1/2π*exp(-||s||2/2)
假定S经过混合矩阵A后,他们的联合概率密度仍然不变化,因此我们没有办法在混合中的得到混合矩阵的信息。
3. 假定混合矩阵是方阵
换句话说,就是独立成分的个数与观测到的混合量个数相同。
根据源信号的统计特性,仅由观测的混合信号恢复(分离)出未知原始源信号的过程
“盲”
源信号不可观测
混合系统的特性事先不可知
盲源分离(Blind Source Seperation)
1、盲源分离与ICA的概念
盲源分离的目的是求得源信号的最佳估计。