文档介绍：1
第二章:随机变量
上节课内容
概率理论
概率公理及推论
随机事件之间的关系:条件概率、独立/条件独立、贝叶斯公式
本节课内容
随机变量及其分布
随机变量变换
常见分布族
多元随机向量的分布
联合分布、边缘分布、条件分布、独立
2
随机变量
统计推断是与数据相关的。随机变量就是将样本空间/随机事件与数据之间联系起来的纽带
随机变量是一个映射,将一个实数值赋给一个试验的每一个输出
:抛10次硬币,令X(ω)表示序列ω中正面向上的次数,如当ω= HHTHHTHHTT,则 X(ω) = 6。
3
随机变量的概率描述
事件的概率随机变量的概率描述
给定一随机变量X及实数子集A,定义
:抛2次硬币,令X表示正面向上的次数,则
其中X表示随机变量,x表示X可能的取值
ω
P({ω})
X(ω)
TT
1/4
0
TH
1/4
1
HT
1/4
1
HH
1/4
2
x
P(X=x)
0
1/4
1
1/2
2
1/4
4
随机变量的分布函数
随机变量X的累积分布函数(cumulative distribution function, CDF) 定义为
CDF是一个非常有用的函数:包含了随机变量的所有信息。 CDF的性质:略(见书)
有时记为F
5
例:随机变量的CDF
:公正地抛硬币2次,令X表示正面向上的次数,则
CDF
右连续、非减函数
对所有实数x都有定义
虽然随机变量只取0、1、2
6
离散型随机变量的概率函数
离散型随机变量的概率函数(probability function or probability mass function, pmf)定义为
对所有的
CDF与pmf之间的关系为:
有时记为 f
7
例:离散型随机变量的pmf
:公正地抛硬币2次,令X表示正面向上的次数,则
概率函数为:
8
连续型随机变量的概率(密度)函数
对连续型随机变量X,如果存在一个函数,使得对所有的x, ,且对任意有
则函数被称为概率密度函数(probability density function, pdf)。
CDF与pdf之间的关系:
在所有可微的点x,则
注意: 是可能的
9
例:连续型随机变量的CDF和pmf
:设X有PDF:
显然有
有该密度的随机变量为(0,1)上的均匀分布:Uniform(0, 1),即在0和1之间随机选择一个点。
其CDF为:
10
分位函数(quantile function)
令随机变量X的CDF为F,CDF的反函数或分位函数(quantile function)定义为
其中。若F严格递增并且连续,则为一个唯一确定的实数x,使得。
为增函数
中值(median):
一个很有用的统计量,对噪声比较鲁棒