列维-林德伯格中心极限定理
当样本足够大时,无论总体服从什么分布,样本均值们服从正态分布。设总体的,则样本均值们:
这里的均值和总体均值一致,均值的方差更小,符合直觉。标准化一下:
根据分布函数的定义有:
分子分母同时乘n,则有:
棣莫弗-拉普拉斯中心极限定理
当n足够大时,二项分布趋于正态分布。
根据分布函数的定义有:
依概率收敛
设 是一个随机变量 序列, 是一个常数, 若对任何正数 , 有
则称序列 依概率收敛于 , 记为
其实就是当n无穷大时,趋于。把它理解成极限就行。
辛钦大数定律
独立同分布,期望为 ,当数据足够多时,均值趋于期望:
伯努利大数定律
假设是n重伯努利试验中事件A发生的次数,在每次试验中A发生的概率为p,则:
举例子,射击运动员命中的概率为0.9,射击1000次中912次,此时。当射击次数时
切比雪夫不等式
讲切比雪夫不等式之前先讲一个经验,对于正态分布来说,离中心越近面积越大,比如距离中心趋于的面积大约68%;距离中心趋于的面积大约95%,既:
我们也可以把不等号换个方向:
切比雪夫不等式讲这件事扩展到任何分布,对任意,有:
证明:记 , 且
切比雪夫大数定律
独立,存在期望及方差,且方差有界 ,则当n无穷大时,均值依概率收敛于均值的期望:
证明,根据切比雪夫不等式:
则:
因为概率:
所以: