概率论与数理统计论文
特征函数的概念应用及对其另一种诠释
概率论中我们研究的随机变量是人们生活和数学研究中经常遇到的一项重要内容,而随机变量的分布函数则可以全面的描述随机变量的统计规律。但是有时候分布函数或分布密度这些工具使用起来并不方便,例如求独立随机变量和的分布密度,用卷积求太烦琐和复杂。因此引入特征函数,本文将从介绍特征函数的由来,概念,应用出发,先来介绍如何用特征函数更方便、优越的表示随机变量的分布借以加深大家对特征函数及其应用的认识。
而之后,我们提出另一种对特征函数的解释:在基于傅立叶变换物理意义的特征函数直观解释的基础上,提出了特征函数的一种基于坐标分解的新解释。
傅里叶变换是数学中非常重要而有效的工具,把它应用于分布函数或密度函数,就产生了所谓“特征函数”。
首先,我们分别给出了离散型和连续型随机变量的特征函数和概率(密度)函数的新解释。然后利用这种新解释来求随机变量的分布函数。最后得出一个结论,即这种新解释能加深对特征函数的理解,而且能使特征函数相关的求解问题更为简便。
关键词:特征函数 概念 应用
1特征函数的由来与概念
1.1特征函数的由来 1.2特征函数的概念:
1.2.1特征函数定义 1.2.2特征函数性质
2.特征函数的应用
2.1几种特征函数介绍 2.2特征函数应用
2.2.1特征函数在大数定律中的应用
2.2.2特征函数被用于中心极限定理的最常见的证明中
3.特征函数的另一种诠释
3.1要用到的定义与定理 3.2特征函数的新解释
3.2.1基于傅立叶变换物理意义的直观解释 3.2.2基于坐标分解的新解释 3.3新解释在求分布函数时的应用
参考文献
1特征函数的由来与概念
1.1特征函数的由来
我们知道随机变量的分布函数全面地描述了随机变量的统计规律,而以分布函数为基础,我们可以讨论随机变量的数字特征、运算性质等问题。同时,我们也发现分布函数或分布密度这些工具,有时使用起来很不方便。
例如:当我们讨论随机变量和的分布时,若是考查两个相互独立的随机变量,其概率密度函数分别为符合P1(x),P2(x),则两个随机变量的和的分布=P1(x)*P2(x)。
X+X+......+XN
如果要求N个相互独立的随机变量和12的分布密度,那么就要计算n-1次卷积,利用卷积公式N-1次,这显然很复杂。但这种问题在概率中是非常常见的,因此,有必要进一步发展研究随机变量统计规律的工具。
在数学分析中,我们知道Fourier变换能把卷积运算变成乘法运算,因此,若果我们将Fourier变换引入到概率中,那么我们就产生了特征函数。通过对特征函数的研究,我们发现特征函数与分布函数一一对应,分布函数唯一决定特征函数,特征函数也唯一决定分布函数,特别地,如果有一分布函数列和与之相对应的一个特征函数列,则他们在一定收敛意义下的极限值也是相对应的。
其次,用特征函数作随机变量研究工具比用分布函数有许多方便之处。例如独立随机变量之和的概率分布是各被加项分布的卷积,而独立随机变量之和的特征函数则是各被加项特征函数的普通乘积等。 1.2特征函数的概念: 1.2.1特征函数定义
设X是一个随机变量,称 (t)E(eitX),-
因为|eitX|=1,所以(t)E(eitX)总是存在的,即任一随机变量的特征函数总是存在的.。
当离散随机变量X的分布列为PK=P(X=XK),K=1,2,3..... 则X的特征函数为(t)eitXkpK,-
K1
当连续随机变量X的密度函数为P(X)则X的特征函数为
与随机变量的数学期望,方差及各阶矩阵一样,特征函数只依赖于随机变量的分布,分布相同则特征函数也相同,所以我们也常称为某分布的特征函数 1.2.2特征函数性质
性质1:特征函数(t)在(-,+)上一致连续,
且有|(t)|(0)=1 (-t)=(t)其中(t)表示共轭
性质2:独立随机变量和的特征函数为特征函数的积,即设X与Y相互独立,则 X+Y的概率为X的概率与Y的乘积
性质3:若E(X)存在,则X的特征函数可L次求导,且对1≤k≤L,有以下公式:
L
性质4:一致连续性 随机变量X的特征函数在(+∞,-∞)上一致连续.
性质5:非负定性 随机变量X的特征函数()tϕ是非负定的,即对任意正整数n,及n个实数t1 t2.....tn和n个复数z1,z2....zn有
性质6:唯一性定理 随机变量的分布函数有其特征函数唯一确定 1.2.3有关性质几个定理 (1)勒维连续定理:
勒维连续定理说明,假设
为一个随机变量序列,其中每一个函数,那么它依分布收敛于某个随机变量:
都有特征
当如果
当且在
处连续,是
的特征函数。
勒维连续定理可以用来证明弱大数定律。 (2)反演定理
在累积概率分布函数与特征函数之间存在双射。也就是说,两个不同的概率分布不能有相同的特征函数。
给定一个特征函数φ,可以用以下公式求得对应的累积概率分布函数F:
。
一般地,这是一个广义积分;被积分的函数可能只是条件可积而不是勒贝格可积的,也就是说,它的绝对值的积分可能是无穷大。 (2) 博赫纳-辛钦定理/公理化定义 博赫纳定理
任意一个函数是对应于某个概率律的特征函数,当且仅当满足以下三个条件:
是连续的;
(0)=1;
是一个正定函数(注意这是一个复杂的条件,与不等价)。 (3)计算性质
特征函数对于处理独立随机变量的函数特别有用。例如,如果X1、X2、……、Xn是一个独立(不一定同分布)的随机变量的序列,且
其中ai是常数,那么Sn的特征函数为:
特别地,注意我们需要
。这是因为:
和的独立性来确立第三和第四个表达式的相等性。
另外一个特殊情况,是平均值,我们便有:
且为样本平均值。在这个情况下,用表示
由连续性定理知
因a为常数,可知
的分布函数弱收敛与F(x),
故定理成立
2.2.2特征函数被用于中心极限定理的最常见的证明中 相关概念:
相关概念有矩母函数和概率母函数。特征函数对于所有概率分布都存在,但矩母函数不是这样。 特征函数与傅里叶变换有密切的关系:一个概率密度函数叶变换的共轭复数(按照通常的惯例)。
的特征函数是
的连续傅里
其中换求出
表示概率密度函数:
的连续傅里叶变换。类似地,从
可以通过傅里叶逆变
确实,即使当随机变量没有密度时,特征函数仍然可以视为对应于该随机变量的测度的傅里叶变换。
(1)矩
特征函数还可以用来求出某个随机变量的矩。只要第n个矩存在,特征函数就可以微分n次,得到:
例如,假设具有标准柯西分布。那么。它在处不可微,说明柯西分布没有期望值。另外,注意到个独立的观测的样本平均值具有特征函数,利用前一节的结果。这就是标准柯西分布的特征函数;因此,样本平均值与总体本身具有相同的分布。
特征函数的对数是一个累积量母函数,它对于求出累积量是十分有用的;注意有时定义累积量母函数为矩母函数的对数,而把特征函数的对数称为第二累积量母函数。 一个例子
具有尺度参数θ和形状参数k的伽玛分布的特征函数为: 。
现在假设我们有:
且
其中X和Y相互独立,我们想要知道X + Y的分布是什么。X和Y特征函数分别为:
根据独立性和特征函数的基本性质,可得:
这就是尺度参数为θ、形状参数为k1 + k2的伽玛分布的特征函数,因此我们得出结论:
这个结果可以推广到n个独立、具有相同尺度参数的伽玛随机变量:
。
(2)多元特征函数
如果是一个多元随机变量,那么它的特征函数定义为: 。
这里的点表示向量的点积,而向量位于
的对偶空间内。用更加常见的矩阵表示法,就是:
。
例子: 如果
是一个平均值为零的多元高斯随机变量,那么:
其中表示正定矩阵 Σ的行列式。 [(3)矩阵值随机变量
如果是一个矩阵值随机变量,那么它的特征函数为:
在这里,Tr()是迹函数,
表示与的矩阵乘积。由于矩阵XT一定有迹,因此矩阵X必须与矩阵T的转置的大小相同;因此,如果X是m × n矩阵,那么T必须是n × m矩阵。 注意乘法的顺序不重要(但)。 矩阵值随机变量的例子包括威沙特分布和矩阵正态分布。
3.特征函数的另一种诠释
特征函数既然为概率论中的有力工具,其运算简化与理解简化很重要,有一种新的解释是基于坐标分解做出。
具体如下:
3.1要用到的定义与定理 定义:设是定义在概率空间(,F,P)上的随机变量,它的分布函数为F(x),称eit的数学期望为的特征函数。其中(t),知道:
因此,的特征函数也可称之为对分布函数F(X)的傅立叶一斯蒂尔切斯变换. 当为离散型随机变量时,其特征函数为:
当为连续型随机变量时,其特征函数为:
定理 若随机变量X的特征函数(t)于R上绝对可积,则X为具有密度函数f(x)的连续型随机变量,且f(x)作为其密度函数具有如下公式:
定理
若X为取整数值的随机变量,其概率函数为
其特征函数为(t),则
1PK=
2
jtk
(t)edt
-
3.2特征函数的新解释
3.2.1基于傅立叶变换物理意义的直观解释
显然特征函数是一种特殊的傅立叶变换,那么它也就有傅立叶变换所具有的物理意义。
离散情况下,首先(t)=的物理解释::在振动理论中,把特征函数(t)看作一个振动,ejtXk相当于单位谐波,(t)可解释成由简谐运动叠加产生的运动。
1
再次PK=
2
-
(t)e
jtk
dt的物理解释:在振动理论中,pk是由简谐振动去叠加(即积
分)产生的运动.
连续情况下,特征函数也有相应的物理解释:
特征函数(t)的物理解释:在振动理论中,把特征函数(t)看作一个振动,e相当于单位谐波,特征函数(t)即可理解为由简谐振动叠加(即积分)产生的运动.
同理,f(x)也有类似的物理解释:在振动理论中,f(x)是由一切角频率为的简谐
-jtX
振动叠加(即积分)产生的运动,为初始向量,ek为单位谐波。 3.2.2基于坐标分解的新解释
受傅立叶变换物理意义的启发,得到基于坐标分解的特征函数的新解释.离散情况
下,特征函数新解释:(t)可以看作是以ejtXk(k从一∞到∞)为基的可列无穷维空间下的坐标分解,第k维的坐标值为Pk,对于其第K维的坐标值,我们有:
1PK=
2
jtk
(t)edt
-
Pk可以看作是以ejtXkdt(t从一∞到∞)为基的实数势无穷维空间下的坐标分解,而对于 是在基ejtXkdt(t从一∞到∞)下的坐标值.
同理,连续情况下,特征函数(t)的新解释:(t))可以看作是以ejtX(x从一∞到∞)为基的实数势无穷维空间下的坐标分解,f(x)为在基ejtX下的坐标值。
的新解释:可看做是ejtXkdt(t从一∞到∞)为基的实数
势无穷维空间下的坐标分解,是在基ejtXkdt下的坐标值. 3.3新解释在求分布函数时的应用
如求下列各随机变量}的概率分布,已知其特征函数分别为 (1)cos(t)(2)cos2(t),
由反演公式可以解决此问题,但较为复杂,.如果利用本文提出的新解释 去求这个问题就非常简单,现用此法求解.
分析:只要将特征函数进行坐标分解即可以看作是以ejtk(k从一∞到∞)为基的实数势无穷维空间下的坐标分解,第k维的坐标值为Pk,由惟一性定理可解: (1)对于cos(t)因有
由惟一性定理可知,它的概率分布惟一,又:
故可根据以上式子求出
(2)对于cos2(t),因为有:
同理:由唯一性定理可求,可见,基于坐标分解的特征函数的新解释能加深我们对特征函数的理解,而且能使特征函数相关的求解问题化繁为简.
参考文献:
[1]徐玉华.关于概率论中特征函数性质的几点讨论[J].荆州师范学院学报,2003,2:36—39.
[2]乌兰,金珩.利用特征函数讨论特殊分布的有关性质[J].内蒙古统计,2004,5:43—46.
[3]周茂袁,王秀丽,李雪艳 特征函数的一种新解释及其应用 吉林师范大学学报(自然科学版)2008年5月
[4]缪铨生.概率论与数理统计教程.上海:华东师大出版社.2005.
[5]李少辅.概率论与数理统计(上册)[M].开封:河南大学出社,1996
[6]粱之舜,邓集贤。等.概率论及数理统计(上册)[M].第3版.北京:高等教育出版社,2005.