概率論與數(shù)理統(tǒng)計 第五章 大數(shù)定律及中心極限定理

課前導讀

概率論是研究大量試驗后呈現(xiàn)出的統(tǒng)計規(guī)律性的一門理論。
數(shù)學中研究大量的工具是極限。
因此這一章學習概率論中的極限定理。

第一節(jié) 大數(shù)定律

隨著試驗次數(shù)的增大，事件的頻率逐步穩(wěn)定到事件的概率。意味著隨著試驗次數(shù)的增多，在某種收斂意義下，頻率的極限是概率。大數(shù)定律解釋了這一結(jié)論。

首先介紹切比雪夫不等式。

一、切比雪夫(Chebyshev)不等式

隨機變量X的取值總是圍繞著其期望變動，若X的分布已知時，可以計算事件\{|X-E(X)|\geq \epsilon \}的概率。

切比雪夫不等式：


對切比雪夫不等式的直觀理解：方差越小，X在其期望附近取值的密集程度越高，原理期望的區(qū)域的概率上加越小。進一步說明了方差的概率意義，方差時隨機變量取值與其中心位置的偏離程度的一種度量指標。

當隨機變量X的分布未知時，可由X的觀測數(shù)據(jù)估計得到X的期望和方差，然后使用切比雪夫不等式估計X關(guān)于E(X)的偏離程度。

二、依概率收斂

隨機變量序列即由隨機變量構(gòu)成的一個序列。不能用類似定義數(shù)列極限的方式定義隨機變量序列的極限，因為序列中的每一個元素X_n是隨機變量，取值不確定，不可能和一個常數(shù)c的距離任意小。
只能說某個事件A發(fā)生的頻率f_n(A)收斂到A的概率P(A)。

依概率收斂的定義：

定理2：

三、大數(shù)定律

三個大數(shù)定律：切比雪夫大數(shù)定律、辛欽大數(shù)定律和伯努利大數(shù)定律。注意這三個大數(shù)定律的條件有何異同。

定理3 切比雪夫大數(shù)定律：
若隨機變量序列相互不相關(guān)，方差存在且一致有上界，當n充分大時，隨機序列的前n項的算術(shù)平均值和自身的期望充分接近幾乎總是發(fā)生的。


定理4 相互獨立同分布的大數(shù)定律（辛欽大數(shù)定律）：
辛欽大數(shù)定律為算術(shù)平均值法則提供了理論依據(jù)。

伯努利大數(shù)定律：
伯努利大數(shù)定律是相互獨立同分布大數(shù)定律的特例，限定分布為兩點分布。
伯努利大數(shù)定律體現(xiàn)了：隨著試驗次數(shù)的增大，事件的頻率逐步穩(wěn)定到時間的概率，這里的穩(wěn)定即為依概率收斂。

伯努利大數(shù)定律的直觀意義：
試驗次數(shù)足夠多，可用頻率作為概率的估計。


三個大數(shù)定律的條件是不同的，它們的條件關(guān)系如圖所示。


大數(shù)定律在實際中有許多重要應用，除了算術(shù)平均值法則、用頻率估計概率，還有數(shù)理統(tǒng)計中參數(shù)的點估計思想等。

第二節(jié) 中心極限定理

自然界中有許多隨機現(xiàn)象可以用正態(tài)分布或近似正態(tài)分布來描述，這是為何？中心極限定理揭示了其中的奧秘。

中心極限定理是相互獨立的隨機變量之和用正態(tài)分布近似的一類定理。首先介紹最為著名的相互獨立同分布情形下的中心極限定理，又稱為列維-林德伯格中心定理。

**定理1 列維-林德伯格中心極限定理（相互獨立同分布）


定理的條件要求隨機變量相互獨立并且服從同一分布。


還有更為一般的結(jié)論：只要隨機變量相互獨立，每個隨機變量對和的影響都是微笑的，哪怕它們的分布類型不同，其和標準化后都有標準正態(tài)的極限分不。

中心極限定理的直觀意義：


中心極限定理在實際應用中有如下三種形式：


定理2 （棣莫弗-拉普拉斯中心極限定理）：二項分布的正態(tài)近似。

中心極限定理的結(jié)論更為細致：


中心極限定理是隨機變量和的分布收斂到正態(tài)分布的一類定理。不同的中心極限定理的差異就在于對隨機變量序列做出了不同的假設。

拓展閱讀

大數(shù)定律是保險業(yè)保險費計算的科學理論基礎。當承保標的數(shù)量足夠大時，由切比雪夫大數(shù)定律知，被保險人繳納的純保費與其能獲得賠款的期望值是相等的。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務。

推薦閱讀更多精彩內(nèi)容