3.3 多維隨機變量的分布 - 連續的情況


連續的情況


定理3.3.1 連續場合的卷積公式:設XY是兩個相互獨立的連續隨機變量,其密度函數分別為p_X(x)p_Y(y),則其和X=Z+Y的密度函數為
p_Z(z)=\int_{-\infty}^{\infty}p_X(z-y)p_Y(y)dy
\qquad \quad=\int_{-\infty}^{\infty}p_X(x)p_Y(z-x)dx
證明:

  • Z=X+Y的分布函數為
    F_Z(z)=P(X+Y\leqslant Z)
    \qquad \quad =\iint_{x+y\leqslant z}p_X(x)p_Y(y)dxdy
    \quad \qquad =\int_{-\infty}^{\infty}\left\{ \int_{-\infty}^{z-y}p_X(x)dx \right\} p_Y(y)dy
    \qquad \quad =\int_{-\infty}^{\infty}\int_{-\infty}^{z}p_X(t-y)p_Y(y)dtdy
    \qquad \quad =\int_{-\infty}^{z}(\int_{-\infty}^{\infty}p_X(t-y)p_Y(y)dy)dt
    由此可得X的密度函數為
    p_Z(z)=\int_{-\infty}^{\infty}p_X(z-y)p_Y(y)dy
  • 在上式積分中另z-y=x,則可得
    \int_{-\infty}^{\infty}p_X(x)p_Y(z-x)dx

這就是連續場合下的卷積公式


正態分布的可加性(例3.3.7):設隨機變量X\sim N(\mu_1,\sigma_1^2),Y\sim N(\mu_2,\sigma_2^2),且X與Y獨立,則Z=X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)
證明:

  • Z=X+Y仍在(-\infty,\infty)上取值,利用卷積公式可得
    p_Z(z)=\frac{1}{2\pi\sigma_1\sigma_2}\int_{-\infty}^{\infty}exp\left\{ -\frac{1}{2}[\frac{(z-y-\mu_1)^2}{\sigma_1^2}+\frac{(y-\mu_2)^2}{\sigma_2^2}] \right\}dy
  • 對上式被積函數中的指數部分按y的冪次展開,再合并同類項,不難得到 @TODO
    \frac{(z-y-\mu_1)^2}{\sigma_1^2}+\frac{(y-\mu_2)^2}{\sigma_2^2}=A(y-\frac{B}{A})^2+\frac{(z-\mu_1-\mu_2)^2}{\sigma_1^2+\sigma_2^2}
    其中
    A=\frac{1}{\sigma_1^2}+\frac{1}{\sigma_2^2},\quad B=\frac{z-\mu_1}{\sigma_1^2}+\frac{\mu_2}{\sigma_2^2}.
  • 代回原式,可得
    p_Z(z)=\frac{1}{2\pi\sigma_1\sigma_2}exp\left\{ -\frac{1}{2}\frac{(z-\mu_1-\mu_2)^2}{\sigma_1^2+\sigma_2^2} \right\}\cdot \int_{-\infty}^{\infty}exp\left\{ -\frac{A}{2}(y-\frac{B}{a})^2 \right\}dy.
    利用正態密度函數的正則性@TODO,上式中的積分應為\sqrt{2\pi}/\sqrt{A},于是
    p_Z(z)=\frac{1}{\sqrt{2\pi(\sigma_1^2+\sigma_2^2)}}exp\left\{ -\frac{1}{2}\frac{(z-\mu_1-\mu_2)^2}{\sigma_1^2+\sigma_2^2} \right\}.
    這正是數學期望為\mu_1+\mu_2,方差為\sigma_1^2+\sigma_2^2的正態密度函數。

Q.E.D.

上述結論表明:

  • 兩個獨立的正態變量之和仍為正態變量,其分布的兩個參數對應相加,即
    N(\mu_1,\sigma_1^2)\ast N(\mu_2,\sigma_2^2)=N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2).
  • 隨機變量X\sim N(\mu,\sigma^2),由于對任意非零實數aaX\sim N(a\mu,a^2 \sigma^2),可得結論:
    任意n個相互獨立的正態變量的線性組合仍是正態變量,即
    a_1X_1+a_2X_2+…+a_nX_n\sim N(\mu_0,\sigma_0^2)
    若記X_i\sim N(\mu_i,\sigma_i^2),i=1,2,…,n,則參數\mu_0\sigma_0^2分別為
    \mu_0=\sum_{i=1}^{n}a_i\mu_i, \quad \sigma_0^2=\sum_{i=1}^{n}a_i^2\sigma_i^2.

伽瑪分布的可加性(例3.3.8):設隨機變量X\sim Ga(\alpha_1,\lambda),Y\sim Ga(\alpha_2,\lambda),且X,Y獨立,則Z=X+Y\sim Ga(\alpha_1+\alpha_2,\lambda)
證明:

  • Z=X+Y(0,\infty)上取值,所以
    z\leqslant 0時,p_Z(z)=0
    z>0時,由卷積公式,此時被積函數p_X(z-y)p_Y(y)得非零區域為0<y<z,故
    p_Z(z)=\frac{\lambda^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{z}(z-y)^{\alpha_1-1}e^{-\lambda(z-y)}\cdot y^{\alpha_2-1}e^{-\lambda(y)}dy
    \qquad = \frac{\lambda^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{z}(z-y)^{\alpha_1-1}y^{\alpha_2-1}\cdot e^{-\lambda(z-y)-\lambda(y)}dy
    \qquad = \frac{\lambda^{\alpha_1+\alpha_2}e^{-\lambda z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{z}(z-y)^{\alpha_1-1}y^{\alpha_2-1}dy
  • y=zt,代入上式 @TODO
    \qquad = \frac{\lambda^{\alpha_1+\alpha_2}e^{-\lambda z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{{\color{red} z}}(1-t)^{\alpha_1-1}t^{\alpha_2-1}z^{a_1+a_2-1}{\color{red} {z^{-1}}}d({\color{red} z}t)
    \qquad = \frac{\lambda^{\alpha_1+\alpha_2}e^{-\lambda z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{{\color{red} 1}}(1-t)^{\alpha_1-1}t^{\alpha_2-1}z^{a_1+a_2-1}dt
    \qquad = \frac{\lambda^{\alpha_1+\alpha_2}e^{-\lambda z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}z^{a_1+a_2-1}\int_{0}^{1}(1-t)^{\alpha_1-1}t^{\alpha_2-1}dt
  • 最后的積分是貝塔函數,它等于\Gamma(\alpha_1)\Gamma(\alpha_2)/\Gamma(\alpha_1+\alpha_2),代入上式得
    p_Z(z)=\frac{\lambda^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1+\alpha_2)}z^{a_1+a_2-1}e^{-\lambda z}
  • 這正是形狀參數為\alpha_1+\alpha_2,尺度參數仍為\lambda的伽瑪分布。

Q.E.D.

這個結論表明:

  • 兩個尺度參數相同的獨立的伽瑪變量之和仍為伽瑪變量,其尺度參數不變,而形狀參數相加,即
    Ga(\alpha_1,\lambda)\ast Ga(\alpha_2,\lambda)=Ga(\alpha_1+\alpha_2,\lambda)
  • 以上結論可以推廣到有限個尺度參數相同的獨立伽瑪變量之和上
    Ga(\alpha_1,\lambda)\ast Ga(\alpha_2,\lambda)\ast …\ast Ga(\alpha_m,\lambda)=Ga(\alpha_1+\alpha_2+…+\alpha_m,\lambda)
  • 伽瑪分布的特例①:指數分布
    Exp(\lambda)=Ga(1,\lambda),有
    m個獨立同分布的指數變量之和為伽瑪變量,即
    \underbrace{Exp(\lambda)\ast Exp(\lambda)\ast…\ast Exp(\lambda)}_{m個}=Ga(m,\lambda)
  • 伽瑪分布的特例②:卡方分布
    \chi^2(n)=Ga(\frac{n}{2},\frac{1}{2}),有
    m個獨立的\chi^2變量之和為\chi^2變量(\chi^2分布的可加性),即
    \chi^2(n_1)\ast \chi^2(n_2)\ast …\ast \chi^2(n_m)=\chi^2(n_1+n_2+…+n_m)

變量變換法


變量變換法
二重積分的變量變換法
TBD


增補變量法

  1. 積的公式
    TBD
  2. 商的公式
    TBD
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容