8.同時分布(2)

次に分散$V(X+Y)$を考えよう.
$V(X+Y)$を$V(X),V(Y)$で表したい.$V(X+Y)$を計算してごらん.
A:計算しろと言っても何をどうするんですか.
T:その通りだね.
$V(X+Y)=E((X+Y)^2)-E(X+Y)^2$
の右辺を計算するということだ.
A:$V(X+Y)=E(X^2+2XY+Y^2)-(E(X)+E(Y))^2$
$=E(X^2)+2E(XY)+E(Y^2)-(E(X)^2+2E(X)E(Y)+E(Y)^2)$
$=(E(X^2)-E(X)^2)+(E(Y^2)-E(Y)^2)+(2E(XY)-2E(X)E(Y))$
$=V(X)+V(Y)+2(E(XY)-E(X)E(Y))$
これでいいんですか.
T:これでいいよ.君の出した式より,もし
$E(XY)=E(X)E(Y)$
が成り立てば
$V(X+Y)=V(X)+V(Y)$
が成り立つね.
A:当たり前のことです.
T:ここで定義をする.

2つの確率変数$X,Y$で,$X,Y$の取る値のすべての組$x_i,y_j$で
$P(X=x_i,Y=y_j)=P(X=x_i)\cdot P(Y=y_j)$
が成り立つとき,$X,Y$は互いに独立であるという.

ちなみに,$X,Y$が独立のとき,同時分布
$\begin{array}{|c|c|c|c|c|c|}\hline X\diagdown Y & y_1 & y_2 & \ldots &y_m &\text{計}\\ \hline x_1 & r_{11} &r_{12} &\ldots &r_{1m} & p_1 \\ \hline x_2 & r_{21} &r_{22} &\ldots &r_{2m} & p_2 \\ \hline \vdots & \vdots &\vdots & \ddots &\vdots & \vdots \\ \hline x_n & r_{n1} &r_{n2} &\ldots &r_{nm} & p_n \\ \hline \text{計} & q_1 &q_2 & \ldots & q_m & 1 \\ \hline \end{array}$
は次のようになる.
$\begin{array}{|c|c|c|c|c|c|}\hline X\diagdown Y & y_1 & y_2 & \ldots &y_m &\text{計}\\ \hline x_1 & p_1q_1 &p_1q_2 &\ldots &p_1q_m & p_1 \\ \hline x_2 & p_2q_1 &p_2q_2 &\ldots &p_2q_m & p_2 \\ \hline \vdots & \vdots &\vdots & \ddots &\vdots & \vdots \\ \hline x_n & p_nq_1 &p_nq_2 &\ldots & p_nq_m & p_n \\ \hline \text{計} & q_1 &q_2 & \ldots & q_m & 1 \\ \hline \end{array}$
$X,Y$が独立の時,$XY$の平均$E(XY)$を計算してごらん.
A:できそうにありません.
T:簡単ではないと思うけど,自分で計算するのが大切だよ.先生のやるのを見ているだけでは大事なことを見落としてしまうんだよ.
まず,定義式から書いてごらん.
A:$\displaystyle E(XY)= \sum_{(i,j)=(1,1)}^{(n,m)}x_iy_jp_iq_j
$
となりました.
T:二重添え字の和で
$\displaystyle \sum_{(i,j)=(1,1)}^{(n,m)}a_ib_j$
をやっただろう.そこを見てごらん.
A:同じですね.
$\displaystyle \sum_{(i,j)=(1,1)}^{(n,m)}x_iy_jp_iq_j=\sum_{i=1}^nx_ip_i(\sum_{j=1}^my_jq_j)
$
$\displaystyle =\sum_{i=1}^nx_ip_iE(Y)$
$=E(X)E(Y)$
うまくいきました.
T:よくできました.まとめると次のようになる.
2つの確率変数$X,Y$が互いに独立であるとき
$E(XY)=E(X)E(Y),V(X+Y)=V(X)+V(Y)$
が成り立つ.

さらに,3つ以上の確率変数$X_1,X_2,\dots ,X_n$のどの2つも互に独立なら,
$V(X_1+\cdots +X_n)=V(X_1)+\cdots +V(X_n)$
が成り立つ.
実際,
$V(X_1+\cdots +X_n)$
$=E((X_1+\cdots +X_n)^2)-(E(X_1+\cdots +X_n))^2$
$\displaystyle =\sum_{i=1}^n(E(X_i^2)-E(X_i)^2)+\sum_{i\neq j}(E(X_iX_j)-E(X_i)E(X_j))$
ここで$E(X_iX_j)=E(X_i)E(X_j)$が成り立つから
$=V(X_1)+\cdots +V(X_n)$

今日残された最後の話題だ.$X,Y$が互いに独立でないときの$V(X+Y)$を調べよう.
一般的な場合を調べてもらちが明かないので,すでに考えた非復元抽出の場合を考える.
例題
同じ大きさの球$N(=n_1+n_2+n_3)$個入った袋があり,そのうち$n_1$個には数字$x_1$が,$n_2$個には数字$x_2$が, $n_3$個には数字$x_3$が書いてある.
最初に1個取り出し,その値を$Y_1$とし,取り出した球を戻さないで,次に取り出した球の値を$Y_2$とする. このように,戻さないで次々に取り出し,$k$番目に引いた球の値を$Y_k \ (k\leqq N)$とする.
このとき,$E(Y_KY_l)$および$V(Y_k+Y_l)$を求めよう.
確率変数$Y_k,Y_l$の同時分布は
$\begin{array}{|c|c|c|c|c|}\hline Y_k\diagdown Y_l & x_1 & x_2 & x_3 &\text{計}\\ \hline x_1 & \frac{n_1(n_1-1)}{N(N-1)} & \frac{n_1n_2}{N(N-1)}& \frac{n_1n_3}{N(N-1)} & \frac{n_1}{N} \\ \hline x_2 & \frac{n_1n_2}{N(N-1)} & \frac{n_2(n_2-1)}{N(N-1)}& \frac{n_2n_3}{N(N-1)} & \frac{n_2}{N} \\ \hline x_3 & \frac{n_1n_3}{N(N-1)} & \frac{n_2n_3}{N(N-1)}& \frac{n_3(n_3-1)}{N(N-1)} & \frac{n_3}{N} \\ \hline \text{計} & \frac{n_1}{N} & \frac{n_2}{N}& \frac{n_3}{N} & 1 \\ \hline \end{array}$
であった.
確率$P(X_k=x_i,Y_l=x_i)$は
$\dfrac{n_i(n_i-1)}{N(N-1)}=\dfrac{n_i^2}{N(N-1)}-\dfrac{n_i}{N(N-1)}$
であるから
$\displaystyle E(Y_kY_l)=\sum_{(i,j)=(1,1)}^{(3,3)}x_ix_j\dfrac{n_in_j}{N(N-1)}-\sum_{i=1}^3x_i^2\dfrac{n_i}{N(N-1)}$
$E(Y_k)=E(Y_l)=m,V(Y_k)=V(Y_l)=\sigma ^2$と置くと
$\displaystyle \sum_{(i,j)=(1,1)}^{(3,3)}(x_in_i)(y_jn_j)=(Nm)^2$より
(第1項)$=\dfrac{(Nm)^2}{N(N-1)}$
$\sigma ^2=V(Y_k)=E(Y_k^2)-E(Y_k)^2$より
(第2項)$=\dfrac{\sigma ^2+m^2}{N-1}$
したがって,
$E(Y_kY_l)=m^2-\dfrac{\sigma ^2}{N-1}$
を得る.
つぎに$V(Y_k+Y_l)$を求める.
$V(Y_k+Y_l)=E((Y_k+Y_l)^2)-(E(Y_k)+E(Y_l))^2$
$=V(Y_k)+V(Y_l)+2(E(Y_kY_l)-E(Y_k)E(Y_l))$
$=2\sigma ^2+2(m^2-\dfrac{\sigma ^2}{N-1}-m^2)$
$=2(\sigma ^2-\dfrac{\sigma ^2}{N-1})$

単純な計算であるから,
$V(Y_1+Y_2+\dots +Y_n)$
も計算しよう.
任意の$i$で$E(X_i)=m$,$i\neq j$のとき$E(Y_iY_j)=m^2-\frac{\sigma ^2}{N-1}$に注意する.
$V(Y_1+Y_2+\dots +Y_n)$
$=E((Y_1+Y_2+\dots +Y_n)^2)-(E(Y_1)+E(Y_2)+\dots +E(Y_n))^2$
$=V(Y_1)+\dots +V(Y_n)+(n^2-n)(m^2-\dfrac{\sigma ^2}{N-1}-m^2)$
$=n\sigma ^2-\dfrac{(n^2-n)\sigma ^2}{N-1}$
$=\dfrac{n(N-n)}{N-1}\sigma ^2$

まとめると次のようになるよ.

同じ大きさの球$N(=n_1+n_2+n_3)$個入った袋があり,そのうち$n_1$個には数字$x_1$が,$n_2$個には数字$x_2$が, $n_3$個には数字$x_3$が書いてある.
最初に1個取り出し,その値を$Y_1$とし,取り出した球を戻さないで,次に取り出した球の値を$Y_2$とする. このように,戻さないで次々に取り出し,$k$番目に引いた球の値を$Y_k \ (k\leqq N)$とする.
このとき,各$Y_k$は同じ確率分布になり,$V(Y_k)=\sigma ^2$と置くと
$V(Y_1+Y_2+\dots +Y_n)=\dfrac{n(N-n)}{N-1}\sigma ^2$
が成り立つ.
A:難しいですね.
T:$E(Y_kY_l)$の計算が面倒なだけで実際はそんなに難しくないよ.
ここで,計算したの非復元抽出の場合だが,全体の個数$N$が十分大きければ
$V(Y_1+\dots +Y_n)\fallingdotseq n\sigma ^2$
すなわち,復元抽出とほとんど変わらないことに使うだけだ.
実際そうだろ.100万個から100個選ぶとき,復元抽出でも非復元抽出でもあまり変わらないことが 納得できるなら,ここで扱った非復元抽出の議論は必要ないんだ.
A:非復元抽出を扱わないと議論が大分すっきりしますね.
T:まったくその通りだ.最後に,二項分布$B(n,p)$の平均と分散を求めよう.
A:そういえば,あとで簡単な方法を学ぶといっていましたね.
T:その方法です.さて,二項分布はどんな確率分布だい.
A:といわれると答えづらいですね.例えばサイコロを振った時の$1$の目が出る回数で決まる確率分布です.
T:そうだね.同じ試行を繰り返した時,ある事象が起こる回数で決まる確率分布だね.
1回の試行で,事象$A$が起こる確率が$p$のとき,この試行をn回繰り返した時,$A$が起こる回数を$X$としたとき, $P(X=r)$は幾つになる.
A:そんなの簡単ですよ.
${}_nC_rp^r(1-p)^{n-r}$
です.
T:その通りです.この確率分布が二項分布$B(n,p)$だったね.
この二項分布の平均と分散を求めよう.
第$i (1\leqq i\leqq n)$回に事象$A$が起これば$1$,$A$が起こらなければ$0$とする確率変数を$X_i$とする.
ここで,確率変数$X$を
$X=X_1+X_2+\dots +x_n$
で定義する.
この確率変数$X$は,$n$回試行したときの$A$の起こる回数を表すけど分かるかい.
A:分かった気はするけど,いまいちですね.
T:分かりづらいかもしれないな.
まず,$X_i$は互いに影響しないから,互いに独立であることはいいね.
たとえば$X=2$の場合を考えよう.$X_1,\dots ,X_n$のうち2つが$1$で残りが$0$だ.その時の 確率はどうなる.
A:2箇所が$p$で残りが$1-p$だから$p^2(1-p)^{n-2}$です.
T:そのような場合が何通りだい.
A:分かりました.だから
$P(X=2)={}_nC_2p^2(1-p)^{n-2}$
となるんですね.これが二項分布の定義と一致するわけですね.
T:さて,$X_i(1\leqq i \leqq n)$はどの2つも互いに独立であるから,$X_1$の平均と分散を求めれば$X$の平均,分散も求まるよ. あとはやってごらん.
A:まず,$X_1$の確率分布は
$\begin{array}{|c|c|c|c|}\hline X_1 & 0 & 1 &\text{計} \\ \hline P & 1-p & p & 1 \\ \hline \end{array}$
だから
$E(X_1)=p$, さらに,$E(X_1^2)=p$であるから
$V(X_1)=E(X_1^2)-E(X_1)^2=p-p^2=p(1-p)$
$E(X)=E(X_1+\dots +X_n)=E(X_1)+\dots +E(X_n)=np$
$X_1,\dots ,X_n$はどの2つも互いに独立であるから
$V(X)=V(X_1+\dots +X_n)=V(X_1)+\dots +V(X_n)=np(1-p)$
となりました.
T:よくできました.
A:この証明の方がはるかに簡単ですね.
T:簡単といえば簡単かもしれないね,ただ
$X=X_1+\dots +X_n$
を用いているけど,これは確率変数の和の定義をきちんと理解する必要があり 確率分布を学んだばかりでこの方法を用いるのはあまり教育的ではないと考えていたんだけど, 君の反応を見ると,シグマの計算だなんていわないで,最初からこの方法が良かったかもしれないな.
今日もいろいろ学んだね.ここまでが,これから学ぶ統計のための土台だ.ここまで,少し急ぎすぎた. 次回は,これまでの内容の復習を兼ねたよく知られた確率分布を学ぼう.ここまでが大事な部分だから何度も読み返すといいよ.
今日はこれで終わりにしよう.
A:どうもありがとうございました.

9.有名な確率分布(1)


全体の目次