條件方差和預測:7 個重要事實

在本文中,我們將討論使用不同類型隨機變量的條件期望的條件方差和預測。

條件方差

給定 Y 的隨機變量 X 的條件方差的定義方式與給定 Y 的隨機變量 X 的條件期望類似

(X|Y)=E[(XE[X|Y])2|是]

這裡的方差是在給定 Y 值時隨機變量與 X 給定 Y 的條件期望的平方之間差異的條件期望。

之間的關係 條件方差和條件期望 is

(X|Y) = E[X2|Y] – (E[X|Y])2

E[(X|Y)] = E[E[X2|Y]] – E[(E[X|Y])2]

= E[X2] – E[(E[X\Y])2]

因為 E[E[X|Y]] = E[X],我們有

(E[X|Y]) = E[(E[X|Y])2] - (前任])2

這與無條件方差和期望的關係有些相似,後者是

Var(X)= E [X2] - (前任])2

我們可以在條件方差的幫助下找到方差為

var(X) = E[var(X|Y] + var(E[X|Y])

條件方差示例

如果到達公交車站的人是泊松分佈的均值為 λt 並且最初到達公交車站的公交車在區間 (0,T) 上均勻分佈且與人無關,則求進入公交車的旅客人數的均值和方差到達與否。

解決方案:

要找到任何時間 t 的均值和方差,Y 是公交車到達時間的隨機變量,N(t) 是到達次數

E[N(Y)|Y = t] = E[N(t)|Y = t]

通過 Y 和 N(t) 的獨立性

=λt

因為 N(t) 是具有均值的泊松 \lambda t
於是

E[N(Y)|Y]=λY

所以接受期望會給

E[N(Y)] = λE[Y] = λ噸/2

為了獲得 Var(N(Y)),我們使用條件方差公式

從而

(N(Y)|Y) = λY

E[N(Y)|Y] = λY

因此,從條件方差公式,

Var(N(Y)) = E[λY]+(λY)

=λT/2 + λ2T2/ 12

我們使用了 Var(Y)=T 的事實2 / 12.

隨機數隨機變量之和的方差

考慮獨立且相同的序列 分佈 隨機變量 X1,X2,X3,………… 和另一個獨立於這個序列的隨機變量 N,我們會發現 和方差 這個序列的

運用

這對於單個隨機變量的方差和條件方差的定義是顯而易見的,即隨機變量序列的總和,因此

預測

在預測中,一個隨機變量的值可以根據對另一個隨機變量的觀察來預測,對於隨機變量 Y 的預測,如果觀察到的隨機變量是 X,我們使用 g(X) 作為告訴預測值的函數,顯然我們嘗試選擇靠近 Y 的 g(X) 最好的 g 是 g(X)=E(Y|X) 為此我們必須使用不等式來最小化 g 的值

我們可以得到這個不等式

然而,給定 X,作為 X 的函數的 E[Y|X]-g(X) 可以被視為常數。 因此,

這給出了所需的不等式

預測示例

1. 觀察到一個人的身高是六英尺,如果現在x英寸的兒子身高服從均值為x+1,方差為4的正態分佈,那麼他兒子長大後的身高預測值是多少。

解:設X為人身高的隨機變量,Y為兒子身高的隨機變量,則隨機變量Y為

Y=X+e+1

這裡 e 表示獨立於隨機變量 X 的正態隨機變量,均值為 XNUMX,方差為 XNUMX。

所以對兒子身高的預測是

所以兒子長大後的身高將是73英寸。

2. 考慮從位置 A 和位置 B 發送信號的示例,如果從位置 A 發送信號值 s,該信號值在位置 B 處通過均值 s 和方差為 1 的正態分佈接收,而如果在 A 處發送的信號 S 是正態分佈使用均值 \mu 和方差 \sigma^2,我們如何預測從位置 A 發送的信號值 R 將在位置 B 處接收到 r?

解:信號值 S 和 R 表示這裡的隨機變量正態分佈,首先我們找到給定 R 的條件密度函數 S

這個 K 獨立於 S,現在

這裡還有 C1 和C.2 獨立於 S,所以條件密度函數的值為

C 也獨立於 s,因此從位置 A 發送的信號作為 R 並在位置 B 作為 r 接收是正常的,具有均值和方差

這種情況的均方誤差是

線性預測器

每當我們無法找到聯合概率密度函數時,即使兩個隨機變量之間的均值、方差和相關性是已知的,在這種情況下,一個隨機變量相對於另一個隨機變量的線性預測器非常有用,可以預測最小值,所以對於隨機變量 Y 相對於隨機變量 X 的線性預測器,我們取 a 和 b 來最小化

現在對 a 和 b 進行部分微分,我們將得到

為 a 和 b 求解這兩個方程,我們將得到

因此最小化這個期望給出線性預測為

其中均值是隨機變量 X 和 Y 的各自均值,線性預測器的誤差將通過期望獲得

條件方差
條件方差:預測錯誤

如果相關性完全為正或完全為負,即相關係數為 +1 或 -1,則此誤差將更接近於零。

結論

討論了具有不同示例的離散和連續隨機變量的條件方差,還通過合適的示例和最佳線性預測器解釋了條件期望在預測中的重要應用之一,如果您需要進一步閱讀,請訪問以下鏈接。

有關數學的更多信息,請參閱我們的 數學頁面

謝爾頓·羅斯(Sheldon Ross)開設的第一門概率課程

紹姆的概率論和統計論綱

ROHATGI和SALEH對概率和統計的介紹

回到頁首