統計ER

統計ソフトRの使い方を中心に、統計解析方法の解説をするブログ。ありそうでなかなか見つからないサンプルサイズ計算などニッチな方法について紹介しています。

回帰分析の推定値と寄与率の計算 - 単回帰分析

ブログランキングに参加しています。
まずはぽちぽちっとお願いします。
↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓
にほんブログ村 科学ブログ 数学へ

説明変数Xで、目的変数Yを予測する回帰式を作り、回帰分析を行いたい。説明変数Xの目的変数Yに対する寄与率を計算したい。計算式のまとめ。

回帰式は、 Y = \alpha + \beta X とする。

\betaの推定値  \hat{\beta} はどのように計算されるか?

 \displaystyle \hat{\beta} = \frac{\sigma_{XY}}{\sigma_{X}^{2}} = \frac{\Sigma(X-\bar{X})(Y-\bar{Y})}{\Sigma(X-\bar{X})^{2}}

ここで、 \sigma^{2} は分散を指す。 \sigma_{XY} X Y の共分散を指す。\bar{Y}\bar{X} はそれぞれ Y Xの平均値である。 \Sigma は全部足し合わせるという意味である。

\alphaの推定値  \hat{\alpha} はどのように計算されるか?

\hat{\alpha} = \bar{Y} - \hat{\beta}\bar{X}

 Yの推定値  \hat{Y} はどのように計算されるか?

\hat{Y} = \hat{\alpha} + \hat{\beta}X

寄与率 R^{2}の推定値  \hat{R^{2}} はどのように計算されるか?

 \displaystyle R^{2} = \frac{\Sigma(\hat{Y} - \bar{Y})^{2}}{\Sigma(Y - \bar{Y})^{2}} = 1 - \frac{\Sigma(Y - \hat{Y})^{2}}{\Sigma(Y - \bar{Y})^{2}}

R^{2}相関係数の2乗であることはどのように証明されるか?


\begin{aligned}
R^{2} &= \frac{\Sigma(\hat{Y} - \bar{Y})^{2}}{\Sigma(Y - \bar{Y})^{2}}\\\
&= \frac{\Sigma\{(\hat{\alpha} + \hat{\beta}X) - (\hat{\alpha} + \hat{\beta}\bar{X})\}^{2}}{n\sigma_Y^{2}}\\\
&= \hat{\beta}^{2}\frac{\Sigma(X - \bar{X})^{2}}{n\sigma_Y^{2}}\\\
&= \left(\frac{\sigma_{XY}}{\sigma_{X}^{2}}\right)^{2}\frac{n\sigma_X^{2}}{n\sigma_Y^{2}}\\\
&= \frac{\sigma_{XY}^{2}}{\sigma_{X}^{2}\sigma_{Y}^{2}}\\\
&= \left(\frac{\sigma_{XY}}{\sigma_{X}\sigma_{Y}}\right)^{2}
\end{aligned}