QCプラネッツ 品質のプロフェッショナルを育成するサイト

偏回帰係数に関する検定と推定がよくわかる

重回帰分析

「偏回帰係数に関する検定と推定がわからない!」と困っていませんか?

こういう疑問に答えます。

本記事のテーマ

偏回帰係数に関する検定と推定がよくわかる

おさえておきたいポイント

  • ①偏回帰係数に関する検定と推定の式を導出
  • ➁検定・推定を解くための例題
  • ➂偏回帰係数に関する検定の例題
  • ➃偏回帰係数に関する推定の例題

では、解説します。

①偏回帰係数に関する検定と推定の式を導出

偏回帰係数の期待値と分散を導出

偏回帰係数の期待値と分散が本記事のキーポイントとなりますが、結構難しいです。関連記事で詳細に解説していますので、確認しましょう。

重回帰分析の推定区間の式が導出できる(その1)
重回帰分析の推定区間の式は導出できますか?公式代入だけで終わっていませんか? 本記事では2記事にわたり、重回帰分析の推定区間の式が導出をわかりやすく解説します。多変量解析を学ぶ人は必読です。

重回帰分析の推定区間の式が導出できる(その2)
重回帰分析の推定区間の式は導出できますか?公式代入だけで終わっていませんか? 本記事では2記事にわたり、重回帰分析の推定区間の式が導出をわかりやすく解説します。本記事は「その2」です。多変量解析を学ぶ人は必読です。

偏回帰係数の期待値と分散

●E[\(β_j\)]=\(β_j\)
●V[\(β_j\)]=\(σ^2\)\(S^{jj}\)

偏回帰係数に関する検定の式を導出

t分布(正規分布でもいいと思いますけど)で検定するために、
\(z=\frac{x-\bar{x}}{σ}\)な式を作ります。

(分子)は偏回帰係数に関する検定なので、
●(分子)=\(β_i-β_{i0}\) (\(β_{i0}\)は検定で使う値)

分母は分散を使うので、
●V[\(β_j\)]=\(σ^2\)\(S^{jj}\)
ですが、\(σ^2\)は未知なので代わりに\(V_e\)を使って
●V[\(β_j\)]=\( V_e \)\(S^{jj}\)
を使うと、

検定統計量(t分布)は
\(t\)=\(\frac{β_i-β_{i0}}{ \sqrt{V_e S^{jj}}}\)
を使って、検定します。

●検定統計量
\(t\)=\(\frac{β_i-β_{i0}}{ \sqrt{V_e S^{jj}}}\)

偏回帰係数に関する推定の式を導出

検定統計量の式が出来たらあとは、t分布の推定区間を求める式を作ればいいので、
\(β\)±\(t(Φ,α)\sqrt{ V_e S^{jj} }\)
の式となりますよね。

●推定区間の式
\(β\)±\(t(Φ,α)\sqrt{ V_e S^{jj} }\)

➁検定・推定を解くための例題

データを用意

下表のような説明変数が2つのデータを用意します。

x1 x2 y
8 3 3
11 2 4
9 4 4
12 4 7
11 5 7
9 6 5

重回帰分析しよう!

●問題です。
上の表を重回帰分析して、下表の各値を求めよ。
変数 変数
\(S_{11}\)= ?? \(S^{11}\)= ??
\(S_{12}\)= ?? \(S^{12}\)= ??
\(S_{22}\)= ?? \(S^{22}\)= ??
\(S_{1y}\)= ?? \(β_0\)= ??
\(S_{2y}\)= ?? \(β_1\)= ??
\(S_{yy}\)= ?? \(β_2\)= ??
\(S_R\)= ?? \(V_R\)= ??
\(S_e\)= ?? \(V_e\)= ??
\(S_T\)= ??

さっと計算できますか? \(S^{ij}\)は\(S_{ij}\)の逆行列の各成分です。

重回帰分析の結果

答えは下表です。

変数 変数
\(S_{11}\)= 12 \(S^{11}\)= 0.084(\(\frac{10}{119}\))
\(S_{12}\)= -1 \(S^{12}\)= 0.0084(\(\frac{1}{119}\))
\(S_{22}\)= 10 \(S^{22}\)= 0.1008(\(\frac{11}{119}\))
\(S_{1y}\)= 10 \(β_0\)= -6.664
\(S_{2y}\)= 6 \(β_1\)= 0.891
\(S_{yy}\)= 14 \(β_2\)= 0.689
\(S_R\)= 8.33 \(V_R\)= 4.165
\(S_e\)= 5.67 \(V_e\)= 1.89
\(S_T\)= 14

さて、検定と推定をやってみましょう。

➂偏回帰係数に関する検定の例題

例題

偏回帰係数が2つあるので、それぞれ検定しましょう。

●問題です。
問1 偏回帰係数\(β_1\)が1から変化したかどうかを有意水準α=5%で検定せよ。
問2 偏回帰係数\(β_2\)が0から変化したかどうかを有意水準α=5%で検定せよ。

解法

公式を再掲します。

●検定統計量
\(t\)=\(\frac{β_i-β_{i0}}{ \sqrt{V_e S^{jj}}}\)

問1

検定統計量の式に値を代入します。
\(t_1\)=\(\frac{β_1-β_{10}}{ \sqrt{V_e S^{11}}}\)
=\(\frac{0.891-1}{\sqrt{ 1.89 × 0.084}}\)
=-0.274

棄却域(両側検定とします)は
t(\(Φ_e\),α)=t(3,0.05)=3.182

|\(t_1\)|=0.274 < 3.182
より、仮説は棄却されず、
偏回帰係数\(β_1\)が1から変化したとはいえない。
となります。

問2

検定統計量の式に値を代入します。
\(t_2\)=\(\frac{β_2-β_{20}}{ \sqrt{V_e S^{22}}}\)
=\(\frac{0.689-0}{ \sqrt{1.89 × 0.1008}}\)
=1.580

棄却域(両側検定とします)は
t(\(Φ_e\),α)=t(3,0.05)=3.182

|\(t_2\)|=1.580 < 3.182
より、仮説は棄却され、
偏回帰係数\(β_2\)が1から変化したとはいえない。
となります。

➃偏回帰係数に関する推定の例題

例題

偏回帰係数が2つあるので、それぞれ検定しましょう。

●問題です。
問1 偏回帰係数\(β_1\)の95%の区間推定を求めよ。
問2 偏回帰係数\(β_2\)の95%の区間推定を求めよ。

解法

公式を再掲します。

●推定区間の式
\(β\)±\(t(Φ,α)\sqrt{ V_e S^{jj} }\)

問1

推定区間の式に値を代入します。
\(β_1\)±\(t(Φ_e(=3),α(=0.05))\sqrt{ V_e S^{11} }\)
=0.891±3.182×\(\sqrt{1.89×0.084}\)
=0.891±1.268
となります。

問2

推定区間の式に値を代入します。
\(β_2\)±\(t(Φ_e(=3),α(=0.05))\sqrt{ V_e S^{22} }\)
=0.689±3.182×\(\sqrt{1.89×0.1008}\)
=0.689±1.389
となります。

できましたね。単なる公式の代入になりがちですが、関連記事を活用して公式の導出も理解しましょう。

まとめ

「偏回帰係数に関する検定と推定がよくわかる」を解説しました。

  • ①偏回帰係数に関する検定と推定の式を導出
  • ➁検定・推定を解くための例題
  • ➂偏回帰係数に関する検定の例題
  • ➃偏回帰係数に関する推定の例題


Warning: count(): Parameter must be an array or an object that implements Countable in /home/qcplanets/qcplanets.com/public_html/wp-content/themes/m_theme/sns.php on line 119

    Warning: Invalid argument supplied for foreach() in /home/qcplanets/qcplanets.com/public_html/wp-content/themes/m_theme/sns.php on line 122
error: Content is protected !!