2023/02/22 (更新日: 2023/12/02)

主成分分析ができる(5次元)

多変量解析

「主成分分析がうまくできない」などと困っていませんか？

こういう疑問に答えます。

本記事のテーマ

おさえておきたいポイント

• ①例題
• ➁相関係数行列の計算
• ➂固有値、固有ベクトルの計算
• ➃主成分の寄与率、累積寄与率
• ➄因子負荷量
• ⑥主成分負荷量
• ⑦主成分得点

①例題

主成分分析の本質

主成分分析はいろいろな値が計算できますが、本質をおさえることが最重要です。関連記事で解説していますので、まずは確認してください。

【重要】主成分分析が導出できる 主成分分析で自力で主成分方向が導出できますか？「主成分分析＝固有値解」とインプットしていませんか？ 本記事では主成分分析の本質が理解できるために導出過程をわかりやすく解説します。２次元の例で基礎をしっかり理解しましょう。多変量解析を学ぶ人は必読です。

例題

QC検定®１級受験に必須な教科書にある、５次元の主成分分析を実際に解いてみましょう。

QC検定®受検テキスト1級新レベル表対応版 わかりやすいこれで合格 （品質管理検定集中講座） [ 細谷克也 ] 価格：5280円（税込、送料無料) (2023/2/21時点)

例題

データ(下表)

教科書以上に詳しく解法を解説していきます。

ここで、各科目に数字を入れています。英語なら「1」、数学なら「2」として区別します。

データの標準化

因子負荷量や主成分得点などをツールから計算するために、データを標準化しておきます。
データの標準化は
\(z_i\)=\(\frac{x_i-\bar{x}}{s}\)と変換して、
平均0、標準偏差\(s\)=1の変数\(z_i\)に変換することです。

上のデータ表からは、

なので、データを標準化します。結果は下表のとおりです。

確かに、平均0、標準偏差1に変換できていますね。

➁相関係数行列の計算

各平方和を先に計算

科目ごとの平方和を先に計算します。
\(S_{ij}\)=\(\sum_{k=1}^{n}(x_{ki}-\bar{x_i})(x_{kj}-\bar{x_j})\)
として、英語と数学の平方和は
\(S_{12}\)=\(\sum_{k=1}^{n=30}(x_{ki}-\bar{x_i})(x_{kj}-\bar{x_j})\)
と計算します。

全部のパターンを計算した結果を下表にまとめます。

相関係数行列の計算

相関係数\(r_{ij}\)は
●\(r_{ij}\)=\(\frac{S_{ij}}{\sqrt{S_{ii} S_{jj}}}\)
から計算できて、それをまとめたら
相関係数行列が計算できますね。

まず、さっき求めた平方和\(S_{ij}\)から相関係数\(r_{ij})\)を計算すると下表になります。

よって相関係数行\(R\)は

\(R\)=\(\left(
\begin{array}{cccc}
r_{11} & r_{12} & r_{13} & r_{14} & r_{15} \\
r_{12} & r_{22} & r_{23} & r_{24} & r_{25} \\
r_{13} & r_{23} & r_{33} & r_{34} & r_{35} \\
r_{14} & r_{24} & r_{34} & r_{44} & r_{45} \\
r_{15} & r_{25} & r_{35} & r_{45} & r_{55} \\
\end{array}
\right)
\)
=\(\left(
\begin{array}{cccc}
1 & 0.791 & 0.8 & 0.733 & 0.818 \\
0.791 & 1 & 0.758 & 0.91 & 0.717 \\
0.8 & 0.758 & 1 & 0.747 & 0.754 \\
0.733 & 0.91 & 0.747 & 1 & 0.706 \\
0.818 & 0.717 & 0.754 & 0.706 & 1 \\
\end{array}
\right)
\)

➂固有値、固有ベクトルの計算

固有値、固有ベクトルの解法

ツールを使った解法を解説する前に、主成分分析の本質を再確認しましょう。

本記事のテーマではありませんが、主成分分析は必ず固有方程式を解きます。

固有方程式

平方和でも相関係数でもどちらでも固有方程式は解けますが、今回は相関係数を使って解きます。

固有方程式
\(Rv\)=\(λv\)
より

\(\left(
\begin{array}{cccc}
r_{11} & r_{12} & r_{13} & r_{14} & r_{15} \\
r_{12} & r_{22} & r_{23} & r_{24} & r_{25} \\
r_{13} & r_{23} & r_{33} & r_{34} & r_{35} \\
r_{14} & r_{24} & r_{34} & r_{44} & r_{45} \\
r_{15} & r_{25} & r_{35} & r_{45} & r_{55} \\
\end{array}
\right)
\)\(
\left(
\begin{array}{c}
a \\
b\\
c\\
d\\
e\\
\end{array}
\right)
\)=\(λ\)\(
\left(
\begin{array}{c}
a \\
b\\
c\\
d\\
e\\
\end{array}
\right)
\)
を満たす、固有値\(λ\)と固有ベクト\(v\)を解きます。

ただし、１つ問題があります。

なので、解析ツールを使って解きましょう。

固有値、固有ベクトルの解法ツール

ツールは何でもいいですが、今回は、フリーソフトを使って計算しました。
mam相関分析・主成分分析～（無料）フリーソフト

使い方はリンク先をご覧ください。

ここから

固有値、固有ベクトルの計算

実際に固有値と、固有ベクトルを解くと、

固有ベクトルは、最初に紹介した「QC検定®受検テキスト1級」の結果と比較すると正負が入れ替わっています。ただし、固有方程式の両辺に固有ベクトルが付くので、正負±は両辺で消せますので、問題ありません。

固有値、固有ベクトルの計算結果を検算

固有値の計算の理解を深める方法の１つとして、実際に検算することをお勧めします。
実際、検算すると\(Rv=λv\)が成り立ちます。

ここからは、個々の値を求めていきましょう。

単に数字があっていればＯＫではなく、値の意味をまず関連記事で確認しましょう。

主成分分析が計算できる 主成分負荷量、主成分得点、主成分平方和、主成分の寄与率は説明・計算ができますか？ 本記事は各変数の導出方法を丁寧に解説します。ただ、主成分分析の本質は先に習得しておきましょう。多変量解析を学ぶ人は必読です。

➃主成分の寄与率、累積寄与率

主成分の寄与率、累積寄与率

●主成分の寄与率は、個々の固有値を自由度で割った値ですね。
●累積寄与率は、寄与率の累積値です。

結果は下表のとおりです。

寄与率を平方和でなく固有値で考える理由

各主成分の平方和は固有値になります。これは関連記事で解説していますが、一番簡単にわかる証明方法があります。

確かに、(平方和)\(S\)=\(λ\)(固有値)となりますよね。これを行列、ベクトル表記にしてn次元化していますが、考え方は同じなので、主成分平方和は固有値として考えてよいということです。平方和と固有値は別物と思いがちですが、一致しています。意外ですよね。

➄因子負荷量

因子負荷量の公式

因子負荷量の公式を下表にまとめます。公式から計算しましょう。

因子負荷量の計算結果

最初に紹介した「QC検定®受検テキスト1級」の結果と比較すると正負が入れ替わっています。固有ベクトルの正負が逆であることが理由です。特に問題はありませんが、気になるようなら、固有ベクトルの標準化対応して個々の値を計算すればよいでしょう。正負に自由度があるようなので、値が一致しないと焦る気持ちはよくわかりますが、数式的は問題ありません。

➄主成分負荷量

「主成分負荷量」名前は立派ですが、簡単にいうと固有ベクトルの個々の値です。すでに表で結果が出ていますが、再掲します。

⑥主成分得点

主成分得点の求め方は、

計算はExcelでもいいでしょうね。具体的な計算の様子は下図のとおりです。

主成分得点の結果を下表にまとめます。

長い計算でしたが、５次元主成分分析ができましたね。

まとめ

「主成分分析ができる(5次元)」を解説しました。

• ①例題
• ➁相関係数行列の計算
• ➂固有値、固有ベクトルの計算
• ➃主成分の寄与率、累積寄与率
• ➄因子負荷量
• ⑥主成分負荷量
• ⑦主成分得点

多変量解析

Warning: Invalid argument supplied for foreach() in /home/qcplanets/qcplanets.com/public_html/wp-content/themes/m_theme/sns.php on line 122