高広伯彦 Norihiko Takahiro

主成分分析という手法が1901年にKarl Pearsonによって着想され、1933年にHarold Hotellingが固有値分解という道具立てで数学的に整え直してから、120年以上が経ちました。多変量データの分散が最大になる方向を軸として取り直すという、やっていること自体はこの間ずっと変わっていません。 この手法が今も現役で使われている理由を、分散を最大化するという定義一点から考えてみます。変数が多い状態のまま相関構造を眺めるのは人間には難しく、情報をできるだけ保ったまま少数の軸に落とし込みたいという需要は、業種を問わず常にあります。財務指標を集約するときも、複数のセンサーデータを一つの指標にまとめるときも、やっていることの数学的な中身は同じで、共分散行列を固有値分解し、固有値の大きい順に軸を並べ替えているだけです。 ただ、ここで一つ区別しておきたい点があります。主成分分析がやっているのは次元の縮約であって、縮約した先の軸が何を意味するのかを教えてくれる手続きではありません。第一主成分が規模を表していそうだ、第二主成分は効率性の対比のようだという読み方は、分析者が後付けで与える解釈であり、数学が保証している意味づけではないんですよね。分散が大きいという事実と、その方向がビジネス上重要だという事実は、別の話として扱う必要があります。分散は小さいがタスクにとって決定的に重要な方向を、主成分分析はあっさり切り捨てることがあります。 サンプル数が変数の数に比べて少ない場合の挙動も、意外と見落とされがちです。共分散行列の推定自体が不安定になり、抽出された主成分が母集団の構造を反映しているのか、手元の標本にたまたま現れた癖を拾っているだけなのか、区別がつきにくくなります。次元を削減したはずなのに、削減した先の軸が何を説明しているのか分からないという状態は、分析の目的を見失ったまま手続きだけを進めた結果だと思っています。 この性質は標準化の有無にも敏感です。売上を円で、従業員数を人数で、そのまま計算に放り込むと、桁の大きい変数の分散だけが主成分を支配してしまいます。各変数を平均0、分散1にそろえてから計算するのは、分析対象の構造を見たいのか、それとも単位の選び方を見ているだけなのかを混同しないための手続きです。 非線形な構造を扱うカーネル主成分分析や、大規模データ向けに計算を軽くする確率的特異値分解のような拡張も進んでいますが、どれも分散を最大化するという元の定義を土台にしています。120年前に決まった定義が今も生きているのは、この定義がシンプルで、かつ多くの場面でそこそこ機能するからです。ただ、分散という一つの物差しで測れないものが常にあるという前提を忘れると、縮約された数字を見て分かった気になるという、一番避けたい状態に陥ります。