統計ER

統計ソフトRの使い方を中心に、統計解析方法の解説をするブログ。ありそうでなかなか見つからないサンプルサイズ計算などニッチな方法について紹介しています。

Ward法 ウォード法とは? - クラスター化の方法

ブログランキングに参加しています。
まずはぽちぽちっとお願いします。
↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓
にほんブログ村 科学ブログ 数学へ

テキストマイニングソフトウェアの KH Coder では、階層的クラスター分析のクラスター化の方法として、ウォード Ward 法、群平均法、最遠隣法の3つから選べる。

Ward法がデフォルト設定で、Ward法がおすすめだ。

Ward法とはどういう方法なのか?

KH Coderとは?

toukeier.hatenablog.com

階層的クラスター分析とは?

toukeier.hatenablog.com

クラスター化とは?

階層的クラスター分析はクラスター化をしていく。

では、クラスター化とは何だろうか?

階層的クラスター分析では、最初にJaccard係数等の指標で、単語同士の「距離」を計測する。

「距離」近い者同士が最初のクラスターを作る。

その次からクラスターとその他の単語、またはクラスター同士を結び付けていくことをクラスター化と呼ぶ。

Jaccard係数とは?

toukeier.hatenablog.com

クラスター化には4つ種類がある

コンピュータが発達した現在、クラスター化はおもに4つ方法があると言える。

以前にはもっと簡易的な方法があったが、コンピュータのおかげで、計算が簡易な方法は必要なくなった。手計算の必要がないからだ。

クラスター化は以下の4つ。

  1. 単リンク法 Single linkage method; 最短距離法 Minimum distance method; 最近隣法
  2. 完全リンク法 Complete linkage method; 最長距離法 Maximum distance method; 最遠隣法
  3. 群平均法 Group average method; UPGMA Unweighted pair-group using arithmetic average
  4. ウォード法 Ward's method; 最小分散法 Minimum variance method

KH Coderでは、2,3,4の3つから選択できる。

クラスター化はどれを用いるのがよいか?

クラスター化は、上記4のWard法をお勧めする。理由は、外れ値強いから。

それぞれの方法のごく簡単な説明と特徴を示す。

  1. 単リンク法:クラスター間の距離として、もっとも近い距離を選ぶ。外れ値に弱い。
  2. 完全リンク法:クラスター間の距離として、もっとも遠い距離を選ぶ。外れ値に弱い。
  3. 群平均法:クラスター間の距離として、重みづけ算術平均を計算する。外れ値に強い。
  4. Ward法:分散が最小になるようにクラスタリングする。外れ値に強い。

1~3は、クラスター同士もしくはクラスターと要素の距離をもって、クラスター化を進めているが、4のWard法だけは、クラスター内もしくは間の分散に着目し、分散がもっとも小さくなるようにクラスター化を進める。

分散は、ユークリッド距離に通じていて、結局は距離を表しているが、Ward法は、クラスターの要素に着目せず、全体を視野に入れている。

以上のような特徴を踏まえて、Ward法が一番おすすめと考える。

詳しくはこちらの19枚目から23枚目を参照。

http://www.kamishima.net/archive/clustering.pdf

ユークリッド距離とは?

toukeier.hatenablog.com

まとめ

階層的クラスター分析のクラスター化には、おもに4つ方法がある。単リンク法、完全リンク法、群平均法、およびウォード Ward 法である。

おすすめはWard法。分散を最小化する方策でクラスタリングを進める。外れ値に強く、実用的。

テキストマイニングソフト KH Coder でテキストマイニングする際には、階層的クラスター分析のクラスタリング方法のデフォルトとしてWard法が設定されているので、そこは気にせず進められる。