Next: 6 スケール変換に対する不変性
Up: 相関係数に関する一考察
Previous: 4 回転不変性について
(PDF ファイル: corel1.pdf)
5 点と直線の距離を用いた回帰直線
この節では、通常の回帰直線とは違い、
データ点と直線の距離の平方和を最小にする直線を求めることにする。
直線を として、3 節と同様に行なう。
ただし、この場合は の代わりに
を考えることになる。
ところで、 と
を比較すると、
直線の傾きが なので、
となり、よって
であることがわかる。
よって、 に関する最小値は 3 節の計算と同じで、
のときにとる。
その最小値 は
となる。この分数関数の最小値を求めれば良い。微分すると、
となる。この分子の に関する 2 次式は、判別式が
となるので、
と書ける。ここで、, は
であり、これにより、 の微分は
となる。
- のとき
このとき、
であり、よって最小値は
か で取る。
- のとき
このときは、
であるが、 には
がかかっているので、最小値は
か で取る。
- のとき
このときは、
より、 ならば のときに最小値 を、
ならば のときに最小値 を、
ならばつねに に等しい値を取る。
であるから、
次は のときに、これと
とを比較する。
は
の解なので
となる。これにより、 に対し、
となるが、
より、
となる。ここで、 の定義より、
(等号は ) であるので、
は、 のとき、確かに より小さく、
よってこれが最小値となる。
結局、 の最小値は以下のようになる。
この のときの最小値
は、
以下のように書き換えることができる。
ここで、
|
(5) |
とすると、最小値
は
|
(6) |
と書ける。
なお、 の場合、 は
となるので、
となり、式 (6) は
の場合も最小値を与えていることになる。
この は、以下に述べるような色々な性質を持っている。
以上のことから、ある意味ではむしろ よりも優れている性質を持つ、
あらたな「相関係数」 が得られたことになる。
相関係数として を使えば、問題 1 もある意味で解決する。
また、上で得られた「回帰直線」の傾き
も、
もちろん回転不変性 (すなわちデータの回転に合わせて直線も同じだけ回転)
を持ち、, の入れ替えにも対応することが、その定義からすぐに分かる。
さらに次も言える。
命題 1
,
, および
データの , を入れ替えて作った回帰直線を に関して
対称に折り返した直線の傾き
(cf. 4 節) に対して次が成り立つ。
なお、4 つの不等号の等号成立は、いずれも完全な直線相関のとき ()。
証明
は、
なので、
で、
より と
の大小関係が得られる。そして等号成立は
、すなわち
のときであることもわかる。
また、
であり、
より と
の大小関係が得られる。等号成立はこちらも
の場合となる。
なお、
のときは、
, は
であるが、 は、 のときは
なので
であり、 のときは
となる。 のときは、
より、
となる。
以上が問題 3 の前半部分に対する答えとなる。
Next: 6 スケール変換に対する不変性
Up: 相関係数に関する一考察
Previous: 4 回転不変性について
Shigeharu TAKENO
2004年 10月 18日