回帰結果の解釈

回帰は、最適なフィットを計算するために、よく使われます。回帰分析を実行する場合、モデルの回帰結果を表示している分析レポートシートを生成します。ここでは、回帰結果を簡単かつ素早く解釈する方法を説明します。

Notes: これらの統計に関するアルゴリズムや公式については非線形曲線フィットの理論をご参照ください。

パラメータ表

フィット値は、以下のようにパラメータ表に表示されます。

Interpret Linear Regression Results 1.png

値

データポイントに最も近い曲線を作成するフィットの各パラメータの推定値

標準誤差

パラメータの標準誤差からフィットパラメータの精度がどれぐらいなのか、検討がつきます。通常、標準誤差の大きさはフィット値よりも小さくなるはずです。標準誤差の値がフィットパラメータよりもとても大きい場合、フィッティングモデルは過剰パラメータである可能性があります。

t値

Prob>|t|

回帰モデルの各項は有意でしょうか? または各予測変数は反応変数に寄与してますか? 係数のt検定により、このような疑問に対する回答を得ることができます。

パラメータの t検定に対する帰無仮説は、このパラメータが0であるということです。ですから、帰無仮説が棄却されると、対応する予測変数は有意性が無いと考えられ、それは反応変数に対する寄与が少ないことを示します。

また、 t検定は、検出ツールとして使うこともできます。例えば、多項式回帰で、t検定を使って、多項式モデルの適切な次数を調べることができます。t検定により、より高い次数の項は有意性が無いと判断できるまで、高い次数の項を追加していきます。

t値：t値のテスト統計

[t値 = (フィット値)/(標準エラー）]なので、例えば、y0のt値は、[5.34198/0.58341 = 9.15655]となります。

この統計t値では、与えられた信頼水準の棄却値 $\alpha\,\!$ で比較されます。（通常5％）t値が棄却値( $|t|>t_{\frac \alpha 2}$ )よりも大きい場合は、有意差があるといえます。

しかし、Prob>|t| が説明しやすいので、t-Value とProb>|t|による判定は無視することをお勧めします。

Prob>|t|：t検定のp値

Prob>|t| < $\alpha\,\!$ (通常は5%)の場合は、t検定のH0を除外する充分な根拠と考えられます。Prob>|t| が小さいほど、フィット値が0である確率は低いです。

LCL と UCL (パラメータ信頼区間)

UCLとLCLはそれぞれ信頼帯パラメータの上限と下限で、区間に真値がどれだけあるかを示します。例えば、上のパラメータ表図で、真値のオフセットとして95％確かなのは、4.16764 から 6.51631の区間、中央値(x0)の真値は、24.73246から 25.08134の区間、幅(w)の真値は 9.75801 から10.58138の区間です。

依存度

分散 - 共分散行列から計算される依存度の値は、通常、モデル内のパラメータの重要性を示します。たとえば、いくつかの依存度が1に近い場合、これらの間に相互依存関係がある可能性があります。言い換えると、関数は過剰パラメータ化されており、パラメータが過剰である可能性があります。意味のあるフィットモデルにするためには、このセクションを参照して制約を含める必要があります。

統計表

主な線形フィット統計値は、以下のように統計表に表示されます。

Interpret Linear Regression Results 2.png

残差平方和

残差平方和は、通常RSSと略されます。各データポイントからフィット回帰直線までの垂直偏差の2乗の和です。RSSの値がゼロの場合、データが完全にフィットしていると推測できます。この統計値は、フィット線がデータによくフィットしているか判断する材料となります。一般的には、残差平方和が小さいほどモデルがデータによくフィットしていると言えます。

二乗値（自由度あたりカイ二乗値）でのスケールエラー

自由度あたりのカイ二乗値は、Scale Error with sqrtとも呼ばれ、残差平方和（RSS）を自由度で割ったものです。通常、自由度あたりカイ二乗値は、1に近いと良いフィット結果であることを示し、観測データとフィットデータの違いが誤差分散で一貫していることを示しています。誤差分散は、過大推定の場合、自由度あたりカイ二乗値は1より十分小さくなります。過小推定の誤差分散では、1より十分大きくなります。自由度あたりカイ二乗のフィット手順で正しい分散を選択する必要があることに注意が必要です。例えば、yデータが単純にスケール因子で掛け算されている場合、自由度あたりカイ二乗も同様にスケーリングされます。誤差分散を正しい係数でスケールする場合にのみ、自由度あたりカイ2乗の値が通常の値に戻ります。

ピアソンのｒ

ピアソンのrで示されるピアソンの相関係数は、対のデータ間の線形関係の強さを測定するのに役立ちます。ピアソンのrは、-1から1の値をとります。線形回帰では、正のピアソンのrの値は、予測変数（x）と応答変数（y）との間に正の線形相関があることを示し、負のピアソンのrの値は、および応答変数（y）を含むことを示します。ゼロの場合、データ間に線形相関がないことを表しています。さらに、値が-1または1に近いほど、より強い線形相関があることがわかります。

R二乗(COD)

R二乗は、決定係数（COD）としても知られており、線形回帰を評価する統計手法です。これは、回帰直線によって説明される応答変数の変化のパーセンテージです。たとえば、R二乗は、モデルが応答変数のばらつきの約89％以上を説明していることを示します。従って、R二乗は常に0から1の間にあります。R二乗が0の場合は、フィット線がその平均値の周りの応答データのばらつきについて何も説明していないことを示します。 R二乗が1の場合、フィット線がその平均値周辺の応答データのすべてのばらつきを説明することを示します。一般的にR二乗値が大きいと、フィット直線がデータに良くフィットしていることになります。

補正R二乗

R二乗はモデルがデータにどの程度良くフィットしているのかを評価し、R二乗は新しい予測因子が加わると常に大きくなります。より多くの予測変数を持つモデルがよりよく適合しているというのは誤っています。補正R二乗は、R二乗を修正したもので、フィット線の予測因子の数を調整したものです。つまり、予測因子が異なるフィット線を比較するために使用されます。予測因子の数が1より大きい場合、補正R二乗はR二乗より小さくなります。

フィット具合の評価については R二乗の追加情報をご覧ください。

ANOVA表

回帰式がysのばらつきをどのように説明するかは、ANOVA表で以下のように表されます。

Interpret Linear Regression Results 3.png

F 値

F値は、2つの平均平方の比であり、フィットモデルの平均平方を誤差の平均平方で除算することによって計算できます。例えば、上のモデルのF値は、65764.4768/16441.1192=2103.59577 となります。当てはめられたモデルが、傾きがゼロである、y = 定数と有意に異なるかどうか検定するための統計です。この比が1より大きくなればなるほど、フィットモデルはy = 定数と有意に異なるという証拠になります。