二段階最小二乗法としての解釈とは？ わかりやすく解説

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/11/09 10:09 UTC 版)

「操作変数法」の記事における「二段階最小二乗法としての解釈」の解説

操作変数法による推定量を計算するために使用できる計算方法の一つが二段階最小二乗法（英: two-stage least-squares, 2SLS, TSLS）である。第一段階において、興味のある方程式において内生性を持つすべての説明変数を、方程式における外生的な共変数と除外されている操作変数を含んだ全てのモデルにおける外生的な変数で回帰する。そしてこの回帰における予測値が得られる。 第一段階： X {\displaystyle X} のすべての列を Z {\displaystyle Z} で回帰する。（ X = Z δ + errors {\displaystyle X=Z\delta +{\text{errors}}} ） δ ^ = ( Z ′ Z ) − 1 Z ′ X , {\displaystyle {\widehat {\delta }}=(Z'Z)^{-1}Z'X,\,} そして予測値を保存する。 X ^ = Z δ ^ = Z ( Z ′ Z ) − 1 Z ′ X = P Z X . {\displaystyle {\widehat {X}}=Z{\widehat {\delta }}=Z(Z'Z)^{-1}Z'X=P_{Z}X.\,} 第二段階では、内生変数をすべて第一段階での予測値に置き換える以外は、興味のある回帰は通常通り推定される。 第二段階： Y {\displaystyle Y} を第一段階における予測値で回帰する。 Y = X ^ β + n o i s e . {\displaystyle Y={\widehat {X}}\beta +\mathrm {noise} .\,} ここから以下が得られる。 β 2 S L S = ( X ′ P Z X ) − 1 X ′ P Z Y {\displaystyle \beta _{2SLS}=\left(X'P_{Z}X\right)^{-1}X'P_{Z}Y} 証明： 二段階最小二乗法推定量の計算 通常の最小二乗法推定量は ( X ^ ′ X ^ ) − 1 X ^ ′ Y {\displaystyle ({\widehat {X}}'{\widehat {X}})^{-1}{\widehat {X}}'Y} である。 X ^ = P Z X {\displaystyle {\widehat {X}}=P_{Z}X} と置き換え、 P Z {\displaystyle P_{Z}} は対称なべき等行列とする。つまり、 P Z ′ P Z = P Z P Z = P Z {\displaystyle P_{Z}'P_{Z}=P_{Z}P_{Z}=P_{Z}} である。すると β 2 S L S = ( X ^ ′ X ^ ) − 1 X ^ ′ Y = ( X ′ P Z ′ P Z X ) − 1 X ′ P Z ′ Y = ( X ′ P Z X ) − 1 X ′ P Z Y {\displaystyle \beta _{2SLS}=({\widehat {X}}'{\widehat {X}})^{-1}{\widehat {X}}'Y=\left(X'P_{Z}'P_{Z}X\right)^{-1}X'P_{Z}'Y=\left(X'P_{Z}X\right)^{-1}X'P_{Z}Y} となる。 β {\displaystyle \beta } の結果的な推定量は上で示した表現と数値的に一致する。 β {\displaystyle \beta } の共分散行列を正しく計算するためには、第二段階のモデルにおける残差二乗和について微修正が必要である。

※この「二段階最小二乗法としての解釈」の解説は、「操作変数法」の解説の一部です。
「二段階最小二乗法としての解釈」を含む「操作変数法」の記事については、「操作変数法」の概要を参照ください。