跳到主要内容

大阪公立大学 経済学研究科 2023年度 計量経済学 [1]

Author​

祭音Myyura (Based on Miyake's answer refined with GPT 6 Astra)

Description​

回帰式 Yi=α+βxi+uiY_i=\alpha+\beta x_i+u_i(i=1,…,ni=1,\ldots,n)を考える。xix_i は非確率的、uiu_i は平均0、分散 σ2\sigma^2 の確率変数である。最小二乗推定量を α^,β^\hat\alpha,\hat\beta、残差を u^i\hat u_i、標本平均を xˉ=n−1∑ixi\bar x=n^{-1}\sum_i x_i、yˉ=n−1∑iyi\bar y=n^{-1}\sum_i y_i とする。

(1-1) ∑i(xi−xˉ)u^i=0\sum_i(x_i-\bar x)\hat u_i=0 を証明せよ。

(1-2) ∑i(yi−yˉ)2=β^2∑i(xi−xˉ)2+∑iu^i2\sum_i(y_i-\bar y)^2=\hat\beta^2\sum_i(x_i-\bar x)^2+\sum_i\hat u_i^2 を証明せよ。

(1-3) 0≤1−∑iu^i2/∑i(yi−yˉ)2≤10\le1-\sum_i\hat u_i^2/\sum_i(y_i-\bar y)^2\le1 を証明せよ。

次に、切片のない回帰式 Yi=β′xi+ui′Y_i=\beta'x_i+u_i' を考える。xix_i は非確率的、ui′u_i' は平均0、分散 σ2\sigma^2 とする。最小二乗推定量を β^′\hat\beta'、残差を u^i′\hat u_i' とする。

(1-4) ∑i(xi−xˉ)u^i′=0\sum_i(x_i-\bar x)\hat u_i'=0 は必ず成立するか。理由を示せ。

(1-5) ∑i(yi−yˉ)2=(β^′)2∑i(xi−xˉ)2+∑i(u^i′)2\sum_i(y_i-\bar y)^2=(\hat\beta')^2\sum_i(x_i-\bar x)^2+\sum_i(\hat u_i')^2 は成立するか。理由を示せ。

(1-6) 0≤1−∑i(u^i′)2/∑i(yi−yˉ)2≤10\le1-\sum_i(\hat u_i')^2/\sum_i(y_i-\bar y)^2\le1 は必ず成立するか。成立しない場合、どちらの不等号が成立しないか。理由を示せ。

题目描述​

有截距回归为 Yi=α+βxi+uiY_i=\alpha+\beta x_i+u_i,解释变量非随机,误差均值0、方差 σ2\sigma^2。最小二乘估计及残差记为 α^,β^,u^i\hat\alpha,\hat\beta,\hat u_i,样本均值记为 xˉ,yˉ\bar x,\bar y。

  1. 证明中心化解释变量与残差正交。
  2. 证明总离差平方和等于回归平方和与残差平方和之和,具体公式如上。
  3. 证明 0≤1−SSE/SST≤10\le1-\mathrm{SSE}/\mathrm{SST}\le1。
  4. 改为无截距回归 Yi=β′xi+ui′Y_i=\beta'x_i+u_i',判断第1问的正交关系是否恒成立并说明理由。
  5. 判断第2问的中心化平方和分解是否仍成立并说明理由。
  6. 判断第3问的两个不等式是否都成立;若不成立,指出失效的一侧并说明理由。

Kai​

(1-1)​

最小化 Q(α,β)=∑i(yi−α−βxi)2Q(\alpha,\beta)=\sum_i(y_i-\alpha-\beta x_i)^2 の正規方程式は

∑iu^i=0,∑ixiu^i=0.\sum_i\hat u_i=0,\qquad\sum_i x_i\hat u_i=0.

よって ∑i(xi−xˉ)u^i=∑ixiu^i−xˉ∑iu^i=0\boxed{\sum_i(x_i-\bar x)\hat u_i=\sum_i x_i\hat u_i-\bar x\sum_i\hat u_i=0}。

(1-2)​

第一の正規方程式より α^=yˉ−β^xˉ\hat\alpha=\bar y-\hat\beta\bar x。したがって yi−yˉ=β^(xi−xˉ)+u^iy_i-\bar y=\hat\beta(x_i-\bar x)+\hat u_i。二乗和を取ると交差項が (1-1) によりゼロになるので、

∑i(yi−yˉ)2=β^2∑i(xi−xˉ)2+∑iu^i2.\boxed{\sum_i(y_i-\bar y)^2=\hat\beta^2\sum_i(x_i-\bar x)^2+\sum_i\hat u_i^2}.

(1-3)​

SST=∑i(yi−yˉ)2>0\mathrm{SST}=\sum_i(y_i-\bar y)^2>0 の場合を考える。両平方和は非負なので、0≤SSE≤SST0\le\mathrm{SSE}\le\mathrm{SST}。したがって 0≤1−SSE/SST≤1\boxed{0\le1-\mathrm{SSE}/\mathrm{SST}\le1}。SST=0\mathrm{SST}=0 では設問の比自体が定義されない。

(1-4)​

無切片モデルの正規方程式は ∑ixiu^i′=0\sum_i x_i\hat u_i'=0 のみで、残差和は一般にはゼロでない。したがって

∑i(xi−xˉ)u^i′=−xˉ∑iu^i′\sum_i(x_i-\bar x)\hat u_i'=-\bar x\sum_i\hat u_i'

は必ずしもゼロでない。

以後の反例として x=(1,2)\boldsymbol x=(1,2)、y=(2,1)\boldsymbol y=(2,1) を取る。β^′=∑xiyi/∑xi2=4/5\hat\beta'=\sum x_iy_i/\sum x_i^2=4/5、残差は (6/5,−3/5)(6/5,-3/5)。中心化した xx と残差の内積は (−1/2)(6/5)+(1/2)(−3/5)=−9/10≠0(-1/2)(6/5)+(1/2)(-3/5)=-9/10\ne0。

(1-5)​

無切片回帰で成立する非中心化の分解は、

∑iyi2=(β^′)2∑ixi2+∑i(u^i′)2.\sum_i y_i^2=(\hat\beta')^2\sum_i x_i^2+\sum_i(\hat u_i')^2.

両辺を中心化すると、設問の右辺と左辺の差は n{yˉ2−(β^′)2xˉ2}n\{\bar y^2-(\hat\beta')^2\bar x^2\} となり、一般にはゼロでない。上の反例では、

SST=12,(β^′)2∑i(xi−xˉ)2+SSE=162512+95=5325≠12.\mathrm{SST}=\frac12,\qquad (\hat\beta')^2\sum_i(x_i-\bar x)^2+\mathrm{SSE} =\frac{16}{25}\frac12+\frac95=\frac{53}{25}\ne\frac12.

よって必ずしも成立しない。

(1-6)​

SST>0\mathrm{SST}>0 なら SSE≥0\mathrm{SSE}\ge0 より上限 1−SSE/SST≤11-\mathrm{SSE}/\mathrm{SST}\le1 は成立する。一方、下限0は成立しないことがある。反例では

1−9/51/2=−135<0.\boxed{1-\frac{9/5}{1/2}=-\frac{13}{5}<0}.

無切片回帰は平均値のみのモデルを含むとは限らず、中心化した決定係数が負になり得る。

Reference​