3._回归方程的显著性检验

回归方程的显著性检验

由回归系数的最小二乘可知, 对任意给定的数据 $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right)$, 都能求出 $\beta_0$ 与 $\beta_1$ 的估计 $\hat{\beta}_0 、 \hat{\beta}_1$ ，进而确定回归方程 $\hat{y}=\hat{\beta}_0+\hat{\beta}_1 x$ 。我们知道，建立回归方程的目的是寻找 $y$ 的均值随 $x$ 变化的规律，即找出回归方程 $E(y)=\beta_0+\beta_1 x$ 。如果 $\beta_1=0$ ，那么不管 $x$ 如何变化， $E(y)$ 不随 $x$ 的变化而线性变化，这时求得的一元线性回归方程没有意义，或者说回归方程不显著. 如果 $\beta_1 \neq 0$, 那么当 $x$ 变化时, $E(y)$ 随 $x$ 的变化线性变化, 此时求得的回归方程就有意义，或者称回归方程是显著的。

综上所述，判断回归方程是否有意义即是要检验如下假设：

当拒绝 $H_0$ 时，则认为 $y$ 与 $x$ 之间存在线性关系，所求得的线性回归方程有意义，回归方程显著. 若接受 $H_0$ ，则认为 $y$ 与 $x$ 的关系不能用一元线性回归模型来表示，所求得的线性回归方程无意义。

回归方程$F$ 检验法

首先考虑观察值的偏差平方和分解。 (1) 平方和分解

设样本观察值为 $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right), y_1, y_2, \cdots, y_n$ 的分散程度可以用总的偏差平方和来度量（Total Sum of Squares），记为

由正规方程组，有

其中

$Q_{\text {利}}$称为剩余平方和 (Residual Sum of Squares), 它反映了观测值 $y_i$偏离回归直线的程度, 这种偏离是由试验误差及其他未加控制的因素引起的, 它的大小反映了试验误差及其他因素对试验结果的影响. $Q_{\text {回 }}$ 为回归平方和 (Regression Sum of Squares), 它反映了回归值 $\hat{y}_i(i=1,2, \cdots, n)$ 的分散程度, 它的分散性是由 $x$ 的变化而引起的, 并通过 $x$ 对 $y$ 的线性影响反映出来.线性相关性越强。

通过对 $Q_{\text {利，}}$ ，$Q_{\text {回的分析，} y_1, y_2, \cdots, y_n \text { 的分散程度 } Q_{\text {总 }} \text { 的两种影响可以从数量上区分开 }}$线性相关性越强。

（2）检验统计量与拒绝域 基于上面的推导，还可以得出关于 $Q_{\text {回 }}$ 和 $Q_{\text {剩}}$的一个很重要的定理。

定理 10.1.2 设线性回归模型 $y=\beta_0+\beta_1 x+\varepsilon, \varepsilon \sim N\left(0, \sigma^2\right)$, 当 $H_0$ 成立时, 则有 $\hat{\beta}_1$ 与 $Q_{\text {利 }}$相互独立，且 $Q_{\text {利 }} / \sigma^2 \sim \chi^2(n-2), Q_{\text {回 }} / \sigma^2 \sim \chi^2(1)$.

证明 略. 由定理 10.1.2 可知, 当 $H_0$ 为真时, 统计量

对于给定显著性水平 $\alpha$, 得拒绝域为

根据试验数据 $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right)$ 计算 $F$ 的值, 并查表确定 $F_\alpha(1, n-2)$, 当 $F>F_\alpha(1, n-2)$ 时，拒绝 $H_0$ ，表明回归效果显著，即认为在显著性水平 $\alpha$ 下， $y$ 对 $x$ 的线性相关关系是显著的. 反之，当 $F \leqslant F_\alpha(1, n-2)$ 时，接受 $H_0$ ，此时回归效果不显著，则认为 $y$对 $x$ 没有线性相关关系，即所求线性回归方程无实际意义。

也可将整个检验过程列成方差分析表, 如表 10.1.1所示.

例以家庭为单位，某种商品年需求量与该商品价格之间的一组调查数据如下

（1）求经验回归方程 $\hat{y}=\hat{\beta}_0+\hat{\beta}_1 x$ ； （2）检验线性关系的显著性（ $\alpha=0.05$ ，采用 $F$ 检验法）。 解（1）由题意计算得 $\bar{x}=2.9, L_{x x}=7.18, \bar{y}=2.1, L_{y y}=6.58$ ，

故 $\hat{\beta}_1=L_{x y} / L_{x x}=-0.826, \hat{\beta}_0=\bar{y}-\hat{\beta}_1 \bar{x}=4.449$ 。 经验回归方程 $\hat{y}=4.495-0.826 x$ ． （2）$Q_{\text {回 }}=\hat{\beta}_1 L_{x y}=(-0.826) \times(-5.93)=4.898, Q_{\text {剩 }}=L_{y y}-\hat{\beta}_1 L_{x y}=1.682$ ，

因 $F_0>F_{0.05}(1,8)$ ，故回归是显著的．

$T$ 检验法

由定理 10.1.1 可得

又由定理 10.1.2 可知, $\hat{\sigma}^2=Q_{\text {利 }} /(n-2)$ 为 $\sigma^2$ 的无偏估计. 经过简单推导可知,

且 $\left(\hat{\beta}_1-\beta_1\right) /\left(\sigma / \sqrt{L_{x x}}\right)$ 与 $(n-2) \hat{\sigma}^2 / \sigma^2$ 相互独立. 故取检验统计量

由给定的显著性水平 $\alpha$, 查表得 $t_{\alpha / 2}(n-2)$, 根据试验数据 $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right)$ 计算 $T$ 的值 $t$, 当 $|t|>t_{\alpha / 2}(n-2)$ 时, 拒绝 $H_0$, 此时回归效应显著; 当 $|t| \leqslant t_{\alpha / 2}(n-2)$ 时, 接受 $H_0$,此时回归效果不显著.

回归方程相关系数检验法

为了检验线性回归直线是否显著, 还可用 $x$ 与 $y$ 之间的相关系数来检验. 即对下列检验问题做出判断.

检验统计量为其样本的相关系数

其中 $\left(x_i, y_i\right), i=1, \cdots, n$, 是容量为 $n$ 的二维样本. 可以证明, 当 $H_0$ 为真时,

故 $H_0$ 的拒绝域为

在一元线性回归预测中，以上的 $F$ 检验法、 $t$ 检验法、相关系数检验法都是等价的，在实际中只需做其中一种检验即可.