相关关系与一元线性回归

对 $(0,1),(1,2),(2,2)$，有 $\bar x=1,\bar y=5/3,S_{xx}=2,S_{xy}=1$，故 $\hat y=7/6+x/2$。在 $x=1$ 的预测为 $5/3$，实际值为 $2$，残差为 $1/3$。

观测点为 $(1,2),(2,3),(3,5)$。先求中心 $\bar x=2,\bar y=10/3$，再求

因此斜率 $\hat b=S_{xy}/S_{xx}=3/2$，截距 $\hat a=\bar y-\hat b\bar x=1/3$，回归直线为 $\hat y=1/3+(3/2)x$，必过样本中心。

三个预测值为 $11/6,10/3,29/6$，残差为 $1/6,-1/3,1/6$，残差和为 $0$，残差平方和为 $1/6$。残差正表示实际值高于预测，负表示实际值低于预测。

这是对现有数据的拟合。把 $x=100$ 代入虽能算出一个数，但远离观测区间的外推缺乏这组数据的支持。

若散点近似符合指数增长 $y=ce^{kx}$，且所有 $y_i>0$，可令 $z_i=\ln y_i$，对 $(x_i,z_i)$ 作线性回归 $\hat z=\alpha+\beta x$，再得到 $\hat y=e^\alpha e^{\beta x}$。

例如 $(x,y)=(0,2),(1,6),(2,18)$ 经取对数变为一直线，$\alpha=\ln2,\beta=\ln3$，还原得 $\hat y=2\cdot3^x$。

有噪声时，最小化对数尺度上的残差平方和，与最小化原始 $y$ 尺度上的残差平方和不是同一目标。选模型后还要检查原尺度的残差和适用区间，不能只因变换后能套公式就认定模型正确。