相关系数

Correlation Coefficient) ${\rho }_{XY}$

刻画了随机变量之间的线性相关程度

• 协方差的一种标准化形式，它通过除以两个变量的标准差来消除量纲和量级的影响，使得相关系数的值域在 -1 到 1 之间。
• 提供了一个无单位的度量，使得不同数据集的相关性可以进行比较。

$|{\rho }_{XY}|\le 1$

• $|{\rho }_{XY}|$ 的值越接近 1，线性相关程度越高
• $|{\rho }_{XY}|$ 的值越接近 0，线性相关程度越弱
  当 ${\rho }_{XY}=0$ 时：
  称 $X,Y$ 不相关
  $X,Y$ 相互独立时，${\rho }_{XY}=0$，称 $X,Y$ 不相关
  但是 $X,Y$ 不相关，不一定能推出 $X,Y$ 相互独立
  （如果 $X,Y$ 服从二维正态分布，则：相互独立与不相关等价）
  当 $\left|{\rho }_{XY}\right|=1$ 时：
  存在常数 $a,b$ 使得 $P\{Y=a+bx\}=1$
  $Y$ 的变换完全由 $X$ 的线性函数给出

均方误差 $e$：

最小二乘法
用 $a+bX$ 来近似 $Y$ 的均方误差
当 $a_0,b_0$ 满足以下关系时，可以使得均方误差最小

均方误差的最小值：