THINKING
1675 words
8 minutes
高中数学_成对数据统计分析知识点留档

高中数学成对数据统计分析知识点留档

首先感谢我的数学老师

一、两个变量的相关关系

1. 变量关系分类

根据两个变量之间的关系,可分为:

  • 函数关系
  • 相关关系
  • 不相关

根据两个变量的变化趋势,可分为:

  • 正相关
  • 负相关

2. 核心概念

  • 相关关系:两个变量有关系,但没有确切到可由其中一个精确地决定另一个的程度。
  • 线性相关:两个变量的取值呈正相关或负相关,且散点落在一条直线附近。
  • 非线性相关(曲线相关):两个变量具有相关性,但不是线性相关。

3. 线性相关判断方法

  • 散点图
  • 样本相关系数 rr

4. 协方差公式

Lxy=1ni=1n(xixˉ)(yiyˉ)L_{xy} = \frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})
  • 作用:对“中心化”的数据取平均值
  • 符号意义:Lxy>0L_{xy}>0 正相关;Lxy<0L_{xy}<0 负相关

5. 样本相关系数

通过对样本数据的中心化、标准化,得到样本相关系数 rr

r=i=1n(xixˉ)(yiyˉ)i=1n(xixˉ)2i=1n(yiyˉ)2=i=1nxiyinxˉyˉi=1nxi2nxˉ2i=1nyi2nyˉ2r = \frac{\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum_{i=1}^{n}(x_i-\bar{x})^2}\sqrt{\sum_{i=1}^{n}(y_i-\bar{y})^2}} = \frac{\sum_{i=1}^{n}x_iy_i - n\bar{x}\bar{y}}{\sqrt{\sum_{i=1}^{n}x_i^2 - n\bar{x}^2}\sqrt{\sum_{i=1}^{n}y_i^2 - n\bar{y}^2}}

(会推导公式的变形)

  • 取值范围[1,1][-1,1]
  • r=0r=0:成对样本数据间没有线性相关关系,但不排除它们之间有其他相关关系
  • r|r| 越接近 11:样本数据的线性相关程度越强
  • r>0r>0:成对样本数据正相关
  • r>0.75|r|>0.75时可认为相关程度强

6.样本相关系数 rr 推导

  1. 标准化变换

对数据进行中心化、标准化处理:

xi=xixˉsx,yi=yiyˉsyx_i' = \frac{x_i - \bar{x}}{s_x}, \quad y_i' = \frac{y_i - \bar{y}}{s_y}

其中样本标准差:

sx=1ni=1n(xixˉ)2,sy=1ni=1n(yiyˉ)2s_x = \sqrt{\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2}, \quad s_y = \sqrt{\frac{1}{n}\sum_{i=1}^n (y_i-\bar{y})^2}

构造向量:

α=(x1,x2,,xn),β=(y1,y2,,yn)\vec{\alpha} = (x_1', x_2', \dots, x_n'), \quad \vec{\beta} = (y_1', y_2', \dots, y_n')
  1. 向量内积与夹角

向量内积公式:

αβ=αβcosθ\vec{\alpha} \cdot \vec{\beta} = |\vec{\alpha}| |\vec{\beta}| \cos\theta
  • 计算向量模长:
α2=i=1nxi2=i=1n(xixˉ)2sx2=nsx2sx2=n    α=n|\vec{\alpha}|^2 = \sum_{i=1}^n x_i'^2 = \sum_{i=1}^n \frac{(x_i-\bar{x})^2}{s_x^2} = \frac{n s_x^2}{s_x^2} = n \implies |\vec{\alpha}| = \sqrt{n}

同理 β=n|\vec{\beta}| = \sqrt{n}

  • 计算内积:
αβ=i=1nxiyi=i=1n(xixˉ)(yiyˉ)sxsy\vec{\alpha} \cdot \vec{\beta} = \sum_{i=1}^n x_i' y_i' = \sum_{i=1}^n \frac{(x_i-\bar{x})(y_i-\bar{y})}{s_x s_y}
  1. 相关系数的几何意义

样本相关系数定义:

r=i=1n(xixˉ)(yiyˉ)i=1n(xixˉ)2i=1n(yiyˉ)2=1ni=1n(xixˉ)(yiyˉ)sxsyr = \frac{\sum_{i=1}^n (x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum_{i=1}^n (x_i-\bar{x})^2} \sqrt{\sum_{i=1}^n (y_i-\bar{y})^2}} = \frac{\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})(y_i-\bar{y})}{s_x s_y}

代入内积公式:

r=1nαβ=1nαβcosθ=cosθr = \frac{1}{n} \vec{\alpha} \cdot \vec{\beta} = \frac{1}{n} |\vec{\alpha}| |\vec{\beta}| \cos\theta = \cos\theta

因此 r=cosθ[1,1]r = \cos\theta \in [-1,1]


二、经验回归方程

1. 最小二乘法思想

从整体上看,各点与直线的距离最小,该方法叫最小二乘法

2. 经验回归直线方程

经验回归直线方程 y^=b^x+a^\hat{y} = \hat{b}x + \hat{a} 中:

b^=i=1n(xixˉ)(yiyˉ)i=1n(xixˉ)2=i=1nxiyinxˉyˉi=1nxi2nxˉ2\hat{b} = \frac{\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})}{\sum_{i=1}^{n}(x_i-\bar{x})^2} = \frac{\sum_{i=1}^{n}x_iy_i - n\bar{x}\bar{y}}{\sum_{i=1}^{n}x_i^2 - n\bar{x}^2}a^=yˉb^xˉ\hat{a} = \bar{y} - \hat{b}\bar{x}

3. 核心性质

  • 经验回归直线方程一定过点 样本中心 (xˉ,yˉ)(\bar{x},\bar{y})
  • b^\hat{b}rr 的正负相关性:b^>0,r>0\hat{b}>0, r>0 正相关;b^<0,r<0\hat{b}<0, r<0 负相关
  • xx 增大一个单位时,y^\hat{y} 平均增大 b^\hat{b} 个单位

4. 观测值与预测值

  • 观测值:通过观测得到的数据 yiy_i
  • 预测值:通过经验回归方程得到的 y^i\hat{y}_i
  • 残差:ei=yiy^ie_i = y_i - \hat{y}_i
Note

记忆法:关羽(观预)

5. 残差图

  • 绘制方法:横坐标为数据,纵坐标为残差
  • 拟合效果好的特征:残差均匀地分布在以取值为0的横轴为对称轴水平带状区域

6. 非线性回归方程

y=cegxy = ce^{gx} 为例,通过换元将其转化为线性回归:

lny=lnc+gx\ln y = \ln c + gx

7. 决定系数

R2=1i=1n(yiy^i)2i=1n(yiyˉ)2R^2 = 1 - \frac{\sum_{i=1}^{n}(y_i-\hat{y}_i)^2}{\sum_{i=1}^{n}(y_i-\bar{y})^2}
  • R2R^2 越大,表示残差平方和越小,模型的拟合效果越好

8. 拟合效果判断方法

  • 一元线性回归模型:相关系数 rr、决定系数 R2R^2、残差图
  • 非线性回归模型:决定系数 R2R^2、残差图

9.回归系数 b^,a^\hat{b}, \hat{a} 的推导

  1. 残差平方和定义

设经验回归方程为 y^=bx+a\hat{y} = bx + a,残差平方和:

Q(a,b)=i=1n(yibxia)2Q(a,b) = \sum_{i=1}^n (y_i - bx_i - a)^2
  1. 配方变形

利用 yˉ=bxˉ+a\bar{y} = b\bar{x} + a,对 yibxiay_i - bx_i - a 拆分:

yibxia=(yiyˉ)b(xixˉ)+(yˉbxˉ)a=[(yiyˉ)b(xixˉ)]+[(yˉbxˉ)a]\begin{align*} y_i - bx_i - a &= (y_i - \bar{y}) - b(x_i - \bar{x}) + (\bar{y} - b\bar{x}) - a \\ &= \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right] + \left[(\bar{y} - b\bar{x}) - a\right] \end{align*}

代入 Q(a,b)Q(a,b) 展开:

Q(a,b)=i=1n{[(yiyˉ)b(xixˉ)]+[(yˉbxˉ)a]}2=i=1n[(yiyˉ)b(xixˉ)]2+2[(yˉbxˉ)a]i=1n[(yiyˉ)b(xixˉ)]+n[(yˉbxˉ)a]2\begin{align*} Q(a,b) &= \sum_{i=1}^n \left\{ \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right] + \left[(\bar{y} - b\bar{x}) - a\right] \right\}^2 \\ &= \sum_{i=1}^n \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right]^2 + 2\left[(\bar{y} - b\bar{x}) - a\right] \sum_{i=1}^n \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right] \\ &\quad + n \left[(\bar{y} - b\bar{x}) - a\right]^2 \end{align*}
  1. 交叉项化简

i=1n(xixˉ)=0\sum_{i=1}^n (x_i - \bar{x}) = 0i=1n(yiyˉ)=0\sum_{i=1}^n (y_i - \bar{y}) = 0,得:

i=1n[(yiyˉ)b(xixˉ)]=i=1n(yiyˉ)bi=1n(xixˉ)=0\sum_{i=1}^n \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right] = \sum_{i=1}^n (y_i - \bar{y}) - b\sum_{i=1}^n (x_i - \bar{x}) = 0

因此交叉项为0,残差平方和简化为:

Q(a,b)=i=1n[(yiyˉ)b(xixˉ)]2+n[(yˉbxˉ)a]2Q(a,b) = \sum_{i=1}^n \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right]^2 + n \left[(\bar{y} - b\bar{x}) - a\right]^2
  1. 求最小值
  • 第二项 n[(yˉbxˉ)a]20n \left[(\bar{y} - b\bar{x}) - a\right]^2 \geq 0,当且仅当 a=yˉbxˉa = \bar{y} - b\bar{x} 时取最小值0,因此截距:
a^=yˉb^xˉ\hat{a} = \bar{y} - \hat{b}\bar{x}
  • 此时 Q(a,b)Q(a,b) 仅与 bb 有关,展开第一项:
Q(b)=i=1n[(yiyˉ)b(xixˉ)]2=b2i=1n(xixˉ)22bi=1n(xixˉ)(yiyˉ)+i=1n(yiyˉ)2\begin{align*} Q(b) &= \sum_{i=1}^n \left[(y_i - \bar{y}) - b(x_i - \bar{x})\right]^2 \\ &= b^2 \sum_{i=1}^n (x_i - \bar{x})^2 - 2b \sum_{i=1}^n (x_i - \bar{x})(y_i - \bar{y}) + \sum_{i=1}^n (y_i - \bar{y})^2 \end{align*}

这是关于 bb 的二次函数,开口向上,最小值在顶点处取得:

b^=i=1n(xixˉ)(yiyˉ)i=1n(xixˉ)2\hat{b} = \frac{\sum_{i=1}^n (x_i - \bar{x})(y_i - \bar{y})}{\sum_{i=1}^n (x_i - \bar{x})^2}
  1. 公式变形(展开验证)

展开分子 i=1n(xixˉ)(yiyˉ)\sum_{i=1}^n (x_i - \bar{x})(y_i - \bar{y})

i=1n(xixˉ)(yiyˉ)=i=1nxiyixˉi=1nyiyˉi=1nxi+nxˉyˉ=i=1nxiyinxˉyˉ\begin{align*} \sum_{i=1}^n (x_i - \bar{x})(y_i - \bar{y}) &= \sum_{i=1}^n x_i y_i - \bar{x}\sum_{i=1}^n y_i - \bar{y}\sum_{i=1}^n x_i + n\bar{x}\bar{y} \\ &= \sum_{i=1}^n x_i y_i - n\bar{x}\bar{y} \end{align*}

同理分母 i=1n(xixˉ)2=i=1nxi2nxˉ2\sum_{i=1}^n (x_i - \bar{x})^2 = \sum_{i=1}^n x_i^2 - n\bar{x}^2,因此:

b^=i=1nxiyinxˉyˉi=1nxi2nxˉ2\hat{b} = \frac{\sum_{i=1}^n x_i y_i - n\bar{x}\bar{y}}{\sum_{i=1}^n x_i^2 - n\bar{x}^2}

三、独立性检验

1. 分类变量

用以区别不同的现象或类别的随机变量。

2. 2×2列联表

给出了成对分类变量(用特殊随机变量区别不同现象与性质)数据的交叉分类频数:

XX \ YYY=0Y=0Y=1Y=1合计
X=0X=0aabba+ba+b
X=1X=1ccddc+dc+d
合计a+ca+cb+db+dn=a+b+c+dn=a+b+c+d

2×2列联表

3. 粗略判断 XXYY 是否有差异的方法

条件概率、等高堆积条形图

等高堆积条形图

4. 独立性检验步骤

① 提出假设

零假设(原假设)H0H_0P(Y=1X=0)=P(Y=1X=1)P(Y=1|X=0)=P(Y=1|X=1),即假设 XXYY 相互独立。

构造随机变量(卡方统计量):

χ2=n(adbc)2(a+b)(c+d)(a+c)(b+d)\chi^2 = \frac{n(ad-bc)^2}{(a+b)(c+d)(a+c)(b+d)}
  • χ2\chi^2 较大:说明 H0H_0 不成立
  • χ2\chi^2 较小:说明 H0H_0 成立
② 临界值与检验规则

对任意小概率值 α\alpha,找到临界值 χα\chi_\alpha,满足 P(χ2χα)=αP(\chi^2 \geq \chi_\alpha) = \alpha

  • α\alpha 越小,χα\chi_\alpha 越大
  • α\alpha 充分小时,{χ2χα}\{\chi^2 \geq \chi_\alpha\} 是不大可能发生的,若发生则可推断 H0H_0 不成立(犯错概率不超过 α\alpha

检验规则

  • χ2χα\chi^2 \geq \chi_\alpha 时,推断 H0H_0 不成立,即认为 XXYY 不独立,犯错概率不超过 α\alpha
  • χ2<χα\chi^2 < \chi_\alpha 时,没有充分证据推断 H0H_0 不成立,可认为 XXYY 独立
③ 应用环节
  1. 提出零假设 H0H_0XXYY 相互独立
  2. 整理出 2×22×2 列联表,计算 χ2\chi^2,并与临界值 χα\chi_\alpha 比较
  3. 推断结论
  4. XXYY 不独立的情况下,通过比较相应的频率,分析 XXYY 间的影响规律