最后更新: 2025-02-22 09:23 查看: 191 次反馈能力测评会员8.2元/月赞助

一元线性回归

## 一元线性回归模型
$x$ 可以在一定程度上决定 $y$, 但由 $x$ 的值不能准确地确定 $y$ 的值. 为了研究它们的这种关系, 对 $(x, y)$ 进行一系列观测, 得到一个容量为 $n$ 的样本 ( $x$ 取一组不完全相同的值): $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right)$, 其中 $y_i$ 是 $x=x_i$ 处对随机变量 $y$ 观察的结果. 每对 $\left(x_i, y_i\right)$ 在直角坐标系中对应一个点, 把它们标在平面直角坐标系中, 称所得到的图为**散点图**. 如图 10.1.1 所示.

由图 10.1.1(a)可看出散点大致地围绕一条直线散布, 而图 10.1.1(b)中的散点大致围绕一条抛物线散布, 这就是变量间统计规律性的一种表现.
 ![图片](/uploads/2024-11/f54847.jpg)
 
 如果图中的点像图 10.1.1(a)中那样呈直线状, 则表明 $y$ 与 $x$ 之间有线性相关关系, 可建立数学模型

$$
y=\beta_0+\beta_1 x+\varepsilon  ...(10.1.1)
$$

来描述它们之间的关系. 因为 $x$ 不能严格地确定 $y$, 故有一误差项 $\varepsilon$, 假设 $\varepsilon \sim N\left(0, \sigma^2\right)$, 相当于对 $y$ 做这样的正态假设, 对于 $x$ 的每一个值有 $y \sim N\left(\beta_0+\beta_1 x, \sigma^2\right)$, 其中未知数 $\beta_0 、 \beta_1$ 不依赖于 $x$ ，式（10.1.1）称为**一元线性回归模型**（Univariable Linear Regression Model）。

在式 (10.1.1) 中, $\beta_0 、 \beta_1$ 是待估计参数. 由样本观察值可以获得 $\beta_0 、 \beta_1$ 的估计 $\hat{\beta}_0$ 、 $\hat{\beta}_1$, 称

$$
\hat{y}=\hat{\beta}_0+\hat{\beta}_1 x ...(10.1.2)
$$

为 $y$ 关于 $x$ 的**经验回归函数**，简称**回归方程**，其图形称为**回归直线**， $\hat{\beta}_1$ 称为**回归系数**. 对于给定 $x=x_0$ 后，称 $\hat{y}_0=\hat{\beta}_0+\hat{\beta}_1 x_0$ 为回归值（在不同场合也称其为拟合值和预测值）。

## 回归系数的最小二乘估计

样本的一组观察值 $\left(x_1, y_1\right),\left(x_2, y_2\right), \cdots,\left(x_n, y_n\right)$, 对每个 $x_i$, 由线性回归方程（10.1.2）可以确定一回归值

$$
\hat{y}_i=\hat{\beta}_0+\hat{\beta}_1 x_i \text {, }
$$

这个回归值 $\hat{y}_i$ 与实际观察值 $y_i$ 之差

$$
y_i-\hat{y}_i=y_i-\hat{\beta}_0-\hat{\beta}_1 x_i \rightarrow y_i-\hat{y}_i=y_i-\l

其他版本
【高中数学】一元线性回归模型的应用【高中数学】回归直线方程

免费注册查看余下70%

《高等数学》难点解析

高数教程 泰勒公式切线与法线切平面与法平面驻点·拐点·极值点·零点间断点渐进线瑕积分欧拉方程伯努利方程 Abel 收敛定理偏导数的几何意义偏导数的几何意义梯度数量场与向量场多元函数极值拉格朗日算子通量与散度环流量与旋度格林公式高斯公式斯托克斯公式三大公式比较傅里叶级数极坐标微元点法式方程变上限定积分 X型计算面积 Y型计算面积微分的意义渐近线间断点 y''+py'+qy=f(x)方程高斯黎曼傅里叶变换(复数) 拉普拉斯变换(复数)

高等数学测评 函数与极限一元函数微分学一元函数积分学微分方程空间向量与代数多元微分学多元积分学无穷级数

《线性代数》难点解析

线代教程 近世代数对数学的整体思考线性的意义矩阵乘法(列视角) 矩阵乘法(行视角) 矩阵左乘矩阵右乘逆矩阵求解方程组阶梯形矩阵的求法方程组解的判定四阶行列式的计算线性变换的意义线性空间向量组的等价线性空间的几何意义基础解系的求法施密特正交化特征值与特征向量的意义矩阵相似的几何意义矩阵可对角化的理解秩的意义(向量版) 秩的意义(方程版) 二次型的意义

线性代数测评 行列式矩阵向量空间

《概率论与数理统计》难点解析

概率教程 置信区间与上a分位数概率中的“取”与“放” 贝叶斯公式全概率公式泊松分布指数分布伽玛分布二维密度图的意义卷积的意义相关系数的意义 k阶矩是与矩母函数卡方分布的作用单正态区间估计理解假设检验理解切比雪夫不等式中心极限定理

概率统计测评 事件与概率一维随机变量与事件多维随机变量与事件随机变量的数字特征大数定律与中心极限定理统计量与抽样分布参数估计假设检验

上一篇：引言

下一篇：回归方程的显著性检验

本文对您是否有用？有用 (0) 无用 (0)