最后更新: 2025-10-29 16:39 查看: 77 次纠错评论(0) 课件开VIP

最小二乘法与牧童经济模型

## 最小二乘法
在统计学里，通常我们会抽取一些数据样本点，然后我们希望找到一条直线，使得这n个点的距离的平方和最小。这就是最小二乘法。具体例子可以参考高中数学里的 [回归曲线](https://kb.kmath.cn/kbase/detail.aspx?id=2502)

> 对于指数函数等非线性问题，可以通过取对数方式转换为线性问题。

`例`设通过观测或实验得到一列点 $\left(x_i, y_i\right), i=1,2, \cdots, n$ ．它们大体上在一条直线上，即大体上可用直线方程来反映变量 $x$ 与 $y$之间的对应关系（参见下图）．现要确定一直线使得与这 $n$ 个点的偏差平方和最小（最小二乘方）．

![图片](/uploads/2025-10/79677a.jpg){width=300px}
 
 解 设所求直线方程为

$$
y=a x+b,
$$

所测得的 $n$ 个点为 $\left(x_i, y_i\right)(i=1,2, \cdots, n)$ ．现要确定 $a, b$ ，使得

$$
f(a, b)=\sum_{i=1}^n\left(a x_i+b-y_i\right)^2
$$

为最小．上面这个问题就转换为了求多元函数极值的问题。根据上一节理论，当函数取到极值时，驻点为零。
为此，令 （注意：这里$a,b$是未知量，而$x_i$是已知量）

$$
\left\{\begin{array}{l}
f_a=2 \sum_{i=1}^n x_i\left(a x_i+b-y_i\right)=0, \\
f_b=2 \sum_{i=1}^n\left(a x_i+b-y_i\right)=0,
\end{array}\right.
$$

把这组关于 $a, b$ 的线性方程加以整理，得

$$
\left\{\begin{array}{l}
a \sum_{i=1}^n x_i^2+b \sum_{i=1}^n x_i=\sum_{i=1}^n x_i y_i, \\
a \sum_{i=1}^n x_i+b n=\sum_{i=1}^n y_i .
\end{array}\right.
$$

求此方程组的解，即得$ f(a, b) $的稳定点

$$
\begin{gathered}
\bar{a}=\frac{n \sum_{i=1}^n x_i y_i-\left(\sum_{i=1}^n x_i\right)\left(\sum_{i=1}^n y_i\right)}{n \sum_{i=1}^n x_i^2-\left(\sum_{i=1}^n x_i\right)^2}, \\
\bar{b}=\frac{\left(\sum_{i=1}^n x_i^2\right)\left(\sum_{i=1}^n y_i\right)-\left(\sum_{i=1}^n x_i y_i\right)\left(\sum_{i=1}^n x_i\right)}{n \sum_{i=1}^n x_i^2-\left(\sum_{i=1}^n x_i\right)^2} .
\end{gathered}
$$

为进一步确定该点是极小值点，我们计算得

$$
\begin{aligned}
& A=f_{a a}=2 \sum_{i=1}^n x_i^2>0, \\
& B=f_{a b}=2 \sum_{i=1}^n x_i, \\
& C=f_{b b}=2 n, \\
& D=A C-B^2=4 n \sum_{i=1}^n x_i^2-4\left(\sum_{i=1}^n x_i\right)^2>0,
\end{aligned}
$$

从而根据多元函数极值定理，$f(a, b)$ 在点 $(\bar{a}, \bar{b})$ 取得极小值．由实际问题可知此极小值为最小值．

最小二乘法广泛用于实际生活中，物理学、化学、生物学、医学、经济学、商业统计等方面都要用到它来确定经验公式。在数学上，数理统计中的回归分析方法就要用到这个工具．熟悉计算机的读者会发现，许多计算机软件也是用这种方法来作出拟合曲线的．

## 牧童经济模型
这个模型是制度经济学家非常熟悉的。它说明了，如果一种资源没有适当的管理，就会导致对这种资源的过度使用．

假设一个牧场有 $n$ 个牧民，他们共同拥有一片草地，并且每个牧民都有在草地上放牧的自由。每年春天，他们都要决定养多少只羊。我们记 $x_i$ 为第 $i$ 个牧民饲养的羊数，那么 $x_i \in[0,+\infty)(i=1,2, \cdots, n)$ ．设 $V$ 表示每只羊的平均价值，显然我们可以将 $V$ 看作总羊数 
$$
X=\sum_{i=1}^n x_i
$$

的函数，即 $V=V(X)$ ．因为一只羊至少需要一定数量的草才不至于饿死，所以这片草地上所能饲养羊的数目是有限的．设 $X_{\max }$ 为这个最大数目，显然，当 $X<X_{\max }$ 时，$V(X)>0$ ；而当 $X \geqslant X_{\text {max }}$ 时，可以认为 $V(X)=0$ ．注意到随着羊的总数的不断增加，羊的价值就会不断下降，并且总数增加得越快，价值也下降得越快，因此在这个模型里可以假定

$$
\frac{\mathrm{d} V}{\mathrm{~d} X}<0, \quad \frac{\mathrm{~d}^2 V}{\mathrm{~d} X^2}<0 .
$$
其变化趋势如图 12．6．10 所示．

![图片](/uploads/2025-10/2a7e4b.jpg){width=300px}
 
 
在这个模型里，我们认为每个牧民都会根据自己的意愿选择饲养的数目以最大化自己的利润。假设购买一只羊羔的价值为 $c$ ，那么第 $i$ 个牧民将得到的利润为

$$
\begin{aligned}
& P_i\left(x_1, x_2, \cdots, x_n\right)=x_i V(X)-x_i c= \\
& x_i V\left(\sum_{i=1}^n x_i\right)-x_i c, \quad i=1,2, \cdots, n
\end{aligned}
$$

于是他要取得最大利润，羊的数目必须满足下面的一阶最优化条件

$$
\frac{\partial P_i}{\partial x_i}=V(X)+x_i V^{\prime}(X)-c=0, \quad i=1,2, \cdots, n .  ...( * )
$$

即每个牧民取得最大利润的羊的数目（最优饲养量）$x_i(i=1,2, \cdots, n)$ 必是这个方程组的解，称之为最优解．这个方程说明：最优解满足边际收益等于边际成本．另一方面也说明了，增加一只羊有正负两方面的效应，正的效应是这只羊本身的价值 $V(X)$ ，负的效应是这只羊的增加使在它之前已有的羊的价值减少（因为 $x_i V^{\prime}(X)<0$ ）．

从一阶最优化条件还可以看出，第 $i$ 个牧民饲养的最优饲养量 $x_i$ 是受其他牧民的饲养数目影响的，这也符合实际情况，因此可以认为这样的 $x_i$ 是 $x_j(j=1,2, \cdots, n, j \neq i)$的函数，即

$$
x_i=x_i\left(x_1, \cdots, x_{i-1}, x_{i+1}, \cdots, x_n\right),
$$

通常也称它为反应函数．那么在一阶最优化条件中对 $x_j(j \neq i)$ 求导得

$$
V^{\prime}(X)\left(\frac{\partial x_i}{\partial x_j}+1\right)+V^{\prime}(X) \frac{\partial x_i}{\partial x_j}+x_i V^{\prime \prime}(X)\left(\frac{\partial x_i}{\partial x_j}+1\right)=0
$$

因此

$$
\frac{\partial x_i}{\partial x_j}=-\frac{V^{\prime}(X)+x_i V^{\prime \prime}(X)}{2 V^{\prime}(X)+x_i V^{\prime \prime}(X)}<0 .
$$

解方程组（＊）就得到每个牧民的最优饲养量 $x_i{ }^*, i=1,2, \cdots, n$ ．注意，以上的计算都是关于 $x_i$ 来考虑的，也就是说，这样得到的最优饲养量 $x_i$＊是在以下情况下得到的：每个牧民在决定增加饲养量时尽管考虑了对现有羊的价值的负效应，但他考虑的只是对自己的羊的影响，而不是对所有羊的影响．因此这样得到的个人最优饲养量的总和

$$
X^*=\sum_{i=1}^n x_i^*
$$

并不一定是整个牧场的总体最优饲养量．事实上，整个牧场获取的最大利润是以下函数

$$
X V(X)-X c
$$

的最大值，它的一阶最优化条件为

$$
V(X)+X V^{\prime}(X)-c=0
$$

设 $X^{**}$ 使整个牧场获取最大利润所饲养的羊的数目，即整个牧场的最优饲养量。那么

$$
V\left(X^{* *}\right)+X^{* *} V^{\prime}\left(X^{* *}\right)-c=0
$$

将（＊）中的 $n$ 个式子相加，得到

$$
V\left(X^*\right)+\frac{X^*}{n} V^{\prime}\left(X^*\right)-c=0 .
$$

以上两个式子相比较，利用 $V(X)$ 和 $V^{\prime}(X)$ 的单调减少性质就得到

$$
X^*>X^{* *},
$$

即个人最优饲养量的总和大于整个牧场的最优饲养量．它说明了在没有管理的情况下公有草地有可能被过度使用．这就是没有管理的公共资源的悲剧（Tragedy of Commons）．

公共资源的过度使用常常会导致严重的后果．
＂牧童＂经济出典于中世纪时英格兰的一段历史。当时是畜牧业鼎盛时期，到处是茂盛的草场和成群的牛羊，这时当局公布了一条法令：＂公共牧地为一般公众自由使用＂．法令公布之后，牧场上的饲养量大增．道理很简单，牧场是公共地，放牧的收益却归牧民所有。于是牧民为了获得更多的收益，无限制地扩大其放牧的牛羊数，结果不仅青草被一扫而光，连草根也被啃得一干二净．这样一来，牧场成了荒漠．
＂牧童＂经济模型仍有其现实意义。海洋鱼类的过度捕捞，森林的乱砍滥伐，大气污染等问题，都是这个模型的例子．

其他版本
【线性代数】最小二乘法的几何意义

科数题库(单机版) 会议室预约系统(book)

今日还可看 0 篇未注册用户每天查看4篇，注册用户每天8篇，开通VIP会员无限制查看。

免费注册

《高等数学》难点解析

高数教程 泰勒公式切线与法线切平面与法平面驻点·拐点·极值点·零点间断点渐进线瑕积分欧拉方程伯努利方程 Abel 收敛定理偏导数的几何意义偏导数的几何意义梯度数量场与向量场多元函数极值拉格朗日算子通量与散度环流量与旋度格林公式高斯公式斯托克斯公式三大公式比较傅里叶级数极坐标微元点法式方程变上限定积分 X型计算面积 Y型计算面积微分的意义渐近线间断点 y''+py'+qy=f(x)方程高斯黎曼傅里叶变换(复数) 拉普拉斯变换(复数)

《线性代数》难点解析

线代教程 近世代数对数学的整体思考线性的意义矩阵乘法(列视角) 矩阵乘法(行视角) 矩阵左乘矩阵右乘逆矩阵求解方程组阶梯形矩阵的求法方程组解的判定四阶行列式的计算线性变换的意义线性空间向量组的等价线性空间的几何意义基础解系的求法施密特正交化特征值与特征向量的意义矩阵相似的几何意义矩阵可对角化的理解秩的意义(向量版) 秩的意义(方程版) 二次型的意义

《概率论与数理统计》难点解析

概率教程 置信区间与上a分位数概率中的“取”与“放” 贝叶斯公式全概率公式泊松分布指数分布伽玛分布二维密度图的意义卷积的意义相关系数的意义 k阶矩是与矩母函数卡方分布的作用单正态区间估计理解假设检验理解切比雪夫不等式中心极限定理

上一篇：极值与黑塞矩阵 Hesse

下一篇： Lagrange 拉格朗日乘子法

本文对您是否有用？有用 (0) 无用 (0)