最后更新: 2025-03-23 21:40 查看: 30 次反馈同步训练

拉格朗日乘子法，为什么可以求极值？

## 引言-直线束
作者：微信公众号[数学之水](#) , 知乎[德基先生](#)

**定理** 一条直线通过两条相交直线 $a_1 x+b_1 y+c_1=0, a_2 x+b_2 y+c_2=0$ 的交点的充要条件是存在两个不全为零的常数 $\lambda_1 、 \lambda_2$ 使这条直线方程为
$$
\lambda_1\left(a_1 x+b_1 y+c_1\right)+\lambda_2\left(a_2 x+b_2 y+c_2\right)=0 ...(5.26)
$$
关于他的证明可以参考 [直线束](https://kb.kmath.cn/kbase/detail.aspx?id=1341)

如果我们假设$\lambda_1 \ne 0$, (5.26) 两侧同除以$\lambda_1$，并零 
$\lambda=\frac{\lambda_1}{\lambda_2}$, 则通过定点的直线束，的直线方程可以定义为

$$
 \left(a_1 x+b_1 y+c_1\right)+\lambda\left(a_2 x+b_2 y+c_2\right)=0 ...(5.27)
$$

![图片](/uploads/2025-03/5e492d.jpg){width=300px}
 
 如果令$f_1=a_1 x+b_1 y+c_1$ 而 $a_2 x+b_2 y+c_2=0$
 要求$f_1$的极值，我们可以构造一个函数
 $$
 f=f_1+\lambda f_2
 $$
 
 上面是平面的情况，现在对上面的思维进行扩展到多维空间。
 
 ## 拉格朗日乘法子
 
 从北京到上海，如果没有约束条件。那么肯定是选择两点直线最短，能坐飞机坐飞机。但如果要求控制预算则需要在约束条件前提下进行选择，此时就会变的复杂，同样一个函数在约束线求极值也是相对复杂，幸运的是拉格朗日乘法子让限制函数求极值变的简单。具体方法如下
 
首先，给出一个拉格朗日函数 $L(x, y, \lambda)=f(x, y)+  \lambda g(x, y)$ ，求出拉格朗日函数的极值，就可以得到 $f(x, y)$ 的极值。

具体步骤
- 定义目标函数 $f(x, y)$ 和约束条件 $g(x, y)=0$ 。
- 构造拉格朗日函数 $L(x, y, \lambda)=f(x, y)+  \lambda g(x, y)$。
- 求出拉格朗日函数 $L(x, y, \lambda)$ 的梯度向量：$\partial L / \partial x, \partial L / \partial y, \partial L / \partial \lambda$ ）。
- 令其等于零：$\partial L / \partial x=0, \partial L / \partial y=0, \partial L / \partial \lambda=0$ 。
- 解出上述方程组，得到满足约束条件的极值点。
 
 
 
## 拉格朗日乘子法，为什么可以求极值

读者可能不禁疑问：凭什么引入一个$\lambda$ , 定义一个拉格朗日函数, 求得拉格朗日函数的极值,就可以求得 $f(x, y)$ 的极值了呢? 其背后的原理是什么?

假设空间有一个蓝色曲面 $f(x, y)$(目标函数)，还有一个红色曲面$g(x, y)$（限制函数），他们在空间相交，此时交线则是一条曲线，（参考下图红色界痕）
根据上面引子，我们可以设**过界痕的曲面方程束**为
$L=f+\lambda g(x,y)$
 ![图片](/uploads/2025-03/8311aa.jpg)

### 平面投影
如果从上往下看曲面，如下图，假设我们的目标函数 $f(x, y)$ 与限制函数 $g(x, y)$ 都在区域 $G$ 上有定义。自然，拉格朗日函数是目标函数与限制函数的线性组合，其必也是在区域 $G$ 上有定义的。这里黄红色的曲线代表满足 $g(x,

免费注册看余下 50%

非VIP会员每天15篇文章，开通VIP 无限制查看

上一篇：什么是梯度？为什么梯度下降最快？

下一篇：没有了

本文对您是否有用？有用 (0) 无用 (0)