杏耀平台

APP下载EXPERTS

新兴经济体之印度尼西亚经济与地理概况（2022年印尼每月最低新兴经济体之印度尼西亚经济与地理概况（2022年印尼每月最低工资约152.5美元）|元哲咨询新兴经济体之印度尼...

咨询热线

0898-08980898

地址：广东省清远市
传真：0000-0000-000

就医指南

当前位置：首页 > 就医指南

约束最优化

发布时间：2024-09-09 13:33:32 点击量：

约束最优化：满足生产配额或具有约束条件的最优化。

常用方法是拉格朗日乘数法，检验方法是海塞或海森加边行列式。

约束最优化有两个最常见的例子，1）效用最大化与消费需求；2）投入的最小成本组合。

如果约束不一定起作用呢？

在二元甚至多元微分的条件极值问题（如下）中，通常解法是用一阶必要条件即一阶导为零求出极值点，再用二阶充分条件即海塞矩阵来判断是否为极值点。

$\\begin{array}{l}\\max _{\\left\\{x_{1}, x_{2}\\right\\}}U=U\\left(x_{1}, x_{2}\\right) \\\\ \ ext{ s.t. }P_{1}x_{1}+P_{2}x_{2}=W \\end{array}$

而在非线性规划（如下）中，一阶必要条件是库恩-塔克条件。

$\\operatorname{Max}\\pi=f\\left(x_{1}, x_{2}, x_{3}\\right) \\\\ s.t. \\quad g^{1}\\left(x_{1}, x_{2}, x_{3}\\right) \\leqslant r_{1}; \\\\ \\quad \\quad \\quad g^{2}\\left(x_{1}, x_{2}, x_{3}\\right) \\leqslant r_{2};\\\\ and \\quad x_{1}, x_{2}, x_{3}\\geqslant 0 .$

非线性规划，一是变量非负，二是约束条件是不等式。很多时候，我们的规划应该都是非线性的，然而为了简便计算，将非线性转换为线性的求解，例如上面的受约束的效用最大化问题，本质上它就是非线性规划，但我们在求解时会不自觉地将不等式替换为等式，并默认变量非负。

首先，来看变量非负的影响。

当变量非负时，根据上图，最大值满足如下库恩-塔克条件： $f'(x_i)\\leq0,x_i\\geq0 \\quad and \\quad x_if'(x_i)=0.$

这里涉及一个重要的概念，如果 $xy=0$ ，那么 $x$ 与 $y$ 互补松弛。

其次，我们看不等式约束效应。为了使问题变得简单，我们通过引入正的虚拟变量，把不等式转化为等式（如下）。

$\\operatorname{Max}\\pi=f\\left(x_{1}, x_{2}, x_{3}\\right) \\\\ s.t. g^{1}\\left(x_{1}, x_{2}, x_{3}\\right)+s_{1}=r_{1}\\\\ g^{2}\\left(x_{1}, x_{2}, x_{3}\\right)+s_{2}=r_{2}\\\\ and \\quad x_{1}, x_{2}, x_{3}, s_{1}, s_{2}\\geqslant 0$

这样问题就转换为了经典的拉格朗日的条件极大值问题，再结合前面得到的互补松弛中的结论，就能求解。求解后，再将引入的正的虚拟变量用已有的变量进行表示。

前面的结论是极大值，下面，通过一个简单的极小值的习题来理解什么是库恩塔克条件。

例：

$\\begin{array}{l}\ ext{ Min }C=\\left(x_{1}-4\\right)^{2}+\\left(x_{2}-4\\right)^{2}\\\\ \ ext{ s. t. }2 x_{1}+3 x_{2}\\geqslant 6 \\\\ \\quad-3 x_{1}-2 x_{2}\\geqslant-12 \\\\ \ ext{ 且 }\\quad x_{1}, x_{2}\\geqslant 0, \\end{array}$

解：

第一步，构建拉格朗日函数。

$Z=\\left(x_{1}-4\\right)^{2}+\\left(x_{2}-4\\right)^{2}+\\lambda_{1}\\left(6-2 x_{1}-3 x_{2}\\right)+\\lambda_{2}\\left(3 x_{1}+2 x_{2}-12\\right)$

第二步，写出库恩塔克条件。

$\\begin{array}{l}\\frac{\\partial Z}{\\partial x_{1}}=2\\left(x_{1}-4\\right)-2 \\lambda_{1}+3 \\lambda_{2}\\geqslant 0, x_{1}\\geqslant 0 \ ext{ and }x_{1}\\frac{\\partial Z}{\\partial x_{1}}=0 \\\\ \\frac{\\partial Z}{\\partial x_{2}}=2\\left(x_{2}-4\\right)-3 \\lambda_{1}+2 \\lambda_{2}\\geqslant 0, x_{2}\\geqslant 0 \ ext{ and }x_{2}\\frac{\\partial Z}{\\partial x_{2}}=0 \\\\ \\frac{\\partial Z}{\\partial \\lambda_{1}}=6-2 x_{1}-3 x_{2}\\leqslant 0, \\lambda_{1}\\geqslant 0 \ ext{ and }\\lambda_{1}\\frac{\\partial Z}{\\partial \\lambda_{1}}=0 \\\\ \\frac{\\partial Z}{\\partial \\lambda_{2}}=-12+3 x_{1}+2 x_{2}\\leqslant 0, \\lambda_{2}\\geqslant 0 \ ext{ and }\\lambda_{2}\\frac{\\partial Z}{\\partial \\lambda_{2}}=0 \\end{array}$

第三步，将上述四个边际条件的不等式全部替换为等式，然后构建这四个变量的增广矩阵，求解方程组。不过，即便该矩阵存在唯一解，也有可能并不符合变量非负的条件，因此，更多情况下，我们还是采取试错法。先假设 $x_i\\geq0$ ，求出对应的值，当然 $\\lambda$ 可先设为零。再假设 $\\lambda_i\\geq0$ ，求出对应的值。更一般的解法是，通过画图，确定这些约束条件的“凸点”，以及边界点，并与极值点进行比较，从而得出最值。

现在总结一下什么是库恩塔克极大化或极小化条件，对于拉格朗日函数 $Z(x_i,\\lambda_j)$ 而言，其中， $x_i$ 是变量， $i$ 表示变量的个数， $\\lambda_j$ 是拉格朗日乘数， $j$ 是约束条件的个数。

（1）库恩塔克极大化条件：
$\\begin{array}{l}\\frac{\\partial Z}{\\partial x_{i}}\\leq 0, x_{i}\\geq 0 \ ext{ and }x_{i}\\frac{\\partial Z}{\\partial x_{i}}=0 \\\\ \\frac{\\partial Z}{\\partial \\lambda_{j}}\\geq 0, \\lambda_{j}\\geq 0 \ ext{ and }\\lambda_{j}\\frac{\\partial Z}{\\partial \\lambda_{j}}=0 \\end{array}$
（2）库恩塔克极小化条件：
$\\begin{array}{l}\\frac{\\partial Z}{\\partial x_{i}}\\geq 0, x_{i}\\geq 0 \ ext{ and }x_{i}\\frac{\\partial Z}{\\partial x_{i}}=0 \\\\ \\frac{\\partial Z}{\\partial \\lambda_{j}}\\leq 0, \\lambda_{j}\\geq 0 \ ext{ and }\\lambda_{j}\\frac{\\partial Z}{\\partial \\lambda_{j}}=0 \\end{array}$

库恩塔克条件需要满足约束规范，或者说不存在边界的不规则性，才能有效。

拐点是最经常使得库恩塔克条件失效的常见原因。但是，拐点的出现既不是库恩塔克条件在最优解失效的必要条件，也不是充分条件。在特殊情况下，尽管存在拐点，库恩塔克条件仍可能成立。

边界的不规则性与约束条件形成的可行区域形状无关，而与约束函数本身的形式有关。

那么，如何检验最优点是否满足约束规范呢？

假设最优点坐标为 $(x_1^*,x_2^*)$ ，约束条件为 $dg^i(x^*)$ ：

$if \\quad x_j^*=0,j\\in \\{1,2\\}, \\quad so \\quad dx_j\\geq0;$

$and \\quad dg^i(x^*)=g_1^idx_1+g_2^idx_2\\leq0(max); \\quad dg^i(x^*)=g_1^idx_1+g_2^idx_2\\geq0(min).$

如果求解出的测试变量从最优点出发，并包含在可行域内，与已知测试向量相切，那么就满足约束规范，进而满足库恩塔克条件。

可行域是凸空间并不能保证库恩塔克条件，但如果凸空间是仅由线性组成，那么就能保证。

前文我们认为满足约束规范的库恩塔克条件是求解非线性规划极值的必要条件，但在某些情况下也可以是充分条件，以极大化问题为例：

库恩塔克充分性定理：凹规划

已知非线性规划: $Max \\quad \\pi=f(x) \\\\ s.t. g^{i}(x) \\leqslant r_{i}\\quad(i=1,2, \\cdots, m) \\\\ 且 x \\geqslant 0 .$

如果满足下列条件:

(1) 在非负正交分划体（ $n$ 维的非负象限）中目标函数 $f(x)$ 可微且是凹函数。

(2) 在非负正交分划体（ $n$ 维的非负象限）中每个约束函数 $g^{i}(x)$ 可微, 且是凸函数。

(3) 点 $x^{*}$ 满足库恩-塔克极大值条件。

那么 $x^{*}$ 给出函数 $\\pi=f(x)$ 的整体极大值点。

阿罗-恩索文充分性定理：拟凹规划

已知非线性规划: $Max \\quad \\pi=f(x) \\\\ s.t. g^{i}(x) \\leqslant r_{i}\\quad(i=1,2, \\cdots, m) \\\\ 且 x \\geqslant 0 .$

如果满足下列条件:

(1) 在非负正交分划体（ $n$ 维的非负象限）中目标函数 $f(x)$ 可微且是拟凹函数。

(2) 在非负正交分划体（ $n$ 维的非负象限）中每个约束函数 $g^{i}(x)$ 可微, 且是拟凸函数。

(3) 点 $x^{*}$ 满足库恩-塔克极大值条件。

那么 $x^{*}$ 给出函数 $\\pi=f(x)$ 的整体极大值点。

(4) 满足下列诸条件中任意一个:

i）至少对某个变量 $x_{j}$ 有 $f_{j}\\left(x^{*}\\right)>0$ 。

ii) 对某个可取正值而不违背约束的变量 $x_{j}$ 有 $f_{j}\\left(x^{*}\\right)>0$ 。

iii) $n$ 个导数 $f_{j}\\left(x^{*}\\right. )$ 不全为零, 函数 $f(x)$ 在 $x^{*}$ 的邻域内二阶可微。

iv) 函数 $f(x)$ 为凹函数。

那么 $x^{*}$ 给出函数 $\\pi=f(x)$ 的整体极大值。

在初级微观经济学中，我们学过“长期平均成本曲线是所有短期平均成本曲线函数的包络线”。为了解释包络定理，我们先看个例子，假设一个无约束的变量为 $x,y$ 且参数为 $\\phi$ 的效用最大化： $Max \\quad U=f(x,y,\\phi)$ ，其最优点对应的效用为 $U(\\phi)=f(x^*(\\phi),y^*(\\phi),\\phi)$ ，则 $dU(\\phi)/d\\phi=\\vartheta f/\\vartheta \\phi$ 。

再看个关于无约束的利润最大化的例子，即 $Max \\quad \\pi=Pf(K,L)-wL-rK$ ，则有霍特林引理如下：

$\\left\\{\\begin{array}{c}\\frac{\\partial \\pi^{*}}{\\partial w}=-L^{*}(w, r, P) \\\\ \\frac{\\partial \\pi^{*}(w, r, P)}{\\partial r}=-K^{*}(w, r, P) \\\\ \\frac{\\partial \\pi^{*}(w, r, P)}{\\partial P}=f\\left(K^{*}, L^{*}\\right) \\end{array}\\right.$

霍特林定理表明利润函数极大值函数的偏导可以得到企业的投入需求函数 $f(x,y)$ 。

对上式再次求导并应用杨氏定理（ $对于函数f(x,y)有f_{xy}=f_{yx}$ ），可得到交互性条件： $\\vartheta L^*/\\vartheta r=\\vartheta K^*/\\vartheta w$ 。

如果是有约束的最大化，那么，只需将构造的拉格朗日条件极值函数按照无约束最大化时的处理即可。

前面我们回顾了极大值原理与包络定理，那么自然就要回顾极小值原理与包络定理，这就涉及到对偶问题，对偶不等于对称。例如，

$\\operatorname{Max}U=U(x, y) \\\\ s.t. P_{x}x+P_{y}y=B$

其对偶问题为： $\\operatorname{Min}\\mathrm{E}=P_{x}x+P_{y}y \\\\ s.t. U^{*}=U(x, y)$

该对偶问题的解 $x^h,y^h$ 一般被称为希克斯（Hicksian）需求函数。对偶的极大值函数与极小值函数之间的关系是，他们的拉格朗日乘子是互为导数的。消费者效用最大化函数 $V=U+\\lambda(B-P_xx-P_yy)$ 中的拉格朗日乘子 $\\lambda$ 是收入的边际效用，也称收入的影子价格， $dV/dB=\\lambda$ 。而厂商成本最小化函数 $Z=P_xx+P_yy+\\mu(U^*-U)$ 中的 $\\mu$ 则是约束的边际成本， $dZ/dU^*=\\mu$ 。

假设成本最小化的拉格朗日条件极值函数为 $Z=P_xx+P_yy+\\mu(U^*-U)$ ，则可得到关于支出函数的谢泼德引理：

$\\left\\{\\begin{array}{l}\\frac{\\partial E\\left(P_{x}, P_{y}, U^{*}\\right)}{\\partial P_{x}}=x^{h};\\\\ \\frac{\\partial E\\left(P_{x}, P_{y}, U^{*}\\right)}{\\partial P_{y}}=y^{h};\\\\ \\frac{\\partial E\\left(P_{x}, P_{y}, U^{*}\\right)}{\\partial U^{*}}=\\mu^{h}. \\end{array}\\right.$

值得提醒的是，对于极大值函数的拉格朗日条件极值函数 $V=U+\\lambda(B-P_xx-P_yy)$ ，则有罗伊恒等式 $\\frac{\\partial V / \\partial P_{x}}{\\partial V / \\partial B}=-x^{m}$ ，意思是对于商品 $x$ 的马歇尔需求函数，等于极大值函数 $V$ 分别对商品 $x$ 的价格 $P_x$ 以及最大预算 $B$ 的偏导的比率的相反数。

参考文献：[1]蒋中一凯尔文·温赖特. 数理经济学的基本方法[M]. 北京大学出版社, 2006.

上一篇：adam优化器的weight_decay

下一篇：抖音流量推送机制是怎样的？