在有约束最优化问题中，通常要将该问题转换为更简单的子问题，通过这些子问题可以求解并作为迭代过程的基础。早期的方法通常是通过构造惩罚函数等来将有约束最优化问题转换为无约束最优化问题进行求解的。现在，这些方法已经被更有效的基于K-T（Kuhn-Tucker）方程解的方法所取代。
K-T方程解形成了许多非线性规划算法的基础。使用这些算法可以直接计算Lagrange乘子。用拟Newton法更新过程，给K-T方程积累二阶信息，可以保证有约束拟Newton法的超线性收敛。这些方法被称为序列二次规划法（SQP），因为在每次主要的迭代过程中都求解一次二次规划子问题。该子问题可以用任意一种二次规划算法求解，求得的解可以用来形成新的迭代公式。