Pengfei Hao
本文主要介绍无约束问题的优化算法, 这些算法也常作为子问题的求解器出现在约束优化问题以及其他复杂问题中. 对于可微函数来说, 有梯度类算法与信赖域算法两大类算法, 梯度类算法中又包括了梯度下降法、牛顿法、拟牛顿法等. 对于凸函数而言, 主要应用次梯度算法和近似点算法求解. 对于可微函数加凸函数这样的复合优化问题, 有近似点梯度法, FISTA 算法, BCD 算法等.
Pengfei Hao
本文主要介绍无约束问题的优化算法, 这些算法也常作为子问题的求解器出现在约束优化问题以及其他复杂问题中. 对于可微函数来说, 有梯度类算法与信赖域算法两大类算法, 梯度类算法中又包括了梯度下降法、牛顿法、拟牛顿法等. 对于凸函数而言, 主要应用次梯度算法和近似点算法求解. 对于可微函数加凸函数这样的复合优化问题, 有近似点梯度法, FISTA 算法, BCD 算法等.
Pengfei Hao
本文主要介绍约束优化问题的优化算法. 无论目标函数是否可微或凸, 都可以使用罚函数方法将约束问题转化为无约束问题进行求解. 对可微问题和凸问题, 也可以使用增广拉格朗日函数法进行求解. 对于凸问题, 也可以使用原始对偶混合梯度法和交替方向乘子法.
Pengfei Hao
本文主要介绍约束优化问题的优化算法. 无论目标函数是否可微或凸, 都可以使用罚函数方法将约束问题转化为无约束问题进行求解. 对可微问题和凸问题, 也可以使用增广拉格朗日函数法进行求解. 对于凸问题, 也可以使用原始对偶混合梯度法和交替方向乘子法.