凸优化 - 简介

本课程适用于想要解决各种工程和科学应用中出现的非线性优化问题的学生。本课程从线性规划的基本理论开始,介绍凸集和凸函数的概念以及相关术语,以解释解决非线性规划问题所需的各种定理。本课程将介绍用于解决此类问题的各种算法。这些类型的问题出现在各种应用中,包括机器学习、电气工程中的优化问题等。它要求学生具备高中数学概念和微积分的先验知识。

在本课程中,学生将学习如何解决诸如 $min f\left ( x ight )$ 之类的优化问题,但要受到一些约束。

如果函数 $f\left ( x ight )$ 是线性函数,并且约束是线性的,则这些问题很容易解决。那么它被称为线性规划问题 (LPP)。但如果约束是非线性的,那么很难解决上述问题。除非我们能将函数绘制成图,否则尝试分析优化可能是一种方法,但如果函数超过三维,我们就无法绘制它。因此,出现了非线性规划或凸规划技术来解决此类问题。在本教程中,我们将重点学习此类技术,最后介绍一些解决此类问题的算法。首先,我们将介绍凸集的概念,这是凸规划问题的基础。然后,随着凸函数的引入,我们将介绍一些解决这些问题的重要定理以及基于这些定理的一些算法。

术语

  • 空间 $\mathbb{R}^n$ − 它是一个具有实数的 n 维向量,定义如下 − $\mathbb{R}^n=\left \{ \left ( x_1,x_2,...,x_n ight )^{ au }:x_1,x_2,....,x_n \in \mathbb{R} ight \}$

  • 空间 $\mathbb{R}^{mXn}$ − 是所有实数阶为 $mXn$ 的矩阵的集合。