凸优化入门

article/2025/10/16 22:17:06

主要的目录

1-2:推荐书目,引言,常见例子,优化问题分类,发展史
3-4:仿射/凸/凸锥 + 集/组合/包
5-6:几种重要的凸集:超平面与半空间/球和椭球/多面体/单纯形/对称(半)(正定)矩阵
7-8:凸集的交集,保凸运算:仿射函数/缩放和移位/透视函数/线性分段函数
9-10:(9缺)凸函数的定义1/定义2/定义3,凸函数的扩展
11-12:凸函数定义2补充/定义4,常见例函数的凸性:二次函数/仿射函数/指数函数/幂函数/绝对值的幂函数/对数函数/负熵/范数/零范数/极大值函数/log-sum-up函数
13-14:函数凸性:极大值函数/log-sum-up函数/几何平均/行列式对数;保持函数凸性:非负加权和/仿射映射/两函数的极大值函数/无像个凸函数的极大值
15-16:复合函数保凸的条件,函数的透视:欧几里得范数的平方/负对数/K-L散度,函数的共轭
17-18:复合函数保凸条件,函数的共轭,α-sublevel set,拟凸函数
19-20:(课堂小测1),向量零范数的松弛形式,可微拟凸函数的一阶条件和二阶条件,对数凹函数/对数凸函数
21-22:可微拟凸函数的一阶条件的充分性证明,凸问题:域/可行解集/最优值/最优解(集)/ε次优解集/局部最优解/可行性优化问题,凸问题的等价形式(举例)
23-24:凸优化问题,凸优化约束的降维和升维(松弛变量),拟凸优化问题,凸问题局部最优等于全局最优,可微目标函数情况下的最优解(画图举例),三个名人的故事
25-26:凸问题的等价变换,营养食谱问题,线性分数规划,二次规划,QCQP,回归问题下x稀疏时的LASSO(引入X=X+ + X-)
27-28:投资组合问题的形式,半正定规划问题,谱范数,多目标优化问题:pareto最优面,多目标问题①的转化(单目标问题②和带约束的单目标问题③)
29-30:对偶性,Lagrange函数,Lagrange函数的凹性,对偶函数与函数共轭的关系,(P)对偶函数的对偶函数仍未(P)

只会介绍2,3,4,5,9,10章节的《凸优化》的书籍内容。

 

1

1.1   介绍凸优化的一般格式

1. 2   凸优化的两个例子:

  •    数据拟合
  •    线性二次调节器
  •   图像处理
  •   最短路径问题
  •    

都可以写成凸优化问题。

1.3    优化问题分类

非线性优化、线性规划问题。或者分为凸规划和非凸规划、或者单目标或者多目标问题。

 

1.4   凸优化主要内容

1 凸集、凸函数

2 凸优化

3  若干算法

 

2   优化基本概念

2. 1  仿射集,仿射组合,两者等价

仿射集的定义:

仿射集的例子比如:直线是仿射集;线段不是仿射集;二维空间是仿射集;在二维空间中选定取值范围,该范围不是仿射集。

仿射集和仿射组合式等价的。

例子: 线性方程组的解集是仿射集。

仿射包(affine hull)是由实线性空间中的集合所生成的仿射集,设A为实线性空间X中的集合,那么包含A的最小仿射集称为A的仿射包。它是所有包含A的仿射集的全体的交集,也是A中的元素的不断用直线连结后的元素全体,A的仿射包通常记为aff A

问题:给定任意一个集合c cc,如何构造尽可能小的仿射集?我们通过定义仿射包来构建仿射集,这是个大杀器。

1  这个用处很大啊,可以从任意集合中。找到一个仿射集,那不就是一个凸集的取值范围了吗?

2  对于深度学习来说,根本没有凸集的概念,因为参数刚开始都是随机赋值的,这就指导我们考虑是否有很好的指导意见来构造最小凸包,也就是参数的搜索空间变小。

 

2.2  锥,凸锥

 

 

2.3  几种重要的凸集

 

2.4  超平面和半空间

所在n维空间中的n-1维度的东西,可以由

 

2.5    球和椭球/多面体/单纯形/对称(半)(正定)矩阵

 

 

1  为什么走来要定义凸集的概念呢?

2  中间的问题实在是太多了?  以此定义凸集、凸函数、凸优化的详细定义。

 全靠假设和实验才能够撑起来论文,深度学习的。

 

å¸å­¦ä¹ é®é¢å¤§çº²
 

 

 

 

2.3  保凸运算

 

 

 

 

参考:

https://www.bilibili.com/video/av29071445/?p=1

b站中科大凸优化视频。书籍参考《凸优化》

https://pan.baidu.com/s/108jZ6Ms2DsZD1SDrx75w6g 密码:04b0

上面中科大凸优化的对应板书

https://blog.csdn.net/lzldhhaha/article/details/76382962

深度学习跟凸优化的联系

https://www.zhihu.com/zvideo/1248996886737731584

从凸优化到非凸优化,凸优化理论与方法:从凸到非凸,


http://chatgpt.dhexx.cn/article/jOBt8Ic8.shtml

相关文章

凸优化系列——最优化问题

1. 凸优化问题介绍 凸优化问题如下: 为什么要求不等式约束是线性函数呢?我们知道凸函数的下水平集是凸集。 为什么要求等式约束是线性的呢?线性函数表示一个超平面,他也是凸集 也就是说,对于凸优化问题,…

凸优化 (中科大

凸优化是优化中比较容易的一种 优化optimization,即数学规划。 优化规划 优化:(包含三个要素)可行解的集合、定义最优、找出 任何一个优化问题,总可以写成这样的形式: minimize 函数 ,最…

凸优化学习

”凸优化“ 是指一种比较特殊的优化,是指求取最小值的目标函数为凸函数的一类优化问题。凸优化就是:1、在最小化(最大化)的要求下,2、目标函数是一个凸函数(凹函数),3、同时约束条件…

理解凸优化

导言 凸优化(convex optimization)是最优化问题中非常重要的一类,也是被研究的很透彻的一类。对于机器学 习来说,如果要优化的问题被证明是凸优化问题,则说明此问题可以被比较好的解决。在本文中,SIGAI将为…

优化算法——凸优化的概述

一、引言 在机器学习问题中,很多的算法归根到底就是在求解一个优化问题,然而我们的现实生活中也存在着很多的优化问题,例如道路上最优路径的选择,商品买卖中的最大利润的获取这些都是最优化的典型例子,前面也陆续地有一…

凸优化基础知识

目录 一、计算几何是研究什么的? 二、计算几何理论中(或凸集中)过两点的一条直线的表达式,是如何描述的?与初中数学中那些直线方程有什么差异?有什么好处?(按自己的体会) 1、凸集中 2、初中…

优化问题---凸优化基本概念

目录 1.凸优化到底是什么? 1.1 基本概念 1.2 凸优化和非凸优化 2、集合概念 2.1 仿射集、仿射包、仿射组合 2.2 凸集、凸包、凸组合 2.3 锥、凸锥 3.凸函数与非凸函数 4.总结 1.凸优化到底是什么? 1.1 基本概念 凸优化就是优化问题的一个特例…

toLower toUpper

2019独角兽企业重金招聘Python工程师标准>>> 1.根据二进制规律很容易就发现 char toLower(char x) {if (x > A && x < Z)return (x | 0x20);return x; }char toUpper(char x) {if (x > a && x < z)return (x & 0xDF);return …

C++ Reference: Standard C++ Library reference: C Library: cctype: toupper

C官方参考链接&#xff1a;https://cplusplus.com/reference/cctype/toupper/ 字符转换功能两个在字母大小写之间转换的函数&#xff1a; 函数toupper int toupper ( int c ); 将小写字母转换为大写字母 如果c是一个小写字母并且具有一个大写字母的等价物&#xff0c;则将c…

c语言中toupper函数作用,C语言中toupper 是什么?

牛魔王的故事 toupper&#xff0c;是一种计算机用语&#xff0c;用来将字符c转换为大写英文字母。C语言原型extern int toupper(int c);用法#include 功能将字符c转换为大写英文字母说明如果c为小写英文字母&#xff0c;则返回对应的大写字母&#xff1b;否则返回原来的值。扩展…

sqlite下载安装

安装教程 第一步&#xff1a;首先先到官网下载:https://www.sqlite.org/download.html 第二步&#xff1a;选择与自己电脑合适的系统 第三步&#xff1a;下载成功&#xff0c;全部解压 第四步&#xff1a;配置变量 我的电脑右击->属性->高级系统设置->高级->…

sqlite expert(sqlite数据的第三方工具)64位下载安装

官网太慢&#xff0c;这里从腾讯软件中心下载. https://pc.qq.com/search.html#!keywordsqliteexpert 如图&#xff0c;选择64位&#xff0c;普通下载(不用安装腾讯软件管家)即可: 之后&#xff0c;点击 SQLiteExpertPersSetup32-5.3.3.389.exe 一直下一步即可。 也可以从官网…

【SQLite预习课1】SQLite简介——MySQL的简洁版

作者主页&#xff1a;Designer 小郑 作者简介&#xff1a;浙江某公司软件工程师&#xff0c;负责开发管理公司OA、CRM业务系统&#xff0c;全栈领域优质创作者&#xff0c;CSDN学院、蓝桥云课认证讲师&#xff0c;开发过20余个前后端分离实战项目&#xff0c;主要发展方向为Vue…

SQLite数据库管理工具,可视化工具GUI/SQLiteExpert/SQLiteStudio/SQLiteBrowser

1、Navicat Premium【商业软件&#xff0c;大而全】 Navicat Premium 是一套数据库开发工具&#xff0c;让你从单一应用程序中同时连接 MySQL、MariaDB、MongoDB、SQL Server、Oracle、PostgreSQL 和 SQLite 数据库。 Navicat Premium | 以单一的 GUI 同时连接不同类型的数据…

SQLite——Java使用SQLite初体验

文章目录 前言依赖版本SQLite 操作工具类(自写)建立连接建表DDL插入数据、查询数据、删除数据 DML删除数据表 DDL查看db文件工具 前言 SQLite相比大多数数据库而言&#xff0c;具有免安装等优势&#xff0c;广泛应用于测试、Android等领域。 通过一个.db文件就能实现数据库连接…

Android 中SQLite数据库的使用详解

博主前些天发现了一个巨牛的人工智能学习网站&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;忍不住也分享一下给大家&#xff0c; &#x1f449;点击跳转到网站 Android SQLite数据库相关API的介绍可以看这篇文章 Android SQLite数据库中基础的增删改查操作以及API的详…

Android Studio使用SQLite数据库

文章目录 零、本讲学习目标一、导入二、讲解&#xff08;一&#xff09;SQLite数据库1、SQLite构成2、SQLite数据类型3、SQLite数据库特点 &#xff08;二&#xff09;使用SQLiteDatabase类操作数据库1、创建安卓应用2、准备图片素材3、字符串资源文件4、主布局资源文件5、主界…

Sqlite的下载与安装

首先&#xff0c;下载Sqlite&#xff0c;或者直接下载群文件中的Sqlite文件下载完成之后解压在电脑的某个路径之下&#xff0c;C盘、D盘等等都可以&#xff0c;创建新的文件夹“sqlite”&#xff0c;把压缩包解压到文件夹中&#xff0c;如图所示紧接着我们需要在我们电脑上配置…

Android SQlite基本用法

一.SQLite的介绍 1.SQLite简介 SQLite是一款轻型的数据库&#xff0c;是遵守ACID的关联式数据库管理系统&#xff0c;它的设计目标是嵌入 式的&#xff0c;而且目前已经在很多嵌入式产品中使用了它&#xff0c;它占用资源非常的低&#xff0c;在嵌入式设备中&#xff0c;可能…

安卓使用sqlite

搭建环境 // Top-level build file where you can add configuration options common to all sub-projects/modules.buildscript {repositories {maven{ url https://maven.aliyun.com/repository/google}maven{ url https://maven.aliyun.com/repository/gradle-plugin}maven{…