流形学习的数学基础

article/2025/10/11 5:19:08

文章目录

  • 1 Optimization Algorithms on Matrix Manifolds
  • 2 Riemannian gradient descent
  • 3 一些流形优化的博客
  • 参考文献

1 Optimization Algorithms on Matrix Manifolds

Optimization Algorithms on Matrix Manifolds - Full Online Text
P.-A. Absil, R. Mahoney, and Rodolphe Sepulchre

文章来源:
124页哈佛数学系本科论文,带你了解流形学习的数学基础

2 Riemannian gradient descent

Optimization and Gradient Descent on Riemannian Manifolds

3 一些流形优化的博客

【1】流形优化方法求解约束问题

一句话概括就是:传统的优化方法是在欧氏空间考虑问题,而流形优化是在黎曼流形中考虑问题,这个黎曼流形哪来的呢?约束给的!也就是把欧氏空间的约束看成是一个流形。

【2】什么是流形?
参考知乎博主:主要看逼近极限

在这里插入图片描述
在这里插入图片描述

【3】微分流形参考书及推荐

参考文献

这篇文章的目的是让大家对这个方向有个大概的理解。详细的入门书籍建议看【1】【2】

另外综述文章看【3】还有一些博士论文:【4】【5】.

【1】 Absil, P-A., Robert Mahony, and Rodolphe Sepulchre.Optimization algorithms on matrix manifolds. Princeton University Press, 2009.

【2】Nicolas Boumal. An introduction to optimization on smooth manifolds. 2020.

【3】Hu, Jiang, Xin Liu, Zai-Wen Wen, and Ya-Xiang Yuan. "A brief introduction to manifold optimization."Journal of the Operations Research Society of China(2019): 1-50.

【4】Zhang, Hongyi. “Topics in non-convex optimization and learning.” PhD diss., Massachusetts Institute of Technology, 2019.

【5】Huang, Wen. “Optimization algorithms on Riemannian manifolds with applications.” (2013).

【6】微分流形(英)讲义 王作勤老师


http://chatgpt.dhexx.cn/article/OmdoNAJ9.shtml

相关文章

流形学习(Manifold Learning)简单介绍

传统的机器学习方法中,数据点和数据点之间的距离和映射函数f都是定义在欧式空间中的,然而在实际情况中,这些数据点可能不是分布在欧式空间中的,因此传统欧式空间的度量难以用于真实世界的非线性数据,从而需要对数据的分…

谈谈黎曼流形与视觉距离错觉问题

转自:https://baijiahao.baidu.com/s?id1612647738961091671&wfrspider&forpc 作者:看海 链接:https://www.zhihu.com/question/30553302/answer/311788410 来源:知乎 data:20190509 一、流形科普知识 1、…

流形学习详解

流形学习 流形学习(manifold learning)是一类借鉴了拓扑流形概念的降维方法。 介绍流行学习首先要说明一下什么是流形:即指具有不同维数的任意光滑的曲线或曲面。 流形学习是基于这样一种假设:若低维流形嵌入到高维空间中&#x…

黎曼流形学习的学习笔记(2):Neural Ordinary Differential Equations(来源:NIPS 2018 oral) (未完待续)

作者想解决的问题:这是一篇提出新模型的论文,把输入和输出当作微分方程在不同时刻的解,这样做可以节省很多空间,因为不需要计算每一步的具体结果,只需要保存得到的函数。 思路:由于残差网络 (空间上) 和RNN…

流形学习(Mainfold Learning)

最近在看生成对抗网络(Generative Adversarial Networks,GAN)的时候,几乎在每一篇文章中都会看到mainfold这个词,哪么它在GAN中想要表达什么呢?或者说GAN和流形学习(Mainfold Learning&#xff…

什么是流形?

什么是流形? 写的很好。 感觉就是一个多维空间的抽象,在这个空间中,距离的定义稍微有些特殊; 1、流形就是弯曲的 N实数描述的 点集合; 2、两点间的距离有定义:邻近的两点,其距离是 座标差的平方…

黎曼流形学习的学习笔记(1):Moser Flow: Divergence-based Generative Modeling on Manifolds(来源:NIPS 2021 oral)

亮点: 1. 使用Moser Flow (MF) 相比于其他连续标准化流 (CNF)不需要在训练过程解常微分方程 (ODE),因此训练速度相对较快; 2. 在1的基础上,证明了在一定的前提下,MF可以泛化任意的流形,并且这是流模型 (…

论文阅读:在Stiefel流形上的黎曼优化

原文:EFFICIENT RIEMANNIAN OPTIMIZATION ON THE STIEFEL MANIFOLD VIA THE CAYLEY TRANSFORM Citing: https://arxiv.org/pdf/2002.01113.pdf 目录 摘要 1 简介 2 相关工作 3 基础知识 3.1 黎曼流形 定义1:黎曼流形 定义2:测地、幂映…

黎曼几何与黎曼流形

目录 0.黎曼几何 1. 欧几里得几何与黎曼几何的区别 2.黎曼流形 3.黎曼距离 4.切空间 5.黎曼均值 6. SPD矩阵如何形成黎曼流型 7.切线空间映射 8.同余变换和同余不变 9.黎曼对齐 科普性笔记,做了解,不深入。 0.黎曼几何 黎曼几何是一种基于欧几…

机器学习知识点(二十三)黎曼流形认知

对于流形,我在机器学习中的认识就是局部欧式距离的应用,当然其背后强大的数学逻辑也不是一时可以窥全貌,只好先看看一些基础概念。 1、基本概念 流形,是局部具有欧几里得空间性质的空间,是欧几里得空间中的曲线、曲面…

数学建模-神经网络模型

神经网络简介 人工神经网络是在现代神经科学的基础上提出和发展起来的,旨在反映人脑结构及功能的一种抽象数学模型。自1943 年美国心理学家W. McCulloch 和数学家W. Pitts 提出形式神经元的抽象数学模型—MP 模型以来,人工神经网络理论技术经过了50 多年…

数学建模--预测类模型

目录 一、中短期预测 1、灰色预测法 ①适用范围 ②模型实现 2、回归分析 ①适用范围 ②模型实现 3、时间序列分析 ①自适应滤波法 ②指数平滑法 ③移动平均法 4、微分方程 二、长期预测 1、神经网络预测 2、logistic模型 ①模型介绍 ②模型分析及代码 一、中短…

数学建模 -- 预测模型

参考清风老师的数学建模,用于复习!!! NO1.灰色预测 一.灰色系统 灰色预测是对既含有已知信息又含有不确定信息的系统进行预测,就是对在一定范围内变化的、与时间有关的灰色过程进行预测。 灰色预测对原始数据进行生成…

数学建模——评价模型

文章目录 一.模糊综合评价模型1.基础知识2.一级模糊综合评价3.二级模糊综合评价 二.灰色关联分析模型1.灰色关联分析原理2.灰色关联分析步骤 三. Topsis(理想解法)1.理想解法原理2.Topsis法步骤 四.线性加权综合评价模型(不是很推荐用&#x…

数学建模(一)

个人不仅仅是一个ctfer,数学也是很强的呀。hhhh下面记录一些简单的 数学建模用到的python基础 知识点一:复合数据类型相关 append:每次往列表尾部增加一个元素。 extend:列表尾部添加多个数据 insert(索引位置,插入值) #这里是…

数学建模-数学规划模型

数学规划模型 一、概述 1.什么是数学规划? 运筹学的一个分支,用来研究在给定条件下(即约束条件),如何按照某一衡量指标(目标函数)来寻求计划、管理工作中的最优方案。 即求目标函数在一定约束条件下的极值问题 2.数学…

【数学建模】模型的评价、模型的推广与改进

6.1模型的评价 6.1.1模型的稳定性分析(灵敏度分析) https://mp.weixin.qq.com/s/EZr2HeqzDLHQygk4nO0iiA 讲的比较好,分为决策模型、动态模型、概率模型、线性回归、时间预测 建模过程会对问题做一些假设,需要考虑所得结果对每一条…

数学建模 —— 评价模型

文章目录 前言一、层次分析法(AHP)1.介绍2.算法流程3.局限性 二、优劣解距离法(Topsis法)1.介绍2.算法流程3.模型拓展 —— 带权重的Topsis1.使用层次分析法来确定权重取值2.基于熵权法对Topsis模型的修正熵权法的计算步骤 三、灰…

数学建模之优化模型详解

全文共8090个字,码字总结不易,老铁们来个三连:点赞、关注、评论作者:[左手の明天] 原创不易,转载请联系作者并注明出处 版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转…

数学建模--评价类模型

目录 一、主观评价 1、层次分析法(AHP) ①应用场景 ②步骤 ③模型实现 ④代码实现 ⑤优缺点评价 2、模糊综合评价法(FCE) ①应用场景 ②步骤 ③模型实现 3、灰色关联分析法(GRA) ①应用场景 …