由黑塞(Hessian)矩阵引发的关于正定矩阵的思考

article/2025/8/27 13:53:12

最近看论文,发现论文中有通过黑塞(Hessian)矩阵提高电驱系统稳定性的应用。所以本篇主要从Hessian矩阵的性质出发,对其中正定矩阵的判定所引发的想法进行记录。

(其实看论文出现黑塞很惊奇,因为前不久刚读了作家黑塞的《德米安:彷徨少年时》,所以在这一领域的黑塞也做个记录吧。。)


首先,我理解的Hessian矩阵是对一个多元函数求最优的方法,百度百科上这样记载的:

图1 百度百科上关于Hessian矩阵的表述图

我们最关注的是求极小值求最优的问题,所以,对正定矩阵的判定是一个重点。

我们已知的“如何判定一个矩阵为正定矩阵?”有以下几点:

  1. 矩阵特征值均大于0;

  1. 各阶行列主子式均大于0;

  1. 主元(pivots)均大于0,其中主元的乘积就是行列式的值;

  1. 二次型恒大于0。

前三点都比较容易理解,问题就是计算量大。我们重点关注第四点,举个例子:(来源MIT 18.06 linear algebra)

矩阵A表示为:

其二次型表示为:

现在问题转化成了,“如何判定这个二次型恒为正呢?”有以下几点:

  1. 一阶导数=0,二阶导数>0;

  1. 配方,>0;

  1. 矩阵A正定,其二次型恒为正(这。。世界是一个圆嘛。。)

联系起来,其实质就是:

  1. 特征向量表明主轴的方向,特征值表明轴的长度,>0正方向走,<0反方向走;

  1. 求二阶导数大于0就等价于在求行列式的值大于0;

  1. 配方就是在消元,即求A的LU分解,配方项前的系数2、2,就是主元大于0。


最后总结一下:用空间力来想,看下图,在一个xyz的三维空间内,令z=1即上述二次型式子=1。如果横切后得到的是椭圆,即函数在空间上为一个开口向上的碗状,则证明二次型存在极小值且矩阵正定;如果横切后得到的是双曲线,即函数在空间上为马鞍形,则证明二次型存在鞍点但不存在极小值点且矩阵不是正定的。这也就是为什么说:

椭圆与正定相关,双曲线与正定无关。

同样的,扩展到四维,切出来的三次型就是一个三维橄榄球了。。

为了便于观察,所绘制三维图与例子里的非同一函数


如果此篇文章对您有帮助,记得评论区告诉我: )

您的点赞和收藏是对写作者最大的鼓励!


http://chatgpt.dhexx.cn/article/bYrvP4vH.shtml

相关文章

Hessian matrix黑塞矩阵(海森矩阵)和雅克比矩阵Jacobian matrix

对梯度再求导生成的矩阵为黑塞矩阵 雅克比矩阵是一个m*n的矩阵 目标函数的梯度的雅克比矩阵就是目标函数的Hessian矩阵。 对于黑塞矩阵的特征值&#xff1a;就是形容在该点附近特征向量的凹凸性。特征值越大&#xff0c;凸性越强。 如果是正定矩阵&#xff0c;则临界点处是一个…

黑塞矩阵和雅可比矩阵理解

文章目录 1&#xff1a;一元泰勒展开公式2&#xff1a;二元泰勒展开公式3&#xff1a;二元函数的黑塞矩阵4&#xff1a;多元函数的黑塞矩阵5&#xff1a;多元函数的雅可比矩阵&#xff08;Jacobian矩阵&#xff09;参考文献 个人笔记&#xff1a; 1&#xff1a;一元泰勒展开公…

正定矩阵、正定矩阵与极值的关系、黑塞矩阵、牛顿法

目录 正定矩阵 正定矩阵与极值的关系 黑塞矩阵&#xff08;Hessian Matrix&#xff09; 牛顿法 正定矩阵 &#xff08;1&#xff09;广义定义&#xff1a;设A是n阶方阵&#xff0c;如果对任何非零向量X&#xff0c;都有&#xff0c;其中 表示X的转置&#xff0c;就称A为正…

Hessian 矩阵(黑塞矩阵)以及hessian矩阵奇异的用法

Hessian Matrix&#xff08;黑塞矩阵、海森矩阵、海瑟矩阵、海塞矩阵 etc.&#xff09;,它是一个多元函数的二阶偏导数构成的方阵&#xff0c;用以描述函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出&#xff0c;并以其名字命名。黑塞矩阵常用于牛顿法…

1、黑塞矩阵Hessian matrix

1、定义 2、性质 3、应用 https://zh.wikipedia.org/wiki/%E9%BB%91%E5%A1%9E%E7%9F%A9%E9%99%A3

黑塞矩阵和雅克比矩阵

一、黑塞矩阵 黑塞矩阵&#xff08;Hessian Matrix&#xff09;是一个多元函数的二阶偏导数构成的方阵&#xff0c;描述了函数的局部曲率。黑塞矩阵常用于牛顿法解决优化问题&#xff0c;利用黑塞矩阵可判定多元函数的极值问题。 1、定义 2、举例 二、雅克比矩阵 在向量微积分…

黑塞矩阵(Hessian Matrix)

在机器学习课程里提到了这个矩阵&#xff0c;那么这个矩阵是从哪里来&#xff0c;又是用来作什么用呢?先来看一下定义&#xff1a; 黑塞矩阵&#xff08;Hessian Matrix&#xff09;&#xff0c;又译作海森矩阵、海瑟矩阵、海塞矩阵等&#xff0c;是一个多元函数的二阶偏导数…

hessian矩阵

黑塞矩阵&#xff08;Hessian Matrix&#xff09;&#xff0c; 又译作海森矩阵、海瑟矩阵、海塞矩阵等&#xff0c;是一个多元函数的二阶偏导数构成的方阵&#xff0c;描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出&#xff0c;并以其名字命名…

黑塞矩阵

黑塞矩阵 编辑 黑塞矩阵&#xff08;Hessian Matrix&#xff09;&#xff0c;又译作海森矩阵、海瑟矩阵、海塞矩阵等&#xff0c;是一个 多元函数的二阶 偏导数构成的方阵&#xff0c;描述了函数的局部 曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出&#xff0…

Hessian矩阵(黑塞矩阵)

文章目录 黑塞矩阵与多元函数的极值泰勒展开及海塞矩阵海塞矩阵的意义海塞矩阵在图像处理中的应用基于尺度空间的Hessian简化算法 黑塞矩阵与多元函数的极值 一元函数求极值&#xff0c;例如函数&#xff1a; 通常先求其一阶导数&#xff0c;根据费马定理极值点处的一阶导数一…

H3C链路聚合

实验拓扑 图 1-1 注&#xff1a;如无特别说明&#xff0c;描述中的 R1 或 SW1 对应拓扑中设备名称末尾数字为 1 的设备&#xff0c;R2 或 SW2 对应拓扑中设备名称末尾数字为 2 的设备&#xff0c;以此类推&#xff1b;另外&#xff0c;同一网段中&#xff0c;IP 地址的主机位为…

H3C S6520交换机在现网环境下如何配置链路聚合(现网实操经验)

设备 Device A:H3C S6520-26Q-SI(已堆叠IRF) software, Version 7.1.070,Release 6326H3C Device B:锐捷RG-NBS3100 POE交换机 业务需求 增加公司网络网络冗余高可用性,核心交换机(Device A)至各楼层POE交换机设备Device B配置链路聚合,链路聚合实现两设备间流量在聚…

华三企业交换机链路聚合实例

本期为大家带来华三交换机的链路聚合的实例&#xff0c;请看拓补图 前言&#xff1a;华三的交换机链路聚合和华为的有异曲同工之妙&#xff0c;下面是关键字 华三Bridge-Aggregation1 华为Eth-trunk 华三加入聚合组&#xff0c;在端口下敲 port link-aggregation group 1 华…

华三-以太网链路聚合

1.8.1 二层静态聚合配置举例 1. 组网需求 Device A与Device B通过各自的二层以太网接口GigabitEthernet4/0/1&#xff5e;GigabitEthernet4/0/3相互连接。 在Device A和Device B上分别配置二层静态链路聚合组&#xff0c;并实现设备间VLAN 10和…

H3C交换机链路聚合配置方法

H3C交换机链路聚合配置方法 拓扑图配置步骤交换机A的配置交换机B的配置结果说明 拓扑图 配置步骤 交换机A的配置 采用动态聚合模式&#xff1a;创建二层聚合接口&#xff0c;并配置动态聚合模式 [设备A]interface bridge-aggregation 1 [设备A-Bridge-Aggregation1] link-agg…

华三 h3c 交换机链路聚合

链路聚合 一&#xff1a;二层静态聚合 这里配置链路聚合&#xff0c;根据以往我的习惯和经验&#xff0c;聚合端口和要加入聚合组的端口属性应该一致&#xff0c;要么都是access&#xff0c;要么都是trunk&#xff0c;如果不对的话&#xff0c;请大佬留言告知&#xff01; […

华三H3C链路聚合配置实例

华三链路聚合配置 上拓扑 命令配置 interface Bridge-Aggregation1 #创建聚合口1 port link-type trunk #聚合口设置为trunk模式 port trunk permit vlan all #放行所有vlan 进入接口&#xff0c;绑定聚合口 interface GigabitEthernet1/0/47 port link-type trunk port trunk…

华三路由器链路聚合配置(华三交换机配置)

华三路由器链路聚合配置拓扑如下: 1.华三路由器链路聚合配置:配置链路聚合 SW1设备配置 <H3C>system-view #进入系统视图 [H3C]sysname sw1 #将设备命名为sw1 [sw1]int…

华三设备链路聚合技术原理与配置

基本原理 背景&#xff1a;设备之间存在多条链路时&#xff0c;由于STP的存在&#xff0c;实际上只有一条链路会转发数据&#xff0c;带宽很大的浪费。 原理&#xff1a;将多个物理接口捆绑成为一个逻辑接口&#xff0c;可以实现增加带宽的目的。 链路聚合的优势&#xff1a;…