黑塞矩阵和雅可比矩阵理解

article/2025/8/27 13:54:56

文章目录

      • 1:一元泰勒展开公式
      • 2:二元泰勒展开公式
      • 3:二元函数的黑塞矩阵
      • 4:多元函数的黑塞矩阵
      • 5:多元函数的雅可比矩阵(Jacobian矩阵)
        • 参考文献


个人笔记:

1:一元泰勒展开公式

在这里插入图片描述举例:f(x) = 3x² + 2x + 5 在x=0或x=1处的泰勒展开
在这里插入图片描述
在这里插入图片描述当x=0时:
在这里插入图片描述
当x=1时:

在这里插入图片描述

不论Xk等于多少,最后展开得公式相加都是等于f(x) = 3x² + 2x + 5

2:二元泰勒展开公式

x 和 y在k处的泰勒展开:
在这里插入图片描述
简化:
在这里插入图片描述

简化:
在这里插入图片描述
f x x ′ ′ f''_{xx} fxx是对 x 求两次导。


f x y ′ ′ f''_{xy} fxy是先对x求一次导,然后再对y求一次导。


f y x ′ ′ f''_{yx} fyx是先对y求一次导,然后再对x求一次导。
(其中③ = ②)


f y y ′ ′ f''_{yy} fyy是对 y 求两次导。

3:二元函数的黑塞矩阵

二元函数点 f ( x 1 , x 2 ) f(x_1,x_2) f(x1,x2) X ( k ) ( x 1 ( k ) , x 2 ( k ) ) X^{(k)}(x_1^{(k)},x_2^{(k)}) X(k)(x1(k),x2(k))处的泰勒展开式为:
在这里插入图片描述

其中 Δ x 1 Δ x_1 Δx1 = x 1 x_1 x1 x 1 ( k ) x_1^{(k)} x1(k) , Δ x 2 Δ x_2 Δx2 = x 2 x_2 x2 x 2 ( k ) x_2^{(k)} x2(k)

在这里插入图片描述

即:
在这里插入图片描述

(1):其中
在这里插入图片描述

它是 f ( X ) f(X) f(X) X ( k ) X^{(k)} X(k)点处的梯度。

(2): G ( X ( k ) ) G(X^{(k)}) G(X(k)) f ( x 1 , x 2 ) f(x_1,x_2) f(x1,x2) X ( k ) X^{(k)} X(k)处的黑塞矩阵。它是由函数 f ( x 1 , x 2 ) f(x_1,x_2) f(x1,x2) X ( k ) X^{(k)} X(k)处的二阶偏导数所组成的方阵。
在这里插入图片描述

4:多元函数的黑塞矩阵

1:多元函数 f ( x 1 , x 2 , . . . , x n ) f(x_1,x_2,...,x_n) f(x1,x2,...,xn)在点 x ( k ) x^{(k)} x(k)处的泰勒展开式为:
在这里插入图片描述把泰勒(Taylor)展开式写成矩阵的形式:
在这里插入图片描述其中:
在这里插入图片描述
它是 f ( X ) f(X) f(X) X ( k ) X^{(k)} X(k)点处的梯度。
(2): G ( X ( k ) ) G(X^{(k)}) G(X(k)) f ( x 1 , x 2 , . . . , x n ) f(x_1,x_2,...,x_n) f(x1,x2,...,xn) X ( k ) X^{(k)} X(k)处的黑塞矩阵。它是由函数 f ( x 1 , x 2 , . . . , x n ) f(x_1,x_2,...,x_n) f(x1,x2,...,xn) X ( k ) X^{(k)} X(k)处的二阶偏导数所组成 n ∗ n n*n nn阶方阵。

在这里插入图片描述2:
在这里插入图片描述
在这里插入图片描述举例:
在这里插入图片描述

5:多元函数的雅可比矩阵(Jacobian矩阵)

1.概述
f f f: R n R^n Rn R m R^m Rm是一个函数,它的输入是向量 x ∈ R n x ∈ R^n xRn,输出是向量 y = f ( x ) ∈ R m y = f(x)∈ R^m y=f(x)Rm,并且 m ≥ n m≥n mn是一个从欧式 n n n维空间转换到欧式 m m m维空间的函数,这个函数由 m m m个实函数组成: f 1 ( x 1 , … , x n ) f_1(x_1,…,x_n) f1(x1,,xn),…, f m ( x 1 , … , x n ) f_m(x_1,…,x_n) fm(x1,,xn)这些函数的偏导数(如果存在)可以组成一个 m ∗ n m∗n mn的矩阵, 这就是所谓的Jacobian矩阵:

在这里插入图片描述
那么雅可比矩阵是一个 m × n m×n m×n 矩阵,通常被定义为
在这里插入图片描述

2:举例
来看一个实际的数据拟合过程,输入:
自变量: x = x = x={ 1 , 2 , 4 , 5 , 8 1,2,4,5,8 1,2,4,5,8 }
因变量: y = y = y={ 3.2939 , 4.2699 , 7.1749 , 9.3008 , 20.259 3.2939,4.2699,7.1749,9.3008,20.259 3.2939,4.2699,7.1749,9.3008,20.259 }

目标:用函数 f = p 1 ∗ e p 2 ∗ x − y f=p_1 ∗ e^{p_2∗x}−y f=p1ep2xy 进行拟合,这里自变量 x x x,因变量 y y y,参数 p 1 p_1 p1 p 2 p_2 p2,对参数 p 1 p_1 p1 p 2 p_2 p2进行求导:
在这里插入图片描述
e p ∗ x e^{p*x} epx p p p进行求导得: x ∗ e p ∗ x x*e^{p*x} xepx

雅可比矩阵描述:

Jacobian矩阵 =[   exp(p2),     p1*exp(p2)]
[ exp(2*p2), 2*p1*exp(2*p2)]
[ exp(4*p2), 4*p1*exp(4*p2)]
[ exp(5*p2), 5*p1*exp(5*p2)]
[ exp(8*p2), 8*p1*exp(8*p2)]

即:
在这里插入图片描述

参考文献

黑森矩阵

黑塞矩阵和雅克比矩阵

雅克比矩阵1

雅克比矩阵2
雅可比矩阵直观图像理解


http://chatgpt.dhexx.cn/article/nqoq9jhI.shtml

相关文章

正定矩阵、正定矩阵与极值的关系、黑塞矩阵、牛顿法

目录 正定矩阵 正定矩阵与极值的关系 黑塞矩阵(Hessian Matrix) 牛顿法 正定矩阵 (1)广义定义:设A是n阶方阵,如果对任何非零向量X,都有,其中 表示X的转置,就称A为正…

Hessian 矩阵(黑塞矩阵)以及hessian矩阵奇异的用法

Hessian Matrix(黑塞矩阵、海森矩阵、海瑟矩阵、海塞矩阵 etc.),它是一个多元函数的二阶偏导数构成的方阵,用以描述函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。黑塞矩阵常用于牛顿法…

1、黑塞矩阵Hessian matrix

1、定义 2、性质 3、应用 https://zh.wikipedia.org/wiki/%E9%BB%91%E5%A1%9E%E7%9F%A9%E9%99%A3

黑塞矩阵和雅克比矩阵

一、黑塞矩阵 黑塞矩阵(Hessian Matrix)是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。 1、定义 2、举例 二、雅克比矩阵 在向量微积分…

黑塞矩阵(Hessian Matrix)

在机器学习课程里提到了这个矩阵,那么这个矩阵是从哪里来,又是用来作什么用呢?先来看一下定义: 黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数…

hessian矩阵

黑塞矩阵(Hessian Matrix), 又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名…

黑塞矩阵

黑塞矩阵 编辑 黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个 多元函数的二阶 偏导数构成的方阵,描述了函数的局部 曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出&#xff0…

Hessian矩阵(黑塞矩阵)

文章目录 黑塞矩阵与多元函数的极值泰勒展开及海塞矩阵海塞矩阵的意义海塞矩阵在图像处理中的应用基于尺度空间的Hessian简化算法 黑塞矩阵与多元函数的极值 一元函数求极值,例如函数: 通常先求其一阶导数,根据费马定理极值点处的一阶导数一…

H3C链路聚合

实验拓扑 图 1-1 注:如无特别说明,描述中的 R1 或 SW1 对应拓扑中设备名称末尾数字为 1 的设备,R2 或 SW2 对应拓扑中设备名称末尾数字为 2 的设备,以此类推;另外,同一网段中,IP 地址的主机位为…

H3C S6520交换机在现网环境下如何配置链路聚合(现网实操经验)

设备 Device A:H3C S6520-26Q-SI(已堆叠IRF) software, Version 7.1.070,Release 6326H3C Device B:锐捷RG-NBS3100 POE交换机 业务需求 增加公司网络网络冗余高可用性,核心交换机(Device A)至各楼层POE交换机设备Device B配置链路聚合,链路聚合实现两设备间流量在聚…

华三企业交换机链路聚合实例

本期为大家带来华三交换机的链路聚合的实例,请看拓补图 前言:华三的交换机链路聚合和华为的有异曲同工之妙,下面是关键字 华三Bridge-Aggregation1 华为Eth-trunk 华三加入聚合组,在端口下敲 port link-aggregation group 1 华…

华三-以太网链路聚合

1.8.1 二层静态聚合配置举例 1. 组网需求 Device A与Device B通过各自的二层以太网接口GigabitEthernet4/0/1~GigabitEthernet4/0/3相互连接。 在Device A和Device B上分别配置二层静态链路聚合组,并实现设备间VLAN 10和…

H3C交换机链路聚合配置方法

H3C交换机链路聚合配置方法 拓扑图配置步骤交换机A的配置交换机B的配置结果说明 拓扑图 配置步骤 交换机A的配置 采用动态聚合模式:创建二层聚合接口,并配置动态聚合模式 [设备A]interface bridge-aggregation 1 [设备A-Bridge-Aggregation1] link-agg…

华三 h3c 交换机链路聚合

链路聚合 一:二层静态聚合 这里配置链路聚合,根据以往我的习惯和经验,聚合端口和要加入聚合组的端口属性应该一致,要么都是access,要么都是trunk,如果不对的话,请大佬留言告知! […

华三H3C链路聚合配置实例

华三链路聚合配置 上拓扑 命令配置 interface Bridge-Aggregation1 #创建聚合口1 port link-type trunk #聚合口设置为trunk模式 port trunk permit vlan all #放行所有vlan 进入接口,绑定聚合口 interface GigabitEthernet1/0/47 port link-type trunk port trunk…

华三路由器链路聚合配置(华三交换机配置)

华三路由器链路聚合配置拓扑如下: 1.华三路由器链路聚合配置:配置链路聚合 SW1设备配置 <H3C>system-view #进入系统视图 [H3C]sysname sw1 #将设备命名为sw1 [sw1]int…

华三设备链路聚合技术原理与配置

基本原理 背景&#xff1a;设备之间存在多条链路时&#xff0c;由于STP的存在&#xff0c;实际上只有一条链路会转发数据&#xff0c;带宽很大的浪费。 原理&#xff1a;将多个物理接口捆绑成为一个逻辑接口&#xff0c;可以实现增加带宽的目的。 链路聚合的优势&#xff1a;…

华三链路聚合实验配置

文章目录 链路聚合实验实验拓扑实验需求实验解法 总结成员端口的状态聚合模式聚合边缘接口聚合负载分担类型 链路聚合实验 实验拓扑 实验需求 1.按照图示配置PC3和PC4的 2.P地址 3.在SW1和SW2的两条直连链路上配置静态链路聚合&#xff0c;实现链路冗余&#xff0c;并可以增加…

华三交换机配置链路聚合

华三和华为交换机叫 链路聚合 思科交换机叫 端口聚合 二层聚合配置 1、聚合方式&#xff1a; &#xff08;1&#xff09;、lacp 静态链路聚合 动态链路聚合&#xff08;开启lacp模式&#xff0c;常用&#xff09; &#xff08;2&#xff09;、手工负载分担 2、配置步骤 静态端…