Non-local的一些理解

article/2025/10/9 8:19:53

其实non-local就是先计算该点(点为向量,维度是通道数)与其他点(也是向量,维度是通道数)的相似度,对这个相似度进行归一化,得到各个点的权重,这个权重再对应乘以对应点的特征映射值(g(x)),加起来的结果就是当前点的输出yi,这样yi就包含了全局信息,而且利用相似度,相似度其实暗示其他点对这个点的贡献度,这样加权得来,其他点对该点联系越大,相似度越大,那么对yi的影响就越大,这也说明non-local是合理的,其实它这样就与nlp中的注意力机制原理很像,注意其中的联系

字面上也是非常容易理解non local这种操作,就是在提取某处特征时利用其周围点的信息,这个“周围”既可以是时间维度的,也可以是空间维度的。时间维度的话就如这篇文章中的视频分类例子一样,可以更好地利用时序上的信息。

 

 

 

看上面这个图,我们能了解到,其实在这里xi是一个向量,它是维度为通道大小,看那个f,计算相似度,计算的是当前的点与其他点的相似度,由公式(1)看出,输出的一点是该点与其他点的相似度乘以对应其他点的特征加起来所得,其实就是利用相似度当权重,然后加权可得,与全连接很类似,只不过这里对权重进行了规约(即除以C(X)那个操作),其实与我们在NLP中学的注意力机制很像

 

 


http://chatgpt.dhexx.cn/article/RHdZGIDT.shtml

相关文章

NOT IN 和 IS NULL

1、题目: 获取所有非manager的员工的 emp_no 2、答案 2.1、方法1:NOT IN 子查询 select emp_no from employees where emp_no not in (select emp_no from dept_manager); 2.2、方法2:LEFT JOIN 左连接 IS NULL SELECT e.emp_no FROM em…

Non-local 理解

Non-local和谷歌的all is attention 如出一辙。 也可能是反着,all is attention和non-local如出一辙。 看的重点是THWxTHW这个矩阵,直接暴力所有可能性。 因此公式1公式3公式6就是Figure2。换句话说Figure2表示f()函数采取Embedded Gaussian且添加了res…

Nomad 简介

摘要: Nomad 简介 Nomad是一个管理机器集群并在集群上运行应用程序的工具。 Nomad的特点: 支持docker,Nomad的job可以使用docker驱动将应用部署到集群中。 Nomad安装在linux中仅需单一的二进制文件,不需要其他服务协调,Nomad将资源…

[:,None]和[None,:]

记录一下新知识点.首先corr_ij是一个一维数组 corr_ij打印了一下他是个一列的数组 # 一列43行 pd.DataFrame(corr_ij)这里转置并不影响,都是一列,主要看[:,None],效果.发现并没有区别 # None增加维度 corr_ij.T[:,None] pd.DataFrame(corr_ij.T[:,None])接下来看[None,:]产生…

出现“no_init_all“的解决办法

当你的编译器出现这种错误时,只需要在winnt.h头文件中 即可消除错误提示 补充一点 这一代码块是微软工程师用于在旧版本的VS中消除该错误提示的预编译头 虽然微软的工程师们宣称他们在最新的VS2019中已经修复了该错误,但是仍有很多人受到了该错误的困扰…

802.11--WPS(Wi-Fi Protected Setup)协议简析

一、概述 WPS全称为Wi-Fi Protected Setup,是WSC规范早期的名字,WSC全称为Wi-Fi Simple Configuration,该项技术用于简化SOHO环境中无线网络的配置和使用。举一个简单的例子,配置无线网络环境时,网管需要首先为AP设置…

winp

winpcap 百科名片 winpcap(windows packet capture)是windows平台下一个免费,公共的网络访问系统。开发winpcap这个项目的目的在于为win32应用程序提供访问网络底层的能力。 [ 编辑本段] 【winpcap 驱动各项功能】   1> 捕获原始数据包,包括在共享…

360路由器WISP无线万能中继的应用

已有一个千兆路由器接入千兆宽带,由于不方便拉网线,需要通过无线的方式接入一台360无线路由器5G,再连线到台式机百兆网卡实现台式机百兆上网速度。 【前提条件】 1、全千兆路由器能提供至少802.11ac(俗称5G WiFi )&am…

ROS重大功能,无线WISP和桥接

过节不能上网哪行?由于要到新家过春节,上网成了一个问题。 虽说邻居都是同事可以用他们的网络,用一台普通无线路由转发无线信号也不是不行,但是缺少了Route ROS ,网络是发挥不了最大功能嘀,来这里的是都懂吧…

安装wpa_supplicant工具

步骤: 1. 编译libnl2. 编译openssl3. 编译wpa_supplicant本文版本说明: PackageVersionlibnllibnl-3.5.0opensslopenssl-1.1.11wpa_supplicantwpa_supplicant-2.9 本次配置的环境是 ubuntu 16.04LTS(64位) 内核版本 4.4.0一、下载libnl程序…

WiFi WPS的来龙去脉

WiFi WPS的来龙去脉 1 什么是WPS2 系统构成3 协议流程3.1 PIN方式3.2 PBC方式3.3 帧类型3.4 M1~M8功能说明 4 数据格式5 总结 1 什么是WPS WPS(WiFi Protected Setup),又称为WSC(WiFi Simple Configuration)。诞生于2…

AJDK-Wisp协程

李三红在接受采访时表示:“如果没有我们的尝试,Johannes Kepler University(JKU) Linz在HotSpot TM JVM 上的协程实现,或许要在相当长的一段时间被束之高阁。Alibaba JVM的Wisp协程技术,基于JKU 的协程实现,在上面做了…

无线路由器的AP、Client、WDS、WISP使用功能图解(清晰明了)

原文链接:http://www.anywlan.com/article-4180-1.html 先从有线路由器说起。现在的家用有线路由器,一般都有一个 WAN 口和几个 LAN 口,可以等效看成是三个部分组成:一个有一个 WAN 口和一个 LAN 口的路由器,一个有几个…

使用 NVIDIA Kaolin Wisp 重建3D场景

使用 NVIDIA Kaolin Wisp 重建3D场景 近年来,神经领域的研究已经成为计算机图形学和计算机视觉领域越来越热门的话题。 神经域可以通过使用以坐标为输入并在该位置输出相应数据的神经网络来表示形状、外观、运动和其他物理量等 3D 数据。 这些表示已被证明在生成建…

【网络】无线路由器的AP、Client、WDS、WISP使用功能图解(清晰明了)

1、有线路由器 有线路由器组成:一个有一个 WAN 口和一个 LAN 口的路由器、一个有几个 LAN 口的网络交换机,一个接在 LAN 口的 DHCP 服务器。如下图所示 2、无线路由器:AP模式 在路由器的 LAN 口上,接了一个无线交换机。这个无…

WISP模式

WISP模式是什么意思?用户在设置无线路由器桥接的时候,发现有一个WISP模式;但是不少用户都不知道WISP模式是什么意思,本文将对WISP模式进行一些简单的介绍。 WISP是Wireless Internet Service Provider的简称,中文名称是…

FAT32文件系统格式详解(图文针对具体文件存储,分析fat32 SD卡)

一. 用winhex工具分析SD卡(FAT32) WinHex.exe -> 工具 -> 打开磁盘 -> 选中SD卡设备 图(1) 打开后主界面如下: 图(2) 二. FAT32磁盘格式分析 当磁盘有多个分区时: fat32磁盘是…

Linux笔记七 常用分区格式 文件系统类型详解 挂载

目录 概念描述一、磁盘介绍二、分区介绍三、常用文件系统四、挂载实际运用一、lsblk 查看系统硬盘信息二、df 查看分区使用情况三、blkid查看块设备属性四、MBR分区格式五、格式化文件系统六、mount挂载七、umount卸载八、开机自动挂载九、GPT分区格式 概念描述 当我们本机空间…

概念-文件系统及文件类型

概念-文件系统及文件类型 Linux 文件系统的特点Linux 目录结构规范Linux 文件系统目录文件应用程序的组成部分文件路径Linux 文件类型文件的相关信息文件元数据和节点表结构inode 表和目录cp 和inoderm 和inodemv 和inode Linux 文件系统的特点 1 文件和目录被组织成一个单根倒…