PFLD+GhostNet+MobileOne=PFLD_GhostOne,重参数化让PFLD重生,精度提升超过4%,速度提升超过55%,代码已开源

article/2025/11/11 12:34:10

  在两年前,我曾经分享过利用GhostNet对PFLD进行优化的文章——《人脸关键点检测算法PFLD的优化实战记录》,那里面介绍了经过各种奇技淫巧,GhostNet确实能够提升PFLD的速度和精度,暂且称呼这个方法为PFLD-GhostNet,而且分享到GitHub:FaceLandmark_PFLD_UltraLight后获得六十多颗星,也算老怀安慰了。
  两年后,在机缘巧合下接触到Apple大佬的MobileOne,灵机一触觉得MobileOne可能对PFLD-GhostNet还会有进一步的提升,决定尝试一下,便有了今天这篇文章。这次主要记录将GhostNet模块与MobileOne模块进行结合,对PFLD进行进一步优化的实战经验,为需要优化人脸关键点检测算法的小伙伴们提供参考,新的方法我将它叫做PFLD-GhostOne。这个PFLD-GhostOne模型比Slim版本的PFLD-GhostNet精度提升了近3.75%,相比原始PFLD更是提升了4.25%,NCNN推理速度比Slim版本的PFLD-GhostNet提升了超过11%,比原始版本的PFLD提升超过55%。

  • MobileOne简介
  • PFLD-GhostOne优化过程
  • 优化结果

开源代码在以下GitHub链接,欢迎大家多多点星收藏:)
GitHub:PFLD_GhostOne
 

MobileOne简介

  有关GhostNet和PFLD的介绍可以参考我两年前分享的文章《人脸关键点检测算法PFLD的优化实战记录》,这里主要介绍一下MobileOne。
  MobileOne是2022年Apple大佬提出来的用于移动设备的网络结构,利用重参数化可以有效提高轻量级网络的性能,当然重参数化是RepVGG最先提出来,有兴趣的童鞋可以去膜拜一下,MobileOne只是站在RepVGG巨人的肩膀上提出来的模型结构。如下图所示,MobileOne的基础模块在训练时是多分支的卷积结构,由于卷积和BN都是线性操作,经过重参数化后这个多分支结构可以合并成一个卷积和BN操作,因此在推理阶段,这个多分支结构就可以等效为单通路结构,可以大大减少推理阶段的运算量。在下面的性能表格中可以看到最轻量级的MobileOne-S0比ShuffleNetV2-x1.0的精度已经有一个较大的提升,推理速度两者也相当。

在这里插入图片描述

↑ 图1 MobileOne Block结构

 

在这里插入图片描述

↑ 图2 MobileOne性能表

 

PFLD-GhostOne优化过程

在这次优化PFLD模型的过程中,最最最重要的部分就是将MobileOne的重参数化技术引入到GhostNet中,我将这个结合体称为GhostOne,正因为这个GhostOne模块,可以大大提升PFLD模型的性能。

GhostOne模块

在介绍GhostOne之前,我们先重温一下GhostNet的基础结构。
GhostNet的基础结构Ghost Module如图3所示:
在这里插入图片描述

↑ 图3 Ghost Module

 

通过堆叠Ghost Module形成的Ghost Bottleneck如图4所示:
在这里插入图片描述

↑ 图4 Ghost Bottleneck

 

现在进入正题,介绍今天的主角GhostOne。
GhostOne Module的整体结构如图5所示:
在这里插入图片描述

↑ 图5 GhostOne Module

 

  可以看到GhostOne Module其实和Ghost Module的整体结构非常相像,两者的最大区别就是GhostOne Module利用MobileOne中的多分支卷积结构代替了Ghost Module中单一的卷积操作。在训练过程中两者的结构可能差异比较大,一旦经过重参数化后,在推理过程中两者的结构理论上是一模一样的,计算量和参数量也都是一样的,因此GhostOne Module对比原始的Ghost Module,在推理速度上是一样的。

通过堆叠GhostOne Module形成的GhostOne Bottleneck如图6所示:
在这里插入图片描述

↑ 图6 GhostOne Bottleneck

 

  通过对比Ghost Bottleneck可以看出,GhostOne Bottleneck缺少了Skip Connection,这里参考的是YoloV7的做法,YoloV7的作者发现,当两个重参数化模块串联时,这个Skip Connection会破坏模型的特征表达能力,最终便有了上面的GhostOne Bottleneck结构。
  最终的PFLD-GhostOne模型结构,就是在PFLD-GhostNet的基础上,直接将上述的GhostOne Bottleneck替换掉原始的Ghost Bottleneck,同时把一般的卷积操作也替换成MobileOne Block,在模型精度有比较大的提升的同时,推理速度也有了一个质的提升。PFLD-GhostOne结构如表1:

InputOperatortcns
112x112x3MobileOneBlock 3×3-6412
56x56x64DW-MobileOneBlock 3×3-6411
56x56x64GhostOne Bottleneck1.58032
28x28x80GhostOne Bottleneck2.59632
14x14x96GhostOne Bottleneck3.514442
7x7x144GhostOne Bottleneck1.51611
7x7x16MobileOneBlock 3×3-3211
7x7x32Conv7×7-12811
(S1) 56x56x64
(S2) 28x28x80
(S3) 14x14x96
(S4)  7x7x144
(S5)  1x1x128
AvgPool
AvgPool
AvgPool
AvgPool
-
-
-
-
-
-
64
80
96
144
128
1
1
1
1
-
-
-
-
-
-
S1,S2,S3,S4,S5Concat+Full Connection-1361-

↑ 表1 PFLD-GhostOne结构

说明:t代表GhostOne Bottleneck中间通道的拓展倍数,c代表GhostOne Bottleneck的输出通道数目,n代表GhostOne Bottleneck的串联个数,s代表stride,模型所有的MobileOne Block中的分支数目都是6。

 

优化结果

WFLW测试结果
模型输入大小为112x112

ModelNMEOpenVino Latency(ms)NCNN Latency(ms)ONNX Model Size(MB)
PFLD0.054381.65(CPU) 2.78(GPU)5.4(CPU) 5.1(GPU)4.66
PFLD-GhostNet0.053471.79(CPU) 2.55(GPU)2.9(CPU) 5.3(GPU)3.09
PFLD-GhostNet-Slim0.054102.11(CPU) 2.54(GPU)2.7(CPU) 5.2(GPU)2.83
PFLD-GhostOne0.052071.79(CPU) 2.18(GPU)2.4(CPU) 5.0(GPU)2.71

说明:OpenVino和NCNN的推理时间均在11th Gen Intel® Core™ i5-11500下进行统计。

 
作者 @Anthony Github
2022 年 10月


http://chatgpt.dhexx.cn/article/rn63j3Zq.shtml

相关文章

LightGBM -- Light Gradient Boosting Machine

LightGBM 是微软开源的一个基于决策树和XGBoost的机器学习算法。具有分布式和高效处理大量数据的特点。 更快的训练速度,比XGBoost的准确性更高更低的内存使用率,通过使用直方图算法将连续特征提取为离散特征,实现了惊人的快速训练速度和较低…

Mifare UltraLight

Mifare UltraLight又称为MF0,从UltraLight(超轻的)这个名字就可以看出来,它是一个低成本、小容量的卡片。低成本,是指它是目前市场中价格最低的遵守ISO14443A协议的芯片之一;小容量,是指其存储容量只有512bit(Mifare S…

Low-light images enhancement/暗光/低光/微光增强系列:Attention-guided Low-light Image Enhancement(详解)

以下文字为博主翻译并添加了自己的理解,斜体为博主自己的想法,若有出错请指出。 摘要 暗光图像增强需要同时有效地处理颜色、亮度、对比度、伪影和噪声等多种因素。本文提出了一种新颖的注意力引导增强方案,并在此基础上构建了 端到端多分支…

STM32+PN532写UltraLight标签

第一次写博客记录下日常开发,最近公司一个项目需要用到NFC模块,所以开始了解NFC相关的一些知识,并在此MARK一下。 1、项目背景: 需要一个NFC模块为一个Mifare UltraLight的NFC标签写入一个蓝牙MAC地址,让手持设备接触…

零基础CSS入门教程(30)–CSS布局实例

点此查看 所有教程、项目、源码导航 本文目录 1. 前言2. 本章任务3. 开发过程3.1 设定全局样式3.2 头部标题栏样式3.3 导航栏样式3.4 内容区域3.5 底部版权区域 4. 小结 1. 前言 本篇是JavaWeb学习之路,CSS部分的最后一章。 从第24章初识CSS,到第53章C…

HTML+CSS的小实例

通过一个月以来对HTML5CSS的学习。这篇随笔给大家来做一个简单的网页中常见的导航栏。 这些都称之为网页中的导航栏。 我简单的做了一个某宝和58同城的导航栏,供大家学习参考。 一、58同城导航栏: 解析:首先我们来看到这个导航栏,…

CSS简单网页示例

简单今日头条页面实现: <!DOCTYPE html> <html><head><meta charset"utf-8"><title>今日头条</title><style>/* 设置body */body{/* 取消doby的内边距 */margin: 0;}/* 设置最底层标签d1 */.d1{/* 设置底层标签的大小 */…

css背景 ( 6种实例)

css背景实例 图片网站背景1.设置页面的背景颜色2.设置图像作为页面背景2.1图片加入至背景的方式2.1.1通过链接 2.2背景样式 3.定位背景图像4.固定背景5. 多图片背景6.渐变背景 CSS背景属性 图片网站 阿里巴巴矢量图标库 pixabay 图片转链接网站 背景 1.设置页面的背景颜色 …

CSS---‘样式’基础用法 与 案例

1、外部样式表 方式1&#xff1a; <link rel"stylesheet" type"text/css" href"文件路径"></link>方式2&#xff1a;&#xff08;常用&#xff09; <style>import url(文件地址) </style> 2、伪类选择器 a:hover{属性…

HTML+CSS案例

综合案例 1、分析1.1 整体结构1.2 部分结构 2、代码部分2.1 初始化_CSS2.2 头部2.2.1 头部_HTML2.2.2 头部_CSS 2.3、中间轮播图2.3.1 中间轮播图_HTML2.3.2 中间轮播图_CSS 2.4 精品推荐2.4.1 精品推荐_HTML2.4.2 精品推荐_CSS 2.5 底部样式2.5.1 底部样式_HTML2.5.2 底部样式…

css 的常用案例

Css 的几个常用案例 1. css 编写三角形 <!-- 三角形 --><div classtriangle-page><div class"triangle-top"></div><div class"triangle-right"></div><div class"triangle-bottom"></div>&l…

HTML CSS JavaScript简单案例实现

文章目录 简易计算器个人简历登录页面注册页面注册&#xff08;一&#xff09;注册&#xff08;二&#xff09; html、css 实现一个漂亮的表格书城列表页面简单框架全选反选功能 简易计算器 calculator.html <!doctype html> <html> <head><meta charse…

CSS基础学习案例

CSS–小米商城案例 小米商城案例目录 CSS--小米商城案例1.内容回顾2.案例顶部菜单3.二级菜单3.1 划分区域3.2搭建骨架 4.整合 顶部菜单 二级菜单小结5. 推荐菜单5.1整合案例如下5.2 小结 6.CSS进阶知识点6.1 hover&#xff08;伪类&#xff09;6.2 after&#xff08;伪类&…

html/css 个人网站实例(一)

显示效果 HTML代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>alalasheep的个人网站</titl…

CSS实例 简单案例

CSS文件 注意改变图片的样式时&#xff0c;是要加给图片所在的标签 比如p /* 整体 */ body {font: 16px/28px "Microsoft YaHei"; }/* 大标题 */ h1 {font-weight: 600;text-align: center; }/* 连接a */ a {text-decoration: none; }/* 时间 来源 */ .scor {font-…

CSS案例(1)

写在前面&#xff1a;本篇所有 css 均使用内嵌式引入。若想使用外链式&#xff0c;需先新建 .css 文件&#xff0c;再通过 link 标签引入到 html 里&#xff0c;样式部分的代码基本不用做其他修改。 目录 1 导航栏样式 2 商品展示页面 3 简单新闻页面 4 布局样式 1 导航栏样…

小案例CSS

代码&#xff1a; <!DOCTYPE html> <html lang"en"> <head> <meta charset"UTF-8"> <meta http-equiv"X-UA-Compatible" content"IEedge"> <meta name"viewport" content"widthde…

CSS常见样式的介绍和使用(附加案例)

CSS样式 一、css介绍 层叠样式表(英文全称&#xff1a;Cascading Style Sheets) ​ 是一种用来表现HTML标准通用标记语言的一个应用&#xff09;或XML&#xff08;标准通用标记语言的一个子集&#xff09;等文件样式的计算机语言。CSS不仅可以静态地修饰网页&#xff0c;还可以…

CSS 示例

基础内容 引入样式表&#xff1a;<link rel"stylesheet" href"test.css"> em&#xff1a;相对大小单位 选择器 示例说明#id选择所有类.clsss选择所有类p选择所有p标签&#xff0c;可以加逗号分组p em后代选择器&#xff0c;选中p标签中所有em标签…

CSS-200个小案例(一)

最近我在youtube上跟着大神学习200个CSS小案例&#xff0c;作者Online Tutorials 编码的内容很实用&#xff0c;案例中涉及定位、变换、动画等概念&#xff0c;适合进一步学习和巩固CSS知识&#xff0c;能帮助我们实现页面的特效。 youtube视频链接&#xff1a;https://www.you…