Openface (三) EYE GAZE 数据集

article/2025/9/24 17:51:09

三维视线估计

1、Eyediap 数据集 :利用深度摄像头标注 RGB 视频中的眼睛中心点位置和乒乓球位置。把这两个位置映射到深度摄像头记录的三维点云中,从而得到对应的三维位置坐标。这两个三维位置坐标相减后即得到视线方向。
https://www.idiap.ch/en/dataset/eyediap
head_pose.txt :逐帧头部姿势参数。
eye_tracking.txt :逐帧 2D 和 3D 眼睛位置。
ball_tracking.txt :球目标的逐帧 2D 和 3D 位置。
screen_coordinates.txt :逐帧 2D 和 3D 屏幕坐标。
rgb_vga_calibration.txt:RGB Kinect 相机的校准参数。
depth_calibration.txt:深度相机的校准参数。
rgb_hd_calibration.txt:RGB高清摄像头的标定参数。

2、MPIIGaze :利用 RGB 摄像头的公开参数,将 gaze 目标以及眼睛位置坐标(通过一个三维的 6 关键点模型得到)通过算法变换到相机坐标下,然后再计算 gaze 作为 ground truth。但是这种标注方法不仅操作复杂,而且并不准确。
https://www.mpi-inf.mpg.de/departments/computer-vision-and-machine-learning/research/gaze-based-human-computer-interaction/appearance-based-gaze-estimation-in-the-wild

3、MPIIGaze 与 MPIIFaceGaze 使用的是同一批数据,但并不是同一个数据集。MPIIGaze 数据集并不包含全脸图片;MPIIFaceGaze 的 ground truth 定义方式与 MPIIGaze 不同。
https://www.mpi-inf.mpg.de/departments/computer-vision-and-machine-learning/research/gaze-based-human-computer-interaction/its-written-all-over-your-face-full-face-appearance-based-gaze-estimation/

原始数据集:http://datasets.d2.mpi-inf.mpg.de/MPIIGaze/MPIIFaceGaze.zip
归一化数据:http://datasets.d2.mpi-inf.mpg.de/MPIIGaze/MPIIFaceGaze_normalized.zip
图像保存在Maltab中,预处理需要调整RGB通道,水平翻转图像,并旋转90度。
new_image = original_image(:,:,[3 2 1]);
new_image = flip(new_image, 2);
new_image = imrotate(new_image, 90);

Label:
每个参与者文件夹中都有 pxx.txt 文件。其中保存信息:
Dimension 1:图像文件路径和名称。
Dimension 2~3:注视点在屏幕上的坐标,以像素为单位,实际屏幕尺寸可以在“校准”文件夹中找到。
Dimension 4~15:六个面部标志的 (x,y) 位置,即四个眼角和两个嘴角。
Dimension 16~21:基于 6 点的 3D 人脸模型、旋转和平移在相机坐标系中估计的 3D 头部姿态:我们在 [ Eye Tracking for Everyone] 中实现了相同的基于 6 点的 3D 人脸模型.
https://www.cnblogs.com/hansjorn/p/12575838.html
https://blog.csdn.net/qq_40136542/article/details/109343631

Dimension 22~24 (fc):相机坐标系中的人脸中心,是6个焦点标志人脸模型的平均3D位置。由于头部和面部的中心不同,头部平移略有不同。
Dimension 25~27 (gt):相机坐标系中的 3D 凝视目标位置。注视方向可以计算为gt - fc。
维度 28:哪只眼睛(左眼或右眼)用于 [ Appearance-based Gaze Estimation in the Wild] 中的评估子集。

每个参与者都有一个“校准”文件夹,其中包含
(1)Camera.mat:笔记本电脑相机的内在参数。“cameraMatrix”:相机的投影矩阵“distCoeffs”:相机畸变系数。“retval”:均方根 (RMS) 重投影误差。“rvecs”:旋转向量。“tvecs”:平移向量。
https://blog.csdn.net/weixin_43206570/article/details/84797361
(2) monitorPose.mat:相机坐标中图像平面的位置。“rvecs”:旋转向量。“tvecs”:平移向量。
(3)creanSize.mat:笔记本电脑屏幕尺寸。“height_pixel”:以像素为单位的屏幕高度。“width_pixel”:以像素为单位的屏幕宽度。“height_mm”:以毫米为单位的屏幕高度。“宽度_毫米”:

左轴显示在屏幕坐标系中估计和真实凝视位置之间的欧氏误差,以毫米为单位。右轴显示了相应的角度误差,这是根据数据集提供的摄像机和监视器校准信息以及3D注视估计任务的相同参考位置近似计算出来的。在这里插入图片描述
左轴是由估计的和真实的三维注视向量直接计算出来的角误差。右轴显示相应的欧几里德误差,该误差是通过将估计的三维注视向量与屏幕平面相交来近似的。
在这里插入图片描述

在这里插入图片描述

注视点估计
https://gazecapture.csail.mit.edu/
收集并公布了一个涵盖 1400 多人、240 多万样本的数据集,GazeCapture
数据集:https://gazecapture.csail.mit.edu/download.php
**[Eye Tracking for Everyone. CVPR 2016]**模型在 iPhone 上的误差是 1.71cm,在平板上的误差是 2.53cm;代码: https://github.com/CSAILVision/GazeCapture
[On-device few-shot personalization for real-time gaze estimation. ICCV 2019] 精简后的模型在 iPhone 上的误差为 1.78cm,在 Google Pixel 2 Phone 的处理速度达到 10ms/帧。


http://chatgpt.dhexx.cn/article/hSXuLC35.shtml

相关文章

OpenFaceswap 入门教程(1):软件安装篇

众多换脸软件中,DeepFaceLab其实是安装和使用最方便,更新最快的,但是由于其没有可是化界面,对于很新手来说,可能入门还是有点难度。那么今天就来介绍一款操作极其直观和简单的换脸软件OpenFaceSwap。这款软件的安装和使…

「图像处理」使用Python+Openface实现人脸识别与关键点(landmarks)检测

1、如何在Python上安装OpenFace 下载安装 1、首先需要下载OpenFace源码: (Anaconda、Git等自行提前安装) git clone https://github.com/cmusatyalab/openface.git 2、接着进入openface路径 cd openface 3、执行: pip ins…

openface的导出数据说明

openface的导出数据说明,因为自己使用的时候一个一个翻译起来比较麻烦,就自己弄了一个。 原文GitHub地址:https://github.com/TadasBaltrusaitis/OpenFace/wiki/Command-line-arguments ZD到最后的列:是面部动作编码系统 &#…

【TensorFlow】人脸识别OpenFace、Face-recognition、Insightface和FaceNet源码运行

比较人脸识别OpenFace、Face-recognition、Insightface: FaceNet源码运行 https://github.com/davidsandberg/facenet 1、使用Anaconda安装TensorFlow; 2、更新scipy库; 3、添加os.environ["KMP_DUPLICATE_LIB_OK"]"TRUE&…

windows下OpenFace安装及测试

想使用openface来实现以下视线估计的内容,但是搜了好多都没有具体的使用方案,于是经历了半周,仔细阅读官方文档和参考了一些大佬的经验,终于运行成功了,在此记录一下,嘻嘻 安装 openceface安装官方文档&…

Ubuntu 14.04下openface的环境搭建

如需转载请标明出处:http://blog.csdn.net/itas109 QQ技术交流群:129518033 一、什么是openface? openface是一个基于深度神经网络的开源人脸识别系统。该系统基于谷歌的文章FaceNet: A Unified Embedding for Face Recognition and Clust…

Windows 11 下 OpenFace 2.2.0 的安装

写在前面 最近需要做关于面部的东西,所以需要使用到OpenFace这个工具,本文仅用来记录本人安装过程以供后续复现,如果可以帮助到读者也是非常荣幸。 安装过程 不编译直接使用 这种方法可以直接从官方下载下来编译好的exe以及gui进行使用&a…

Openface人脸识别的原理与过程

Openface人脸识别的原理与过程: https://zhuanlan.zhihu.com/p/24567586 原理可参考如下论文: 《OpenFace: A general-purpose face recognition library with mobile applications》 第一步:找出所有的面孔 我们流水线的第一步是人脸检测。…

openface在pycharm上的安装

1、下载openface相关文件 链接:下载openface:GitHub - cmusatyalab/openface: Face recognition with deep neural networks. 下载后得到一个openface-master的文件夹 2、输入cmd,进入命令提示符,找到自己保存的openface-master文件夹路径。 …

OpenFace使用OpenFace进行人脸识别

1.OpenFace简介 http://cmusatyalab.github.io/openface/ 安装就按照官方教程来就好了 装完各种依赖之后运行一下命令 https://github.com/cmusatyalab/openface.git --recursive cd openface sudo python setup.py install sh modles/get-models.sh 2.素材准备 准备两…

【OpenFace】

OpenFace: http://cmusatyalab.github.io/openface/ 一、什么是Openface? Openface是一个基于深度神经网络的开源人脸识别系统。该系统基于谷歌的文章FaceNet: A Unified Embedding for Face Recognition and Clustering。Openface是卡内基梅隆大学的 B…

OpenFace

OpenFace是一个包含了landmark,head pose,Actionunions,eye gaze等功能,并包含训练和检测所有源码的开源人脸框架,论文为,OpenFace: an open source facial behavior analysis toolkit OpenFace所用到的库包…

win10下openface快速安装与使用

win10下openface快速安装与使用 情况说明环境下载openface下载模型openface的简单使用 情况说明 我发现openface的安装方法五花八门,大多都比较复杂,而openface分很多版本,很多安装教程混在一起,导致我自己安装时下载下混了。 本…

Windows系统下的Openface安装及使用--亲测有效

一、配置openface所需环境 openface主要依赖于opencv和dlib等工具包,工具包安装可winr进入用户终端下载安装(需要先下载python),或者下载ananconda,创建anaconda虚拟环境安装: pip install opencv-python…

OpenFace简介

推荐 如下博文 https://blog.csdn.net/qq_14845119/article/details/53994607 OpenFace是一个包含了landmark,head pose,Actionunions,eye gaze等功能,并包含训练和检测所有源码的开源人脸框架,论文为,Ope…

Openface的安装和使用

openface的安装与使用 环境:我的电脑是笔记本电脑,win10系统,用的是pycharm和annaconda。 一、首先下载openface安装包,并且安装 1.下载地址:https://codeload.github.com/cmusatyalab/openface/zip/master 2.下载后…

OpenFace学习(1):安装配置及人脸比对

前言 前几天在网上看到了openface(链接),觉得挺有趣就下载配置了一下,稍微修改了一下跑了个demo,效果还是很不错的。这里分享下安装配置的过程以及demo。 简介 openface是一个基于深度神经网络的开源人脸识别系统&a…

“H5移动端App—数据统计分析”项目展示

1、具有切换商城展示功能 2、通过不同的统计图样式分别展示不同的数据

Vant简单H5 web app【小试牛刀】

index.html <!DOCTYPE html> <html><head><meta charset"utf-8"><!--谷歌浏览器&#xff08;手机端&#xff09;顶部颜色--><meta name"msapplication-TileColor" content"#4183fd"><meta name"the…

推荐几个H5、app制作开发工具

我们已经进入移动互联网时代&#xff0c;而app是移动互联网的载体。传统app开发面临成本高、周期长等问题&#xff0c;因此各类快速生成app的工具层出不穷。企业拥有了app才能实现互联网营销和互联网推广。中国有近7000万传统中小型企业&#xff0c;app会帮助这些企业实现互联网…