一、OpenCV简介

OpenCV（全称：Open Source Computer Vision Library），是一个跨平台的计算机视觉库。OpenCV可用于开发实时的图像处理、计算机视觉以及模式识别程序。
​ OpenCV用C++语言编写，它的主要接口也是C++语言，但是依然保留了大量的C语言接口。该库也有大量的Python、Java和MATLAB/OCTAVE(2.5)的接口。如今也提供对于C#、Ch、Ruby、GO的支持。

二、OpenCV的基本使用

1.安装OpenCV模块

pip install opencv-python

2.读取图片

显示图像是OpenCV最基本的操作之一，imshow()函数可以实现该操作。imshow()函数有两个参数：显示图像的帧名称以及要显示的图像本身。
如果直接调用imshow()函数，只能短暂地显示图像。要保证图像一直在窗口上显示，要通过waitKey()函数。waitKey()函数的参数为等待键盘触发的时间，单位为毫秒，返回值为-1（表示没有键被按下）。

示例代码：

# 导入模块
import cv2 as cv# 读取图片
image = cv.imread('test.png')  # 路径中不能有中文，否则加载图片失败
# 显示图片
cv.imshow('read_img', image)
# 等待键盘输入 单位毫秒 传入0则是无限等待
cv.waitKey(0)
# 由于OpenCV底层是C++编写的，需要释放内存
cv.destroyAllWindows()

测试图片：

测试效果：

---

3.图片灰度转换

OpenCV中有数百种关于在不同色彩空间之间转换的方法。当前，在计算机视觉中有三种常用的色彩空间：灰度、BGR以及HSV（Hue，Saturation，Value）。

• 灰度色彩空间是通过去除彩色信息来将其转换成灰阶，灰度色彩空间对中间处理特别有效，比如人脸识别。
• BGR即蓝、绿、红色彩空间，每一个像素点都由一个三元数组来表示，分别代表蓝、绿、红三种颜色。网页开发者可能熟悉另一个与之相似的颜色空间——RGB，它们只是颜色顺序不同。
• HSV，H（Hue）是色调，S（Saturation）是饱和度，V（Value）表示黑暗的程度（或光谱另一端的明亮程度）。
• 灰度转换的作用是：转换成灰度的图片的计算强度得以降低。

示例代码：

import cv2 as cv# 加载图片
img = cv.imread('test.png')
# 显示图片
cv.imshow('BGR image', img)
# cv2读取图片的通道是BGR（蓝绿红）
# PIL读取图片的通道是RGB
# 将图片灰度转换
gray_img = cv.cvtColor(img, code=cv.COLOR_BGR2GRAY)
# 显示转换后的图片
cv.imshow('gray_image', gray_img)
# 保存图片
cv.imwrite('gray_test.png', gray_img)
# 等待键盘输入
cv.waitKey(0)
# 释放内存
cv.destroyAllWindows()

效果：

4.修改图片尺寸

示例代码：

import cv2 as cv# 加载图片
img = cv.imread('test.png')# 显示图片
# cv.imshow('input image', img)
print("原图片的形状", img.shape)
# 修改图片尺寸
# resize_img = cv.resize(img, dsize=(110, 160))
resize_img = cv.resize(img, dsize=(400, 360))
print("修改后图片的形状", resize_img.shape)
cv.imshow('resize_img', resize_img)
# 键盘输入q的时候，退出
while True:if ord('q') == cv.waitKey(0):break
# 释放内存
cv.destroyAllWindows()

效果：

5.绘制矩形、圆

OpenCV可以对图片进行任意编辑、处理。

示例代码

import cv2 as cv
img = cv.imread('test.png')
# 左上角的坐标是(x,y)，矩形的宽度为w，高度为h
x, y, w, h = 50, 50, 80, 80
# 画矩形
cv.rectangle(img, (x, y, x+w, y+h), color=(0, 255, 255), thickness=2) # color=BGR，thickness参数表示画笔的粗细/线条宽度
# 画圆
# center元组指原点的坐标，radius为半径
cv.circle(img, center=(x+w//2, y+h//2), radius=w//2, color=(0, 0, 255), thickness=2)
resize_img = cv.resize(img, dsize=(420, 360))
# 显示图片
cv.imshow('result_image', resize_img)
cv.waitKey(0)
# 释放内存
cv.destroyAllWindows()

效果：

---

6.人脸检测

6.1Haar级联的概念

由于灯光、视角、视距、摄像头抖动以及数字噪声的变化，图像细节变得不稳定。因此，提取出图像的细节对产生稳定分类结果和跟踪结果很有用。这些提取的结果被称为特征，专业的表述为：从图像数据中提取特征。两个图像的相似程度可以通过它们对应特征的欧氏距离来度量。
Haar特征是一种用于实现人脸跟踪的特征。每一个Haar特征都描述了相邻图像区域的对比模式。例如，边、顶点和细线都能生成具有判别性的特征。

6.2获取Haar级联数据

OpenCV提供了人脸检测所需的XML文件，可用于检测静止图像、视频和摄像头所得到图像中的人脸。

• 人脸检测器（默认）：haarcascade_frontalface_default.xml
• 人脸检测器（快速Harr）：haarcascade_frontalface_alt2.xml
• 人脸检测器（侧视）：haarcascade_profileface.xml
• 眼部检测器（左眼）：haarcascade_lefteye_2splits.xml
• 眼部检测器（右眼）：haarcascade_righteye_2splits.xml
• 嘴部检测器：haarcascade_mcs_mouth.xml
• 鼻子检测器：haarcascade_mcs_nose.xml
• 身体检测器：haarcascade_fullbody.xml
• 人脸检测器（快速LBP）：lbpcascade_frontalface.xml

6.3使用OpenCV进行人脸检测

6.3.1静态图像中人脸检测

6.3.1.1检测人脸

示例代码：

import cv2 as cvdef face_detect_demo():# 将图片转换为灰度gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY)# 加载特征数据face_detector = cv.CascadeClassifier('D:\software\Python\Lib\site-packages\cv2\data\haarcascade_frontalface_default.xml')# faces为检测区域faces = face_detector.detectMultiScale(gray)for x, y, w, h in faces:# 绘制矩形cv.rectangle(img, (x, y), (x+w, y+h), color=(0, 255, 0), thickness=2)# 显示图片cv.imshow('result', img)# 加载图片
img = cv.imread('huge.jpeg')
face_detect_demo()
# cv.imshow('input image', img)
cv.waitKey(0)
cv.destroyAllWindows()

效果：

---

6.3.1.2检测多张人脸

示例代码：

import cv2 as cv# 定义人脸检测方法
def face_detect_demo():# 将图片灰度gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY)# 加载特征数据face_detector = cv.CascadeClassifier('D:\software\Python\Lib\site-packages\cv2\data\haarcascade_frontalface_default.xml')# faces为检测区域# 发现有一些没检测出来faces = face_detector.detectMultiScale(gray, scaleFactor=1.01, minNeighbors=3, maxSize=(40, 40), minSize=(35, 35))for x, y, w, h in faces:print(x, y, w, h)cv.rectangle(img, (x, y), (x+w, y+h), color=(0, 0, 255), thickness=2)cv.circle(img, center=(x+w//2, y+h//2), radius=w//2, color=(0, 255, 0), thickness=2)# 显示图片cv.imshow('result', img)# 加载图片
img = cv.imread('2.jpeg')
# 调用人脸检测方法
face_detect_demo()
cv.waitKey(0)
cv.destroyAllWindows()

测试图片：

效果：

---

6.3.2视频中的人脸检测

视频是一张张图片组成的，在视频的帧上重复这个过程就能完成视频中的人脸检测。

示例代码：

import cv2 as cvdef face_detect_demo(img):# 将图片转换为灰度gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY)# 加载特征数据face_detector = cv.CascadeClassifier('D:\software\Python\Lib\site-packages\cv2\data\haarcascade_frontalface_default.xml')# faces为检测区域faces = face_detector.detectMultiScale(gray, flags=cv.CASCADE_SCALE_IMAGE)for x, y, w, h in faces:# 绘制矩形cv.rectangle(img, (x, y), (x + w, y + h), color=(0, 0, 255), thickness=2)cv.circle(img, center=(x+w//2, y+h//2), radius=w//2, color=(0, 255, 0), thickness=2)# 可调整窗口大小cv.namedWindow('result', 0)# 调整窗口大小cv.resizeWindow('result', 500, 500)# 显示图片cv.imshow('result', img)# 读取视频
cap = cv.VideoCapture('test.mp4')
while True:# frame就是每一帧的图像，是个三维矩阵（按帧读取）flag, frame = cap.read()print(f'flag:{flag}, frame.shape:{frame.shape}')if not flag:# 视频播放结束，退出breakface_detect_demo(frame)if ord('q') == cv.waitKey(0):break
# 释放内存
cv.destroyAllWindows()
cap.release()

效果：

6.3.3人脸识别

人脸识别其实就是一个程序能识别给定图像或视频中的人脸。实现这一目标的方法之一是用一系列分好类的图像来”训练“程序，并基于这些图像来进行识别。这就是OpenCV及其人脸识别模块进行人脸识别的过程。
人脸识别模块的另一个重要特征是：每个识别都具有转置信评分，因此可在实际应用中通过对其设置阈值来进行筛选。
人脸识别所需要的人脸可以通过两种方式来得到：自己获得图像或从人脸数据库免费获得可用的人脸图像。

6.3.3.1训练数据

有了数据，需要将这些样本图像加载到人脸识别算法中。所有的人脸识别算法在它们的train()函数都有两个参数：图像数组和标签数组。这些标签表示进行识别时某人人脸的ID，因此根据ID可以知道被识别的人是谁。要做到这一点，将在”trainer/“目录中保存为.yml文件。

在使用Python 3&OpenCV 3.0.0进行人脸识别训练时发现异常：
AttributeError:'module' object has no attribute 'LBPHFaceRecognizer_create' OpenCV ，需要安装opencv-contrib-python模块：

pip install opencv-contrib-python

示例代码：

import os
import cv2import numpy as np
from PIL import Imagedef getImageAndLabels(path):facesSamples = []ids = []imagePaths = [os.path.join(path, f) for f in os.listdir(path)]# 检测人脸face_detector = cv2.CascadeClassifier('D:\software\Python\Lib\site-packages\cv2\data\haarcascade_frontalface_default.xml')# 遍历列表中的图片for imagePath in imagePaths:# 打开图片PIL_img = Image.open(imagePath).convert('L')# 将图像转换为数组img_numpy = np.array(PIL_img, 'uint8')# faces为检测区域faces = face_detector.detectMultiScale(img_numpy)# 获取每张图片的idid = int(os.path.split(imagePath)[1].split('.')[0])for x, y, w, h in faces:facesSamples.append(img_numpy[y:y+h, x:x+w])ids.append(id)return facesSamples, idsif __name__ == '__main__':# 图片路径path = './data/jm/'# 获取图像数组和id标签数组faces, ids = getImageAndLabels(path)# 获取循环对象"""AttributeError: module 'cv2' has no attribute 'face'"""recognizer = cv2.face.LBPHFaceRecognizer_create()recognizer.train(faces, np.array(ids))# 保存文件recognizer.write('trainer/trainer.yml')

训练部分图像：

6.3.3.2基于LBPH的人脸识别

LBPH(Local Binary Pattern Histogram)将检测到的人脸分为小单元，并将其与模型中的对应单位进行比较，对每个区域的匹配值产生一个直方图。由于这种方法的灵活性，LBPH是唯一允许模型样本人脸和检测到的人脸在形状、大小上可以不同的人脸识别算法。
调整后的区域中调用predict()函数，该函数返回两个元素的数组：第一个元素是所识别个体的标签，第二个是置信度评分。所有的算法都有一个置信度评分阈值，置信度评分用来衡量所识别人脸与原模型的差距，0表示完全匹配。
有时不想保留所有的识别结果，则需要进一步处理，因此可用自己的算法来估算识别的置信度评分。LBPH一个好的识别参考值要低于50，任何一个高于80的参考值都会被认为是低的置信度评分。

示例代码：

import cv2# 加载训练数据集文件
recognizer = cv2.face.LBPHFaceRecognizer_create()
recognizer.read('trainer/trainer.yml')# 准备识别的图片
img = cv2.imread('7.bmp')
# 将图片转换为灰度
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
# 加载特征数据
face_detector = cv2.CascadeClassifier('D:\software\Python\Lib\site-packages\cv2\data\haarcascade_frontalface_default.xml')
# faces为检测区域
faces = face_detector.detectMultiScale(gray)
for x, y, w, h in faces:# 绘制矩形cv2.rectangle(img, (x, y), (x + w, y + h), color=(0, 255, 0), thickness=2)# 人脸识别id,confidence = recognizer.predict(gray[y:y+h, x:x+w])print(f"标签id：{id}，置信评分：{confidence}")
# 显示图片
cv2.imshow('result', img)
cv2.waitKey(0)
# 释放内存
cv2.destroyAllWindows()

测试图像：

测试效果：

因为上面这个图像不在训练数据中，所以置信评分高于80。

换成下面这个图像（jim文件夹下的11.bmp）进行测试：

测试效果：

在训练数据中，置信评分为0。

---

参考文章及其它：

• https://blog.csdn.net/weixin_43493559/article/details/106600471
• B站视频：OpenCv人脸识别开发实战
• https://blog.csdn.net/shangxiaqiusuo1/article/details/84888408
• ORL人脸数据库40个：http://www.qudong51.net/qudong/1040.html
• http://www.webzuan.cn/szk/7194.html
• https://blog.csdn.net/qq_52131774/article/details/121265931