openCV中meanshift算法查找目标的实现

Z时代
2024-01-10
分类：IT

一、简介

图像直方图的反向投影是一个概率分布图，表示一个指定图像片段出现在特定位置的概率。当我们已知图像中某个物体的大体位置时，可以通过概率分布图找到物体在另一张图像中的准确位置。我们可以设定一个初始位置，在其周围反复移动来提高局部匹配概率，从而找到物体的准确位置，这个实现过程叫做均值平移算法。

二、实现过程

因为人物的面部特征相对于其他位置更明显，本次实验主要应用于人物的面部识别。

1、设定感兴趣的区域

感兴趣区域的设定有两种方式，一种是已知图片人物脸部位置的像素坐标，通过设定矩形框来定位到人物脸部位置，另一种是使用opencv自带的selectROI函数，手动框选自己感兴趣的位置。

2、获取脸部直方图并做归一化

设置一个ColorHistogram类增加一个获取色调直方图的函数getHueHistogram。此函数包含将图像转换成HSV色彩空间，屏蔽低饱和度的像素（可能用到，也可能用不到），计算图像直方图。


cv::Mat getHueHistogram(const cv::Mat &image2, int minSaturation = 0)
	{
		cv::Mat hist;
		//转换成HSV色彩空间
		cv::Mat hsv;
		cv::cvtColor(image2, hsv, CV_BGR2HSV);
		//cv::imshow("hsv", hsv);
		//掩码（可能用的到也可能用不到)
		cv::Mat mask;
		if (minSaturation > 0) {
			std::vector<cv::Mat>v;
			cv::split(hsv, v);  //将3个通道分割进3幅图像
			cv::threshold(v[1], mask, minSaturation, 255, cv::THRESH_BINARY);//屏蔽低饱和度的像素
		}
		//准备一维色调直方图的参数
		hranges[0] = 0.0;
		hranges[1] = 180.0;  //范围是0~180
		channels[0] = 0;   //色调通道
		//计算直方图
		cv::calcHist(&hsv, 1,   //仅为一幅图像的直方图
			channels,             //使用的通道
			mask,                 //二值掩码
			hist,                 //作为结果的直方图
			1,                    //这是一维的直方图
			histSize,             //箱子数量
			ranges);              //像素值的范围
		return hist;
	}

然后，对获取的直方图做归一化。


void setHistogram(const cv::Mat& h) {
		histogram = h;
		cv::normalize(histogram, histogram, 1.0);
	}

3、反向投影，用meanshift查找目标

打开第二张图像，并将其转换成HSV色彩空间（代码中对输入的图像做了resize，避免有些图像尺寸过大，显示不全），然后对第一幅图像的直方图做反向投影。下面result是反向投影的结果，目前是框选了路飞的脸部作为感兴趣区域，如果框选路飞的帽子，反向投影会有不一样的效果，大家可以自己尝试。


//打开第二幅图像，并转换成HSV，对第一幅图像的直方图做反向投影
	image = cv::imread("lufei2.JPG");
	resize(image, image3, cv::Size(500, 700));
	cv::cvtColor(image3, hsv, CV_BGR2HSV); //转换成HSV色彩空间
	int ch[1] = { 0 };
	cv::Mat result = finder.find(hsv, 0.0f, 180.0f, ch);

使用openCV的meanshift算法可以将初始矩形区域修改成图像人物脸部的新位置。


cv::TermCriteria criteria(
		cv::TermCriteria::MAX_ITER | cv::TermCriteria::EPS,
		10, // 最多迭代10 次
		1); // 或者重心移动距离小于1 个像素
	cv::meanShift(result, rect, criteria);

至此，就找到了另一张图像中人物的脸部。

三、其他实验结果

除了进行从单人图像找另一个单人图像的实验，还做了从单人图像找多人合影的图像，下面是对NBA球星做的一个实验。

四、部分原理补充

本实验为了突出感兴趣目标特征，使用了HSV色彩空间的色调分量，使用CV_BGR2HSV标志转换图像后，得到的第一个通道就是色调分量。这是一个8位分量，值范围为0~180（如果使用cv::cvtColor，转换后的图像与原始图像的类型就会是相同的）。为了提取色调图像，cv::split 函数把三通道的 HSV 图像分割成三个单通道图像。这三幅图像存放在一个 std::vector 实例中，并且色调图像是向量的第一个入口（即索引为 0）。

在使用颜色的色调分量时，要把它的饱和度考虑在内（饱和度是向量的第二个入口），当颜色的饱和度很低时，它的色调信息就会变得不稳定且不可靠。这是因为低饱和度颜色的 B、G 和 R 分量几乎是相等的，这导致很难确定它所表示的准确颜色。因此，在 getHueHistogram 方法中使用 minSat 参数屏蔽掉饱和度低于此阈值的像素，不把它们统计进直方图中。

均值偏移算法是一个迭代过程，用于定位概率函数的局部最大值，方法是寻找预定义窗口内部数据点的重心或加权平均值。然后，把窗口移动到重心的位置，并重复该过程，直到窗口中心收敛到一个稳定的点。OpenCV 实现该算法时定义了两个停止条件：迭代次数达到最大值（MAX_ITER）；窗口中心的偏移值小于某个限值（EPS），可认为该位置收敛到一个稳定点。这两个条件存储在一个 cv::TermCriteria 实例中。

五、完整代码


#include <iostream>
#include<Windows.h>
#include<opencv2/core.hpp>    //图像数据结构的核心
#include<opencv2/highgui.hpp> //所有图形接口函数
#include<opencv2/imgproc.hpp>
#include <opencv2/imgproc/types_c.h>
#include<opencv2/imgproc/imgproc.hpp>
#include<opencv2/opencv.hpp>
using namespace std;
using namespace cv;
//获得色调直方图
class ColorHistogram
{
private:
	int histSize[3]; // 每个维度的大小
	float hranges[2]; // 值的范围（三个维度用同一个值）
	const float* ranges[3]; // 每个维度的范围
	int channels[3]; // 需要处理的通道
public:
	ColorHistogram() {
		// 准备用于彩色图像的默认参数
		// 每个维度的大小和范围是相等的
		histSize[0] = histSize[1] = histSize[2] = 256;
		hranges[0] = 0.0; // BGR 范围为0~256
		hranges[1] = 256.0;
		ranges[0] = hranges; // 这个类中
		ranges[1] = hranges; // 所有通道的范围都相等
		ranges[2] = hranges;
		channels[0] = 0; // 三个通道：B
		channels[1] = 1; // G
		channels[2] = 2; // R
	}
	//计算一维直方图，BGR的原图转换成HSV，忽略低饱和度的像素
	cv::Mat getHueHistogram(const cv::Mat &image2, int minSaturation = 0)
	{
		cv::Mat hist;
		//转换成HSV色彩空间
		cv::Mat hsv;
		cv::cvtColor(image2, hsv, CV_BGR2HSV);
		//cv::imshow("hsv", hsv);
		//掩码（可能用的到也可能用不到)
		cv::Mat mask;
		if (minSaturation > 0) {
			std::vector<cv::Mat>v;
			cv::split(hsv, v);  //将3个通道分割进3幅图像
			cv::threshold(v[1], mask, minSaturation, 255, cv::THRESH_BINARY);//屏蔽低饱和度的像素
		}
		//准备一维色调直方图的参数
		hranges[0] = 0.0;
		hranges[1] = 180.0;  //范围是0~180
		channels[0] = 0;   //色调通道
		//计算直方图
		cv::calcHist(&hsv, 1,   //仅为一幅图像的直方图
			channels,             //使用的通道
			mask,                 //二值掩码
			hist,                 //作为结果的直方图
			1,                    //这是一维的直方图
			histSize,             //箱子数量
			ranges);              //像素值的范围
		return hist;
	}
};
class ContentFinder {
private:
	// 直方图参数
	float hranges[2];
	const float* ranges[3];
	int channels[3];
	float threshold; // 判断阈值
	cv::Mat histogram; // 输入直方图
public:
	ContentFinder() : threshold(0.1f) {
		// 本类中所有通道的范围相同
		ranges[0] = hranges;
		ranges[1] = hranges;
		ranges[2] = hranges;
	}
	// 对直方图做归一化
	void setHistogram(const cv::Mat& h) {
		histogram = h;
		cv::normalize(histogram, histogram, 1.0);
	}
	// 查找属于直方图的像素
	cv::Mat find(const cv::Mat& image, float minValue, float maxValue,
		int *channels) {
		cv::Mat result;
		hranges[0] = minValue;
		hranges[1] = maxValue;
		// 直方图的维度数与通道列表一致
		for (int i = 0; i < histogram.dims; i++)
			this->channels[i] = channels[i];
		cv::calcBackProject(&image, 1, // 只使用一幅图像
			channels, // 通道
			histogram, // 直方图
			result, // 反向投影的图像
			ranges, // 每个维度的值范围
			255.0 // 选用的换算系数
			// 把概率值从1 映射到255
		);
		cv::imshow("result", result);
		return result;
	}
};
int main()
{
	/************均值检测meanshift***********/
	cv::Mat image = cv::imread("ZMS1.jpg");
	cv::Mat image2;
	cv::Mat image3;
	cv::Mat hsv;
	resize(image, image2, cv::Size(500, 700));
	cv::Rect rect;
	rect = cv::selectROI("image", image2, false, false);
	cv::Mat imageROI = image2(rect).clone();//手动框选
	/*cv::Rect rect(227, 108, 108, 104);
	cv::Mat imageROI = image2(rect);*///手动设置矩形框选范围
	cv::rectangle(image2, rect, cv::Scalar(255, 0, 0), 1, cv::LINE_8, 0);
	cv::imshow("image2", image2);
	//得到人脸直方图
	int minsat = 65;  //最小饱和度
	ColorHistogram hc;
	cv::Mat colorhist = hc.getHueHistogram(imageROI, minsat);
	//把直方图传给ContentFinder类
	ContentFinder finder;
	finder.setHistogram(colorhist);//对直方图做归一化
	//打开第二幅图像，并转换成HSV，对第一幅图像的直方图做反向投影
	image = cv::imread("ZMS2.JPG");
	resize(image, image3, cv::Size(500, 700));
	cv::cvtColor(image3, hsv, CV_BGR2HSV); //转换成HSV色彩空间
	int ch[1] = { 0 };
	cv::Mat result = finder.find(hsv, 0.0f, 180.0f, ch);
	cv::TermCriteria criteria(
		cv::TermCriteria::MAX_ITER | cv::TermCriteria::EPS,
		10, // 最多迭代10 次
		1); // 或者重心移动距离小于1 个像素
	cv::meanShift(result, rect, criteria);
	cv::rectangle(image3, rect, cv::Scalar(0, 255, 0), 1, cv::LINE_8, 0);
	cv::imshow("image3", image3);
	waitKey(0);
}