行人检测的传统方法HOG+SVM

小象实战讲义 · 基于深度学习的计算机视觉

行人检测是计算机视觉中的一项基础任务，旨在从图像中定位出直立行走的人体。在深度学习兴起之前，HOG（方向梯度直方图）特征结合SVM（支持向量机）分类器是解决该问题的经典且有效的方法。本节我们将深入剖析HOG特征的构造原理，理解SVM如何利用这些特征进行“行人”与“非行人”的二分类，并回顾这一方法在计算机视觉发展史上的重要地位。

💡 核心导读

• HOG特征：通过计算图像局部区域的梯度方向直方图，形成对物体边缘和形状的鲁棒描述。
• 特征构造流程：从图像分块（Block和Cell）到梯度计算、直方图统计，再到对比度归一化，最终拼接成高维特征向量。
• SVM分类器：在特征空间中寻找最优超平面，最大化正负样本间隔，实现对HOG特征的二分类。
• 方法定位：理解HOG+SVM作为深度学习时代前的代表性方法，其核心思想对后续特征学习仍有启发意义。

图像梯度回顾与HOG特征思想

在介绍HOG之前，我们需要明确图像梯度的概念。图像中某一点的梯度是一个矢量，它指向该点灰度值变化最快的方向，其大小反映了变化的剧烈程度。

对于一个二维图像函数 $f(x, y)$，其在点 $(x, y)$ 的梯度向量定义为： $$\nabla f = \begin{bmatrix} \frac{\partial f}{\partial x} \\ \frac{\partial f}{\partial y} \end{bmatrix} = \begin{bmatrix} G_x \\ G_y \end{bmatrix}$$ 其中，$G_x$ 和 $G_y$ 分别是 $x$ 方向和 $y$ 方向上的偏导数（梯度分量）。

在实际的离散图像中，我们通常使用简单的差分模板来近似计算梯度：

• 水平梯度 $G_x$: 用后一个像素值减去前一个像素值，即 $f(x+1, y) - f(x-1, y)$。
• 垂直梯度 $G_y$: 用下方像素值减去上方像素值，即 $f(x, y+1) - f(x, y-1)$。

计算出两个方向的梯度分量后，我们可以进一步得到梯度的幅值（Magnitude） 和方向角（Orientation）： $$\text{幅值}: m(x, y) = \sqrt{G_x^2 + G_y^2}$$ $$\text{方向角}: \theta(x, y) = \arctan\left(\frac{G_y}{G_x}\right)$$ 方向角的范围通常是 $0$ 到 $180$ 度（无符号梯度），即忽略梯度的正负，只关心边缘的方向。

HOG特征的核心思想正是基于这种梯度信息：人体轮廓内外区域的梯度分布模式存在显著差异。通过统计图像局部区域内梯度方向的分布情况（即梯度方向直方图），可以构建出一个对光照变化和微小形变相对鲁棒的描述符，从而有效表征“行人”的视觉模式。

HOG特征描述符的构造流程

HOG特征的构造是一个系统化的过程，其目标是将一张图像转换成一个高维的特征向量。下面我们以经典的Dalal等人提出的用于行人检测的HOG参数为例，分步详解。

1. 预处理与梯度计算

首先，输入图像（通常是灰度图，彩色图可选取梯度幅值最大的通道或转为灰度）会进行伽马校正（Gamma Correction） 和颜色归一化，以部分消除光照影响。随后，计算图像中每个像素点的梯度幅值和方向角。注意：此步骤通常不进行平滑滤波，以避免模糊边缘、削弱梯度信息。

2. 划分细胞单元（Cell）与块（Block）

这是HOG特征构造的关键空间组织方式。

• 细胞单元（Cell）：将图像划分为小的连通区域，例如 8×8像素 为一个Cell。这是计算梯度直方图的基本单位。
• 块（Block）：由多个相邻的Cell组成一个更大的区域，例如 2×2个Cell 构成一个Block，即一个Block大小为 16×16像素。Block是进行对比度归一化的单位。
• 重叠滑动：为了增强特征的鲁棒性，Block在图像上以步长（Stride）为8像素进行滑动。这意味着相邻的Block之间有50%的重叠区域。任何一个Cell都会被多个不同的Block所覆盖，其信息会多次贡献给最终的特征描述符，这有助于减轻局部光照和阴影的影响。

import numpy as np
import cv2

# 演示：手动计算一个小图像块的梯度（不使用cv2.HOGDescriptor）
# 1. 创建一个极小的5x5模拟灰度图像块
demo_cell = np.array([
    [10, 20, 30, 40, 50],
    [15, 25, 35, 45, 55],
    [20, 30, 40, 50, 60],
    [25, 35, 45, 55, 65],
    [30, 40, 50, 60, 70]
], dtype=np.float32)

print("模拟图像块 (5x5):")
print(demo_cell)
print()

# 2. 使用中心差分手动计算x和y方向的梯度
# 注意：这里为了演示清晰，使用最简单的中心差分；实际OpenCV的Sobel算子带有平滑效果。
# 计算内部点的梯度（忽略边界）
gx = np.zeros((3,3))
gy = np.zeros((3,3))
for i in range(1, 4):
    for j in range(1, 4):
        gx[i-1, j-1] = demo_cell[i, j+1] - demo_cell[i, j-1]  # 水平差分
        gy[i-1, j-1] = demo_cell[i+1, j] - demo_cell[i-1, j]  # 垂直差分

print("水平梯度 Gx (中心3x3区域):")
print(gx)
print()
print("垂直梯度 Gy (中心3x3区域):")
print(gy)
print()

# 3. 计算梯度幅值和方向角（角度转换为0-180度）
magnitude = np.sqrt(gx**2 + gy**2)
orientation = np.degrees(np.arctan2(gy, gx)) % 180  # arctan2范围(-180,180]，%180转到[0,180)

print("梯度幅值 Magnitude:")
print(np.round(magnitude, 2))
print()
print("梯度方向角 Orientation (度):")
print(np.round(orientation, 2))

模拟图像块 (5x5):
[[10. 20. 30. 40. 50.]
 [15. 25. 35. 45. 55.]
 [20. 30. 40. 50. 60.]
 [25. 35. 45. 55. 65.]
 [30. 40. 50. 60. 70.]]

水平梯度 Gx (中心3x3区域):
[[20. 20. 20.]
 [20. 20. 20.]
 [20. 20. 20.]]

垂直梯度 Gy (中心3x3区域):
[[10. 10. 10.]
 [10. 10. 10.]
 [10. 10. 10.]]

梯度幅值 Magnitude:
[[22.36 22.36 22.36]
 [22.36 22.36 22.36]
 [22.36 22.36 22.36]]

梯度方向角 Orientation (度):
[[26.57 26.57 26.57]
 [26.57 26.57 26.57]
 [26.57 26.57 26.57]]

3. 计算Cell的梯度方向直方图

对于每个Cell（如8×8像素，共64个像素），我们为其构建一个梯度方向直方图：

• 划分方向区间（Bins）：将0-180度的方向范围均匀划分为9个区间（Bin），每个区间宽20度。
• 投票统计：遍历Cell内的每个像素，根据其梯度方向角 $\theta$ 和梯度幅值 $m$ 进行“投票”。
  • 幅值加权：该像素的投票权重是其梯度幅值 $m$，而不仅仅是计数1。这使强边缘（大梯度）贡献更大。
  • 线性插值（沿方向角）：为了减少量化误差，一个像素的梯度幅值会对其方向角相邻的两个Bin进行加权分配。例如，一个85度的梯度，离70度Bin差15度，离90度Bin差5度。那么，其幅值的 $\frac{1}{4}$ 累加到70度Bin，$\frac{3}{4}$ 累加到90度Bin。
• 最终，每个Cell得到一个9维的直方图向量，描述了该局部区域梯度方向的分布。

4. Block内的对比度归一化

梯度幅值容易受到整体光照和前景-背景对比度的影响。为了提升特征的鲁棒性，需要对直方图进行对比度归一化。 归一化在Block级别进行。将一个Block内所有Cell的直方图向量（如2×2个Cell，共4×9=36维）拼接起来，形成一个大的向量 $v$，然后对该向量进行归一化。常用的归一化方式有L2范数：$v \leftarrow v / \sqrt{\Vert v\Vert _2^2 + \epsilon}$。 由于Block是重叠滑动的，同一个Cell的直方图向量会参与多个不同Block的归一化过程，因此其信息被多次利用，这进一步增强了特征对光照变化的稳定性。

5. 拼接成最终的HOG特征向量

遍历整张图像中所有滑动位置的Block，将每个Block归一化后的直方图向量全部拼接起来，就得到了整张图像的HOG特征描述符。

以一个经典的128（高）×64（宽）像素的行人检测窗口为例：

• 每个Block大小为16×16，步长为8。
• 在高度方向：$(128-16)/8 + 1 = 15$ 个Block。
• 在宽度方向：$(64-16)/8 + 1 = 7$ 个Block。
• 总Block数：$15 \times 7 = 105$ 个。
• 每个Block包含 $2\times2=4$ 个Cell，每个Cell有9维直方图。
• 最终HOG特征维度：$105 \times 4 \times 9 = 3780$ 维。

这个3780维的向量就是用于描述该图像窗口是否包含行人的特征。

支持向量机（SVM）分类器原理

得到高维的HOG特征后，我们需要一个分类器来判断一个特征向量属于“行人”还是“非行人”。支持向量机（SVM）因其在解决小样本、非线性及高维模式识别问题中的优势，成为HOG特征的最佳搭档。

线性可分与最优超平面

SVM的基本模型是针对线性可分情况下的最优分类超平面提出的。假设我们有一组训练样本 $\lbrace (\mathbf{x}_i, y_i) \rbrace$，其中 $\mathbf{x}_i$ 是特征向量（如HOG特征），$y_i \in \lbrace -1, +1\rbrace$ 是类别标签（-1为非行人，+1为行人）。 线性可分的含义是，存在一个超平面 $\mathbf{w} \cdot \mathbf{x} + b = 0$ 能够将所有样本正确分类，即满足： $$y_i (\mathbf{w} \cdot \mathbf{x}_i + b) \ge 1, \quad \forall i$$ 其中，$\mathbf{w}$ 是超平面的法向量，$b$ 是偏置项。条件中等式成立的点（即 $y_i (\mathbf{w} \cdot \mathbf{x}_i + b) = 1$）被称为支持向量（Support Vectors），它们是与超平面距离最近的样本点。

这样的超平面可能有很多，SVM追求的是间隔（Margin）最大的那一个。间隔定义为两个平行于分类超平面且分别穿过正、负类支持向量的超平面 $H_1: \mathbf{w} \cdot \mathbf{x} + b = 1$ 和 $H_2: \mathbf{w} \cdot \mathbf{x} + b = -1$ 之间的距离，其值为 $\frac{2}{\Vert \mathbf{w}\Vert }$。因此，最大化间隔等价于最小化 $\Vert \mathbf{w}\Vert ^2$。

于是，线性SVM的优化问题可以表述为： $$\begin{aligned} \min_{\mathbf{w}, b} \quad & \frac{1}{2} \Vert \mathbf{w}\Vert ^2 \\ \text{s.t.} \quad & y_i (\mathbf{w} \cdot \mathbf{x}_i + b) \ge 1, \quad i = 1, \dots, n \end{aligned}$$ 这是一个凸二次规划问题，可以通过拉格朗日乘子法转化为对偶问题求解，从而高效地找到最优的 $\mathbf{w}$ 和 $b$。

松弛变量与线性不可分

现实中的数据往往不是严格线性可分的，可能存在噪声或特异点。为此，SVM引入了松弛变量 $\xi_i \ge 0$，允许一些样本被错分或落在间隔之内。优化目标变为最小化 $\frac{1}{2} \Vert \mathbf{w}\Vert ^2 + C \sum_{i=1}^n \xi_i$，约束条件变为 $y_i (\mathbf{w} \cdot \mathbf{x}_i + b) \ge 1 - \xi_i$。其中，$C > 0$ 是一个惩罚参数，用于控制对错分样本的容忍度。$C$ 越大，模型越倾向于减少错分，间隔可能变小；$C$ 越小，则允许更多的错分以换取更大的间隔。

核函数与非线性映射

对于根本线性不可分的问题（例如，正负样本在原始特征空间中呈环形分布），SVM通过核技巧（Kernel Trick） 来处理。其核心思想是将原始特征 $\mathbf{x}$ 通过一个非线性映射 $\phi$ 变换到一个更高维（甚至是无穷维）的特征空间 $\mathcal{H}$ 中，使得在 $\mathcal{H}$ 中样本变得线性可分。 我们不需要显式地计算高维空间中的 $\phi(\mathbf{x})$，只需要定义原空间中的核函数（Kernel Function） $K(\mathbf{x}_i, \mathbf{x}_j) = \phi(\mathbf{x}_i) \cdot \phi(\mathbf{x}_j)$。常用的核函数包括多项式核、高斯径向基函数（RBF）核等。这样，SVM的决策函数可以写为： $$f(\mathbf{x}) = \text{sign}\left( \sum_{i=1}^n \alpha_i y_i K(\mathbf{x}_i, \mathbf{x}) + b \right)$$ 其中 $\alpha_i$ 是对偶问题的解。

在HOG行人检测的实践中，由于行人与非行人的HOG特征在特征空间中的分布通常具有良好的可分性，线性SVM往往就能取得很好的效果，这也避免了核函数选择与调参的复杂性。

HOG+SVM在行人检测中的应用

将HOG与SVM结合用于行人检测，是一个经典的“特征工程+机器学习”的管道（Pipeline）：

1. 训练阶段：

   • 收集大量正样本（包含行人的图像块，标准窗口为128×64，即高×宽）和负样本（不包含行人的背景图像块）。
   • 为每个样本计算其HOG特征，得到3780维的特征向量。
   • 使用这些带标签的HOG特征向量训练一个线性SVM分类器。SVM会学习到一个权重向量 $\mathbf{w}$ 和偏置 $b$，在HOG特征空间中构造出最优分离超平面。

2. 检测阶段：

   • 对于一张待检测图像，采用滑动窗口策略。用不同尺度的窗口在图像上滑动。
   • 对于每个窗口，提取其HOG特征。
   • 将HOG特征输入训练好的SVM分类器，计算决策函数值 $f(\mathbf{x}) = \mathbf{w} \cdot \mathbf{x} + b$。
   • 如果 $f(\mathbf{x})$ 大于某个阈值（通常为0），则判定该窗口包含行人。
   • 由于滑动窗口会产生大量重叠的检测框，最后需要应用非极大值抑制（NMS） 来合并重叠的检测结果，得到最终的行人位置。

import numpy as np

# 演示：模拟SVM对HOG特征的决策过程（概念性计算）
# 假设我们有一个简化版的3维HOG特征（实际为3780维），以及一个训练好的SVM权重。
np.random.seed(42)  # 固定随机种子，保证结果可复现

# 1. 模拟训练好的SVM权重向量 w 和偏置 b (随机生成用于演示)
w = np.array([0.5, -0.2, 0.8])  # 3维权重
b = -0.1

# 2. 模拟两个测试样本的HOG特征（3维简化版）
# 样本1：可能为行人
hog_feature_1 = np.array([1.2, 0.3, 0.9])
# 样本2：可能为非行人
hog_feature_2 = np.array([0.1, 1.5, -0.2])

print("SVM权重 w:", w)
print("偏置 b:", b)
print()

# 3. 计算决策函数值 f(x) = w·x + b
score_1 = np.dot(w, hog_feature_1) + b
score_2 = np.dot(w, hog_feature_2) + b

print("样本1 HOG特征:", hog_feature_1)
print("决策分数 score_1 =", round(score_1, 4))
print("分类结果 (阈值=0):", "行人" if score_1 > 0 else "非行人")
print()
print("样本2 HOG特征:", hog_feature_2)
print("决策分数 score_2 =", round(score_2, 4))
print("分类结果 (阈值=0):", "行人" if score_2 > 0 else "非行人")

SVM权重 w: [ 0.5 -0.2  0.8]
偏置 b: -0.1

样本1 HOG特征: [1.2 0.3 0.9]
决策分数 score_1 = 1.16
分类结果 (阈值=0): 行人

样本2 HOG特征: [ 0.1  1.5 -0.2]
决策分数 score_2 = -0.51
分类结果 (阈值=0): 非行人

📝 动手练一练

1. 概念辨析：在HOG特征计算中，Block之间为什么要采用50%的重叠滑动？如果不重叠，可能会带来什么问题？

2. 手算理解：假设一个Cell内只有一个像素，其梯度幅值为10，方向角为85度。HOG将0-180度分为9个bin（每20度一个）。请计算该像素的梯度幅值如何通过线性插值分配到相邻的bin中。

本章小结

本节我们深入探讨了深度学习时代之前行人检测的标杆性方法——HOG特征结合SVM分类器。我们首先从图像梯度这一基础概念出发，详细拆解了HOG描述符从细胞单元、块划分到梯度直方图统计与对比度归一化的完整构造流程。随后，我们阐述了支持向量机（SVM）的核心原理，包括最优超平面、间隔最大化、松弛变量处理线性不可分以及核函数映射至高维空间解决非线性问题的思想。最后，我们勾勒出HOG+SVM应用于行人检测的完整管道。这一方法体现了传统计算机视觉中“精心设计特征”+“高效统计学习”的经典范式，其关于局部梯度统计和特征归一化的思想，至今仍在某些特定场景和模型设计中有所体现。

需要客观说明的是：在今天的行人检测任务中，主流方案已是端到端的 CNN 检测器（如 YOLO、Faster R-CNN 系列），它们直接学习特征，精度和速度都远超 HOG+SVM。HOG+SVM 如今主要作为教学基线，以及 OpenCV HOGDescriptor 配合预训练线性 SVM 的轻量方案继续存在；它真正的价值在于把“梯度统计—局部归一化—线性分类”这条链路讲清楚，这正是理解深度特征的前置知识。

📋 行动清单

• 尝试在脑海中复述HOG特征计算的五个关键步骤：梯度计算、划分Cell、统计Cell直方图、Block内归一化、拼接全图特征。
• 理解SVM中“支持向量”的意义，并思考为何线性SVM就足以处理HOG特征分类问题。
• 对比HOG+SVM与之前学过的Haar特征+级联分类器，思考两者在特征设计理念和应用场景上有何异同。

—— 小象教研组