机器学习建模介绍 (3) -- 聚类

聚类算法入门：从无标签数据中发现结构

小象实战讲义 · Python数据分析实战

在掌握了回归与分类这两类有监督学习模型后，我们将目光转向机器学习中另一大类方法——无监督学习。本节将聚焦于无监督学习的核心代表：聚类算法。你将学习聚类算法的核心思想、典型应用场景，并通过一个客户分群的例子，理解如何利用Python的scikit-learn库从无标签数据中挖掘出有价值的分组结构。

💡 核心导读

• 聚类是什么：一种无监督学习方法，目标是将未标记的数据样本根据相似度划分为不同的组（簇）。
• 核心原理：追求“组内相似性高，组间相似性低”，算法自动发现数据的内在结构。
• 典型应用：客户细分、异常检测、市场研究、图像分割等。
• 与分类的区别：聚类没有预先定义的类别标签，划分结果是算法探索出来的。
• 工具实践：使用scikit-learn的K-Means算法对模拟的客户消费数据进行分群演示。

聚类算法的核心思想与应用

在之前学习的回归和分类模型中，我们处理的数据都有一个共同点：每个样本都带有一个明确的“答案”或“标签”。例如，预测房价时，我们知道每套房子的历史价格（标签）；识别水果图片时，我们知道每张图片对应的水果种类（标签）。这类学习被称为有监督学习。

聚类算法则属于无监督学习。它的输入数据没有预先给定的标签。我们只有样本自身的特征数据。算法的任务是根据这些特征，将相似的样本自动划分到同一个组（称为“簇”或“类”），同时让不同组之间的样本尽可能不相似。

一个生动的比喻：想象你有一筐混合了各种水果（苹果、橘子、香蕉），但所有水果都没有贴标签。聚类算法就像是一个自动分拣机，它会根据水果的大小、颜色、形状等特征，把看起来相似的放在一起，最终分成几堆。但算法并不知道每一堆具体叫“苹果”还是“橘子”，它只负责“物以类聚”。

聚类的核心目标与原则

聚类的划分遵循一个核心原则：最大化簇内相似性，最小化簇间相似性。

• 簇内相似性高：同一个簇里的数据点彼此很“像”。
• 簇间相似性低：不同簇的数据点彼此差异较大。

典型应用场景

聚类算法在商业和数据分析中有着广泛的应用：

1. 客户细分：根据客户的消费行为、人口属性等特征，将客户划分为不同的群体，用于精准营销。例如，发现“高价值用户群”、“价格敏感型用户群”。
2. 异常检测：将大多数正常样本聚成一类或几类，那些无法被归入任何簇或远离簇中心的样本，可能就是异常点（如信用卡欺诈交易）。
3. 市场研究：对产品、竞争对手或市场区域进行分组。
4. 图像分割：将图像中颜色或纹理相似的像素点聚在一起，形成不同的区域。

聚类与分类的关键区别

理解聚类与分类的区别至关重要，这也是初学者最容易混淆的地方。

简单来说：分类是“按名索群”，聚类是“物以类聚”。

实战：基于消费行为的客户聚类

让我们通过一个具体的例子来理解聚类。假设我们有一组客户数据，记录了每位客户购买三种产品（产品A、产品B、产品C）的数量。我们的目标是根据消费行为的相似性对客户进行分群。

首先，我们构造一个模拟的小型数据集。

import pandas as pd
import numpy as np
from sklearn.cluster import KMeans

# 构造客户消费行为模拟数据
data = {
    '客户ID': ['C001', 'C002', 'C003', 'C004', 'C005', 'C006'],
    '职业': ['工程师', '科学家', '教师', '家庭主妇', '经理', '学生'],
    '产品A': [3, 1, 0, 5, 2, 1],
    '产品B': [3, 4, 1, 0, 5, 2],
    '产品C': [1, 3, 4, 2, 0, 5]
}
df_customers = pd.DataFrame(data)
print("客户消费数据：")
print(df_customers)

客户消费数据：
   客户ID    职业  产品A  产品B  产品C
0  C001   工程师    3    3    1
1  C002   科学家    1    4    3
2  C003    教师    0    1    4
3  C004  家庭主妇    5    0    2
4  C005    经理    2    5    0
5  C006    学生    1    2    5

我们的聚类分析将只使用数值型的消费特征（产品A、B、C），而不使用“职业”这类分类型特征。接下来，我们使用最经典的K-Means算法进行聚类。K-Means需要预先指定要将数据分成多少簇（n_clusters），这里我们假设分为3类。

# 每个代码块自包含：重建客户消费数据
import pandas as pd
from sklearn.cluster import KMeans

data = {
    '客户ID': ['C001', 'C002', 'C003', 'C004', 'C005', 'C006'],
    '职业': ['工程师', '科学家', '教师', '家庭主妇', '经理', '学生'],
    '产品A': [3, 1, 0, 5, 2, 1],
    '产品B': [3, 4, 1, 0, 5, 2],
    '产品C': [1, 3, 4, 2, 0, 5]
}
df_customers = pd.DataFrame(data)

# 选择用于聚类的特征
X = df_customers[['产品A', '产品B', '产品C']].values

# 使用K-Means进行聚类，设定簇数为3
# n_init='auto' 是scikit-learn新版中的推荐设置，用于自动决定初始化次数
kmeans = KMeans(n_clusters=3, random_state=42, n_init='auto')
kmeans.fit(X)

# 获取聚类结果标签
labels = kmeans.labels_
df_customers['聚类标签'] = labels

print("\n聚类结果（为每位客户分配的簇标签）：")
print(df_customers[['客户ID', '职业', '产品A', '产品B', '产品C', '聚类标签']])
print(f"\n各簇的中心点（质心）坐标：\n{kmeans.cluster_centers_}")

聚类结果（为每位客户分配的簇标签）：
   客户ID    职业  产品A  产品B  产品C  聚类标签
0  C001   工程师    3    3    1     2
1  C002   科学家    1    4    3     2
2  C003    教师    0    1    4     0
3  C004  家庭主妇    5    0    2     2
4  C005    经理    2    5    0     1
5  C006    学生    1    2    5     0

各簇的中心点（质心）坐标：
[[0.5        1.5        4.5       ]
 [2.         5.         0.        ]
 [3.         2.33333333 2.        ]]

结果解读与分析

算法将6位客户分成了3个簇（标签0, 1, 2）。请注意，这些数字标签本身没有业务含义，它们只是算法的输出。我们需要结合原始数据来分析每个簇的特点：

• 簇 0：包含客户C003（教师）和C006（学生）。他们的共同点是产品C的购买量最高（4和5），产品A、B 都很低。从质心 [0.5, 1.5, 4.5] 也能看出，这是“偏爱产品C”的群体。
• 簇 1：只有客户C005（经理）。他的特征是产品B购买量突出（5），产品C 为 0。质心 [2, 5, 0] 印证了这一点。这可以视为“偏爱产品B”的消费者。
• 簇 2：包含客户C001（工程师）、C002（科学家）和C004（家庭主妇）。他们的特点是三类产品的购买比较均衡、没有突出的单一偏好。质心 [3, 2.33, 2] 表明这是“混合型”消费群体。

通过这样的分析，我们就能为抽象的簇标签赋予业务含义，例如：

• 簇0：产品C偏好型客户
• 簇1：产品B偏好型客户
• 簇2：多品类均衡型客户

基于这个分析，市场部门就可以针对不同的客户群体制定差异化的营销策略，例如向“产品C偏好型客户”推送产品C的升级或相关产品，实现精准营销。

聚类注意事项与挑战

1. 簇数K的选择：K-Means需要预先指定簇数（K），这通常是一个挑战。可以通过“肘部法则”、轮廓系数等方法来辅助选择。
2. 特征缩放：如果特征的量纲差异很大（如年龄和收入），必须先进行标准化（如Z-score标准化），否则距离计算会被大数值特征主导。
3. 算法局限性：K-Means假设簇是凸形的、各向同性的，并且大小相近。对于复杂形状的簇（如环形、月牙形），其效果可能不佳。
4. 结果解释：聚类结果是探索性的，需要结合领域知识进行解释，才能产生真正的商业价值。

📝 动手练一练

1. 概念辨析：假设你拿到一份电商用户数据集，包含用户的浏览时长、加购次数、购买金额等字段，但没有用户等级标签（如“普通”、“VIP”）。如果你想根据行为模式将用户分组，应该使用分类算法还是聚类算法？为什么？

2. 代码实践：在上面客户聚类的代码中，如果我们只使用“产品A”和“产品B”两个特征进行聚类（忽略产品C），聚类结果会发生变化吗？请修改代码，仅对['产品A', '产品B']进行K-Means聚类（K=3），并打印新的聚类标签，与之前使用三个特征的结果进行对比。

import pandas as pd
import numpy as np
from sklearn.cluster import KMeans

# 重新构造数据，确保自包含
data = {
    '客户ID': ['C001', 'C002', 'C003', 'C004', 'C005', 'C006'],
    '产品A': [3, 1, 0, 5, 2, 1],
    '产品B': [3, 4, 1, 0, 5, 2],
    '产品C': [1, 3, 4, 2, 0, 5]
}
df = pd.DataFrame(data)

# 仅使用产品A和产品B进行聚类
X_ab = df[['产品A', '产品B']].values
kmeans_ab = KMeans(n_clusters=3, random_state=42, n_init='auto')
kmeans_ab.fit(X_ab)
new_labels = kmeans_ab.labels_

print("仅使用产品A和B的聚类标签:", new_labels)
print("原始使用A/B/C的聚类标签: [2 2 0 2 1 0]") # 此为上一代码块运行结果
print("\n客户数据与新旧标签对比：")
df['旧标签_ABC'] = [2, 2, 0, 2, 1, 0]
df['新标签_AB'] = new_labels
print(df[['客户ID', '产品A', '产品B', '旧标签_ABC', '新标签_AB']])

仅使用产品A和B的聚类标签: [2 1 0 2 1 0]
原始使用A/B/C的聚类标签: [2 2 0 2 1 0]

客户数据与新旧标签对比：
   客户ID  产品A  产品B  旧标签_ABC  新标签_AB
0  C001    3    3        2       2
1  C002    1    4        2       1
2  C003    0    1        0       0
3  C004    5    0        2       2
4  C005    2    5        1       1
5  C006    1    2        0       0

本章小结

本节我们揭开了无监督学习中聚类算法的神秘面纱。聚类通过对无标签数据内在相似性的度量，自动将数据划分成不同的簇，是数据探索和客户分群的强大工具。记住其与分类的核心区别——有无标签，是理解其应用场景的关键。

📋 行动清单

• 理解核心：能清晰阐述聚类算法“组内相似高，组间相似低”的核心目标，并能举例说明其与分类算法的根本区别。
• 代码复现：在本地环境中运行本节客户聚类的示例代码，尝试改变n_clusters参数，观察聚类结果如何变化。
• 思考应用：结合你所在领域或感兴趣的方向，构思一个可以应用聚类算法来解决的实际问题（例如，对APP用户行为日志进行分群）。

—— 小象教研组