模型选择

小象实战讲义 · Python数据分析实战

在机器学习实践中，面对众多算法模型，初学者常常感到困惑：我的问题应该选择哪个模型？本节将为你介绍 scikit-learn 官方提供的模型选择路线图，并通过一个实战案例，演示如何根据数据特点选择并对比不同模型的性能。学完本节，你将掌握一个系统化的模型选择思路，并能通过代码验证不同模型在具体数据集上的表现。

💡 核心导读

• 模型选择的挑战：机器学习算法众多，选择合适模型是实践中的关键一步。
• scikit-learn 路线图：官方提供了一个基于数据量、问题类型（分类/回归/聚类）和特征性质的模型选择参考指南。
• 实战对比：在鸢尾花数据集上，我们将对比 K 近邻（KNN）和线性支持向量机（Linear SVM）两种分类模型的性能。
• 重要原则：模型性能与数据特性强相关，没有“永远最好”的模型，需要通过实验验证。

为什么需要模型选择？

机器学习领域算法模型繁多，如线性回归、决策树、支持向量机、神经网络等。对于初学者，面对一个具体的数据分析或预测任务时，往往会陷入“选择困难症”。盲目尝试所有模型不仅效率低下，也可能因为模型与数据不匹配而得不到好结果。

因此，我们需要一个系统化的思路来缩小选择范围。scikit-learn 作为 Python 主流的机器学习库，其官方文档提供了一张非常实用的“机器学习路线图”（Machine Learning Map），为我们提供了一个基于数据驱动的问题诊断和模型选择框架。

scikit-learn 模型选择路线图解读

该路线图是一个决策树形式的流程图，你可以通过访问 https://scikit-learn.org/stable/machine_learning_map.html 查看交互式版本。其核心逻辑是通过回答一系列关于你的数据和任务的问题，逐步引导你到可能合适的算法。请注意，这只是一个参考指南，并非唯一标准，实际应用中可根据需求调整。

我们来梳理一下这张图的主要分支逻辑：

1. 起点：样本量

   • 首先询问：样本数量是否大于 50？
   • 如果 不大于 50，建议是“获取更多数据”。因为数据量太小，模型难以学习到有效的规律。这里的“50”是一个经验参考值，意在强调小样本学习的局限性。

2. 第一层分支：预测目标类型

   • 如果数据量足够，接下来问：你是否在预测一个类别（Category）？
   • 如果是，那么你面临的是一个 分类（Classification） 问题。路线图会引导你进入分类算法区域。
   • 如果不是，则继续问：你是否在预测一个数量（Quantity）？
     • 如果是，那么你面临的是一个 回归（Regression） 问题，如预测房价、销售额等连续值。
     • 如果也不是，那么你可能是在做 聚类（Clustering） 分析，即对无标签数据进行分组。

3. 分类问题下的深入选择 进入分类区域后，路线图会进一步根据数据特征进行细分：

   • 数据是否有标签？ 分类属于有监督学习，通常需要标签数据。
   • 样本量是否小于 10 万？ 这是一个区分轻量级和重量级算法的分界线。
   • 数据是否是文本数据（Text Data）？ 如果是，可能会推荐使用朴素贝叶斯（Naive Bayes）等适合文本特征的算法。
   • 对于非文本、样本量小于 10 万的数据，路线图建议先尝试 线性支持向量机（Linear SVC）；若效果不佳，再尝试 K 近邻（KNN）；若仍不理想，则可升级到 SVC（默认 RBF 核，能刻画非线性边界） 或 集成学习方法（Ensemble Classifiers，如随机森林）。

4. 回归与聚类

   • 回归区域：会根据数据特征推荐线性回归、Lasso、岭回归、SVR（支持向量回归）等算法。
   • 聚类区域：会介绍 K-Means、谱聚类、高斯混合模型（GMM）等经典无监督学习算法。

这张路线图的每个算法节点都是可点击的，链接到该算法的官方文档、API 说明和示例代码，非常便于学习和直接应用。

实战对比：KNN vs Linear SVM

理解了选择思路后，我们通过一个实战来体会。我们使用经典的鸢尾花（Iris）数据集，这是一个三分类问题。我们将遵循路线图的提示，对非文本、有标签、中等规模的数据，尝试 KNN 和 Linear SVM 两种算法，并对比它们的性能。

首先，我们构造一个可独立运行的最小示例数据集，模拟鸢尾花数据的核心特征。

# 导入必要库并构造示例数据
import numpy as np
from sklearn.model_selection import train_test_split

# 构造一个简单的分类数据集模拟鸢尾花（4个特征，3个类别）
# 特征数据
np.random.seed(10) # 固定随机种子，确保结果可复现
n_samples = 150
X = np.random.randn(n_samples, 4) * 1.5 + np.array([5.0, 3.0, 1.5, 0.2]) # 围绕中心点生成数据

# 标签数据 (0, 1, 2 对应三个类别)
y = np.zeros(n_samples, dtype=int)
y[50:100] = 1
y[100:] = 2
# 为模拟分类的区分度，对后两个特征做偏移
X[50:100, 2:] += 1.5
X[100:, 2:] += 3.0

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=1/3, random_state=10)

print("训练集样本数:", X_train.shape[0], "测试集样本数:", X_test.shape[0])
print("特征维度:", X_train.shape[1])
print("类别标签:", np.unique(y))

训练集样本数: 100 测试集样本数: 50
特征维度: 4
类别标签: [0 1 2]

接下来，我们导入 K 近邻分类器和线性支持向量机分类器，在训练集上进行训练。

# 导入模型类（每个代码块自包含：重建数据与训练集）
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import LinearSVC

# 重建与上一块相同的示例数据
np.random.seed(10)
n_samples = 150
X = np.random.randn(n_samples, 4) * 1.5 + np.array([5.0, 3.0, 1.5, 0.2])
y = np.zeros(n_samples, dtype=int)
y[50:100] = 1
y[100:] = 2
X[50:100, 2:] += 1.5
X[100:, 2:] += 3.0
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=1/3, random_state=10)

# 初始化两个模型（使用默认参数）
knn_model = KNeighborsClassifier()  # K近邻分类器，默认n_neighbors=5
svc_model = LinearSVC(random_state=10, max_iter=10000)  # 线性支持向量机分类器，设置random_state使结果可复现，增加迭代次数确保收敛

# 在训练集上训练模型
knn_model.fit(X_train, y_train)
svc_model.fit(X_train, y_train)

print("KNN 模型训练完成。")
print("Linear SVM 模型训练完成。")

KNN 模型训练完成。
Linear SVM 模型训练完成。

模型训练好后，我们在测试集上评估它们的性能。scikit-learn 的模型通常提供 .score(X, y) 方法，对于分类器，它默认返回预测的准确率（Accuracy）。

# 在测试集上评估模型（每个代码块自包含：重建数据、重新训练、再评估）
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import LinearSVC

np.random.seed(10)
n_samples = 150
X = np.random.randn(n_samples, 4) * 1.5 + np.array([5.0, 3.0, 1.5, 0.2])
y = np.zeros(n_samples, dtype=int)
y[50:100] = 1
y[100:] = 2
X[50:100, 2:] += 1.5
X[100:, 2:] += 3.0
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=1/3, random_state=10)

knn_model = KNeighborsClassifier()
svc_model = LinearSVC(random_state=10, max_iter=10000)
knn_model.fit(X_train, y_train)
svc_model.fit(X_train, y_train)

acc_knn = knn_model.score(X_test, y_test)
acc_svc = svc_model.score(X_test, y_test)

print('KNN 模型在测试集上的准确率：', acc_knn)
print('线性SVM 模型在测试集上的准确率：', acc_svc)

KNN 模型在测试集上的准确率： 0.52
线性SVM 模型在测试集上的准确率： 0.62

从结果可以看出，在这个构造的数据集上，线性 SVM 模型的准确率（0.62）要高于 KNN 模型（0.52），且两者都谈不上理想——因为这份用随机数模拟的数据类间重叠较大，本身就不是一个“容易分”的问题。这个简单的对比揭示了一个重要的机器学习原则：模型的性能与数据特性高度相关，并非模型越简单或越复杂，效果就一定更好。

• KNN 是一种基于实例的简单算法，它通过查找最近邻的样本来进行预测，在数据分布相对清晰、边界非线性的问题上可能表现良好。
• Linear SVM 试图找到一个最优的线性超平面来分隔不同类别，对于线性可分或近似线性可分的数据很有效。

在某些数据集上，SVM 可能远超 KNN；而在另一些数据集上，简单的 KNN 可能就足够了。因此，实践中的黄金法则是在你的具体数据上进行实验和验证。scikit-learn 的路线图为我们提供了起点，而真正的模型选择与调优，是一个需要结合业务理解、数据探索和反复实验的过程。

📝 动手练一练

1. 概念辨析：scikit-learn 官方路线图建议在“样本量小于 10 万”时优先尝试轻量级算法（如 KNN、线性 SVM）。请思考：为什么样本量很大时，反而要慎用 K 近邻这类基于实例的算法？（提示：从 KNN 在预测阶段需要做什么计算来考虑。）

2. 代码实践：在本节的示例代码中，把 test_size 从 1/3 改为 0.2（即训练集占比更大），重新运行训练与评估。两个模型的准确率发生了什么变化？为什么此时对评估结果要更谨慎地看待？

本章小结

本节我们探讨了机器学习中模型选择的核心问题。我们学习了如何利用 scikit-learn 官方路线图，根据数据量、问题类型和特征性质来初步筛选合适的算法。并通过一个实战示例，对比了 KNN 和 Linear SVM 在分类任务上的性能，强调了“没有免费午餐定理”——不存在适用于所有问题的最佳模型，必须基于具体数据做评估。

📋 行动清单

• 访问 scikit-learn 官网，查看并熟悉交互式的机器学习路线图。
• 为你当前正在处理或设想的一个分析任务，根据路线图判断其可能属于哪类问题（分类/回归/聚类）。
• 选择一个简单的数据集（如本节构造的示例），尝试换用路线图中推荐的其他算法（如朴素贝叶斯），观察性能变化。

—— 小象教研组