使用scikit-learn的流程

小象实战讲义 · Python数据分析实战

在掌握了机器学习的基本概念和任务类型后，我们终于要动手实践了。本节将带你走完一个完整的机器学习项目流程，使用Python最流行的机器学习库——scikit-learn，以经典的鸢尾花数据集为例，完成从数据加载、模型选择、训练到预测的全过程。学完本节，你将能够独立使用scikit-learn搭建一个基础的分类模型。

💡 核心导读

• 数据理解：学习如何从机器学习的视角看待数据，区分特征（Feature）与标签（Label）。
• 标准流程：掌握使用scikit-learn进行机器学习的四步法：准备数据、选择模型、训练模型、预测评估。
• 代码实践：通过K近邻（KNN）算法，亲手完成一个分类模型的训练与预测。
• 流程反思：思考在训练集上训练并测试的潜在问题，为后续的模型评估与泛化能力学习做铺垫。

数据准备与理解

在开始建模之前，我们首先要理解数据。在机器学习中，数据通常被组织成表格形式。

• 样本（Sample）：表格中的每一行代表一个独立的个体或观测值，称为一个样本。在鸢尾花数据集中，每一行就是一朵花的测量记录。
• 特征（Feature）：表格中的每一列（除了标签列）是用来描述样本的属性或度量，称为特征。特征越多，对样本的描述就越全面。例如，鸢尾花数据集中的“花萼长度”、“花萼宽度”、“花瓣长度”、“花瓣宽度”就是四个特征。
• 标签（Label）：在监督学习中，我们想要预测的那一列称为标签或目标。在分类任务中，标签就是样本的类别。鸢尾花数据集中，“species”（种类）就是标签，在scikit-learn加载的版本中被编码为数字0、1、2（0=setosa、1=versicolor、2=virginica）。

我们的目标就是建立一个模型，让它学习特征（X）与标签（y）之间的映射关系，从而能够根据新的、未见过的花的特征来预测其种类。

四步法实战：K近邻分类

scikit-learn的使用遵循一个清晰、一致的流程。我们以K近邻（KNN）分类器为例，演示这四步。

第一步：准备数据

这一步包括加载数据，并明确划分出特征矩阵X和标签向量y。注意：为了代码的自包含性，我们直接在代码块内构造一个微型的鸢尾花数据样例。

import pandas as pd
import numpy as np

# 构造一个微型鸢尾花数据集样例（代替从文件读取）
data = {
    'sepal_length': [5.1, 4.9, 4.7, 5.4, 5.0, 5.9],
    'sepal_width': [3.5, 3.0, 3.2, 3.9, 3.6, 3.0],
    'petal_length': [1.4, 1.4, 1.3, 1.7, 1.4, 5.1],
    'petal_width': [0.2, 0.2, 0.2, 0.4, 0.2, 1.8],
    'label': [1, 1, 1, 1, 1, 3]
}
iris_df = pd.DataFrame(data)

print("数据集预览：")
print(iris_df)

# 提取特征（前4列）
X = iris_df[['sepal_length', 'sepal_width', 'petal_length', 'petal_width']].values
print("\n特征矩阵X的形状：", X.shape)
print("特征矩阵X：")
print(X)

# 提取标签（最后一列）
y = iris_df['label'].values
print("\n标签向量y的形状：", y.shape)
print("标签向量y：", y)

数据集预览：
   sepal_length  sepal_width  petal_length  petal_width  label
0           5.1          3.5           1.4          0.2      1
1           4.9          3.0           1.4          0.2      1
2           4.7          3.2           1.3          0.2      1
3           5.4          3.9           1.7          0.4      1
4           5.0          3.6           1.4          0.2      1
5           5.9          3.0           5.1          1.8      3

特征矩阵X的形状： (6, 4)
特征矩阵X：
[[5.1 3.5 1.4 0.2]
 [4.9 3.  1.4 0.2]
 [4.7 3.2 1.3 0.2]
 [5.4 3.9 1.7 0.4]
 [5.  3.6 1.4 0.2]
 [5.9 3.  5.1 1.8]]

标签向量y的形状： (6,)
标签向量y： [1 1 1 1 1 3]

第二步：选择与构建模型

根据任务类型（这里是分类）选择一个合适的算法。我们从sklearn.neighbors模块中导入KNeighborsClassifier。

# 导入K近邻分类器
from sklearn.neighbors import KNeighborsClassifier

# 创建KNN模型实例（使用默认参数：n_neighbors=5）
knn_model = KNeighborsClassifier()
print("KNN模型创建成功。模型类型：", type(knn_model).__name__)

KNN模型创建成功。模型类型： KNeighborsClassifier

第三步：训练模型

将准备好的特征X和标签y传递给模型的fit方法，模型就会从数据中学习规律。

# 使用上一步定义的KNN模型和构造的数据进行训练
from sklearn.neighbors import KNeighborsClassifier
import numpy as np

# 重新构造数据，确保本代码块自包含
X_train = np.array([[5.1, 3.5, 1.4, 0.2],
                    [4.9, 3.0, 1.4, 0.2],
                    [4.7, 3.2, 1.3, 0.2],
                    [5.4, 3.9, 1.7, 0.4],
                    [5.0, 3.6, 1.4, 0.2],
                    [5.9, 3.0, 5.1, 1.8]])
y_train = np.array([1, 1, 1, 1, 1, 3])

knn_model = KNeighborsClassifier()
knn_model.fit(X_train, y_train)
print("模型训练完成！")

模型训练完成！

第四步：预测与评估

模型训练好后，就可以用它来预测新数据的标签。预测时只需要输入特征，不需要标签。

# 使用上一步训练好的模型进行预测
from sklearn.neighbors import KNeighborsClassifier
import numpy as np

# 重新构造训练数据和模型，确保自包含
X_train = np.array([[5.1, 3.5, 1.4, 0.2],
                    [4.9, 3.0, 1.4, 0.2],
                    [4.7, 3.2, 1.3, 0.2],
                    [5.4, 3.9, 1.7, 0.4],
                    [5.0, 3.6, 1.4, 0.2],
                    [5.9, 3.0, 5.1, 1.8]])
y_train = np.array([1, 1, 1, 1, 1, 3])

knn_model = KNeighborsClassifier()
knn_model.fit(X_train, y_train)

# 预测单个样本（注意输入必须是二维数组）
sample_1 = [[5.1, 3.5, 1.4, 0.2]]  # 第一个样本的特征
prediction_1 = knn_model.predict(sample_1)
print(f"样本1的预测标签：{prediction_1[0]}，真实标签：{y_train[0]}")

# 预测另一个样本
sample_2 = [[5.9, 3.0, 5.1, 1.8]]  # 最后一个样本的特征
prediction_2 = knn_model.predict(sample_2)
print(f"样本2的预测标签：{prediction_2[0]}，真实标签：{y_train[5]}")

# 预测所有训练样本
all_predictions = knn_model.predict(X_train)
print(f"\n对所有训练样本的预测结果：{all_predictions}")
print(f"真实标签：{y_train}")
print(f"预测是否全部正确？{np.array_equal(all_predictions, y_train)}")

样本1的预测标签：1，真实标签：1
样本2的预测标签：1，真实标签：3

对所有训练样本的预测结果：[1 1 1 1 1 1]
真实标签：[1 1 1 1 1 3]
预测是否全部正确？False

从运行结果可以看到一个有趣的现象：KNN模型对样本1预测正确（预测标签1，真实标签1），但对样本2预测错了——它预测为1（versicolor），而真实标签是3。对所有训练样本的预测结果[1 1 1 1 1 1]与真实标签[1 1 1 1 1 3]并不一致，预测是否全部正确？False。这提醒我们：即使在训练集上，模型也未必能全部预测对——这个微型样例中唯一一个花瓣明显更长的样本（virginica）孤悬于多数派之外，k=3 的投票把它“淹没”了。这也正说明了后面要用独立测试集、科学指标来评估模型的必要性。需要注意的是，scikit-learn中几乎所有模型的接口都是这样一致的：model.fit(X_train, y_train)用于训练，model.predict(X_new)用于预测。

完整的机器学习流程

上面的四步是核心操作，但一个完整的、严谨的机器学习项目流程通常包含更多环节，如下图所示：

准备数据集 → 选择模型 → 训练模型 → 调整参数 → 测试模型
    ↓              ↓           ↓           ↓         ↓
数据处理       根据任务      在训练集上  交叉验证    在测试集上
特征工程      选择模型      拟合模型    调优参数    评估性能
训练/测试集分割 (分类/回归/聚类...)            选择评价指标

1. 准备数据集：这是最基础也最耗时的一步。包括数据清洗、处理缺失值、特征工程（构造、选择、转换特征）以及将数据划分为训练集和测试集。训练集用于模型学习，测试集用于最终评估模型在未知数据上的表现。
2. 选择模型：根据你要解决的问题类型（分类、回归、聚类等），从算法库中选择一个或多个候选模型。
3. 训练与调参：在训练集上训练模型。许多模型有超参数（如KNN中的K值），需要通过交叉验证等技术在验证集上调整，以找到最优配置，避免过拟合。
4. 测试与评估：使用从未参与训练和调参的测试集，对最终模型进行公平的评估。使用准确率、精确率、召回率、F1分数等指标量化模型性能。

📝 动手练一练

1. 流程思考：在本节的例子中，我们使用全部数据（微型样例）进行训练，然后又用同样的数据来测试并计算准确率。你认为这种做法在真实的机器学习项目中是否合理？可能会存在什么问题？

2. 模型替换：尝试将示例中的KNeighborsClassifier替换为sklearn.linear_model中的LogisticRegression（逻辑回归）。观察并比较两个模型在同一个微型数据集上的预测结果（是否全部正确）。你只需要修改模型初始化和训练预测的代码，数据部分保持不变。

from sklearn.linear_model import LogisticRegression
import numpy as np

# 构造数据
X = np.array([[5.1, 3.5, 1.4, 0.2],
              [4.9, 3.0, 1.4, 0.2],
              [4.7, 3.2, 1.3, 0.2],
              [5.4, 3.9, 1.7, 0.4],
              [5.0, 3.6, 1.4, 0.2],
              [5.9, 3.0, 5.1, 1.8]])
y = np.array([1, 1, 1, 1, 1, 3])

# 使用逻辑回归模型
logreg_model = LogisticRegression()
logreg_model.fit(X, y)

# 预测
predictions = logreg_model.predict(X)
print("逻辑回归预测结果：", predictions)
print("真实标签：", y)
print("预测是否全部正确？", np.array_equal(predictions, y))

逻辑回归预测结果： [1 1 1 1 1 3]
真实标签： [1 1 1 1 1 3]
预测是否全部正确？ True

本章小结

本节我们迈出了使用scikit-learn进行机器学习实践的第一步。你不仅学会了如何用几行代码完成一个分类模型的训练和预测，更重要的是理解了其背后标准化的流程和“特征-标签”的数据思维。

📋 行动清单

• 亲手运行本节的所有代码示例，确保理解每一行的作用。
• 尝试替换：将KNN模型换成sklearn.svm中的SVC（支持向量机分类器），感受API的一致性。
• 深入思考：回顾“动手练一练”中的第一个问题，并预习下一节关于“训练集与测试集划分”的内容，理解为何数据划分如此重要。

—— 小象教研组