查看全课大纲(第 47 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.3D绘图 -- mplot3d
  82. 82.3D曲线可视化
  83. 83.3D散点图可视化
  84. 84.3D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

数据清洗--替换数据

约 4 分钟

📺 正在播放小象学院官方高清录播(支持倍速与清晰度调节)

替换数据

小象实战讲义 · Python数据分析实战

在数据清洗的最后一步,我们常常会遇到需要将数据中的特定值替换为另一个值的情况。例如,将无效的占位符(如9999)替换为0或缺失值,或者将分类数据的旧标签更新为新标签。本节将学习如何使用Pandas的replace方法高效、灵活地完成数据替换操作,这是数据预处理中一项基础且重要的技能。

💡 核心导读

  • 方法核心:掌握DataFrame.replace()方法的基本语法和核心参数to_replace。
  • 替换形式:学习四种主要的替换形式:单一值替换、列表替换为单一值、列表对应替换以及字典映射替换。
  • 实战理解:通过具体示例,理解replace操作仅作用于数据值,不影响行/列索引。
  • 应用场景:学会将无效数据标记(如9999)替换为合理的数值或缺失值,为后续分析做准备。

replace方法基础

Pandas的replace方法是进行数据替换的主要工具。其核心参数是to_replace,用于指定需要被替换的值。这个参数非常灵活,可以接受多种类型的输入:

  • 单个值:数值或字符串。
  • 列表:一个需要被替换的值的集合。
  • 字典:精确地指定“键-值”对的映射关系,键是被替换的值,值是替换后的新值。

接下来,我们将通过一个具体的示例数据,逐一演示这些用法。

四种替换方式实战

我们将创建一个小型DataFrame作为示例数据,并展示replace方法的四种典型应用。

import pandas as pd

# 创建示例数据
data = pd.DataFrame(
    {'A': [0, 1, 2, 3, 4],
     'B': [5, 6, 7, 8, 9],
     'C': ['a', 'b', 'c', 'd', 'e']}
)
print("原始数据:")
print(data)
原始数据:
   A  B  C
0  0  5  a
1  1  6  b
2  2  7  c
3  3  8  d
4  4  9  e

1. 单一值替换

将数据中所有的0替换为100。这是最简单直接的替换。

import pandas as pd

# 创建示例数据并执行单一值替换
data_single = pd.DataFrame({'A': [0, 1, 2, 3, 4], 'B': [5, 6, 7, 8, 9], 'C': ['a', 'b', 'c', 'd', 'e']})
result_single = data_single.replace(0, 100)
print("将0替换为100后的结果:")
print(result_single)
将0替换为100后的结果:
     A  B  C
0  100  5  a
1    1  6  b
2    2  7  c
3    3  8  d
4    4  9  e

注意:观察结果,只有第一列第一行的数据值0被替换成了100。行索引0本身并没有被替换,因为replace方法操作的是单元格内的数据值,而非行或列的索引标签。

2. 列表替换为单一值

将一个列表中的所有值,统一替换为另一个指定的值。例如,将[0, 1, 2, 3]全部替换为4。

import pandas as pd

# 创建示例数据并执行列表到单一值的替换
data_list_val = pd.DataFrame({'A': [0, 1, 2, 3, 4], 'B': [5, 6, 7, 8, 9], 'C': ['a', 'b', 'c', 'd', 'e']})
result_list_to_value = data_list_val.replace([0, 1, 2, 3], 4)
print("将[0,1,2,3]全部替换为4后的结果:")
print(result_list_to_value)
将[0,1,2,3]全部替换为4后的结果:
   A  B  C
0  4  5  a
1  4  6  b
2  4  7  c
3  4  8  d
4  4  9  e

3. 列表对应替换

提供两个列表,将第一个列表中的每个值,按位置对应地替换为第二个列表中的值。即实现多组特定的一对一替换。

import pandas as pd

# 创建示例数据并执行列表到列表的对应替换
data_list_list = pd.DataFrame({'A': [0, 1, 2, 3, 4], 'B': [5, 6, 7, 8, 9], 'C': ['a', 'b', 'c', 'd', 'e']})
result_list_to_list = data_list_list.replace([0, 1, 2, 3], [4, 3, 2, 1])
print("将[0,1,2,3]对应替换为[4,3,2,1]后的结果:")
print(result_list_to_list)
将[0,1,2,3]对应替换为[4,3,2,1]后的结果:
   A  B  C
0  4  5  a
1  3  6  b
2  2  7  c
3  1  8  d
4  4  9  e

4. 字典映射替换

使用字典可以最清晰、灵活地定义多组替换规则。字典的键(key)是被替换的值,值(value)是替换后的新值。

import pandas as pd

# 创建示例数据并执行字典映射替换
data_dict = pd.DataFrame({'A': [0, 1, 2, 3, 4], 'B': [5, 6, 7, 8, 9], 'C': ['a', 'b', 'c', 'd', 'e']})
result_dict = data_dict.replace({0: 10, 1: 100})
print("使用字典{0:10, 1:100}替换后的结果:")
print(result_dict)
使用字典{0:10, 1:100}替换后的结果:
     A  B  C
0   10  5  a
1  100  6  b
2    2  7  c
3    3  8  d
4    4  9  e

实战应用:清洗无效数据标记

在实际数据分析中,数据集常使用特殊值(如9999、-1、NULL等)表示缺失或无效信息。我们可以用replace方法将其替换为Pandas可识别的缺失值(如pd.NA或np.nan),以便后续进行缺失值处理。

import pandas as pd

# 模拟包含无效标记的温度数据
temp_data = pd.DataFrame({
    '城市': ['北京', '上海', '广州', '深圳', '成都'],
    '温度(℃)': [25, 9999, 30, 28, 9999]
})
print("原始温度数据(9999为无效标记):")
print(temp_data)

# 将无效标记9999替换为缺失值pd.NA
temp_data_cleaned = temp_data.replace(9999, pd.NA)
print("\n清洗后(9999替换为缺失值)的温度数据:")
print(temp_data_cleaned)
原始温度数据(9999为无效标记):
   城市  温度(℃)
0  北京     25
1  上海   9999
2  广州     30
3  深圳     28
4  成都   9999

清洗后(9999替换为缺失值)的温度数据:
   城市 温度(℃)
0  北京    25
1  上海  <NA>
2  广州    30
3  深圳    28
4  成都  <NA>

📝 动手练一练

  1. 概念辨析:df.replace(1, 100) 和 df['column'].replace(1, 100) 在执行效果上有何异同?如果df是一个DataFrame,df['column']是一个Series,这两种写法分别会对哪些数据产生影响?
👉 点击查看参考答案

df.replace(1, 100) 会对整个DataFrame df中所有列的数据进行扫描,将所有值为1的单元格替换为100。 df['column'].replace(1, 100) 仅针对名为'column'的这一个Series(即DataFrame中的一列)进行操作,将该列中所有值为1的元素替换为100,其他列不受影响。

  1. 动手实践:假设你有一个记录学生成绩的DataFrame,其中用-1表示缺考。请构造一个包含'姓名'和'数学成绩'两列的小数据(至少3行,包含一个-1),然后编写代码将-1替换为字符串'缺考',并打印替换前后的数据。
👉 点击查看参考答案
import pandas as pd
# 构造数据
scores = pd.DataFrame({
    '姓名': ['张三', '李四', '王五'],
    '数学成绩': [85, -1, 92]
})
print("替换前:")
print(scores)
# 执行替换
scores_replaced = scores.replace(-1, '缺考')
print("\n替换后:")
print(scores_replaced)

预期输出:

替换前:
   姓名  数学成绩
0  张三    85
1  李四    -1
2  王五    92

替换后:
   姓名 数学成绩
0  张三   85
1  李四   缺考
2  王五   92

本章小结

本节深入学习了Pandas中用于数据清洗的replace方法。我们掌握了其四种核心用法:单一值替换、列表整体替换、列表对应替换以及字典映射替换。关键在于理解replace操作的对象是数据框(DataFrame)或序列(Series)中的值,而非索引。该方法在清洗无效数据标记(如将9999替换为缺失值)和统一数据编码方面非常实用。

📋 行动清单

  • 在你的环境中运行本节所有代码示例,观察不同替换方式的结果。
  • 尝试对你手头或设想的一个小数据集,使用字典映射的方式,批量修改其中的某些分类标签或错误编码。
  • 思考:如果想把数据中所有的缺失值(NaN)替换为0,应该如何使用replace方法?(提示:replace的参数同样可以是np.nan)。

—— 小象教研组

配套资料 · 直接下载

课件、代码、数据集等配套资料全部免费,点击即可直接下载,无需分享或解锁。

  • 本节课件:数据清洗--替换数据
    PDF · 189KB
    下载
  • 全套课件打包(第1-5章)
    ZIP · 12.8MB
    下载
  • 全套课件打包(第6-8章)
    ZIP · 15MB
    下载
  • 实战数据集:AppleStore 应用商城分析
    ZIP · 329KB
    下载
  • 实战数据集:女性服装电商分析
    ZIP · 2.8MB
    下载
  • Python 数据分析环境搭建指南
    PDF · 2MB
    下载
  • Scrapy 安装教程
    PDF · 12.7MB
    下载
  • 附加实战项目:AppleStore 应用商城数据分析
    ZIP · 0.3MB · ipynb + CSV 数据
    下载
  • 附加实战项目:银行电话营销数据分析
    ZIP · 0.4MB · ipynb + CSV 数据
    下载
  • 附加实战项目:女性服装电商评论数据分析
    ZIP · 2.7MB · ipynb + CSV 数据
    下载
  • 附加实战项目:美国化学学会杂志数据分析
    ZIP · 34.2MB · ipynb + SQLite 数据库
    下载