查看全课大纲(第 35 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.3D绘图 -- mplot3d
  82. 82.3D曲线可视化
  83. 83.3D散点图可视化
  84. 84.3D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

数据结构-DataFrame

约 15 分钟

📺 正在播放小象学院官方高清录播(支持倍速与清晰度调节)

DataFrame:Pandas的表格型数据结构

小象实战讲义 · Python数据分析实战

在上一节中,我们学习了Pandas的第一个核心数据结构Series,它是一维的带标签数组。但在实际数据分析工作中,我们面对的大多是二维甚至多维的表格数据。本节将介绍Pandas中最重要的数据结构——DataFrame,它是处理表格数据的核心工具,类似于Excel中的工作表或R语言中的data.frame。

💡 核心导读

  • DataFrame是什么:二维表格型数据结构,包含行索引、列索引和实际数据值
  • 如何创建DataFrame:通过NumPy数组或Python字典两种主要方式构建
  • 数据访问与操作:通过列索引获取数据、新增列、删除列等基本操作
  • 重要特性:DataFrame的每列都是一个Series,支持广播机制自动对齐数据

DataFrame的基本概念

DataFrame是Pandas中最常用的数据结构,它是一个二维的、大小可变的、可以存储多种类型数据的表格。你可以把它想象成Excel中的一个工作表,或者数据库中的一张表。

DataFrame由三个核心部分组成:

  1. 行索引(index):标识每一行的标签,位于表格最左侧
  2. 列索引(columns):标识每一列的标签,位于表格最上方
  3. 数据值(values):实际的表格数据,存储在NumPy的多维数组中
     A    B    C    D  ← 列索引(columns)
0  1.0  2.0  3.0  4.0
1  5.0  6.0  7.0  8.0
2  9.0 10.0 11.0 12.0
↑
行索引(index)

DataFrame有一个非常重要的特性:每一列都是一个Series。这意味着当你从DataFrame中提取一列数据时,得到的是一个Series对象,你可以使用所有Series的方法和属性来处理它。

创建DataFrame

Pandas提供了多种创建DataFrame的方式,最常用的两种是通过NumPy数组和通过Python字典。

通过NumPy数组创建

import pandas as pd
import numpy as np

# 创建一个4行3列的随机数组
array_data = np.array([
    [1.0, 2.0, 3.0],
    [4.0, 5.0, 6.0],
    [7.0, 8.0, 9.0],
    [10.0, 11.0, 12.0]
])

# 将NumPy数组转换为DataFrame
df_from_array = pd.DataFrame(array_data)

print("通过NumPy数组创建的DataFrame:")
print(df_from_array)
通过NumPy数组创建的DataFrame:
      0     1     2
0   1.0   2.0   3.0
1   4.0   5.0   6.0
2   7.0   8.0   9.0
3  10.0  11.0  12.0

注意:当我们没有指定行索引和列索引时,Pandas会自动生成从0开始的整数索引。在Jupyter Notebook中,直接输入变量名会显示带样式的表格,而使用print()函数则会输出纯文本格式。

通过字典创建

通过字典创建DataFrame时,字典的键(key)会成为DataFrame的列名,字典的值(value)会成为对应列的数据。

import pandas as pd
import numpy as np

# 通过字典创建DataFrame
dict_data = {
    'A': 1.0,  # 单个数值,会被广播
    'B': pd.Timestamp('2019-01-01'),  # 时间戳类型
    'C': pd.Series([1.0, 1.0, 1.0, 1.0], dtype='float32'),  # Series类型
    'D': np.array([3, 3, 3, 3], dtype='int32'),  # NumPy数组
    'E': ['Python', 'Java', 'C++', 'C#'],  # 字符串列表
    'F': '数据分析'  # 单个字符串,会被广播
}

df_from_dict = pd.DataFrame(dict_data)

print("通过字典创建的DataFrame:")
print(df_from_dict)
通过字典创建的DataFrame:
     A          B    C  D       E     F
0  1.0 2019-01-01  1.0  3  Python  数据分析
1  1.0 2019-01-01  1.0  3    Java  数据分析
2  1.0 2019-01-01  1.0  3     C++  数据分析
3  1.0 2019-01-01  1.0  3      C#  数据分析

这里有一个非常重要的特性:广播(broadcasting)。但要注意它的准确边界:只有标量(单个值)才会被广播——例如列A只有一个值1.0,其他列有4个值,Pandas会自动将1.0重复4次,生成一个长度为4的列。而不等长的列表/数组之间并不会互相”重复对齐”:长度不一致的两个序列传入 DataFrame 会直接抛出 ValueError,需要你自己先对齐长度。

DataFrame的基本属性与方法

创建DataFrame后,我们可以查看它的基本属性和使用一些常用的方法。

import pandas as pd
import numpy as np

# 创建示例DataFrame
df_demo = pd.DataFrame({
    '姓名': ['张三', '李四', '王五', '赵六'],
    '年龄': [25, 30, 35, 28],
    '城市': ['北京', '上海', '广州', '深圳']
})

# 查看列名
print("列名(columns):", df_demo.columns.tolist())

# 查看行索引
print("行索引(index):", df_demo.index.tolist())

# 查看数据值(返回NumPy数组)
print("数据值类型:", type(df_demo.values).__name__)
print("数据值形状:", df_demo.values.shape)

# 预览数据:前2行
print("\n前2行数据:")
print(df_demo.head(2))

# 预览数据:后2行
print("\n后2行数据:")
print(df_demo.tail(2))
列名(columns): ['姓名', '年龄', '城市']
行索引(index): [0, 1, 2, 3]
数据值类型: ndarray
数据值形状: (4, 3)

前2行数据:
   姓名  年龄  城市
0  张三  25  北京
1  李四  30  上海

后2行数据:
   姓名  年龄  城市
2  王五  35  广州
3  赵六  28  深圳

数据访问与操作

获取列数据

DataFrame在设计上是偏向于列操作的,我们通常先获取列数据,然后再进行其他处理。

import pandas as pd

# 创建示例DataFrame
df_example = pd.DataFrame({
    '姓名': ['张三', '李四', '王五', '赵六'],
    '年龄': [25, 30, 35, 28],
    '城市': ['北京', '上海', '广州', '深圳'],
    '薪资': [15000, 18000, 22000, 16000]
})

# 方法1:使用方括号(推荐)
age_column = df_example['年龄']
print("使用方括号获取'年龄'列:")
print(age_column)
print("数据类型:", type(age_column).__name__)

# 方法2:使用点号(不推荐)
name_column = df_example.姓名
print("\n使用点号获取'姓名'列:")
print(name_column)

# 验证两种方法获取的是否相同
print("\n两种方法获取的列是否相同:", age_column.equals(df_example.年龄))
使用方括号获取'年龄'列:
0    25
1    30
2    35
3    28
Name: 年龄, dtype: int64
数据类型: Series

使用点号获取'姓名'列:
0    张三
1    李四
2    王五
3    赵六
Name: 姓名, dtype: str

两种方法获取的列是否相同: True

重要提示:虽然点号访问在本例中成功(Python 3 允许标识符使用中文字符,df.姓名 是合法写法),但这仍不是推荐的做法。当列名包含空格、特殊字符、运算符,或与 DataFrame 的已有方法/属性重名(如 count、index)时,点号访问会失效或产生歧义。使用方括号访问对所有列名都安全可靠。

新增列数据

向DataFrame中添加新列非常简单,就像给字典添加新的键值对一样。

import pandas as pd

# 创建示例DataFrame
df_employee = pd.DataFrame({
    '姓名': ['张三', '李四', '王五', '赵六'],
    '年龄': [25, 30, 35, 28],
    '城市': ['北京', '上海', '广州', '深圳']
})

print("原始DataFrame:")
print(df_employee)

# 新增一列数据
df_employee['薪资'] = [15000, 18000, 22000, 16000]
print("\n新增'薪资'列后:")
print(df_employee)

# 新增计算列
df_employee['年薪'] = df_employee['薪资'] * 12
print("\n新增计算列'年薪'后:")
print(df_employee)
原始DataFrame:
   姓名  年龄  城市
0  张三  25  北京
1  李四  30  上海
2  王五  35  广州
3  赵六  28  深圳

新增'薪资'列后:
   姓名  年龄  城市     薪资
0  张三  25  北京  15000
1  李四  30  上海  18000
2  王五  35  广州  22000
3  赵六  28  深圳  16000

新增计算列'年薪'后:
   姓名  年龄  城市     薪资      年薪
0  张三  25  北京  15000  180000
1  李四  30  上海  18000  216000
2  王五  35  广州  22000  264000
3  赵六  28  深圳  16000  192000

删除列数据

删除列数据有两种常用方法:使用drop()方法和使用Python的del关键字。

import pandas as pd

# 创建演示数据
df_for_delete = pd.DataFrame({
    'A': [1, 2, 3, 4],
    'B': [5, 6, 7, 8],
    'C': [9, 10, 11, 12],
    'D': [13, 14, 15, 16],
    'E': [17, 18, 19, 20]
})

print("原始DataFrame:")
print(df_for_delete)

# 方法1:使用drop()方法(返回新DataFrame,原数据不变)
df_dropped = df_for_delete.drop(columns=['B', 'D'])
print("\n使用drop()删除B和D列后(新DataFrame):")
print(df_dropped)

print("\n原始DataFrame(未改变):")
print(df_for_delete)

# 方法2:使用del关键字(直接修改原DataFrame)
del df_for_delete['C']
print("\n使用del删除C列后(原DataFrame被修改):")
print(df_for_delete)
原始DataFrame:
   A  B   C   D   E
0  1  5   9  13  17
1  2  6  10  14  18
2  3  7  11  15  19
3  4  8  12  16  20

使用drop()删除B和D列后(新DataFrame):
   A   C   E
0  1   9  17
1  2  10  18
2  3  11  19
3  4  12  20

原始DataFrame(未改变):
   A  B   C   D   E
0  1  5   9  13  17
1  2  6  10  14  18
2  3  7  11  15  19
3  4  8  12  16  20

使用del删除C列后(原DataFrame被修改):
   A  B   D   E
0  1  5  13  17
1  2  6  14  18
2  3  7  15  19
3  4  8  16  20

重要注意事项:drop()方法默认返回一个新的DataFrame,而不会修改原始数据。如果你想保留删除后的结果,必须用一个新变量来接收返回值。这是Pandas新手常犯的错误之一。

📝 动手练一练

  1. 概念辨析:DataFrame和Series之间有什么关系?从DataFrame中提取一列数据会得到什么类型的数据?
👉 点击查看参考答案

DataFrame和Series的关系:

  • DataFrame是一个二维表格数据结构,而Series是一维带标签数组
  • DataFrame的每一列都是一个Series对象
  • 从DataFrame中提取一列数据会得到一个Series对象

例如:

import pandas as pd

df = pd.DataFrame({'A': [1, 2, 3], 'B': [4, 5, 6]})
col_a = df['A']
print(type(col_a).__name__)  # 输出:Series
Series
  1. 动手实践:创建一个包含学生信息的DataFrame,包含”姓名”、“成绩”、“班级”三列,然后:
    • 新增一列”等级”,根据成绩判断(≥90为”A”,≥80为”B”,其他为”C”)
    • 删除”班级”列
    • 查看处理后的DataFrame
👉 点击查看参考答案
import pandas as pd

# 创建学生信息DataFrame
df_students = pd.DataFrame({
    '姓名': ['小明', '小红', '小刚', '小丽'],
    '成绩': [85, 92, 78, 88],
    '班级': ['一班', '一班', '二班', '二班']
})

print("原始数据:")
print(df_students)

# 新增等级列
def get_grade(score):
    if score >= 90:
        return 'A'
    elif score >= 80:
        return 'B'
    else:
        return 'C'

df_students['等级'] = df_students['成绩'].apply(get_grade)

# 删除班级列
df_final = df_students.drop(columns=['班级'])

print("\n处理后的数据:")
print(df_final)
原始数据:
   姓名  成绩  班级
0  小明  85  一班
1  小红  92  一班
2  小刚  78  二班
3  小丽  88  二班

处理后的数据:
   姓名  成绩 等级
0  小明  85  B
1  小红  92  A
2  小刚  78  C
3  小丽  88  B

本章小结

本节我们学习了Pandas中最重要的数据结构——DataFrame。DataFrame是二维表格型数据,由行索引、列索引和数据值三部分组成,是数据分析工作中最常用的数据结构。

📋 行动清单

  • 尝试使用NumPy数组和Python字典两种方式创建DataFrame
  • 练习从DataFrame中提取列数据,并验证提取结果确实是Series类型
  • 掌握新增列和删除列的基本操作,特别注意drop()方法不会修改原数据
  • 理解DataFrame的广播机制,尝试创建数据长度不一致的字典并观察Pandas如何处理

DataFrame是Pandas的核心,后续的数据清洗、统计分析、可视化等操作都建立在DataFrame的基础上。下一节我们将学习如何对DataFrame进行更复杂的索引和切片操作。

—— 小象教研组

配套资料 · 直接下载

课件、代码、数据集等配套资料全部免费,点击即可直接下载,无需分享或解锁。

  • 本节课件:数据结构-DataFrame
    PDF · 200KB
    下载
  • 全套课件打包(第1-5章)
    ZIP · 12.8MB
    下载
  • 全套课件打包(第6-8章)
    ZIP · 15MB
    下载
  • 实战数据集:AppleStore 应用商城分析
    ZIP · 329KB
    下载
  • 实战数据集:女性服装电商分析
    ZIP · 2.8MB
    下载
  • Python 数据分析环境搭建指南
    PDF · 2MB
    下载
  • Scrapy 安装教程
    PDF · 12.7MB
    下载
  • 附加实战项目:AppleStore 应用商城数据分析
    ZIP · 0.3MB · ipynb + CSV 数据
    下载
  • 附加实战项目:银行电话营销数据分析
    ZIP · 0.4MB · ipynb + CSV 数据
    下载
  • 附加实战项目:女性服装电商评论数据分析
    ZIP · 2.7MB · ipynb + CSV 数据
    下载
  • 附加实战项目:美国化学学会杂志数据分析
    ZIP · 34.2MB · ipynb + SQLite 数据库
    下载