查看全课大纲(第 35 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.3D绘图 -- mplot3d
- 82.3D曲线可视化
- 83.3D散点图可视化
- 84.3D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
数据结构-DataFrame
约 15 分钟
DataFrame:Pandas的表格型数据结构
小象实战讲义 · Python数据分析实战
在上一节中,我们学习了Pandas的第一个核心数据结构Series,它是一维的带标签数组。但在实际数据分析工作中,我们面对的大多是二维甚至多维的表格数据。本节将介绍Pandas中最重要的数据结构——DataFrame,它是处理表格数据的核心工具,类似于Excel中的工作表或R语言中的data.frame。
💡 核心导读
- DataFrame是什么:二维表格型数据结构,包含行索引、列索引和实际数据值
- 如何创建DataFrame:通过NumPy数组或Python字典两种主要方式构建
- 数据访问与操作:通过列索引获取数据、新增列、删除列等基本操作
- 重要特性:DataFrame的每列都是一个Series,支持广播机制自动对齐数据
DataFrame的基本概念
DataFrame是Pandas中最常用的数据结构,它是一个二维的、大小可变的、可以存储多种类型数据的表格。你可以把它想象成Excel中的一个工作表,或者数据库中的一张表。
DataFrame由三个核心部分组成:
- 行索引(index):标识每一行的标签,位于表格最左侧
- 列索引(columns):标识每一列的标签,位于表格最上方
- 数据值(values):实际的表格数据,存储在NumPy的多维数组中
A B C D ← 列索引(columns)
0 1.0 2.0 3.0 4.0
1 5.0 6.0 7.0 8.0
2 9.0 10.0 11.0 12.0
↑
行索引(index)DataFrame有一个非常重要的特性:每一列都是一个Series。这意味着当你从DataFrame中提取一列数据时,得到的是一个Series对象,你可以使用所有Series的方法和属性来处理它。
创建DataFrame
Pandas提供了多种创建DataFrame的方式,最常用的两种是通过NumPy数组和通过Python字典。
通过NumPy数组创建
import pandas as pd
import numpy as np
# 创建一个4行3列的随机数组
array_data = np.array([
[1.0, 2.0, 3.0],
[4.0, 5.0, 6.0],
[7.0, 8.0, 9.0],
[10.0, 11.0, 12.0]
])
# 将NumPy数组转换为DataFrame
df_from_array = pd.DataFrame(array_data)
print("通过NumPy数组创建的DataFrame:")
print(df_from_array)通过NumPy数组创建的DataFrame:
0 1 2
0 1.0 2.0 3.0
1 4.0 5.0 6.0
2 7.0 8.0 9.0
3 10.0 11.0 12.0注意:当我们没有指定行索引和列索引时,Pandas会自动生成从0开始的整数索引。在Jupyter Notebook中,直接输入变量名会显示带样式的表格,而使用print()函数则会输出纯文本格式。
通过字典创建
通过字典创建DataFrame时,字典的键(key)会成为DataFrame的列名,字典的值(value)会成为对应列的数据。
import pandas as pd
import numpy as np
# 通过字典创建DataFrame
dict_data = {
'A': 1.0, # 单个数值,会被广播
'B': pd.Timestamp('2019-01-01'), # 时间戳类型
'C': pd.Series([1.0, 1.0, 1.0, 1.0], dtype='float32'), # Series类型
'D': np.array([3, 3, 3, 3], dtype='int32'), # NumPy数组
'E': ['Python', 'Java', 'C++', 'C#'], # 字符串列表
'F': '数据分析' # 单个字符串,会被广播
}
df_from_dict = pd.DataFrame(dict_data)
print("通过字典创建的DataFrame:")
print(df_from_dict)通过字典创建的DataFrame:
A B C D E F
0 1.0 2019-01-01 1.0 3 Python 数据分析
1 1.0 2019-01-01 1.0 3 Java 数据分析
2 1.0 2019-01-01 1.0 3 C++ 数据分析
3 1.0 2019-01-01 1.0 3 C# 数据分析这里有一个非常重要的特性:广播(broadcasting)。但要注意它的准确边界:只有标量(单个值)才会被广播——例如列A只有一个值1.0,其他列有4个值,Pandas会自动将1.0重复4次,生成一个长度为4的列。而不等长的列表/数组之间并不会互相”重复对齐”:长度不一致的两个序列传入 DataFrame 会直接抛出 ValueError,需要你自己先对齐长度。
DataFrame的基本属性与方法
创建DataFrame后,我们可以查看它的基本属性和使用一些常用的方法。
import pandas as pd
import numpy as np
# 创建示例DataFrame
df_demo = pd.DataFrame({
'姓名': ['张三', '李四', '王五', '赵六'],
'年龄': [25, 30, 35, 28],
'城市': ['北京', '上海', '广州', '深圳']
})
# 查看列名
print("列名(columns):", df_demo.columns.tolist())
# 查看行索引
print("行索引(index):", df_demo.index.tolist())
# 查看数据值(返回NumPy数组)
print("数据值类型:", type(df_demo.values).__name__)
print("数据值形状:", df_demo.values.shape)
# 预览数据:前2行
print("\n前2行数据:")
print(df_demo.head(2))
# 预览数据:后2行
print("\n后2行数据:")
print(df_demo.tail(2))列名(columns): ['姓名', '年龄', '城市']
行索引(index): [0, 1, 2, 3]
数据值类型: ndarray
数据值形状: (4, 3)
前2行数据:
姓名 年龄 城市
0 张三 25 北京
1 李四 30 上海
后2行数据:
姓名 年龄 城市
2 王五 35 广州
3 赵六 28 深圳数据访问与操作
获取列数据
DataFrame在设计上是偏向于列操作的,我们通常先获取列数据,然后再进行其他处理。
import pandas as pd
# 创建示例DataFrame
df_example = pd.DataFrame({
'姓名': ['张三', '李四', '王五', '赵六'],
'年龄': [25, 30, 35, 28],
'城市': ['北京', '上海', '广州', '深圳'],
'薪资': [15000, 18000, 22000, 16000]
})
# 方法1:使用方括号(推荐)
age_column = df_example['年龄']
print("使用方括号获取'年龄'列:")
print(age_column)
print("数据类型:", type(age_column).__name__)
# 方法2:使用点号(不推荐)
name_column = df_example.姓名
print("\n使用点号获取'姓名'列:")
print(name_column)
# 验证两种方法获取的是否相同
print("\n两种方法获取的列是否相同:", age_column.equals(df_example.年龄))使用方括号获取'年龄'列:
0 25
1 30
2 35
3 28
Name: 年龄, dtype: int64
数据类型: Series
使用点号获取'姓名'列:
0 张三
1 李四
2 王五
3 赵六
Name: 姓名, dtype: str
两种方法获取的列是否相同: True重要提示:虽然点号访问在本例中成功(Python 3 允许标识符使用中文字符,df.姓名 是合法写法),但这仍不是推荐的做法。当列名包含空格、特殊字符、运算符,或与 DataFrame 的已有方法/属性重名(如 count、index)时,点号访问会失效或产生歧义。使用方括号访问对所有列名都安全可靠。
新增列数据
向DataFrame中添加新列非常简单,就像给字典添加新的键值对一样。
import pandas as pd
# 创建示例DataFrame
df_employee = pd.DataFrame({
'姓名': ['张三', '李四', '王五', '赵六'],
'年龄': [25, 30, 35, 28],
'城市': ['北京', '上海', '广州', '深圳']
})
print("原始DataFrame:")
print(df_employee)
# 新增一列数据
df_employee['薪资'] = [15000, 18000, 22000, 16000]
print("\n新增'薪资'列后:")
print(df_employee)
# 新增计算列
df_employee['年薪'] = df_employee['薪资'] * 12
print("\n新增计算列'年薪'后:")
print(df_employee)原始DataFrame:
姓名 年龄 城市
0 张三 25 北京
1 李四 30 上海
2 王五 35 广州
3 赵六 28 深圳
新增'薪资'列后:
姓名 年龄 城市 薪资
0 张三 25 北京 15000
1 李四 30 上海 18000
2 王五 35 广州 22000
3 赵六 28 深圳 16000
新增计算列'年薪'后:
姓名 年龄 城市 薪资 年薪
0 张三 25 北京 15000 180000
1 李四 30 上海 18000 216000
2 王五 35 广州 22000 264000
3 赵六 28 深圳 16000 192000删除列数据
删除列数据有两种常用方法:使用drop()方法和使用Python的del关键字。
import pandas as pd
# 创建演示数据
df_for_delete = pd.DataFrame({
'A': [1, 2, 3, 4],
'B': [5, 6, 7, 8],
'C': [9, 10, 11, 12],
'D': [13, 14, 15, 16],
'E': [17, 18, 19, 20]
})
print("原始DataFrame:")
print(df_for_delete)
# 方法1:使用drop()方法(返回新DataFrame,原数据不变)
df_dropped = df_for_delete.drop(columns=['B', 'D'])
print("\n使用drop()删除B和D列后(新DataFrame):")
print(df_dropped)
print("\n原始DataFrame(未改变):")
print(df_for_delete)
# 方法2:使用del关键字(直接修改原DataFrame)
del df_for_delete['C']
print("\n使用del删除C列后(原DataFrame被修改):")
print(df_for_delete)原始DataFrame:
A B C D E
0 1 5 9 13 17
1 2 6 10 14 18
2 3 7 11 15 19
3 4 8 12 16 20
使用drop()删除B和D列后(新DataFrame):
A C E
0 1 9 17
1 2 10 18
2 3 11 19
3 4 12 20
原始DataFrame(未改变):
A B C D E
0 1 5 9 13 17
1 2 6 10 14 18
2 3 7 11 15 19
3 4 8 12 16 20
使用del删除C列后(原DataFrame被修改):
A B D E
0 1 5 13 17
1 2 6 14 18
2 3 7 15 19
3 4 8 16 20重要注意事项:drop()方法默认返回一个新的DataFrame,而不会修改原始数据。如果你想保留删除后的结果,必须用一个新变量来接收返回值。这是Pandas新手常犯的错误之一。
📝 动手练一练
- 概念辨析:DataFrame和Series之间有什么关系?从DataFrame中提取一列数据会得到什么类型的数据?
👉 点击查看参考答案
DataFrame和Series的关系:
- DataFrame是一个二维表格数据结构,而Series是一维带标签数组
- DataFrame的每一列都是一个Series对象
- 从DataFrame中提取一列数据会得到一个Series对象
例如:
import pandas as pd
df = pd.DataFrame({'A': [1, 2, 3], 'B': [4, 5, 6]})
col_a = df['A']
print(type(col_a).__name__) # 输出:SeriesSeries- 动手实践:创建一个包含学生信息的DataFrame,包含”姓名”、“成绩”、“班级”三列,然后:
- 新增一列”等级”,根据成绩判断(≥90为”A”,≥80为”B”,其他为”C”)
- 删除”班级”列
- 查看处理后的DataFrame
👉 点击查看参考答案
import pandas as pd
# 创建学生信息DataFrame
df_students = pd.DataFrame({
'姓名': ['小明', '小红', '小刚', '小丽'],
'成绩': [85, 92, 78, 88],
'班级': ['一班', '一班', '二班', '二班']
})
print("原始数据:")
print(df_students)
# 新增等级列
def get_grade(score):
if score >= 90:
return 'A'
elif score >= 80:
return 'B'
else:
return 'C'
df_students['等级'] = df_students['成绩'].apply(get_grade)
# 删除班级列
df_final = df_students.drop(columns=['班级'])
print("\n处理后的数据:")
print(df_final)原始数据:
姓名 成绩 班级
0 小明 85 一班
1 小红 92 一班
2 小刚 78 二班
3 小丽 88 二班
处理后的数据:
姓名 成绩 等级
0 小明 85 B
1 小红 92 A
2 小刚 78 C
3 小丽 88 B本章小结
本节我们学习了Pandas中最重要的数据结构——DataFrame。DataFrame是二维表格型数据,由行索引、列索引和数据值三部分组成,是数据分析工作中最常用的数据结构。
📋 行动清单
- 尝试使用NumPy数组和Python字典两种方式创建DataFrame
- 练习从DataFrame中提取列数据,并验证提取结果确实是Series类型
- 掌握新增列和删除列的基本操作,特别注意
drop()方法不会修改原数据 - 理解DataFrame的广播机制,尝试创建数据长度不一致的字典并观察Pandas如何处理
DataFrame是Pandas的核心,后续的数据清洗、统计分析、可视化等操作都建立在DataFrame的基础上。下一节我们将学习如何对DataFrame进行更复杂的索引和切片操作。
—— 小象教研组
配套资料 · 直接下载
课件、代码、数据集等配套资料全部免费,点击即可直接下载,无需分享或解锁。
- 下载本节课件:数据结构-DataFramePDF · 200KB
- 下载全套课件打包(第1-5章)ZIP · 12.8MB
- 下载全套课件打包(第6-8章)ZIP · 15MB
- 下载实战数据集:AppleStore 应用商城分析ZIP · 329KB
- 下载实战数据集:女性服装电商分析ZIP · 2.8MB
- 下载Python 数据分析环境搭建指南PDF · 2MB
- 下载Scrapy 安装教程PDF · 12.7MB
- 下载附加实战项目:AppleStore 应用商城数据分析ZIP · 0.3MB · ipynb + CSV 数据
- 下载附加实战项目:银行电话营销数据分析ZIP · 0.4MB · ipynb + CSV 数据
- 下载附加实战项目:女性服装电商评论数据分析ZIP · 2.7MB · ipynb + CSV 数据
- 下载附加实战项目:美国化学学会杂志数据分析ZIP · 34.2MB · ipynb + SQLite 数据库