查看全课大纲(第 45 / 52 节)
- 1.量化分析基本概念:从咖啡馆到华尔街
- 2.量化交易员学习路线:从零基础到策略开发
- 3.量化策略生命周期:数据分析的五大流程
- 4.量化数据类型:数值型与类别型数据
- 5.量化沙盒搭建(1):Python与Anaconda安装
- 6.量化沙盒搭建(2):Jupyter Notebook与库配置
- 7.本地多源数据:量化历史回测的基石
- 8.TXT数据流操作:处理金融交易日志
- 9.JSON数据流操作:解析股票行情API响应
- 10.CSV行情文件操作:读取与存储历史K线
- 11.Excel报表操作:清洗财报与财务指标
- 12.量化数据库:SQL常用查询语法
- 13.量化数据库:Python连接与写入
- 14.量化多表连接:关联股票信息与行情
- 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
- 16.量化数据采集:爬虫工作原理与合规
- 17.量化爬虫核心:URL管理与去重策略
- 18.量化网页下载:防反爬与请求头伪装
- 19.网页解析(1):使用XPath定位财经新闻
- 20.网页解析(2):使用CSS选择器与ItemLoader
- 21.Scrapy框架:构建工业级量化爬虫
- 22.Scrapy实战(1):新建项目与数据模型定义
- 23.Scrapy实战(2):编写财经爬虫逻辑
- 24.Scrapy实战(3):启用数据管道清洗行情
- 25.Scrapy实战(4):防反爬中间件配置
- 26.实战:构建每日热门个股行情自动采集系统
- 27.NumPy与SciPy:加速量化矩阵计算
- 28.NumPy数组:构建股票价格矩阵
- 29.数组切片:提取特定股票与交易日数据
- 30.NumPy常用方法:计算均值与波动率
- 31.向量化计算:摆脱缓慢的For循环
- 32.通用函数ufunc:计算对数收益率与累计收益
- 33.实战:股票组合资产收益率与协方差矩阵计算
- 34.Pandas Series:管理单只股票收盘价
- 35.Pandas DataFrame:构建多只股票行情面板
- 36.Pandas Index:时间序列索引与对齐
- 37.DataFrame索引操作:loc与iloc定位行情
- 38.索引总结:量化多字段筛选与定位
- 39.运算与对齐:合并不同交易日的数据
- 40.Pandas map:对股票代码与状态做映射
- 41.Pandas apply:滚动计算技术指标
- 42.排序操作:按市盈率与收益率对股票排名
- 43.数据清洗:填充与剔除停牌股票缺失值
- 44.数据清洗:剔除重复报价与异常交易数据
- 45.常用统计:量化最大回撤与分位数风险评估
- 46.极值定位:寻找历史最高价与最低价的发生日
- 47.风险与累计收益:计算年化波动率与累计回报
- 48.实战:小象咖啡店营业数据与热门个股时间序列清洗分析
- 49.Series索引操作:按位置与标签访问行情数据
- 50.文件读写操作:CSV行情数据导入导出
- 51.数据清洗:替换异常报价数据
- 52.常用统计:sum/mean/median/count聚合指标
常用统计:量化最大回撤与分位数风险评估
约 10 分钟
小象实战讲义 · 量化交易Python入门:从咖啡馆到华尔街
Pandas 是量化交易员最核心的武器。本章你将通过 Series 和 DataFrame 深度处理时间序列行情数据,掌握 loc/iloc 定位筛选、缺失值与重复值清洗、以及最大回撤与年化波动率等核心指标统计计算。
💡 核心导读
本节将深入讲解 Pandas 中两个核心统计方法:describe() 和 quantile()。通过学习,您将掌握如何快速生成数据集的描述性统计摘要,以及如何精确计算任意分位数。重点包括:理解默认统计指标含义、自定义分位数计算、处理缺失值策略,以及如何将这些方法应用于实际数据分析工作流。配套的代码示例将展示在真实数据集上的应用场景。
描述性统计 describe()
基础用法
describe() 方法自动计算数值型列的常用统计量:
import pandas as pd
import numpy as np
data = {
'温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
'湿度': [45, 62, 38, 55, np.nan, 67, 72],
'类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)
desc = df.describe()
print(desc)执行后输出:
温度 湿度
count 6.000000 6.000000
mean 21.800000 56.500000
std 2.408319 13.095801
min 18.700000 38.000000
25% 20.200000 47.500000
50% 21.750000 58.500000
75% 23.150000 65.750000
max 25.300000 72.000000参数定制
include/exclude:控制包含/排除的数据类型percentiles:自定义百分位数范围
import pandas as pd
import numpy as np
data = {
'温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
'湿度': [45, 62, 38, 55, np.nan, 67, 72],
'类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)
print(df.describe(include='all', percentiles=[0.1, 0.9]))
print()
print(df[['温度']].describe(percentiles=[0.05, 0.95]))温度 湿度 类别
count 6.000000 6.000000 7
unique NaN NaN 3
top NaN NaN A
freq NaN NaN 3
mean 21.800000 56.500000 NaN
std 2.408319 13.095801 NaN
min 18.700000 38.000000 NaN
10% 19.250000 41.500000 NaN
90% 24.400000 69.500000 NaN
max 25.300000 72.000000 NaN
温度
count 6.000000
mean 21.800000
std 2.408319
min 18.700000
5% 18.975000
95% 24.850000
max 25.300000分位数计算 quantile()
单分位点计算
import pandas as pd
import numpy as np
data = {
'温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
'湿度': [45, 62, 38, 55, np.nan, 67, 72],
'类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)
median_temp = df['温度'].quantile(0.5)
print(f"温度中位数: {median_temp:.2f}°C")
quartiles = df['湿度'].quantile([0.25, 0.5, 0.75])
print("\n湿度四分位数:")
print(quartiles)温度中位数: 21.75°C
湿度四分位数:
0.25 47.50
0.50 58.50
0.75 65.75
Name: 湿度, dtype: float64多分位点与插值方法
interpolation 参数控制分位数计算方式:
- linear:线性插值(默认)
- lower:取较小值
- higher:取较大值
- nearest:最近邻值
import pandas as pd
data_points = [10, 20, 30, 40]
ser = pd.Series(data_points)
print("线性插值:", ser.quantile(0.35, interpolation='linear'))
print("下界取值:", ser.quantile(0.35, interpolation='lower'))线性插值: 20.5
下界取值: 20处理缺失值
import pandas as pd
import numpy as np
data = {
'温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
'湿度': [45, 62, 38, 55, np.nan, 67, 72],
'类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)
print(df['湿度'].quantile(0.75))
try:
print(df['湿度'].quantile(0.75, skipna=False))
except Exception as e:
print(f"错误: {str(e)}")65.75
错误: Series.quantile() got an unexpected keyword argument 'skipna'最大回撤:从历史峰值跌落的最深幅度
最大回撤(Maximum Drawdown,MDD)衡量资产净值从历史峰值回落的最大深度,是分位数之外的另一个必看风险指标:VaR 回答「单日极端亏损有多深」,最大回撤回答「从头到尾最深套牢有多深」。用 pandas 三步即可算出——cummax() 求历史峰值,净值除以峰值再减 1 得到逐日回撤序列,取其最小值即最大回撤:
import pandas as pd
prices = pd.Series([100, 108, 95, 112, 90, 105, 120])
running_max = prices.cummax()
drawdown = prices / running_max - 1
print("净值序列:", prices.tolist())
print("历史峰值:", running_max.tolist())
print("逐日回撤:", [f"{d:.2%}" for d in drawdown])
print(f"最大回撤: {drawdown.min():.2%}")净值序列: [100, 108, 95, 112, 90, 105, 120]
历史峰值: [100, 108, 108, 112, 112, 112, 120]
逐日回撤: ['0.00%', '0.00%', '-12.04%', '0.00%', '-19.64%', '-6.25%', '0.00%']
最大回撤: -19.64%综合应用示例
数据分布分析
import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
np.random.seed(42)
normal_data = pd.DataFrame({
'正态分布': np.random.normal(50, 10, 1000)
})
quantiles = normal_data.quantile([0.001, 0.01, 0.1, 0.5, 0.9, 0.99, 0.999])
print("极端分位点分析:")
print(quantiles)
fig, ax = plt.subplots()
normal_data.plot(kind='box', vert=False, ax=ax)
ax.set_title('数据分布与分位点')
plt.close(fig)极端分位点分析:
正态分布
0.001 23.025690
0.010 29.176509
0.100 37.552369
0.500 50.253006
0.900 63.056452
0.990 73.159695
0.999 80.796547异常值检测
import pandas as pd
import numpy as np
data = {
'温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
'湿度': [45, 62, 38, 55, np.nan, 67, 72],
'类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)
Q1 = df['温度'].quantile(0.25)
Q3 = df['温度'].quantile(0.75)
IQR = Q3 - Q1
lower_bound = Q1 - 1.5 * IQR
upper_bound = Q3 + 1.5 * IQR
outliers = df[(df['温度'] < lower_bound) | (df['温度'] > upper_bound)]
print("温度异常值记录:")
print(outliers)温度异常值记录:
Empty DataFrame
Columns: [温度, 湿度, 类别]
Index: []📝 动手练一练
第 1 题 · 概念应用
你正在分析一个股票策略的历史日收益率序列 returns。为了评估策略的极端下行风险,你计算了 returns.quantile(0.05),得到数值 -0.018。以下哪一项是对这个结果最准确的业务解读?
- A. 该策略有 5% 的概率在一天内获得超过 1.8% 的收益。
- B. 在 95% 的置信水平下,该策略的日亏损不太可能超过 1.8%。
- C. 该策略的日收益率中位数为 -1.8%,表明其长期趋势是下跌的。
- D. 该策略的日收益率平均值为 -1.8%,表明其长期趋势是下跌的。
👉 点击查看参考答案
答案:B
推理过程: returns.quantile(0.05) 计算的是收益率分布的 5% 分位数。这意味着,在历史数据中,有 5% 的交易日收益率低于或等于 -1.8%。从风险管理的角度看,这等价于在 95% 的置信水平下,日亏损(即负收益的绝对值)不太可能超过 1.8%。这正是 在险价值 (VaR) 的一种常见计算方式。选项 A 混淆了方向(它描述的是上行收益),选项 C 和 D 则错误地将分位数与中位数或均值等同起来。
第 2 题 · 代码填空
你管理着一个投资组合,其每日净值记录在 Pandas Series nav 中。为了评估该组合历史上经历过的最大痛苦(即从前期高点回落的最大幅度),你需要计算其 最大回撤。请补全以下计算代码中的关键步骤。
import pandas as pd
# 模拟投资组合净值数据 (单位:元)
nav = pd.Series([100, 102, 98, 105, 103, 108, 104, 110])
# 步骤1: 计算每个时点对应的历史最高净值
running_max = nav.______()
# 步骤2: 计算每个时点相对于其历史最高净值的回撤比例
drawdown = nav / running_max - 1
# 步骤3: 找出整个序列中的最大回撤值(负值表示亏损)
max_drawdown = drawdown.min()
print(f"最大回撤为: {max_drawdown:.2%}")👉 点击查看参考答案
空位应填: cummax
补全后的完整可运行代码:
import pandas as pd
# 模拟投资组合净值数据 (单位:元)
nav = pd.Series([100, 102, 98, 105, 103, 108, 104, 110])
# 步骤1: 计算每个时点对应的历史最高净值
running_max = nav.cummax()
# 步骤2: 计算每个时点相对于其历史最高净值的回撤比例
drawdown = nav / running_max - 1
# 步骤3: 找出整个序列中的最大回撤值(负值表示亏损)
max_drawdown = drawdown.min()
print(f"最大回撤为: {max_drawdown:.2%}")代码运行结果:
最大回撤为: -3.92%计算过程解释:
nav.cummax()生成序列[100, 102, 102, 105, 105, 108, 108, 110],代表每个交易日之前(含当日)的历史最高净值。drawdown计算为[0.00%, 0.00%, -3.92%, 0.00%, -1.90%, 0.00%, -3.70%, 0.00%]。drawdown.min()找到最小值,即-3.92%:它发生在第 3 个时点净值为98时,当时的历史峰值是此前的102(不是后面才出现的108,计算历史回撤只能用当时已经出现过的高点),98/102 - 1 ≈ -3.92%。
本章小结
📋 行动清单
- 使用
describe()分析你最近项目的某个数据集,注意观察不同数据类型的输出差异 - 计算某时间序列数据的95%分位数,比较linear和nearest插值方法的差异
- 对包含缺失值的列执行分位数计算,测试skipna参数的影响
—— 小象教研组