查看全课大纲(第 45 / 52 节)
  1. 1.量化分析基本概念:从咖啡馆到华尔街
  2. 2.量化交易员学习路线:从零基础到策略开发
  3. 3.量化策略生命周期:数据分析的五大流程
  4. 4.量化数据类型:数值型与类别型数据
  5. 5.量化沙盒搭建(1):Python与Anaconda安装
  6. 6.量化沙盒搭建(2):Jupyter Notebook与库配置
  7. 7.本地多源数据:量化历史回测的基石
  8. 8.TXT数据流操作:处理金融交易日志
  9. 9.JSON数据流操作:解析股票行情API响应
  10. 10.CSV行情文件操作:读取与存储历史K线
  11. 11.Excel报表操作:清洗财报与财务指标
  12. 12.量化数据库:SQL常用查询语法
  13. 13.量化数据库:Python连接与写入
  14. 14.量化多表连接:关联股票信息与行情
  15. 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
  16. 16.量化数据采集:爬虫工作原理与合规
  17. 17.量化爬虫核心:URL管理与去重策略
  18. 18.量化网页下载:防反爬与请求头伪装
  19. 19.网页解析(1):使用XPath定位财经新闻
  20. 20.网页解析(2):使用CSS选择器与ItemLoader
  21. 21.Scrapy框架:构建工业级量化爬虫
  22. 22.Scrapy实战(1):新建项目与数据模型定义
  23. 23.Scrapy实战(2):编写财经爬虫逻辑
  24. 24.Scrapy实战(3):启用数据管道清洗行情
  25. 25.Scrapy实战(4):防反爬中间件配置
  26. 26.实战:构建每日热门个股行情自动采集系统
  27. 27.NumPy与SciPy:加速量化矩阵计算
  28. 28.NumPy数组:构建股票价格矩阵
  29. 29.数组切片:提取特定股票与交易日数据
  30. 30.NumPy常用方法:计算均值与波动率
  31. 31.向量化计算:摆脱缓慢的For循环
  32. 32.通用函数ufunc:计算对数收益率与累计收益
  33. 33.实战:股票组合资产收益率与协方差矩阵计算
  34. 34.Pandas Series:管理单只股票收盘价
  35. 35.Pandas DataFrame:构建多只股票行情面板
  36. 36.Pandas Index:时间序列索引与对齐
  37. 37.DataFrame索引操作:loc与iloc定位行情
  38. 38.索引总结:量化多字段筛选与定位
  39. 39.运算与对齐:合并不同交易日的数据
  40. 40.Pandas map:对股票代码与状态做映射
  41. 41.Pandas apply:滚动计算技术指标
  42. 42.排序操作:按市盈率与收益率对股票排名
  43. 43.数据清洗:填充与剔除停牌股票缺失值
  44. 44.数据清洗:剔除重复报价与异常交易数据
  45. 45.常用统计:量化最大回撤与分位数风险评估
  46. 46.极值定位:寻找历史最高价与最低价的发生日
  47. 47.风险与累计收益:计算年化波动率与累计回报
  48. 48.实战:小象咖啡店营业数据与热门个股时间序列清洗分析
  49. 49.Series索引操作:按位置与标签访问行情数据
  50. 50.文件读写操作:CSV行情数据导入导出
  51. 51.数据清洗:替换异常报价数据
  52. 52.常用统计:sum/mean/median/count聚合指标

常用统计:量化最大回撤与分位数风险评估

约 10 分钟

小象实战讲义 · 量化交易Python入门:从咖啡馆到华尔街

Pandas 是量化交易员最核心的武器。本章你将通过 Series 和 DataFrame 深度处理时间序列行情数据,掌握 loc/iloc 定位筛选、缺失值与重复值清洗、以及最大回撤与年化波动率等核心指标统计计算。

💡 核心导读

本节将深入讲解 Pandas 中两个核心统计方法:describe() 和 quantile()。通过学习,您将掌握如何快速生成数据集的描述性统计摘要,以及如何精确计算任意分位数。重点包括:理解默认统计指标含义、自定义分位数计算、处理缺失值策略,以及如何将这些方法应用于实际数据分析工作流。配套的代码示例将展示在真实数据集上的应用场景。


描述性统计 describe()

基础用法

describe() 方法自动计算数值型列的常用统计量:

import pandas as pd
import numpy as np

data = {
    '温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
    '湿度': [45, 62, 38, 55, np.nan, 67, 72],
    '类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)

desc = df.describe()
print(desc)

执行后输出:

温度         湿度
count   6.000000   6.000000
mean   21.800000  56.500000
std     2.408319  13.095801
min    18.700000  38.000000
25%    20.200000  47.500000
50%    21.750000  58.500000
75%    23.150000  65.750000
max    25.300000  72.000000

参数定制

  • include/exclude:控制包含/排除的数据类型
  • percentiles:自定义百分位数范围
import pandas as pd
import numpy as np

data = {
    '温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
    '湿度': [45, 62, 38, 55, np.nan, 67, 72],
    '类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)

print(df.describe(include='all', percentiles=[0.1, 0.9]))
print()
print(df[['温度']].describe(percentiles=[0.05, 0.95]))
温度         湿度   类别
count    6.000000   6.000000    7
unique        NaN        NaN    3
top           NaN        NaN    A
freq          NaN        NaN    3
mean    21.800000  56.500000  NaN
std      2.408319  13.095801  NaN
min     18.700000  38.000000  NaN
10%     19.250000  41.500000  NaN
90%     24.400000  69.500000  NaN
max     25.300000  72.000000  NaN

              温度
count   6.000000
mean   21.800000
std     2.408319
min    18.700000
5%     18.975000
95%    24.850000
max    25.300000

分位数计算 quantile()

单分位点计算

import pandas as pd
import numpy as np

data = {
    '温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
    '湿度': [45, 62, 38, 55, np.nan, 67, 72],
    '类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)

median_temp = df['温度'].quantile(0.5)
print(f"温度中位数: {median_temp:.2f}°C")

quartiles = df['湿度'].quantile([0.25, 0.5, 0.75])
print("\n湿度四分位数:")
print(quartiles)
温度中位数: 21.75°C

湿度四分位数:
0.25    47.50
0.50    58.50
0.75    65.75
Name: 湿度, dtype: float64

多分位点与插值方法

interpolation 参数控制分位数计算方式:

  • linear:线性插值(默认)
  • lower:取较小值
  • higher:取较大值
  • nearest:最近邻值
import pandas as pd

data_points = [10, 20, 30, 40]
ser = pd.Series(data_points)

print("线性插值:", ser.quantile(0.35, interpolation='linear'))
print("下界取值:", ser.quantile(0.35, interpolation='lower'))
线性插值: 20.5
下界取值: 20

处理缺失值

import pandas as pd
import numpy as np

data = {
    '温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
    '湿度': [45, 62, 38, 55, np.nan, 67, 72],
    '类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)

print(df['湿度'].quantile(0.75))

try:
    print(df['湿度'].quantile(0.75, skipna=False))
except Exception as e:
    print(f"错误: {str(e)}")
65.75
错误: Series.quantile() got an unexpected keyword argument 'skipna'

最大回撤:从历史峰值跌落的最深幅度

最大回撤(Maximum Drawdown,MDD)衡量资产净值从历史峰值回落的最大深度,是分位数之外的另一个必看风险指标:VaR 回答「单日极端亏损有多深」,最大回撤回答「从头到尾最深套牢有多深」。用 pandas 三步即可算出——cummax() 求历史峰值,净值除以峰值再减 1 得到逐日回撤序列,取其最小值即最大回撤:

import pandas as pd

prices = pd.Series([100, 108, 95, 112, 90, 105, 120])
running_max = prices.cummax()
drawdown = prices / running_max - 1

print("净值序列:", prices.tolist())
print("历史峰值:", running_max.tolist())
print("逐日回撤:", [f"{d:.2%}" for d in drawdown])
print(f"最大回撤: {drawdown.min():.2%}")
净值序列: [100, 108, 95, 112, 90, 105, 120]
历史峰值: [100, 108, 108, 112, 112, 112, 120]
逐日回撤: ['0.00%', '0.00%', '-12.04%', '0.00%', '-19.64%', '-6.25%', '0.00%']
最大回撤: -19.64%

综合应用示例

数据分布分析

import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np

np.random.seed(42)
normal_data = pd.DataFrame({
    '正态分布': np.random.normal(50, 10, 1000)
})

quantiles = normal_data.quantile([0.001, 0.01, 0.1, 0.5, 0.9, 0.99, 0.999])
print("极端分位点分析:")
print(quantiles)

fig, ax = plt.subplots()
normal_data.plot(kind='box', vert=False, ax=ax)
ax.set_title('数据分布与分位点')
plt.close(fig)
极端分位点分析:
            正态分布
0.001  23.025690
0.010  29.176509
0.100  37.552369
0.500  50.253006
0.900  63.056452
0.990  73.159695
0.999  80.796547

异常值检测

import pandas as pd
import numpy as np

data = {
    '温度': [22.1, 23.5, 18.7, np.nan, 25.3, 19.8, 21.4],
    '湿度': [45, 62, 38, 55, np.nan, 67, 72],
    '类别': ['A', 'B', 'A', 'C', 'B', 'A', 'C']
}
df = pd.DataFrame(data)

Q1 = df['温度'].quantile(0.25)
Q3 = df['温度'].quantile(0.75)
IQR = Q3 - Q1

lower_bound = Q1 - 1.5 * IQR
upper_bound = Q3 + 1.5 * IQR

outliers = df[(df['温度'] < lower_bound) | (df['温度'] > upper_bound)]
print("温度异常值记录:")
print(outliers)
温度异常值记录:
Empty DataFrame
Columns: [温度, 湿度, 类别]
Index: []

📝 动手练一练

第 1 题 · 概念应用

你正在分析一个股票策略的历史日收益率序列 returns。为了评估策略的极端下行风险,你计算了 returns.quantile(0.05),得到数值 -0.018。以下哪一项是对这个结果最准确的业务解读?

  • A. 该策略有 5% 的概率在一天内获得超过 1.8% 的收益。
  • B. 在 95% 的置信水平下,该策略的日亏损不太可能超过 1.8%。
  • C. 该策略的日收益率中位数为 -1.8%,表明其长期趋势是下跌的。
  • D. 该策略的日收益率平均值为 -1.8%,表明其长期趋势是下跌的。
👉 点击查看参考答案

答案:B

推理过程: returns.quantile(0.05) 计算的是收益率分布的 5% 分位数。这意味着,在历史数据中,有 5% 的交易日收益率低于或等于 -1.8%。从风险管理的角度看,这等价于在 95% 的置信水平下,日亏损(即负收益的绝对值)不太可能超过 1.8%。这正是 在险价值 (VaR) 的一种常见计算方式。选项 A 混淆了方向(它描述的是上行收益),选项 C 和 D 则错误地将分位数与中位数或均值等同起来。


第 2 题 · 代码填空

你管理着一个投资组合,其每日净值记录在 Pandas Series nav 中。为了评估该组合历史上经历过的最大痛苦(即从前期高点回落的最大幅度),你需要计算其 最大回撤。请补全以下计算代码中的关键步骤。

import pandas as pd

# 模拟投资组合净值数据 (单位:元)
nav = pd.Series([100, 102, 98, 105, 103, 108, 104, 110])
# 步骤1: 计算每个时点对应的历史最高净值
running_max = nav.______()
# 步骤2: 计算每个时点相对于其历史最高净值的回撤比例
drawdown = nav / running_max - 1
# 步骤3: 找出整个序列中的最大回撤值(负值表示亏损)
max_drawdown = drawdown.min()
print(f"最大回撤为: {max_drawdown:.2%}")
👉 点击查看参考答案

空位应填: cummax

补全后的完整可运行代码:

import pandas as pd

# 模拟投资组合净值数据 (单位:元)
nav = pd.Series([100, 102, 98, 105, 103, 108, 104, 110])
# 步骤1: 计算每个时点对应的历史最高净值
running_max = nav.cummax()
# 步骤2: 计算每个时点相对于其历史最高净值的回撤比例
drawdown = nav / running_max - 1
# 步骤3: 找出整个序列中的最大回撤值(负值表示亏损)
max_drawdown = drawdown.min()
print(f"最大回撤为: {max_drawdown:.2%}")

代码运行结果:

最大回撤为: -3.92%

计算过程解释:

  1. nav.cummax() 生成序列 [100, 102, 102, 105, 105, 108, 108, 110],代表每个交易日之前(含当日)的历史最高净值。
  2. drawdown 计算为 [0.00%, 0.00%, -3.92%, 0.00%, -1.90%, 0.00%, -3.70%, 0.00%]。
  3. drawdown.min() 找到最小值,即 -3.92%:它发生在第 3 个时点净值为 98 时,当时的历史峰值是此前的 102(不是后面才出现的 108,计算历史回撤只能用当时已经出现过的高点),98/102 - 1 ≈ -3.92%。

本章小结

📋 行动清单

  • 使用 describe() 分析你最近项目的某个数据集,注意观察不同数据类型的输出差异
  • 计算某时间序列数据的95%分位数,比较linear和nearest插值方法的差异
  • 对包含缺失值的列执行分位数计算,测试skipna参数的影响

—— 小象教研组