查看全课大纲(第 27 / 52 节)
  1. 1.量化分析基本概念:从咖啡馆到华尔街
  2. 2.量化交易员学习路线:从零基础到策略开发
  3. 3.量化策略生命周期:数据分析的五大流程
  4. 4.量化数据类型:数值型与类别型数据
  5. 5.量化沙盒搭建(1):Python与Anaconda安装
  6. 6.量化沙盒搭建(2):Jupyter Notebook与库配置
  7. 7.本地多源数据:量化历史回测的基石
  8. 8.TXT数据流操作:处理金融交易日志
  9. 9.JSON数据流操作:解析股票行情API响应
  10. 10.CSV行情文件操作:读取与存储历史K线
  11. 11.Excel报表操作:清洗财报与财务指标
  12. 12.量化数据库:SQL常用查询语法
  13. 13.量化数据库:Python连接与写入
  14. 14.量化多表连接:关联股票信息与行情
  15. 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
  16. 16.量化数据采集:爬虫工作原理与合规
  17. 17.量化爬虫核心:URL管理与去重策略
  18. 18.量化网页下载:防反爬与请求头伪装
  19. 19.网页解析(1):使用XPath定位财经新闻
  20. 20.网页解析(2):使用CSS选择器与ItemLoader
  21. 21.Scrapy框架:构建工业级量化爬虫
  22. 22.Scrapy实战(1):新建项目与数据模型定义
  23. 23.Scrapy实战(2):编写财经爬虫逻辑
  24. 24.Scrapy实战(3):启用数据管道清洗行情
  25. 25.Scrapy实战(4):防反爬中间件配置
  26. 26.实战:构建每日热门个股行情自动采集系统
  27. 27.NumPy与SciPy:加速量化矩阵计算
  28. 28.NumPy数组:构建股票价格矩阵
  29. 29.数组切片:提取特定股票与交易日数据
  30. 30.NumPy常用方法:计算均值与波动率
  31. 31.向量化计算:摆脱缓慢的For循环
  32. 32.通用函数ufunc:计算对数收益率与累计收益
  33. 33.实战:股票组合资产收益率与协方差矩阵计算
  34. 34.Pandas Series:管理单只股票收盘价
  35. 35.Pandas DataFrame:构建多只股票行情面板
  36. 36.Pandas Index:时间序列索引与对齐
  37. 37.DataFrame索引操作:loc与iloc定位行情
  38. 38.索引总结:量化多字段筛选与定位
  39. 39.运算与对齐:合并不同交易日的数据
  40. 40.Pandas map:对股票代码与状态做映射
  41. 41.Pandas apply:滚动计算技术指标
  42. 42.排序操作:按市盈率与收益率对股票排名
  43. 43.数据清洗:填充与剔除停牌股票缺失值
  44. 44.数据清洗:剔除重复报价与异常交易数据
  45. 45.常用统计:量化最大回撤与分位数风险评估
  46. 46.极值定位:寻找历史最高价与最低价的发生日
  47. 47.风险与累计收益:计算年化波动率与累计回报
  48. 48.实战:小象咖啡店营业数据与热门个股时间序列清洗分析
  49. 49.Series索引操作:按位置与标签访问行情数据
  50. 50.文件读写操作:CSV行情数据导入导出
  51. 51.数据清洗:替换异常报价数据
  52. 52.常用统计:sum/mean/median/count聚合指标

NumPy与SciPy:加速量化矩阵计算

约 8 分钟

小象实战讲义 · 量化交易Python入门:从咖啡馆到华尔街

欢迎进入量化矩阵计算的世界!NumPy 是所有 Python 金融库的底层基石。本章你将掌握 ndarray 多维数组的操作,学习如何用高效的向量化计算和广播机制代替缓慢的 Python 循环,计算股票组合的协方差与收益率。

💡 核心导读

本节将深入介绍Python科学计算生态中的两大核心库:NumPy和SciPy。通过学习,您将掌握多维数组的创建与操作、高效数值计算技巧,以及如何利用SciPy进行科学计算和工程应用。重点内容包括:NumPy数组的核心特性、广播机制、线性代数运算,以及SciPy在优化、插值和统计等领域的典型应用场景。所有知识点均配有可立即运行的代码示例。


基础数据结构:NumPy数组

ndarray对象特性

NumPy的核心是ndarray对象,相比Python原生列表具有以下优势:

  • 固定大小的连续内存块
  • 同质数据类型元素
  • 向量化操作避免循环
  • 内置广播功能
import numpy as np

arr = np.array([1, 2, 3], dtype=np.float32)
print(f"数组形状: {arr.shape}")
print(f"数据类型: {arr.dtype}")

matrix = np.array([[1, 2], [3, 4]])
print("矩阵乘法结果:")
print(matrix @ matrix)
数组形状: (3,)
数据类型: float32
矩阵乘法结果:
[[ 7 10]
 [15 22]]

数组索引技巧

NumPy提供比原生Python更强大的索引功能:

import numpy as np

data = np.arange(16).reshape(4,4)
print("原始矩阵:")
print(data)

mask = data > 10
print("布尔索引结果:")
print(data[mask])

print("第2、3行数据:")
print(data[[1,2]])
原始矩阵:
[[ 0  1  2  3]
 [ 4  5  6  7]
 [ 8  9 10 11]
 [12 13 14 15]]
布尔索引结果:
[11 12 13 14 15]
第2、3行数据:
[[ 4  5  6  7]
 [ 8  9 10 11]]

科学计算核心:SciPy模块

线性代数运算

SciPy建立在NumPy基础上,提供更专业的数学工具:

import numpy as np
from scipy import linalg

A = np.array([[1, 2], [3, 4]])
b = np.array([5, 6])

x = linalg.solve(A, b)
print("方程解:", x)

det = linalg.det(A)
print("行列式值:", round(det, 2))
方程解: [-4.   4.5]
行列式值: -2.0

优化与插值

SciPy提供多种数值优化算法:

import numpy as np
from scipy.optimize import minimize

def rosen(x):
    return sum(100.0*(x[1:]-x[:-1]**2.0)**2.0 + (1-x[:-1])**2.0)

x0 = np.array([1.3, 0.7, 0.8, 1.9, 1.2])

res = minimize(rosen, x0, method='nelder-mead')
print("优化结果:", res.x)
优化结果: [0.99910115 0.99820923 0.99646346 0.99297555 0.98600385]

实战应用案例

图像处理示例

利用SciPy进行简单的图像处理:

import numpy as np
from scipy import ndimage
import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt

im = np.zeros((256, 256))
im[64:-64, 64:-64] = 1
im = ndimage.rotate(im, 15, mode='constant')

im_blur = ndimage.gaussian_filter(im, 8)

fig = plt.figure(figsize=(10, 5))
plt.subplot(121), plt.imshow(im), plt.title('原始图像')
plt.subplot(122), plt.imshow(im_blur), plt.title('高斯模糊')
plt.show()
plt.close(fig)

统计分布分析

使用SciPy的统计模块进行数据分析:

import numpy as np
from scipy import stats

np.random.seed(42)
data = stats.norm.rvs(size=1000, loc=0, scale=1)

mean, std = stats.norm.fit(data)
print(f"拟合均值: {mean:.2f}, 标准差: {std:.2f}")

t_stat, p_value = stats.ttest_1samp(data, popmean=0)
print(f"t检验p值: {p_value:.4f}")
拟合均值: 0.02, 标准差: 0.98
t检验p值: 0.5326

📝 动手练一练

第 1 题 · 概念应用

你正在处理一个包含 1000 只股票过去 252 个交易日(约一年)的日收益率数据,数据以 Python 列表的列表形式存储,即 list_of_lists,其中每个子列表代表一只股票的收益率序列。你需要计算这 1000 只股票收益率之间的协方差矩阵,以评估投资组合的风险。

以下哪种做法在执行速度和内存效率上是最优的?

  • A. 使用嵌套的 Python for 循环遍历 list_of_lists,手动计算每两只股票收益率之间的协方差,并将结果填充到一个新的列表中。
  • B. 先将 list_of_lists 转换为一个 NumPy 的 ndarray,然后使用 np.cov() 函数一次性计算整个协方差矩阵。
  • C. 使用 Python 内置的 statistics 模块中的 covariance 函数,对 list_of_lists 中的每一对股票收益率序列进行计算。
  • D. 将 list_of_lists 转换为 Pandas DataFrame,然后使用 DataFrame 的 .iterrows() 方法循环计算协方差。
👉 点击查看参考答案

答案:B(先将 list_of_lists 转换为一个 NumPy 的 ndarray,然后使用 np.cov() 函数一次性计算整个协方差矩阵。)

推理过程:

  • 选项A:纯 Python 循环在处理大规模数值计算(1000x252 的数据)时极其缓慢,因为每次循环都涉及 Python 对象的类型检查和引用计数开销。
  • 选项B:NumPy 的 ndarray 在内存中是连续存储的同质数据,np.cov() 函数底层由高度优化的 C/Fortran 代码实现,支持向量化操作。它能一次性对整个矩阵进行计算,充分利用 CPU 缓存和 SIMD 指令,速度比 Python 循环快数十到数百倍,是量化计算的标准做法。
  • 选项C:Python 内置的 statistics 模块是为小规模数据设计的,其函数通常也是基于 Python 循环,不适合处理高维金融数据。
  • 选项D:Pandas DataFrame 虽然方便,但其 .iterrows() 方法本质上仍是逐行迭代的 Python 循环,效率低下。对于纯数值矩阵运算(如协方差),转换为 NumPy 数组后使用向量化函数是更优选择。

💡 小象贴士:在量化回测中,将数据预处理为 NumPy 数组并利用其向量化函数(如 np.mean(), np.std(), np.cov())是提升性能的关键第一步,能将分钟级的计算压缩到秒级甚至毫秒级。


第 2 题 · 代码填空

在构建一个简单的投资组合时,你需要计算三只股票(AAPL, GOOGL, MSFT)过去5日的日收益率向量与一个权重向量 w = [0.5, 0.3, 0.2] 的点积,以得到投资组合的日收益率。请补全以下代码,使用 NumPy 的广播机制和向量化操作,避免使用循环。

import numpy as np

# 三只股票过去5日的日收益率 (每行代表一只股票,每列代表一天)
returns = np.array([
    [0.012, -0.005, 0.023, 0.001, -0.008],  # AAPL
    [0.008,  0.002, -0.015, 0.010, 0.005],  # GOOGL
    [-0.003, 0.011, 0.007, -0.002, 0.009]   # MSFT
])

# 投资组合权重
weights = np.array([0.5, 0.3, 0.2])

# 计算投资组合的日收益率:对每只股票的日收益率按权重求和
# 要求:使用向量化操作,一行代码完成
portfolio_returns = ______

print(f"投资组合日收益率: {portfolio_returns}")
print(f"平均日收益率: {portfolio_returns.mean():.4f}")
👉 点击查看参考答案

空位应填:weights @ returns 或 np.dot(weights, returns)

完整代码与解释:

import numpy as np

# 三只股票过去5日的日收益率 (每行代表一只股票,每列代表一天)
returns = np.array([
    [0.012, -0.005, 0.023, 0.001, -0.008],  # AAPL
    [0.008,  0.002, -0.015, 0.010, 0.005],  # GOOGL
    [-0.003, 0.011, 0.007, -0.002, 0.009]   # MSFT
])

# 投资组合权重
weights = np.array([0.5, 0.3, 0.2])

# 计算投资组合的日收益率:对每只股票的日收益率按权重求和
# 使用矩阵乘法(点积),权重(3,) @ 收益率(3x5) = 组合收益率(5,)
portfolio_returns = weights @ returns

print(f"投资组合日收益率: {portfolio_returns}")
print(f"平均日收益率: {portfolio_returns.mean():.4f}")
投资组合日收益率: [ 0.0078  0.0003  0.0084  0.0031 -0.0007]
平均日收益率: 0.0038

计算过程说明:

  • returns 是一个形状为 (3, 5) 的矩阵。
  • weights 是一个形状为 (3,) 的一维向量。
  • 矩阵乘法中权重向量的长度维(3)与收益率的第 0 维(3)相乘后被求和消去,所以结果是一个形状为 (5,) 的一维数组(不是 (1,5) 的二维行向量),依次给出组合在 5 个交易日中每天的收益率。
  • 这行代码等价于对每一天 j 执行:portfolio_returns[j] = sum(weights[i] * returns[i, j] for i in range(3)),但通过向量化一次完成,效率极高。

💡 小象贴士:@ 运算符是 Python 3.5+ 引入的矩阵乘法运算符,在量化计算中比 np.dot() 更直观。使用向量化操作替代循环是编写高效回测引擎的核心技能。

本章小结

📋 行动清单

  • 使用np.linspace创建0到10之间的100个等距点,计算它们的sin值并用Matplotlib绘制曲线
  • 用scipy.optimize.curve_fit对随机生成的正弦波数据进行曲线拟合
  • 创建一个5x5的随机矩阵,分别用NumPy和SciPy计算其特征值和特征向量,比较结果差异

—— 小象教研组