查看全课大纲(第 27 / 52 节)
- 1.量化分析基本概念:从咖啡馆到华尔街
- 2.量化交易员学习路线:从零基础到策略开发
- 3.量化策略生命周期:数据分析的五大流程
- 4.量化数据类型:数值型与类别型数据
- 5.量化沙盒搭建(1):Python与Anaconda安装
- 6.量化沙盒搭建(2):Jupyter Notebook与库配置
- 7.本地多源数据:量化历史回测的基石
- 8.TXT数据流操作:处理金融交易日志
- 9.JSON数据流操作:解析股票行情API响应
- 10.CSV行情文件操作:读取与存储历史K线
- 11.Excel报表操作:清洗财报与财务指标
- 12.量化数据库:SQL常用查询语法
- 13.量化数据库:Python连接与写入
- 14.量化多表连接:关联股票信息与行情
- 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
- 16.量化数据采集:爬虫工作原理与合规
- 17.量化爬虫核心:URL管理与去重策略
- 18.量化网页下载:防反爬与请求头伪装
- 19.网页解析(1):使用XPath定位财经新闻
- 20.网页解析(2):使用CSS选择器与ItemLoader
- 21.Scrapy框架:构建工业级量化爬虫
- 22.Scrapy实战(1):新建项目与数据模型定义
- 23.Scrapy实战(2):编写财经爬虫逻辑
- 24.Scrapy实战(3):启用数据管道清洗行情
- 25.Scrapy实战(4):防反爬中间件配置
- 26.实战:构建每日热门个股行情自动采集系统
- 27.NumPy与SciPy:加速量化矩阵计算
- 28.NumPy数组:构建股票价格矩阵
- 29.数组切片:提取特定股票与交易日数据
- 30.NumPy常用方法:计算均值与波动率
- 31.向量化计算:摆脱缓慢的For循环
- 32.通用函数ufunc:计算对数收益率与累计收益
- 33.实战:股票组合资产收益率与协方差矩阵计算
- 34.Pandas Series:管理单只股票收盘价
- 35.Pandas DataFrame:构建多只股票行情面板
- 36.Pandas Index:时间序列索引与对齐
- 37.DataFrame索引操作:loc与iloc定位行情
- 38.索引总结:量化多字段筛选与定位
- 39.运算与对齐:合并不同交易日的数据
- 40.Pandas map:对股票代码与状态做映射
- 41.Pandas apply:滚动计算技术指标
- 42.排序操作:按市盈率与收益率对股票排名
- 43.数据清洗:填充与剔除停牌股票缺失值
- 44.数据清洗:剔除重复报价与异常交易数据
- 45.常用统计:量化最大回撤与分位数风险评估
- 46.极值定位:寻找历史最高价与最低价的发生日
- 47.风险与累计收益:计算年化波动率与累计回报
- 48.实战:小象咖啡店营业数据与热门个股时间序列清洗分析
- 49.Series索引操作:按位置与标签访问行情数据
- 50.文件读写操作:CSV行情数据导入导出
- 51.数据清洗:替换异常报价数据
- 52.常用统计:sum/mean/median/count聚合指标
NumPy与SciPy:加速量化矩阵计算
约 8 分钟
小象实战讲义 · 量化交易Python入门:从咖啡馆到华尔街
欢迎进入量化矩阵计算的世界!NumPy 是所有 Python 金融库的底层基石。本章你将掌握 ndarray 多维数组的操作,学习如何用高效的向量化计算和广播机制代替缓慢的 Python 循环,计算股票组合的协方差与收益率。
💡 核心导读
本节将深入介绍Python科学计算生态中的两大核心库:NumPy和SciPy。通过学习,您将掌握多维数组的创建与操作、高效数值计算技巧,以及如何利用SciPy进行科学计算和工程应用。重点内容包括:NumPy数组的核心特性、广播机制、线性代数运算,以及SciPy在优化、插值和统计等领域的典型应用场景。所有知识点均配有可立即运行的代码示例。
基础数据结构:NumPy数组
ndarray对象特性
NumPy的核心是ndarray对象,相比Python原生列表具有以下优势:
- 固定大小的连续内存块
- 同质数据类型元素
- 向量化操作避免循环
- 内置广播功能
import numpy as np
arr = np.array([1, 2, 3], dtype=np.float32)
print(f"数组形状: {arr.shape}")
print(f"数据类型: {arr.dtype}")
matrix = np.array([[1, 2], [3, 4]])
print("矩阵乘法结果:")
print(matrix @ matrix)数组形状: (3,)
数据类型: float32
矩阵乘法结果:
[[ 7 10]
[15 22]]数组索引技巧
NumPy提供比原生Python更强大的索引功能:
import numpy as np
data = np.arange(16).reshape(4,4)
print("原始矩阵:")
print(data)
mask = data > 10
print("布尔索引结果:")
print(data[mask])
print("第2、3行数据:")
print(data[[1,2]])原始矩阵:
[[ 0 1 2 3]
[ 4 5 6 7]
[ 8 9 10 11]
[12 13 14 15]]
布尔索引结果:
[11 12 13 14 15]
第2、3行数据:
[[ 4 5 6 7]
[ 8 9 10 11]]科学计算核心:SciPy模块
线性代数运算
SciPy建立在NumPy基础上,提供更专业的数学工具:
import numpy as np
from scipy import linalg
A = np.array([[1, 2], [3, 4]])
b = np.array([5, 6])
x = linalg.solve(A, b)
print("方程解:", x)
det = linalg.det(A)
print("行列式值:", round(det, 2))方程解: [-4. 4.5]
行列式值: -2.0优化与插值
SciPy提供多种数值优化算法:
import numpy as np
from scipy.optimize import minimize
def rosen(x):
return sum(100.0*(x[1:]-x[:-1]**2.0)**2.0 + (1-x[:-1])**2.0)
x0 = np.array([1.3, 0.7, 0.8, 1.9, 1.2])
res = minimize(rosen, x0, method='nelder-mead')
print("优化结果:", res.x)优化结果: [0.99910115 0.99820923 0.99646346 0.99297555 0.98600385]实战应用案例
图像处理示例
利用SciPy进行简单的图像处理:
import numpy as np
from scipy import ndimage
import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
im = np.zeros((256, 256))
im[64:-64, 64:-64] = 1
im = ndimage.rotate(im, 15, mode='constant')
im_blur = ndimage.gaussian_filter(im, 8)
fig = plt.figure(figsize=(10, 5))
plt.subplot(121), plt.imshow(im), plt.title('原始图像')
plt.subplot(122), plt.imshow(im_blur), plt.title('高斯模糊')
plt.show()
plt.close(fig)统计分布分析
使用SciPy的统计模块进行数据分析:
import numpy as np
from scipy import stats
np.random.seed(42)
data = stats.norm.rvs(size=1000, loc=0, scale=1)
mean, std = stats.norm.fit(data)
print(f"拟合均值: {mean:.2f}, 标准差: {std:.2f}")
t_stat, p_value = stats.ttest_1samp(data, popmean=0)
print(f"t检验p值: {p_value:.4f}")拟合均值: 0.02, 标准差: 0.98
t检验p值: 0.5326📝 动手练一练
第 1 题 · 概念应用
你正在处理一个包含 1000 只股票过去 252 个交易日(约一年)的日收益率数据,数据以 Python 列表的列表形式存储,即 list_of_lists,其中每个子列表代表一只股票的收益率序列。你需要计算这 1000 只股票收益率之间的协方差矩阵,以评估投资组合的风险。
以下哪种做法在执行速度和内存效率上是最优的?
- A. 使用嵌套的 Python
for循环遍历list_of_lists,手动计算每两只股票收益率之间的协方差,并将结果填充到一个新的列表中。 - B. 先将
list_of_lists转换为一个 NumPy 的ndarray,然后使用np.cov()函数一次性计算整个协方差矩阵。 - C. 使用 Python 内置的
statistics模块中的covariance函数,对list_of_lists中的每一对股票收益率序列进行计算。 - D. 将
list_of_lists转换为 Pandas DataFrame,然后使用 DataFrame 的.iterrows()方法循环计算协方差。
👉 点击查看参考答案
答案:B(先将
list_of_lists转换为一个 NumPy 的ndarray,然后使用np.cov()函数一次性计算整个协方差矩阵。)
推理过程:
- 选项A:纯 Python 循环在处理大规模数值计算(1000x252 的数据)时极其缓慢,因为每次循环都涉及 Python 对象的类型检查和引用计数开销。
- 选项B:NumPy 的
ndarray在内存中是连续存储的同质数据,np.cov()函数底层由高度优化的 C/Fortran 代码实现,支持向量化操作。它能一次性对整个矩阵进行计算,充分利用 CPU 缓存和 SIMD 指令,速度比 Python 循环快数十到数百倍,是量化计算的标准做法。 - 选项C:Python 内置的
statistics模块是为小规模数据设计的,其函数通常也是基于 Python 循环,不适合处理高维金融数据。 - 选项D:Pandas DataFrame 虽然方便,但其
.iterrows()方法本质上仍是逐行迭代的 Python 循环,效率低下。对于纯数值矩阵运算(如协方差),转换为 NumPy 数组后使用向量化函数是更优选择。
💡 小象贴士:在量化回测中,将数据预处理为 NumPy 数组并利用其向量化函数(如 np.mean(), np.std(), np.cov())是提升性能的关键第一步,能将分钟级的计算压缩到秒级甚至毫秒级。
第 2 题 · 代码填空
在构建一个简单的投资组合时,你需要计算三只股票(AAPL, GOOGL, MSFT)过去5日的日收益率向量与一个权重向量 w = [0.5, 0.3, 0.2] 的点积,以得到投资组合的日收益率。请补全以下代码,使用 NumPy 的广播机制和向量化操作,避免使用循环。
import numpy as np
# 三只股票过去5日的日收益率 (每行代表一只股票,每列代表一天)
returns = np.array([
[0.012, -0.005, 0.023, 0.001, -0.008], # AAPL
[0.008, 0.002, -0.015, 0.010, 0.005], # GOOGL
[-0.003, 0.011, 0.007, -0.002, 0.009] # MSFT
])
# 投资组合权重
weights = np.array([0.5, 0.3, 0.2])
# 计算投资组合的日收益率:对每只股票的日收益率按权重求和
# 要求:使用向量化操作,一行代码完成
portfolio_returns = ______
print(f"投资组合日收益率: {portfolio_returns}")
print(f"平均日收益率: {portfolio_returns.mean():.4f}")👉 点击查看参考答案
空位应填:weights @ returns 或 np.dot(weights, returns)
完整代码与解释:
import numpy as np
# 三只股票过去5日的日收益率 (每行代表一只股票,每列代表一天)
returns = np.array([
[0.012, -0.005, 0.023, 0.001, -0.008], # AAPL
[0.008, 0.002, -0.015, 0.010, 0.005], # GOOGL
[-0.003, 0.011, 0.007, -0.002, 0.009] # MSFT
])
# 投资组合权重
weights = np.array([0.5, 0.3, 0.2])
# 计算投资组合的日收益率:对每只股票的日收益率按权重求和
# 使用矩阵乘法(点积),权重(3,) @ 收益率(3x5) = 组合收益率(5,)
portfolio_returns = weights @ returns
print(f"投资组合日收益率: {portfolio_returns}")
print(f"平均日收益率: {portfolio_returns.mean():.4f}")投资组合日收益率: [ 0.0078 0.0003 0.0084 0.0031 -0.0007]
平均日收益率: 0.0038计算过程说明:
returns是一个形状为(3, 5)的矩阵。weights是一个形状为(3,)的一维向量。- 矩阵乘法中权重向量的长度维(3)与收益率的第 0 维(3)相乘后被求和消去,所以结果是一个形状为
(5,)的一维数组(不是(1,5)的二维行向量),依次给出组合在 5 个交易日中每天的收益率。 - 这行代码等价于对每一天
j执行:portfolio_returns[j] = sum(weights[i] * returns[i, j] for i in range(3)),但通过向量化一次完成,效率极高。
💡 小象贴士:@ 运算符是 Python 3.5+ 引入的矩阵乘法运算符,在量化计算中比 np.dot() 更直观。使用向量化操作替代循环是编写高效回测引擎的核心技能。
本章小结
📋 行动清单
- 使用
np.linspace创建0到10之间的100个等距点,计算它们的sin值并用Matplotlib绘制曲线 - 用
scipy.optimize.curve_fit对随机生成的正弦波数据进行曲线拟合 - 创建一个5x5的随机矩阵,分别用NumPy和SciPy计算其特征值和特征向量,比较结果差异
—— 小象教研组