
1. 问题背景与数据准备
在数据分析场景中,我们经常需要从时间序列或分组数据中识别出关键的“峰值”或“谷值”。例如,在一个交易数据集中,我们可能希望识别连续上涨(HH为True)或连续下跌(LL为True)区间内的最高点或最低点,并只保留这些关键点,而将同一区间内的其他点标记为非关键。
假设我们有一个Pandas DataFrame,其中包含HH和LL两个布尔列,分别表示“高高点”和“低低点”的趋势,以及对应的High和Low数值列。我们的目标是:
- 对于连续的HH为True的行,只保留其中High值最高的行,将其余HH为True的行改为HH为False。
- 对于连续的LL为True的行,只保留其中Low值最低的行,将其余LL为True的行改为LL为False。
以下是示例数据框的创建:
import pandas as pd
mydict = [
{'HH': True, 'LL': False, 'High': 10, 'Low': 1},
{'HH': False, 'LL': True, 'High': 100, 'Low': 20},
{'HH': True, 'LL': False, 'High': 32, 'Low': 1},
{'HH': True, 'LL': False, 'High': 30, 'Low': 1},
{'HH': True, 'LL': False, 'High': 31, 'Low': 1},
{'HH': False, 'LL': True, 'High': 100, 'Low': 40},
{'HH': False, 'LL': True, 'High': 100, 'Low': 45},
{'HH': False, 'LL': True, 'High': 100, 'Low': 42},
{'HH': False, 'LL': True, 'High': 100, 'Low': 44},
{'HH': True, 'LL': False, 'High': 50, 'Low': 1},
]
df = pd.DataFrame(mydict)
print("原始DataFrame:")
print(df)输出的原始DataFrame如下:
原始DataFrame:
HH LL High Low
0 True False 10 1
1 False True 100 20
2 True False 32 1
3 True False 30 1
4 True False 31 1
5 False True 100 40
6 False True 100 45
7 False True 100 42
8 False True 100 44
9 True False 50 12. 解决方案:使用groupby.transform进行高效分组与筛选
为了解决上述问题,我们需要一个能够识别连续HH或LL块的机制,并在这些块内部执行聚合操作。Pandas的groupby.transform方法是实现这一目标的强大工具。
2.1 核心思路
- 创建分组标识: 首先,我们需要定义什么是“连续的HH或LL块”。当HH或LL列的模式发生变化时,就认为是一个新组的开始。
- 组内最大/最小值识别: 在每个识别出的组内,计算High列的最大值和Low列的最小值,并将其广播回原始DataFrame的每一行。
- 布尔索引筛选: 比较原始的High和Low值与广播回来的组内最大/最小值,生成布尔掩码。
- 更新DataFrame: 根据布尔掩码










