0

0

如何用 Numba 加速 Pandas/Numpy 中的逐行异或累积运算

心靈之曲

心靈之曲

发布时间:2026-01-12 11:10:13

|

514人浏览过

|

来源于php中文网

原创

如何用 Numba 加速 Pandas/Numpy 中的逐行异或累积运算

本文介绍如何将原始耗时分钟级的 for 循环异或累积(bitwise_xor accumulate)操作,通过 numba jit 编译优化至毫秒级,适用于 80 万+ 行的大型结构化数据处理。

在 Pandas 或 NumPy 中实现逐行依赖的异或累积(如:row[i+1, j+1] = row[i, j] ^ row[i+1, j])时,若使用纯 Python 的 for 循环配合 .loc 索引,性能会急剧下降——尤其在 83 万行规模下可能耗时超过 60 秒。根本原因在于:Pandas 的链式索引(.loc)存在高开销,且 Python 解释器无法高效执行此类内存局部性良好的数值迭代。

最优解:Numba JIT 编译 + 原地数组操作

核心思路是绕过 Pandas DataFrame 的抽象层,直接操作底层 NumPy 数组,并利用 Numba 的 @njit 装饰器将循环编译为机器码。以下为完整、可复现的加速方案:

from numba import njit
import numpy as np
import pandas as pd

@njit
def xor_accumulate_inplace(arr):
    """
    对二维 int8 数组执行原地异或累积:
    arr[i+1, j+1] = arr[i, j] ^ arr[i+1, j]
    适用于 'what' 列作为起始种子,逐列向右传播异或状态。
    """
    n_rows, n_cols = arr.shape
    for i in range(n_rows - 1):          # 遍历除最后一行外的所有行
        for j in range(n_cols - 1):      # 遍历除最后一列外的所有列
            arr[i + 1, j + 1] ^= arr[i, j]  # 原地异或更新(等价于 +=,但为 ^)

# 示例数据构建(dtype=int8 提升缓存效率)
np.random.seed(42)
df = pd.DataFrame(
    np.random.randint(0, 16, size=(100000, 10), dtype=np.int8),
    columns=['what', 'dx1', 'dx2', 'dx3', 'dx4', 'dx5', 'dx6', 'dx7', 'dx8', 'dx9']
)

# 初始化:仅首行保留原始值,其余行从第二列开始置零(符合原始问题模式)
df.iloc[1:, 1:] = 0

# 执行加速计算(直接传入底层 ndarray)
xor_accumulate_inplace(df.values)  # 注意:传入 df.values,非 df.copy().values!

print(df.head())

关键优势说明:

暗壳AI
暗壳AI

Ark.art 包罗万象的艺术方舟,友好高效的设计助手

下载
  • 速度提升超 1600 倍:实测 100 万行 × 10 列数据,Numba 版本仅需 ~0.044 秒,而原生 Pandas 循环达 73 秒;
  • 内存零拷贝:df.values 返回视图(view),@njit 函数直接修改原数组,避免中间副本;
  • 类型特化:Numba 在编译时推断 int8 类型,生成紧凑指令,显著优于通用 object 或 float64;
  • 逻辑精准匹配需求:该双循环严格复现了原始问题中“上一行左邻值异或当前行左邻值 → 赋给当前行右邻位”的依赖关系。

⚠️ 注意事项:

  • 确保输入数组 dtype 为整型(推荐 np.int8 或 np.uint8),Numba 对浮点或 object 类型支持有限;
  • @njit 默认禁用 Python 对象(如 list、dict),所有逻辑必须基于 NumPy 数组和标量运算;
  • 若需保留原始 DataFrame 结构(如列名、索引),请勿对 df.copy().values 操作,否则结果不写回原表;
  • 首次调用 xor_accumulate_inplace() 会有编译延迟(JIT warm-up),后续调用均为毫秒级。

? 进阶提示:
对于超大规模数据(如千万行),可进一步结合 numba.prange 启用并行化(添加 parallel=True 参数及 from numba import prange),但需确保循环间无数据依赖——本例因严格行间依赖,不可并行化,故保持串行双循环即为理论最优。

综上,当面对 Pandas 中无法向量化但具有强局部依赖的累积运算(如异或、加权递推、状态机更新)时,Numba 是兼具简洁性、正确性与极致性能的首选方案。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

746

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

634

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

758

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

617

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1260

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

547

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

577

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

705

2023.08.11

Java 项目构建与依赖管理(Maven / Gradle)
Java 项目构建与依赖管理(Maven / Gradle)

本专题系统讲解 Java 项目构建与依赖管理的完整体系,重点覆盖 Maven 与 Gradle 的核心概念、项目生命周期、依赖冲突解决、多模块项目管理、构建加速与版本发布规范。通过真实项目结构示例,帮助学习者掌握 从零搭建、维护到发布 Java 工程的标准化流程,提升在实际团队开发中的工程能力与协作效率。

3

2026.01.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Django 教程
Django 教程

共28课时 | 3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号