0

0

如何使用Apache Arrow在c++中进行高效的列式数据处理? (大数据分析)

尼克

尼克

发布时间:2026-01-13 16:25:30

|

683人浏览过

|

来源于php中文网

原创

Arrow C++ 最小编译需链接 libarrow 并用 find_package(Arrow REQUIRED);CSV 读取须显式指定 column_types 避免类型推断;Compute API 实现零拷贝向量化计算;注意 Buffer/Array 生命周期,禁用裸指针访问内存。

如何使用apache arrow在c++中进行高效的列式数据处理? (大数据分析)

Arrow C++ 库的最小可行编译配置

Arrow C++ 不是头文件库,必须链接预编译的 libarrow(或启用 ARROW_STATIC 静态链接)。直接 #include "arrow/api.h" 但不链接会报 undefined reference to arrow::Array::MakeFromScalar 类错误。

  • 用 CMake 时必须调用 find_package(Arrow REQUIRED),且确保 ARROW_BUILD_SHARED=ON(默认)与你的构建类型一致
  • macOS 上若用 Homebrew 安装,需额外设置 set(ARROW_HOME /opt/homebrew/opt/apache-arrow) 并在 find_package 前加 set(CMAKE_PREFIX_PATH ${ARROW_HOME})
  • Windows + MSVC 下注意运行时一致性:Arrow 若用 /MD 编译,你的项目也必须用 /MD,否则 std::shared_ptr 跨 DLL 边界析构崩溃

从 CSV 构建 Arrow Table 的高效写法

别用 arrow::csv::ReadCSV 默认参数读大文件——它默认把所有列当 string 推断,内存暴涨且后续类型转换开销大。必须显式传 arrow::csv::ConvertOptions 指定 schema。

auto convert_options = arrow::csv::ConvertOptions::Defaults();
convert_options.column_types = {
    {"ts", arrow::timestamp(arrow::TimeUnit::MICRO)},
    {"value", arrow::float64()},
    {"category", arrow::dictionary(arrow::int32(), arrow::utf8())}
};
auto read_options = arrow::csv::ReadOptions::Defaults();
auto parse_options = arrow::csv::ParseOptions::Defaults();
auto table = arrow::csv::ReadCSV("data.csv", read_options, parse_options, convert_options).ValueOrDie();
  • column_types 提前指定能跳过类型推断,减少内存驻留时间
  • 对高基数字符串列,优先用 dictionary 类型,压缩率常达 5–10×
  • 避免 ReadCSV(...)->ToTable() 两步走,ReadCSV 返回就是 Table,多调一次 ToTable 白拷贝

用 Compute API 做列式过滤和聚合(不用手写循环)

Arrow 的 arrow::compute::Filterarrow::compute::Sum 是零拷贝、向量化、自动 SIMD 的。手写 for-loop 遍历 Array 数据不仅慢,还绕过内存对齐优化。

auto arr = table->GetColumnByName("value")->chunk(0);
auto predicate = arrow::compute::Less(arr, arrow::compute::ScalarConstant(100.0));
auto filtered = arrow::compute::Filter(arr, predicate.ValueOrDie()).ValueOrDie();
auto sum = arrow::compute::Sum(filtered).ValueOrDie();
std::cout << *sum.scalar_as().value << "\n";
  • chunk(0) 只取首 chunk——实际数据可能分 chunk 存储,批量处理要用 table->column(i)->chunks() 循环
  • Filter 返回新 Array,不是视图;如需原地过滤,得用 arrow::compute::Take + 索引数组
  • 聚合函数(Sum/Mean)默认返回 Scalar,但 GroupBy 尚未稳定(截至 Arrow 15.x),复杂分组仍需导出到 Pandas 或用 arrow::dataset

内存生命周期和零拷贝导出的关键陷阱

arrow::Bufferarrow::Array 共享底层 arrow::MemoryPool 分配的内存,但它们的 std::shared_ptr 生命周期独立。常见错误是提前释放 Table,却还在用其 Arraydata() 指针。

用Apache Spark进行大数据处理
用Apache Spark进行大数据处理

本文档主要讲述的是用Apache Spark进行大数据处理——第一部分:入门介绍;Apache Spark是一个围绕速度、易用性和复杂分析构建的大数据处理框架。最初在2009年由加州大学伯克利分校的AMPLab开发,并于2010年成为Apache的开源项目之一。 在这个Apache Spark文章系列的第一部分中,我们将了解到什么是Spark,它与典型的MapReduce解决方案的比较以及它如何为大数据处理提供了一套完整的工具。希望本文档会给有需要的朋友带来帮助;感

下载

立即学习C++免费学习笔记(深入)”;

  • 永远不要保存 array->data()->buffers[1]->data() 这类裸指针——它没所有权,Array 析构后就悬空
  • 需要长期持有数据?用 arrow::Buffer::Copy 或构造新 arrow::Array 显式复制
  • 导出到 NumPy:用 arrow::py::ImportArray(Python 绑定),C++ 侧别自己 memcpy 到 PyArrayObject——类型/字节序/对齐全得手动校验,极易出错

最易被忽略的是 chunked array 的跨 chunk 边界操作——比如按行号索引第 1000000 行,你得先算清它落在哪个 chunk、偏移多少,Table::RowSlicing 尚未提供高效接口,得自己做二分查找 chunk_offsets

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

749

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

635

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

758

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

618

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1262

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

547

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

577

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

706

2023.08.11

php与html混编教程大全
php与html混编教程大全

本专题整合了php和html混编相关教程,阅读专题下面的文章了解更多详细内容。

0

2026.01.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Django 教程
Django 教程

共28课时 | 3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号