0

0

如何使用Apache Arrow在c++中进行高效的列式数据处理? (大数据分析)

尼克

尼克

发布时间:2026-01-13 16:25:30

|

683人浏览过

|

来源于php中文网

原创

arrow c++ 最小编译需链接 libarrow 并用 find_package(arrow required);csv 读取须显式指定 column_types 避免类型推断;compute api 实现零拷贝向量化计算;注意 buffer/array 生命周期,禁用裸指针访问内存。

如何使用apache arrow在c++中进行高效的列式数据处理? (大数据分析)

Arrow C++ 库的最小可行编译配置

Arrow C++ 不是头文件库,必须链接预编译的 libarrow(或启用 ARROW_STATIC 静态链接)。直接 #include "arrow/api.h" 但不链接会报 undefined reference to arrow::Array::MakeFromScalar 类错误。

  • 用 CMake 时必须调用 find_package(Arrow REQUIRED),且确保 ARROW_BUILD_SHARED=ON(默认)与你的构建类型一致
  • macOS 上若用 Homebrew 安装,需额外设置 set(ARROW_HOME /opt/homebrew/opt/apache-arrow) 并在 find_package 前加 set(CMAKE_PREFIX_PATH ${ARROW_HOME})
  • Windows + MSVC 下注意运行时一致性:Arrow 若用 /MD 编译,你的项目也必须用 /MD,否则 std::shared_ptr 跨 DLL 边界析构崩溃

从 CSV 构建 Arrow Table 的高效写法

别用 arrow::csv::ReadCSV 默认参数读大文件——它默认把所有列当 string 推断,内存暴涨且后续类型转换开销大。必须显式传 arrow::csv::ConvertOptions 指定 schema。

auto convert_options = arrow::csv::ConvertOptions::Defaults();
convert_options.column_types = {
    {"ts", arrow::timestamp(arrow::TimeUnit::MICRO)},
    {"value", arrow::float64()},
    {"category", arrow::dictionary(arrow::int32(), arrow::utf8())}
};
auto read_options = arrow::csv::ReadOptions::Defaults();
auto parse_options = arrow::csv::ParseOptions::Defaults();
auto table = arrow::csv::ReadCSV("data.csv", read_options, parse_options, convert_options).ValueOrDie();
  • column_types 提前指定能跳过类型推断,减少内存驻留时间
  • 对高基数字符串列,优先用 dictionary 类型,压缩率常达 5–10×
  • 避免 ReadCSV(...)->ToTable() 两步走,ReadCSV 返回就是 Table,多调一次 ToTable 白拷贝

用 Compute API 做列式过滤和聚合(不用手写循环)

Arrow 的 arrow::compute::Filterarrow::compute::Sum 是零拷贝、向量化、自动 SIMD 的。手写 for-loop 遍历 Array 数据不仅慢,还绕过内存对齐优化。

用Apache Spark进行大数据处理
用Apache Spark进行大数据处理

本文档主要讲述的是用Apache Spark进行大数据处理——第一部分:入门介绍;Apache Spark是一个围绕速度、易用性和复杂分析构建的大数据处理框架。最初在2009年由加州大学伯克利分校的AMPLab开发,并于2010年成为Apache的开源项目之一。 在这个Apache Spark文章系列的第一部分中,我们将了解到什么是Spark,它与典型的MapReduce解决方案的比较以及它如何为大数据处理提供了一套完整的工具。希望本文档会给有需要的朋友带来帮助;感

下载
auto arr = table->GetColumnByName("value")->chunk(0);
auto predicate = arrow::compute::Less(arr, arrow::compute::ScalarConstant(100.0));
auto filtered = arrow::compute::Filter(arr, predicate.ValueOrDie()).ValueOrDie();
auto sum = arrow::compute::Sum(filtered).ValueOrDie();
std::cout << *sum.scalar_as<arrow::DoubleScalar>().value << "\n";
  • chunk(0) 只取首 chunk——实际数据可能分 chunk 存储,批量处理要用 table->column(i)->chunks() 循环
  • Filter 返回新 Array,不是视图;如需原地过滤,得用 arrow::compute::Take + 索引数组
  • 聚合函数(Sum/Mean)默认返回 Scalar,但 GroupBy 尚未稳定(截至 Arrow 15.x),复杂分组仍需导出到 Pandas 或用 arrow::dataset

内存生命周期和零拷贝导出的关键陷阱

arrow::Bufferarrow::Array 共享底层 arrow::MemoryPool 分配的内存,但它们的 std::shared_ptr 生命周期独立。常见错误是提前释放 Table,却还在用其 Arraydata() 指针。

立即学习C++免费学习笔记(深入)”;

  • 永远不要保存 array->data()->buffers[1]->data() 这类裸指针——它没所有权,Array 析构后就悬空
  • 需要长期持有数据?用 arrow::Buffer::Copy 或构造新 arrow::Array 显式复制
  • 导出到 NumPy:用 arrow::py::ImportArray(Python 绑定),C++ 侧别自己 memcpy 到 PyArrayObject——类型/字节序/对齐全得手动校验,极易出错

最易被忽略的是 chunked array 的跨 chunk 边界操作——比如按行号索引第 1000000 行,你得先算清它落在哪个 chunk、偏移多少,Table::RowSlicing 尚未提供高效接口,得自己做二分查找 chunk_offsets

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

76

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

910

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

678

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

219

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1561

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

645

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1108

2024.03.22

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

0

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.7万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号