0

0

Polars 中高效判断字符串列是否包含另一列内容的 scalable 方法

聖光之護

聖光之護

发布时间:2026-03-14 13:35:03

|

133人浏览过

|

来源于php中文网

原创

Polars 中高效判断字符串列是否包含另一列内容的 scalable 方法

本文介绍在 Polars 中无需 map_elements 即可高效、向量化地实现“列 B 的每个字符串是否为列 A 对应字符串子串”的判断,推荐使用 str.contains() 表达式,兼顾性能、可读性与扩展性。

本文介绍在 polars 中无需 `map_elements` 即可高效、向量化地实现“列 b 的每个字符串是否为列 a 对应字符串子串”的判断,推荐使用 `str.contains()` 表达式,兼顾性能、可读性与扩展性。

在处理大规模字符串匹配任务时,避免使用 map_elements 是提升 Polars 性能的关键原则之一。该方法虽灵活,但会触发 Python 层逐行迭代,丧失 Polars 底层 Rust 引擎的向量化优势,导致内存占用高、执行慢,且无法利用查询优化器。

正确的 scalable 方案是直接调用字符串表达式 pl.col('A').str.contains(pl.col('B'))。该操作完全在 Polars 表达式引擎中完成,支持零拷贝、并行执行和惰性求值(尤其在 LazyFrame 中效果更显著):

import polars as pl

df = pl.DataFrame({"A": ["foo", "bar", "foo"], "B": ["f", "b", "s"]})

result = df.with_columns(
    B_in_A = pl.col("A").str.contains(pl.col("B"))
)
print(result)

输出:

shape: (3, 3)
┌─────┬─────┬────────┐
│ A   ┆ B   ┆ B_in_A │
│ --- ┆ --- ┆ ---    │
│ str ┆ str ┆ bool   │
╞═════╪═════╪════════╡
│ foo ┆ f   ┆ true   │
│ bar ┆ b   ┆ true   │
│ foo ┆ s   ┆ false  │
└─────┴─────┴────────┘

优势说明

听脑AI
听脑AI

听脑AI语音,一款专注于音视频内容的工作学习助手,为用户提供便捷的音视频内容记录、整理与分析功能。

下载
  • 真正向量化:底层调用高度优化的 UTF-8 字符串搜索算法(如 Boyer-Moore 变体),不涉及 Python 循环;
  • 支持正则与字面量控制:默认 literal=False(启用正则),若 B 列含特殊字符(如 .、*)需精确字面匹配,请显式设 literal=True:
    pl.col("A").str.contains(pl.col("B"), literal=True)
  • 空值安全:当 A 或 B 任一值为 null 时,结果自动为 null(符合 Polars 空值语义);
  • 可组合性强:可无缝嵌入复杂表达式链,例如结合 when/then/otherwise 做条件标记,或与 filter()、group_by() 联用。

⚠️ 注意事项

  • str.contains() 默认区分大小写。如需忽略大小写,添加 strict=False 参数(Polars ≥ 0.20.16)或先统一转小写:
    pl.col("A").str.to_lowercase().str.contains(pl.col("B").str.to_lowercase(), literal=True)
  • 若 B 列存在空字符串 "",contains("") 恒返回 True(因空字符串是任意字符串的子串),业务上需提前过滤或特殊处理;
  • 在 LazyFrame 场景下,该表达式可被进一步优化(如谓词下推、列裁剪),务必优先采用 .lazy().with_columns(...).collect() 模式处理大数据集。

总之,用 str.contains() 替代 map_elements 不仅代码更简洁,更是 Polars “声明式 + 向量化”设计哲学的典型实践——让数据引擎做它最擅长的事。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
C++系统编程内存管理_C++系统编程怎么与Rust竞争内存安全
C++系统编程内存管理_C++系统编程怎么与Rust竞争内存安全

C++系统编程中的内存管理是指 对程序运行时内存的申请、使用和释放进行精细控制的机制,涵盖了栈、堆、静态区等不同区域,开发者需要通过new/delete、智能指针或内存池等方式管理动态内存,以避免内存泄漏、野指针等问题,确保程序高效稳定运行。它核心在于开发者对低层内存有完全控制权,带来灵活性,但也伴随高责任,是C++性能优化的关键。

13

2025.12.22

Rust异步编程与Tokio运行时实战
Rust异步编程与Tokio运行时实战

本专题聚焦 Rust 语言的异步编程模型,深入讲解 async/await 机制与 Tokio 运行时的核心原理。内容包括异步任务调度、Future 执行模型、并发安全、网络 IO 编程以及高并发场景下的性能优化。通过实战示例,帮助开发者使用 Rust 构建高性能、低延迟的后端服务与网络应用。

10

2026.02.11

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

230

2026.03.05

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

254

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1109

2024.03.01

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

761

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1570

2023.10.24

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

49

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号