0

0

如何在网页爬虫后高效清除字符串中的换行符与制表符( 、 )

花韻仙語

花韻仙語

发布时间:2026-01-14 10:16:02

|

724人浏览过

|

来源于php中文网

原创

如何在网页爬虫后高效清除字符串中的换行符与制表符(
、	)

本文介绍使用 beautifulsoup 提取文本后,如何彻底清除嵌入在字符串中间的 和 字符——关键在于避免误用 `strip()`,而应采用 `stripped_strings` 迭代器结合字符串拼接,或对 dataframe 列执行正则替换。

在网页爬虫实践中,初学者常误以为 .strip() 能删除字符串中任意位置的 或 ,但事实并非如此。Python 的 str.strip(chars) 仅移除首尾连续匹配字符,对中间出现的空白符完全无效。例如:

>>> "Hello	World
".strip("	
")
'Hello	World'  # 中间的 	 未被清除!
>>> "	  Hello
	World	
".strip("	
 ")
'Hello
	World'  # 仍残留内部 
	

因此,针对 BeautifulSoup 提取的 Tag.text(如

Top of 1st London Majors #28 Austin Wilkie...
),正确做法是:

✅ 推荐方案:使用 stripped_strings(最干净、语义明确)

stripped_strings 是 BeautifulSoup 提供的生成器,自动跳过空白文本节点,并对每个子字符串调用 .strip(),再由你自由组合:

for i in Innings:
    # 安全合并所有非空文本片段,天然去除所有前后空白及中间冗余换行/制表
    clean_text = "".join(i.stripped_strings)

    # 构建单行 DataFrame
    pbpdf = pd.DataFrame([{"Play by Play": clean_text}])
    print(pbpdf)

✅ 优势:无需正则、不依赖 replace() 的易错写法(如误写 为 或遗漏 regex=True),且能处理嵌套标签、多余空格、多级缩进等复杂 HTML 结构。

Relayed AI
Relayed AI

一款AI驱动的视频会议工具,旨在帮助团队克服远程工作、繁忙的日程安排和会议疲劳。

下载

✅ 备选方案:DataFrame 级批量清洗(适用于已存为 DataFrame 的场景)

若数据已载入 pbpdf,可对列统一执行正则替换(注意:需启用 regex=True,且转义字符要写对):

# 正确写法:使用原始字符串 r's+' 匹配所有空白(含 
 	 
 空格)
pbpdf["Play by Play"] = pbpdf["Play by Play"].str.replace(r's+', ' ', regex=True).str.strip()

# 或仅清除 
 和 	(保留空格):
pbpdf["Play by Play"] = pbpdf["Play by Play"].str.replace(r'[
	]+', ' ', regex=True).str.strip()

⚠️ 注意事项:

  • ❌ pbpdf.replace(...) 默认作用于整个 DataFrame,且不修改原数据(需加 inplace=True 或赋值);
  • ❌ pbdf.replace(to_replace={'\n','\t'}, ...) 写法错误:to_replace 应为字符串或正则模式,而非集合;且 '\n' 是字面量反斜杠+n,实际需 r' ';
  • ✅ 始终优先使用 .str.replace() 作用于 Series,语义清晰、链式友好;
  • ? 若需保留段落逻辑(如换行分隔不同事件),可替换为 '|' 或 '; ' 而非空格。

? 总结

方法 适用阶段 是否推荐 关键要点
i.stripped_strings + "".join() BeautifulSoup 解析时 ✅ 强烈推荐 零正则、高鲁棒性、语义精准
.str.replace(r's+', ' ', regex=True) DataFrame 后处理 ✅ 推荐 简洁高效,适合批量清洗
.strip() 单独使用 任意阶段 ❌ 不推荐 仅清首尾,无法解决本题核心问题

最后提醒:你的原始代码中还存在几处潜在问题——py.asarray 应为 np.asarray(py 未定义)、循环仅执行一次(gameID

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

658

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

219

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1560

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

645

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1108

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

1062

2024.04.29

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

187

2025.07.29

Golang 测试体系与代码质量保障:工程级可靠性建设
Golang 测试体系与代码质量保障:工程级可靠性建设

Go语言测试体系与代码质量保障聚焦于构建工程级可靠性系统。本专题深入解析Go的测试工具链(如go test)、单元测试、集成测试及端到端测试实践,结合代码覆盖率分析、静态代码扫描(如go vet)和动态分析工具,建立全链路质量监控机制。通过自动化测试框架、持续集成(CI)流水线配置及代码审查规范,实现测试用例管理、缺陷追踪与质量门禁控制,确保代码健壮性与可维护性,为高可靠性工程系统提供质量保障。

45

2026.02.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.7万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号