0

0

Python 文本规范化与业务需求结合

冰川箭仙

冰川箭仙

发布时间:2026-02-20 18:19:38

|

242人浏览过

|

来源于php中文网

原创

str.strip() 不能处理业务“脏空格”(如\u200b、\u3000、\xa0),因其默认仅识别ascii空白符;需用正则re.sub(r'[\s\u200b\u3000\xa0]+', ' ', text).strip()统一归一再裁边。

python 文本规范化与业务需求结合

为什么 str.strip() 不能处理业务里的“脏空格”

因为业务文本里混着 \u200b(零宽空格)、\u3000(全角空格)、\xa0(不间断空格)——这些都不在 str.strip() 默认字符集里,调用后纹丝不动。

实操建议:

立即学习Python免费学习笔记(深入)”;

  • 先用 repr(text) 看真实字节,别靠肉眼判断“看起来是空格”
  • 统一清理推荐用正则:re.sub(r'[\s\u200b\u3000\xa0]+', ' ', text).strip(),把杂七杂八空白归为一个半角空格再裁边
  • 如果字段要进数据库或做等值匹配,建议额外加 .replace(' ', '') == '' 判断是否真为空,别只信 not text.strip()

中文标点替换该用 str.translate() 还是 re.sub()

str.translate() 更快、更可控,尤其适合一对一映射(如把 全替成 ,),但不支持模糊匹配或上下文条件;re.sub() 灵活,能写 r'(? 这种带边界的规则,但性能差一截,且容易写错边界。

实操建议:

立即学习Python免费学习笔记(深入)”;

  • 纯符号批量替换:建 table = str.maketrans(',。!?;:“”‘’()【】《》', ',.!?;:""\'\'()[]'),然后 text.translate(table)
  • 需要保留某些上下文(比如数字后的顿号不替换):必须用 re.sub(),但先 re.compile() 缓存 pattern,别每次临时编译
  • 注意 translate() 对 Unicode 组合字符(如带声调的拼音)可能误伤,测试时多塞几个生僻字

业务字段“规范化”要不要动原始编码

不要。原始文本的 encoding 是事实,强行 decode/encode 容易引入 UnicodeDecodeError 或静默乱码(比如把 b'\xe4\xbd\xa0\xe5\xa5\xbd'latin-1 解再 encode 回 utf-8,就变 你好)。

艺帆网络工作室网站源码1.7.5
艺帆网络工作室网站源码1.7.5

艺帆网络工作室网站源码,是国庆后新一批新概念的网站源码,采用流行的Html5和JS组合流畅顺滑,界面清晰明朗,适合科技类企业和公司建站使用。如果你是想成为一家独特的设计公司,拥有独特的文化,追求品质,而非数量与规模。 这种坚持一直贯穿于项目运作之中,从品牌建立、形象推广设计到品牌形象管理。那可以考虑使用这款艺帆网络工作室网站源码。 这款源码中服务项目和团队程序需要在_template文件夹下的in

下载

实操建议:

立即学习Python免费学习笔记(深入)”;

  • 拿到 bytes 就先 try: text = raw_bytes.decode('utf-8') except UnicodeDecodeError: text = raw_bytes.decode('utf-8', errors='replace'),别猜编码
  • 所有后续操作(去空格、替换标点)都在 str 层做,别反复 encode/decode
  • 如果字段要落库,确认数据库连接层已设 charset=utf8mb4,而不是靠 Python 层“补救”

unicodedata.normalize() 在什么场景下真有用

只在涉及大小写折叠、重音符号、兼容汉字(如「個」vs「个」)或搜索/排序一致性时才需要。普通表单清洗、日志去噪、ID 标准化几乎用不到,硬加上反而拖慢速度、引入不可见字符。

实操建议:

立即学习Python免费学习笔记(深入)”;

  • 搜素关键词标准化:用 unicodedata.normalize('NFKC', keyword),它能把全角数字、罗马数字、上标 ² 归一为常规字符
  • 用户昵称展示:别 normalize,否则「café」变「cafe」,丢了原意
  • 注意 NFKD 会把「ffi」拆成「ffi」,某些 OCR 输出或旧系统导出数据才需这种激进拆分

真正难的是理清业务语义:这个字段是给人看、给机器比对、还是进搜索引擎?同一段文本在不同环节的“规范”目标可能完全相反。别写一套通用清洗函数包打天下。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
常见的编码方式
常见的编码方式

常见的编码方式有ASCII编码、Unicode编码、UTF-8编码、UTF-16编码、GBK编码等。想了解更多编码方式相关内容,可以阅读本专题下面的文章。

629

2023.10.24

a和A对应的ASCII码数值
a和A对应的ASCII码数值

a的ascii码是65,a的ascii码是97;ascii码表中,一个字母的大小写数值相差32,一般知道大写字母的ascii码数值,其对应的小写字母的ascii码数值就算出来了,是大写字母的ascii码数值“+32”。想了解更多相关的内容,可阅读本专题下面的相关文章。

2197

2024.10.24

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

374

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2093

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

356

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

259

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

329

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

418

2023.10.16

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

796

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号