0

0

XML数据清洗和预处理在映射前如何做?

月夜之吻

月夜之吻

发布时间:2026-01-14 19:37:20

|

700人浏览过

|

来源于php中文网

原创

xml解析报错时应先轻量清洗:移除控制字符、统一编码、用lxml.recover容错解析;html实体、cdata、空白需语义化处理;命名空间须显式声明;重复/空/类型混杂节点需归一化;结构变异需配置化映射。

xml数据清洗和预处理在映射前如何做?

XML结构不规范时,xml.etree.ElementTree 解析直接报错怎么办

遇到 ParseError: not well-formed (invalid token)xml.parsers.expat.ExpatError,基本是 XML 含非法字符、未闭合标签、编码声明错位或 BOM 头干扰。别急着重写解析逻辑,先做轻量清洗:

  • bytes 级替换移除常见控制字符:re.sub(b'[\x00-\x08\x0b\x0c\x0e-\x1f]', b'', raw_xml_bytes)
  • 检查并统一编码声明(如把 <?xml version="1.0" encoding="ISO-8859-1"?> 改为 UTF-8),再用 str.encode('utf-8') 强制转码
  • chardet.detect() 判定真实编码,避免盲目按声明解码
  • 对明显缺闭合标签的片段(如 <item><name>abc</name></item>),慎用正则补全——优先用 lxml.etree.fromstring(..., recover=True) 容错解析

字段值含 HTML 实体、CDATA 或换行缩进,映射后数据错乱怎么清理

XML 中的  、多余空格和换行,在提取文本后常导致 JSON/CSV 映射失败或字段截断。关键不是“全删”,而是按语义区分处理:

  • 调用 element.text.strip() 前,先用 lxml.html.fromstring() 解析 HTML 实体(lxml 自动转义,ElementTree 不会)
  • CDATA 区域,lxml 默认保留原内容;若需解码,用 html.unescape(cdata_text)
  • 多行文本中保留有意义的换行(如地址、描述),但过滤掉仅由缩进组成的空行:re.sub(r'\n\s*\n', '\n', text)
  • 警惕 (零宽空格)等隐形字符,用 text.replace('\u200b', '').replace('\uFEFF', '') 清理

命名空间(namespace)导致 find()xpath() 全部失效

XML 带命名空间(如 xmlns="http://example.com/ns")时,tree.find('item') 必然返回 None——这不是语法错,是命名空间没声明。必须显式绑定前缀:

讯飞开放平台
讯飞开放平台

科大讯飞推出的以语音交互技术为核心的AI开放平台

下载
from lxml import etree
ns = {'ns': 'http://example.com/ns'}
root = etree.fromstring(xml_bytes)
items = root.xpath('//ns:item', namespaces=ns)  # 注意前缀 ns:
# 或用 find:root.find('ns:item', namespaces=ns)

若多个命名空间混用(如 xmlns:xsi, xmlns:xs),必须全部注册到 namespaces 字典;漏一个,对应路径就查不到。用 root.nsmap 可快速查看文档实际声明了哪些前缀。

重复节点、空节点、类型混杂字段影响后续映射稳定性

比如 <price>99</price><price></price> 并存,或同一字段有时是字符串、有时是数字,硬映射会崩。清洗阶段就要归一化:

  • list(root.iterfind('.//price')) 批量检测空节点,if elem.text is None or elem.text.strip() == '' 则设默认值或跳过
  • 对数值型字段,统一用 float(elem.text.strip()) if elem.text else 0.0 转换,避免后续 SQL 插入或 Pandas 类型推断出错
  • 对可能重复的节点(如多个 <tag></tag>),明确策略:取第一个(find())、拼接为列表(list(findall()))、或合并为逗号分隔字符串(', '.join(t.text for t in tags if t.text)
  • etree.tostring(elem, encoding='unicode', method='xml') 检查清洗后是否仍合法 XML,防止修复引入新格式错误

真正难的不是单点清洗,而是不同来源 XML 的结构变异——同一业务字段在 A 系统里是 <amount></amount>,在 B 系统里是 <total_price></total_price>,且嵌套层级不同。这类问题没法靠通用清洗解决,得在映射配置里提前定义字段别名和路径规则。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

1090

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

339

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

380

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1988

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

379

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

1540

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

585

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

438

2024.04.29

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

3

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.5万人学习

AngularJS教程
AngularJS教程

共24课时 | 4万人学习

CSS教程
CSS教程

共754课时 | 39万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号