0

0

XML文件如何去除重复节点 Python脚本去重XML数据

月夜之吻

月夜之吻

发布时间:2026-03-14 16:32:03

|

528人浏览过

|

来源于php中文网

原创

最直接方法是用xml.etree.ElementTree遍历目标节点,提取指定子元素文本或属性组合为元组存入set查重,收集待删节点再统一删除,写入时指定encoding='utf-8'和xml_declaration=True。

xml文件如何去除重复节点 python脚本去重xml数据

xml.etree.ElementTree 遍历并去重节点最直接

Python 标准库的 xml.etree.ElementTree 足够应付大多数 XML 去重需求,不用额外装包,也避免了 lxml 在某些环境(比如旧版 CentOS 或无编译工具的容器)里安装失败的问题。

关键不是“删重复”,而是“保留第一次出现的,跳过后续相同结构”。XML 节点是否重复,得看你怎么定义“相同”——常见做法是比对一组指定子元素或属性值的组合,而不是整个节点字符串(因为空白、顺序、命名空间可能干扰)。

  • for elem in root.iter('target_tag') 遍历目标节点,别用 findall 后再循环索引,容易漏删或索引错位
  • 把判断依据(比如 elem.findtext('id')tuple(elem.get(attr) for attr in ['type', 'name']))转成不可变类型存进 set,用于查重
  • 不要边遍历边调用 root.remove(elem) —— 这会改变迭代器状态,导致跳过节点;改用收集待删节点列表,遍历完再统一删

按子元素文本内容去重时,注意 findtext()find().text 的区别

findtext('field') 返回字符串或 None,而 find('field').textfind 失败时会抛 AttributeError。线上 XML 数据常有缺失字段,用 findtext 更稳。

如果字段含空格或换行,findtext 默认不 strip,可能导致看似相同的值被当成不同项。这时候得手动处理:

立即学习Python免费学习笔记(深入)”;

PixVerse
PixVerse

PixVerse是一款强大的AI视频生成工具,可以轻松地将多种输入转化为令人惊叹的视频。

下载
  • 统一用 elem.findtext('name') and elem.findtext('name').strip()
  • 或者提前清洗:对所有待比对字段做 .strip() or '',避免 None 和空串混在一起出问题
  • 大小写敏感?比如 'User''user' 算不算重复?得明确加 .lower() 或按业务约定处理

用属性组合当唯一键时,elem.attrib 顺序不保证,别直接用 str(elem.attrib)

elem.attrib 是字典,Python 3.7+ 虽保持插入序,但 XML 解析器(如 ElementTree)不保证属性读入顺序一致。用 str(elem.attrib) 当哈希键,同一份 XML 在不同机器上可能生成不同字符串,去重结果不稳定。

  • 正确做法:选固定字段名列表,比如 ['category', 'version'],然后构造元组:tuple(elem.get(k, '').strip() for k in keys)
  • 如果某个属性必存在,可简化为 (elem.get('id'), elem.get('scope')),元组天然可哈希且顺序确定
  • 避免用 elem.items(),它返回的顺序不可靠,也不排除命名空间前缀干扰

写回文件前务必用 etree.write(..., encoding='utf-8', xml_declaration=True)

默认 write() 不带 XML 声明,且可能用系统默认编码(比如 cp1252),中文会乱码或解析失败。尤其当原始 XML 有 <?xml version="1.0" encoding="UTF-8"?> 时,输出不带声明 + 错编码 = 下游工具直接报错 UnicodeDecodeErrorParseError: not well-formed

  • 显式传 encoding='utf-8'xml_declaration=True
  • 如果原 XML 有缩进,ElementTree 默认不保留;需要格式化就得手动加换行和空格,或改用 lxml.etreepretty_print=True(但这就绕开标准库了)
  • 写入前建议先 etree.tostring(root, encoding='unicode') 检查逻辑是否符合预期,比直接写文件调试快

去重逻辑本身不难,难的是“怎么定义重复”——字段缺失、空格、大小写、属性顺序、编码这些细节,一个没兜住,脚本就只在测试数据上跑通。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
pdf怎么转换成xml格式
pdf怎么转换成xml格式

将 pdf 转换为 xml 的方法:1. 使用在线转换器;2. 使用桌面软件(如 adobe acrobat、itext);3. 使用命令行工具(如 pdftoxml)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1949

2024.04.01

xml怎么变成word
xml怎么变成word

步骤:1. 导入 xml 文件;2. 选择 xml 结构;3. 映射 xml 元素到 word 元素;4. 生成 word 文档。提示:确保 xml 文件结构良好,并预览 word 文档以验证转换是否成功。想了解更多xml的相关内容,可以阅读本专题下面的文章。

2119

2024.08.01

xml是什么格式的文件
xml是什么格式的文件

xml是一种纯文本格式的文件。xml指的是可扩展标记语言,标准通用标记语言的子集,是一种用于标记电子文件使其具有结构性的标记语言。想了解更多相关的内容,可阅读本专题下面的相关文章。

1171

2024.11.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

761

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1570

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

651

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1228

2024.03.22

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号