0

0

XML数据清洗和预处理在映射前如何做?

月夜之吻

月夜之吻

发布时间:2026-01-14 19:37:20

|

700人浏览过

|

来源于php中文网

原创

XML解析报错时应先轻量清洗:移除控制字符、统一编码、用lxml.recover容错解析;HTML实体、CDATA、空白需语义化处理;命名空间须显式声明;重复/空/类型混杂节点需归一化;结构变异需配置化映射。

xml数据清洗和预处理在映射前如何做?

XML结构不规范时,xml.etree.ElementTree 解析直接报错怎么办

遇到 ParseError: not well-formed (invalid token)xml.parsers.expat.ExpatError,基本是 XML 含非法字符、未闭合标签、编码声明错位或 BOM 头干扰。别急着重写解析逻辑,先做轻量清洗:

  • bytes 级替换移除常见控制字符:re.sub(b'[\x00-\x08\x0b\x0c\x0e-\x1f]', b'', raw_xml_bytes)
  • 检查并统一编码声明(如把 改为 UTF-8),再用 str.encode('utf-8') 强制转码
  • chardet.detect() 判定真实编码,避免盲目按声明解码
  • 对明显缺闭合标签的片段(如 abc),慎用正则补全——优先用 lxml.etree.fromstring(..., recover=True) 容错解析

字段值含 HTML 实体、CDATA 或换行缩进,映射后数据错乱怎么清理

XML 中的  、多余空格和换行,在提取文本后常导致 JSON/CSV 映射失败或字段截断。关键不是“全删”,而是按语义区分处理:

  • 调用 element.text.strip() 前,先用 lxml.html.fromstring() 解析 HTML 实体(lxml 自动转义,ElementTree 不会)
  • CDATA 区域,lxml 默认保留原内容;若需解码,用 html.unescape(cdata_text)
  • 多行文本中保留有意义的换行(如地址、描述),但过滤掉仅由缩进组成的空行:re.sub(r'\n\s*\n', '\n', text)
  • 警惕 (零宽空格)等隐形字符,用 text.replace('\u200b', '').replace('\uFEFF', '') 清理

命名空间(namespace)导致 find()xpath() 全部失效

XML 带命名空间(如 xmlns="http://example.com/ns")时,tree.find('item') 必然返回 None——这不是语法错,是命名空间没声明。必须显式绑定前缀:

from lxml import etree
ns = {'ns': 'http://example.com/ns'}
root = etree.fromstring(xml_bytes)
items = root.xpath('//ns:item', namespaces=ns)  # 注意前缀 ns:
# 或用 find:root.find('ns:item', namespaces=ns)

若多个命名空间混用(如 xmlns:xsi, xmlns:xs),必须全部注册到 namespaces 字典;漏一个,对应路径就查不到。用 root.nsmap 可快速查看文档实际声明了哪些前缀。

MiniMax Agent
MiniMax Agent

MiniMax平台推出的Agent智能体助手

下载

重复节点、空节点、类型混杂字段影响后续映射稳定性

比如 99 并存,或同一字段有时是字符串、有时是数字,硬映射会崩。清洗阶段就要归一化:

  • list(root.iterfind('.//price')) 批量检测空节点,if elem.text is None or elem.text.strip() == '' 则设默认值或跳过
  • 对数值型字段,统一用 float(elem.text.strip()) if elem.text else 0.0 转换,避免后续 SQL 插入或 Pandas 类型推断出错
  • 对可能重复的节点(如多个 ),明确策略:取第一个(find())、拼接为列表(list(findall()))、或合并为逗号分隔字符串(', '.join(t.text for t in tags if t.text)
  • etree.tostring(elem, encoding='unicode', method='xml') 检查清洗后是否仍合法 XML,防止修复引入新格式错误

真正难的不是单点清洗,而是不同来源 XML 的结构变异——同一业务字段在 A 系统里是 ,在 B 系统里是 ,且嵌套层级不同。这类问题没法靠通用清洗解决,得在映射配置里提前定义字段别名和路径规则。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

676

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

320

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

346

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1095

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

357

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

675

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

571

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

414

2024.04.29

Java 桌面应用开发(JavaFX 实战)
Java 桌面应用开发(JavaFX 实战)

本专题系统讲解 Java 在桌面应用开发领域的实战应用,重点围绕 JavaFX 框架,涵盖界面布局、控件使用、事件处理、FXML、样式美化(CSS)、多线程与UI响应优化,以及桌面应用的打包与发布。通过完整示例项目,帮助学习者掌握 使用 Java 构建现代化、跨平台桌面应用程序的核心能力。

36

2026.01.14

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 2.9万人学习

AngularJS教程
AngularJS教程

共24课时 | 2.6万人学习

CSS教程
CSS教程

共754课时 | 18.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号