PythonPandas数据清洗方法_缺失值与异常处理技巧【指导】

冷漠man
发布: 2025-12-23 22:54:10
原创
805人浏览过
数据清洗需针对性处理缺失值与异常值:识别时兼顾各类伪装缺失;填充按列类型选择众数、中位数或前向填充;异常值优先用IQR法结合可视化判断;推荐pipe链式操作并校验结果。

pythonpandas数据清洗方法_缺失值与异常处理技巧【指导】

处理缺失值和异常值是数据清洗的核心环节,直接影响后续分析的准确性和模型效果。Pandas 提供了丰富、灵活的工具,关键在于理解不同场景下该选哪种方法,而不是堆砌函数。

识别缺失值:别只盯着 np.nan

缺失值不只有 np.nan,还可能表现为空字符串、占位符(如 "N/A"、"NULL"、-999)、或空列表等。直接用 .isna() 可能漏掉这些“伪装”的缺失。

  • 先用 df.info()df.describe(include='all') 快速扫视各列的数据类型与唯一值分布
  • 对字符型列,检查常见占位符:df[col].str.strip().isin(['', 'N/A', 'NULL', 'unknown'])
  • 对数值列,留意业务逻辑中的非法值(如年龄为 -1、销售额为 0 但应有交易记录),需结合领域知识判断

填充缺失值:按列特性选择策略

均值/中位数填充不是万能解。类别型、时序型、高基数列各有更合理的填充方式。

  • 类别型列(如城市、产品类型):优先用众数(mode().iloc[0])或新增 “Unknown” 类别,避免引入虚假分布
  • 数值型列(连续):若分布偏斜明显(如收入),中位数比均值更稳健;若存在时间维度,可用前向填充(ffill)或插值(interpolate(method='linear')
  • 高基数 ID 类列(如用户 ID):一般不填充,考虑删除整行或标记为缺失参与后续建模(如用 pd.get_dummies(..., dummy_na=True)

检测与处理异常值:少用“一刀切”的 3σ

3σ 法则仅适用于近似正态分布,且对样本量敏感。实际中更推荐组合判断:

AutoGLM沉思
AutoGLM沉思

智谱AI推出的具备深度研究和自主执行能力的AI智能体

AutoGLM沉思 239
查看详情 AutoGLM沉思

立即学习Python免费学习笔记(深入)”;

  • 先画箱线图(df.boxplot())或直方图,直观看离群点位置和数量
  • 对单变量,用 IQR(四分位距)法:Q1 - 1.5×IQRQ3 + 1.5×IQR 划定边界
  • 对多变量关系(如价格 vs 销量),用散点图或局部异常因子(LOF,需 sklearn)识别条件异常
  • 处理方式取决于业务:可截断(clip)、替换为上下界、转为 NaN 后走缺失流程,或保留并添加“是否异常”标志列用于建模

链式操作与就地修改:保持逻辑清晰不污染原数据

清洗过程容易写成多步赋值,既冗余又难调试。推荐用 .pipe() 或明确链式调用,并默认不修改原 DataFrame。

  • 避免频繁写 df = df.dropna() → df = df.fillna(...) → df = df.clip(...)
  • 改用:df_clean = (df.pipe(clean_col_types).pipe(handle_missing).pipe(remove_outliers))
  • 所有清洗函数内部用 copy=True,确保输入不变;必要时才加 inplace=True(如内存受限)
  • 每步后加简单校验,例如 assert df_clean[col].notna().all(), f"{col} 仍有缺失"

以上就是PythonPandas数据清洗方法_缺失值与异常处理技巧【指导】的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号