
本教程旨在指导用户如何规范化处理带有特殊前缀(如'+'和'-')的pandas dataframe列名及其对应数值。文章将详细介绍如何识别并处理负号列,统一列名,并通过列分组求和的方式,将具有相同基础名称的正负列合并为单一列,实现数据规范化,最终生成一个结构清晰、易于分析的数据集。
在数据处理过程中,我们经常会遇到需要对DataFrame中的列进行聚合或规范化的场景。特别是当列名中包含表示操作类型(如加减)的特殊字符时,如何有效地将其转换为统一的格式并进行数值计算,是一个常见的挑战。本教程将以一个具体的案例为例,详细讲解如何使用Pandas库实现这一目标。
假设我们有一个Pandas DataFrame,其列名以+或-符号开头,表示该列的数值属性。例如,+Col01和-Col01可能分别代表某个指标的正面值和负面值。我们的目标是将这些带有符号的列规范化,具体操作包括:
首先,我们创建一个示例DataFrame,模拟上述场景中的数据结构:
import pandas as pd
data = {
'RepID': [1, 2, 3, 4, 5],
'+Col01': [5, 1, 9, 3, 0],
'+Col02': [7, 3, 8, 1, 7],
'+Col03': [9, 3, 0, 0, 1],
'-Col01': [8, 3, 9, 5, 2],
'+Col04': [3, 1, 4, 8, 0],
'+Col05': [8, 2, 9, 7, 0],
'-Col03': [1, 2, 5, 1, 2],
'-Col04': [9, 3, 1, 0, 9],
'+Col06': [4, 6, 2, 9, 2],
'-Col07': [6, 0, 0, 2, 1]
}
df = pd.DataFrame(data)
print("原始 DataFrame:")
print(df)原始DataFrame的输出如下:
原始 DataFrame: RepID +Col01 +Col02 +Col03 -Col01 +Col04 +Col05 -Col03 -Col04 +Col06 -Col07 0 1 5 7 9 8 3 8 1 9 4 6 1 2 1 3 3 3 1 2 2 3 6 0 2 3 9 8 0 9 4 9 5 1 2 0 3 4 3 1 0 5 8 7 1 0 9 2 4 5 0 7 1 2 0 0 2 9 2 1
我们将分步实现数据的规范化。
识别所有以-开头的列,并将其数值乘以-1。这样做的目的是将原始的减法操作(例如+Col01 - -Col01)转换为加法操作(+Col01 + (-1 * -Col01)),以便后续使用sum()函数进行聚合。
# 1. 识别所有以'-'开头的列
cols_to_negate = df.columns[df.columns.str.startswith('-')]
# 2. 将这些列的数值乘以-1
df[cols_to_negate] = df[cols_to_negate].mul(-1)
print("\n处理负号列后的 DataFrame (部分列数值已变负):")
print(df)此时,DataFrame中以-开头的列的数值将变为负数。例如,原始的-Col01值为[8, 3, 9, 5, 2],处理后将变为[-8, -3, -9, -5, -2]。
移除所有列名中的+或-符号,使其只保留基础名称。这可以通过字符串替换操作和正则表达式实现。
# 1. 生成新的列名组(移除'+'和'-')
# 使用正则表达式`[+-]`匹配'+'或'-',并替换为空字符串
grp_names = df.columns.str.replace(r'[+-]', '', regex=True)
print("\n生成的基础列名组:")
print(grp_names)grp_names将是一个Index对象,包含如['RepID', 'Col01', 'Col02', ...]这样的基础列名。
利用步骤二中生成的统一列名,对DataFrame进行列方向(axis=1)的分组求和。groupby(grp_names, axis=1)会将具有相同基础列名的原始列(例如+Col01和处理后的-Col01)分到同一组。然后,sum()操作将对这些组内的数值进行求和。sort=False参数用于保留原始列的相对顺序,这在某些情况下有助于保持输出的逻辑性。
# 1. 根据新的列名组进行分组,并在列方向(axis=1)上求和
output_df = df.groupby(grp_names, axis=1, sort=False).sum()
print("\n最终规范化后的 DataFrame:")
print(output_df)将上述所有步骤整合到一起,形成完整的解决方案:
import pandas as pd
# 准备示例数据
data = {
'RepID': [1, 2, 3, 4, 5],
'+Col01': [5, 1, 9, 3, 0],
'+Col02': [7, 3, 8, 1, 7],
'+Col03': [9, 3, 0, 0, 1],
'-Col01': [8, 3, 9, 5, 2],
'+Col04': [3, 1, 4, 8, 0],
'+Col05': [8, 2, 9, 7, 0],
'-Col03': [1, 2, 5, 1, 2],
'-Col04': [9, 3, 1, 0, 9],
'+Col06': [4, 6, 2, 9, 2],
'-Col07': [6, 0, 0, 2, 1]
}
df = pd.DataFrame(data)
print("原始 DataFrame:")
print(df)
# --- 规范化处理 ---
# 步骤1: 识别并处理负号列的数值
# 提取所有以'-'开头的列名
cols_to_negate = df.columns[df.columns.str.startswith('-')]
# 将这些列的数值乘以-1
df[cols_to_negate] = df[cols_to_negate].mul(-1)
# 步骤2: 统一列名
# 使用正则表达式移除列名中的'+'或'-'符号
grp_names = df.columns.str.replace(r'[+-]', '', regex=True)
# 步骤3: 按统一列名进行分组求和
# 在列方向(axis=1)上进行分组求和,sort=False保持原始列的相对顺序
output_df = df.groupby(grp_names, axis=1, sort=False).sum()
print("\n最终规范化后的 DataFrame:")
print(output_df)最终 output_df 的输出如下:
最终规范化后的 DataFrame: RepID Col01 Col02 Col03 Col04 Col05 Col06 Col07 0 1 -3 7 8 -6 8 4 -6 1 2 -2 3 1 -2 2 6 0 2 3 0 8 -5 3 9 2 0 3 4 -2 1 -1 8 7 9 -2 4 5 -2 7 -1 -9 0 2 -1
对比原始数据和期望结果,我们可以看到:
这表明我们的规范化处理方法是正确且有效的。
通过上述步骤,我们成功地将一个带有复杂命名规则的DataFrame转换成了一个结构清晰、数值规范化的DataFrame,为后续的数据分析和建模奠定了基础。这种方法灵活且高效,适用于处理类似的数据清理任务。
以上就是规范化处理带符号列名的Pandas DataFrame的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号