
本教程详细介绍了在机器学习任务中,如何将经过对数转换(np.log)的特征在模型预测后,通过指数函数(np.exp)准确还原回其原始数值尺度。文章涵盖了数据预处理中的对数转换、模型训练与预测,以及最关键的逆转换步骤,并强调了在原始尺度上评估模型性能和展示结果的重要性,以确保模型输出的业务可解释性。
在机器学习实践中,对数转换(Log Transformation)是一种常用的数据预处理技术,尤其适用于处理右偏分布、具有大范围值或存在异方差的数据。通过将原始数据转换为其对数形式,可以使数据分布更接近正态分布,从而满足某些模型(如线性回归)的假设,并有助于提高模型的稳定性和预测性能。
然而,模型在对数尺度上进行训练和预测后,其输出结果(预测值)也处于对数尺度。为了使这些预测结果具有实际业务意义和可解释性,我们必须将其逆转换为原始的数值尺度。例如,预测房价、收入或销售额时,最终用户期望看到的是实际金额,而非其对数值。
在模型训练之前,我们通常会对目标变量(因变量)或某些独立变量进行对数转换。这有助于缓解数据偏斜问题,并可能改善模型性能。以下代码展示了如何使用 np.log() 对特定特征进行对数转换:
import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import mean_absolute_error
# 模拟数据以使代码可运行
data = {
'value_eur': [1000, 50000, 200000, 0, 15000, 3000000, 120000, 800000, 5000, 75000],
'wage_eur': [500, 2000, 10000, 0, 800, 500000, 6000, 30000, 400, 1500],
'feature1': [1, 2, 3, 4, 5, 6, 7, 8, 9, 10],
'feature2': [7, 8, 9, 10, 11, 12, 13, 14, 15, 16]
}
dtd = pd.DataFrame(data)
dtk = dtd.copy() # dtk代表原始数据,用于从原始值进行对数转换
# 对 value_eur 和 wage_eur 进行对数转换
# 确保只对正值进行对数转换,因为 log(0) 是未定义的
mask_value = dtd['value_eur'] > 0
dtd.loc[mask_value, 'value_eur'] = np.log(dtk.loc[mask_value, 'value_eur'])
mask_wage = dtd['wage_eur'] > 0
dtd.loc[mask_wage, 'wage_eur'] = np.log(dtk.loc[mask_wage, 'wage_eur'])
print("对数转换后的数据(部分):")
print(dtd.head())注意: 在进行对数转换时,必须确保原始数值大于零。对于包含零或负值的列,需要进行特殊处理(例如,加一个小的常数,或使用Box-Cox转换)。
在数据经过对数转换后,我们将使用这些转换后的数据来训练机器学习模型。模型的输入 X 和目标变量 y 都将包含对数尺度的值。以下是模型训练和在测试集上进行预测的示例:
# 假设 X 和 y 已经从 dtd 中分离
X = dtd.drop(['value_eur'], axis=1)
y = dtd['value_eur']
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
# 模拟一个训练好的回归器(例如使用随机森林)
regressor = RandomForestRegressor(random_state=42)
regressor.fit(X_train, y_train)
# 在测试集上进行预测,此时 regs 仍然是对数尺度的预测值
regs = regressor.predict(X_test)
# 此时计算的MAE是在对数尺度上的
mae_log_scale = mean_absolute_error(y_test, regs)
print(f"\n对数尺度上的平均绝对误差 (MAE): {mae_log_scale:.4f}")
# 原始的预测结果DataFrame(对数尺度)
results_log_scale = pd.DataFrame({
'预测值 (对数尺度)': regs,
'真实值 (对数尺度)': y_test
})
print("\n预测结果(对数尺度,部分):")
print(results_log_scale.head())此时,regs 变量中存储的是模型在对数尺度上预测的值,y_test 同样也是对数尺度的真实值。
为了将对数尺度的预测值还原到原始尺度,我们需要使用指数函数 np.exp()。它是自然对数 np.log() 的逆运算。
同时,为了在原始尺度上进行评估和展示,我们也需要将真实的测试集目标值 y_test 还原到原始尺度。
# 将预测值从对数尺度还原到原始尺度
y_pred_original = np.exp(regs)
# 将真实值从对数尺度还原到原始尺度
y_test_original = np.exp(y_test)
print("\n还原后的预测值(原始尺度,部分):")
print(y_pred_original[:5])
print("\n还原后的真实值(原始尺度,部分):")
print(y_test_original[:5])在将预测值和真实值都还原到原始尺度后,我们就可以在原始尺度上计算评估指标,并以更直观的方式展示结果。
# 在原始尺度上计算平均绝对误差 (MAE)
mae_original_scale = mean_absolute_error(y_test_original, y_pred_original)
print(f"\n原始尺度上的平均绝对误差 (MAE): {mae_original_scale:.2f}")
# 构建包含原始尺度预测值和真实值的 DataFrame
results_original_scale = pd.DataFrame({
'预测值 (原始尺度)': y_pred_original,
'真实值 (原始尺度)': y_test_original
})
print("\n预测结果(原始尺度,部分):")
print(results_original_scale.head())通过上述步骤,我们成功地将模型的预测结果从对数尺度转换回了原始尺度,并在此尺度上进行了评估和展示。
以上就是机器学习模型中对数转换后预测值还原的实践指南的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号