降维需先明确目标再选方法：线性法（PCA/LDA）适合加速或分类，非线性法（t-SNE/UMAP）适合可视化；预处理必标准化；维数选择需结合下游任务交叉验证；效果评估应兼顾结构保持与判别能力。
高维特征在机器学习中常带来计算开销大、模型过拟合、可视化困难等问题。降维不是简单删特征，而是用更少的变量保留原始数据的关键结构和区分能力。核心思路是：先理解数据分布特性，再选匹配的降维方法，最后验证降维效果是否满足下游任务需求。
明确降维目标，决定方法类型
降维分两类：线性与非线性。线性方法（如PCA、LDA）快、可解释性强，适合近似线性结构的数据；非线性方法（如t-SNE、UMAP）擅长捕捉复杂流形，但计算贵、不可逆、难泛化。
- 若目标是加速训练或去噪，优先试PCA——它最大化方差，保留全局结构
- 若用于分类前的特征压缩，且标签已知，LDA更合适——它最大化类间距离、最小化类内距离
- 若目标是可视化（如2D/3D散点图）或探索聚类趋势，t-SNE或UMAP更直观，但别直接拿降维后结果训练模型
预处理不能跳过，尤其标准化
多数降维算法（尤其是基于距离或协方差的）对量纲敏感。比如一个特征单位是“万元”，另一个是“百分比”，不标准化会导致前者主导主成分方向。
- 数值型特征统一用StandardScaler（均值为0、方差为1）
- 含大量0的稀疏特征（如TF-IDF），可用MaxAbsScaler避免破坏稀疏性
- 类别型特征需先编码（如OneHot或TargetEncoder），再决定是否参与降维
控制维度数量：不止看“前N个”
PCA常用“保留95%方差”定维数，但这只是统计指标，未必对应任务性能最优。实际应结合下游模型做交叉验证。
立即学习“Python免费学习笔记（深入）”；
- 用cumsum(explained_variance_ratio_)快速查看累计方差贡献，初步筛选候选维数（如20、50、100）
- 对每个候选维数，训练同一模型（如随机森林或逻辑回归），用验证集AUC/F1对比效果
- 若降维后性能明显下降，说明信息损失过大——可能原始特征本身质量不高，或该问题不适合强压缩
降维后务必评估，不只是看图形
可视化（如PCA scatter plot）能辅助判断，但易误导。真正关键的是：降维是否保留了任务所需的判别能力？
- 计算降维前后样本对的欧氏距离相关性（如Spearman秩相关），>0.8说明局部结构保持较好
- 用KNN分类器在降维前后分别打分，下降超过5%需警惕
- 对t-SNE/UMAP等，检查不同初始化下聚类轮廓系数是否稳定，避免偶然性结论
基本上就这些。降维不是黑箱流水线，而是一个需要反复试探、对照、验证的环节。选对方法靠理解数据，调好参数靠实验闭环，用得稳妥靠任务反馈。
