0

0

利用Pandas与NumPy高效构建坐标DataFrame

聖光之護

聖光之護

发布时间:2025-11-10 11:16:41

|

421人浏览过

|

来源于php中文网

原创

利用pandas与numpy高效构建坐标dataframe

本文旨在指导读者如何基于现有DataFrame和索引列表,高效地构建一个新的坐标DataFrame。我们将探讨两种主要方法:基于循环和字典的迭代方法,以及利用NumPy高级索引和向量化操作的更优方法,旨在提高数据处理的效率和代码简洁性,为后续数据可视化(如路线绘制)奠定基础。

在数据分析和处理中,我们经常需要从一个大型数据集中根据特定的索引或规则提取子集,并将其组织成新的结构。本教程将以一个具体场景为例,演示如何从一个包含节点信息的Pandas DataFrame中,根据一个索引列表(tours)提取对应的X和Y坐标,并构建一个新的DataFrame。

场景描述

假设我们拥有以下两个核心数据结构:

  1. 一个名为 tours 的列表,其中每个子列表包含两个整数,分别代表X坐标和Y坐标在原始DataFrame df 中的行索引。例如,[0, 4] 表示从 df 的第0行获取X值,从 df 的第4行获取Y值。

    tours = [[0, 4], [0, 5], [0, 6], [1, 13], [2, 0], [3, 8], [4, 9], [5, 10],
             [6, 7], [7, 1], [8, 2], [9, 3], [10, 11], [11, 14], [12, 0], [13, 12], [14, 0]]
  2. 一个名为 df 的Pandas DataFrame,包含了多个节点的详细信息,其中包括 X 和 Y 坐标。

    import pandas as pd
    import numpy as np
    
    data = {
        'Node': [2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16],
        'X': [5.7735, 2.8867, -2.8868, -5.7735, -2.8867, 2.8868, 8.6603, 0.0000, -8.6603, -8.6603, 0.0000, 8.6603, 5.3405, 3.3198, 6.4952],
        'Y': [0.00, 5.00, 5.00, 0.00, -5.00, -5.00, 5.00, 10.00, 5.00, -5.00, -10.00, -5.00, 0.75, 4.25, -1.25],
        'Demand': [40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 10.0, 10.0, 10.0],
        'Profit': [16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 24.0, 24.0, 24.0, 24.0, 10.0, 10.0, 11.0]
    }
    df = pd.DataFrame(data)
    # 调整DataFrame的索引以匹配问题描述中的iloc行为
    # 原始df的索引是1-15,但iloc[0]会访问到Node=2的行。
    # 为了使iloc[0]访问到Node=2的行,我们需要确保df的默认整数索引是0开始的。
    # 示例数据中已经确保了这一点。

我们的目标是创建一个新的DataFrame coord,其中包含 tours 中每个索引对对应的 X 和 Y 坐标。

方法一:迭代与字典转换

这种方法通过循环遍历 tours 列表,在每次迭代中根据索引从 df 中提取 X 和 Y 值,并将这些值存储在一个字典中。最后,将字典转换为DataFrame。

实现步骤:

  1. 初始化一个空字典 d。
  2. 遍历 tours 列表,使用 enumerate 获取当前元素的索引 t 和子列表 tour。
  3. 从 tour 中提取 xi (X的索引) 和 yi (Y的索引)。
  4. 使用 df["X"].iloc[xi] 和 df["Y"].iloc[yi] 从 df 中获取对应的X和Y值。
  5. 将获取到的 (X, Y) 对作为值,t 作为键存入字典 d。
  6. 使用 pd.DataFrame.from_dict() 方法,指定 orient='index' 和 columns=['X', 'Y'] 将字典转换为DataFrame。orient='index' 确保字典的键成为DataFrame的索引,值成为行数据。

示例代码:

d = {}
for t, tour in enumerate(tours):
    xi = tour[0]
    yi = tour[1]
    # 注意:df.iloc[index] 是基于位置的索引,与问题描述中的预期行为一致
    d[t] = df["X"].iloc[xi], df["Y"].iloc[yi]

coord_iterative = pd.DataFrame.from_dict(d, orient='index', columns=['X', 'Y'])
print("--- 方法一:迭代与字典转换 ---")
print(coord_iterative)

优点:

  • 逻辑清晰,易于理解,尤其适合初学者。
  • 对于小型数据集,性能影响不明显。

缺点:

Cliclic AI
Cliclic AI

Cliclic商品背景图编辑器是一款功能强大的AI工具,帮助用户快速生成具有吸引力的商品图背景。

下载
  • 涉及显式循环,对于大型数据集效率较低。Python的循环通常比向量化操作慢。

方法二:向量化操作与NumPy高级索引

为了提高效率,特别是处理大数据时,推荐使用Pandas和NumPy提供的向量化操作。这种方法避免了显式Python循环,转而利用底层C实现的优化操作。

实现步骤:

  1. 将 tours 列表转换为NumPy数组。这使得我们可以利用NumPy的强大索引功能。
  2. 从原始DataFrame df 中提取 X 和 Y 列,并将其转换为NumPy数组 arr。这样做可以避免在循环中反复进行Pandas Series的索引操作。
  3. 利用NumPy的高级索引功能,一步到位地从 arr 中提取所有需要的X和Y值。
    • tours[:, 0] 提取 tours 数组中所有子列表的第一个元素(即X的索引列表)。
    • tours[:, 1] 提取 tours 数组中所有子列表的第二个元素(即Y的索引列表)。
    • arr[tours[:, 0], 0] 表示使用X的索引列表去 arr 的第0列(即X值)中查找对应的值。
    • arr[tours[:, 1], 1] 表示使用Y的索引列表去 arr 的第1列(即Y值)中查找对应的值。
  4. 将这些提取出的X和Y值直接构建成一个新的Pandas DataFrame。

示例代码:

# 将tours转换为NumPy数组,方便进行高级索引
tours_np = np.array(tours)

# 提取df的X和Y列并转换为NumPy数组
# 注意:这里假设df的索引是0-based的整数索引,与iloc行为一致
arr = df[["X", "Y"]].to_numpy()

# 使用NumPy高级索引直接获取X和Y坐标
# tours_np[:, 0] 得到所有X的索引
# tours_np[:, 1] 得到所有Y的索引
# arr[row_indices, column_index]
# arr[tours_np[:, 0], 0] 从arr的第0列(X值)中,按照tours_np[:, 0]提供的行索引提取值
# arr[tours_np[:, 1], 1] 从arr的第1列(Y值)中,按照tours_np[:, 1]提供的行索引提取值
coord_vectorized = pd.DataFrame({
    "X": arr[tours_np[:, 0], 0],
    "Y": arr[tours_np[:, 1], 1]
})

print("\n--- 方法二:向量化操作与NumPy高级索引 ---")
print(coord_vectorized)

优点:

  • 高效性: 充分利用了NumPy的底层优化,执行速度远快于Python循环,尤其适用于大数据集。
  • 简洁性: 代码更为紧凑和优雅。
  • Pandas/NumPy生态系统优势: 与Pandas和NumPy的数据结构无缝集成。

缺点:

  • 对于初学者来说,NumPy的高级索引可能需要一些时间来理解。

性能比较与选择

在实际应用中,对于数据量较小(例如几百到几千行)的场景,两种方法在性能上的差异可能不明显,此时选择可读性更好的迭代方法也无妨。然而,当处理的数据量达到数万、数十万甚至更高时,向量化操作的性能优势将变得极其显著,能够大幅缩短程序运行时间。

因此,推荐在大多数情况下优先使用方法二(向量化操作与NumPy高级索引),因为它代表了Pandas和NumPy处理数据的最佳实践。

总结与注意事项

通过本教程,我们学习了两种从现有DataFrame中提取指定坐标并构建新DataFrame的方法。

  1. 迭代方法:通过循环和字典辅助构建,易于理解,但效率相对较低。
  2. 向量化方法:利用NumPy的高级索引,代码简洁且性能卓越,是处理大量数据的首选。

在实践中,选择哪种方法取决于具体的数据规模和对性能的要求。对于最终目标是绘制路线图的场景,生成的 coord DataFrame将直接作为绘图库(如Matplotlib, Seaborn, Plotly等)的输入,其准确性和高效生成是至关重要的。

注意事项:

  • 索引范围:确保 tours 列表中的索引值不会超出 df DataFrame的有效行索引范围,否则会导致 IndexError。
  • 数据类型:在将数据转换为NumPy数组时,确保数据类型兼容,以避免潜在的类型转换问题。
  • 可读性与性能平衡:虽然向量化操作更高效,但在某些极端复杂的逻辑中,如果过度追求单行代码而牺牲可读性,可能会增加维护成本。始终在性能和代码可读性之间找到最佳平衡点。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

80

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

338

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

225

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

138

2026.02.12

treenode的用法
treenode的用法

​在计算机编程领域,TreeNode是一种常见的数据结构,通常用于构建树形结构。在不同的编程语言中,TreeNode可能有不同的实现方式和用法,通常用于表示树的节点信息。更多关于treenode相关问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

550

2023.12.01

C++ 高效算法与数据结构
C++ 高效算法与数据结构

本专题讲解 C++ 中常用算法与数据结构的实现与优化,涵盖排序算法(快速排序、归并排序)、查找算法、图算法、动态规划、贪心算法等,并结合实际案例分析如何选择最优算法来提高程序效率。通过深入理解数据结构(链表、树、堆、哈希表等),帮助开发者提升 在复杂应用中的算法设计与性能优化能力。

30

2025.12.22

深入理解算法:高效算法与数据结构专题
深入理解算法:高效算法与数据结构专题

本专题专注于算法与数据结构的核心概念,适合想深入理解并提升编程能力的开发者。专题内容包括常见数据结构的实现与应用,如数组、链表、栈、队列、哈希表、树、图等;以及高效的排序算法、搜索算法、动态规划等经典算法。通过详细的讲解与复杂度分析,帮助开发者不仅能熟练运用这些基础知识,还能在实际编程中优化性能,提高代码的执行效率。本专题适合准备面试的开发者,也适合希望提高算法思维的编程爱好者。

45

2026.01.06

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号