问题描述
在pytorch中处理数据时，我们经常需要识别张量中的唯一行。更进一步地，有时我们需要获取这些唯一行在原始张量中首次出现的索引。例如，给定一个形状为 (n, d) 的二维张量，其中 n 是行数，d 是特征维度，目标是找到一个索引列表，其中每个索引对应于某个唯一行在原始张量中第一次出现的位置。
初始实现与效率瓶颈
一个直观的实现方式是首先使用torch.unique函数找出所有唯一行及其对应的逆索引，然后通过遍历这些唯一行，利用torch.where来查找每个唯一行在逆索引张量中首次出现的位置。以下是这种方法的示例代码：
import torch
import numpy as np
# 示例张量
data = torch.rand(100, 5)
# 随机复制一些行，制造重复数据
data[np.random.choice(100, 50, replace=False)] = torch.tensor([1.0, 2.0, 3.0, 4.0, 5.0])
# 查找唯一行及其相关信息
# u_data: 唯一行张量
# inverse_indices: 原始张量中每行对应的唯一行索引
# counts: 每个唯一行出现的次数
u_data, inverse_indices, counts = torch.unique(data, dim=0, return_inverse=True, return_counts=True)
# 查找每个唯一行首次出现的索引（低效循环方法）
unique_indices_loop = torch.zeros(len(u_data), dtype=torch.long)
for idx in range(len(u_data)):
# 对于每个唯一行索引idx，在inverse_indices中找到其首次出现的位置
unique_indices_loop[idx] = torch.where(inverse_indices == idx)[0][0]
print(f"通过循环找到的首次出现索引: {unique_indices_loop}")尽管上述代码功能正确，但其核心问题在于使用了Python级别的for循环。在PyTorch这类高度优化的张量计算框架中，Python循环通常会导致显著的性能瓶颈，尤其是在处理大规模数据时。torch.where函数在循环内部的反复调用也增加了计算开销。为了提高效率，我们需要寻找一种完全基于张量操作的解决方案，以充分利用PyTorch的并行计算能力。
优化的PyTorch方法
为了避免低效的Python循环，我们可以将问题转化为一个二维张量操作。核心思想是构建一个辅助张量，巧妙地利用inverse_indices来标记原始行与唯一行之间的映射关系，然后通过argmin操作高效地找到首次出现的索引。
核心思想
- 利用 inverse_indices: torch.unique返回的inverse_indices张量记录了原始张量中每一行对应的是哪一个唯一行（其在u_data中的索引）。
- 构建辅助张量 A: 创建一个形状为 (原始行数, 唯一行数) 的二维张量 A。
- 填充 A: 将 A 初始化为一个足够大的占位符值（例如，大于原始行数的任意整数）。然后，对于原始张量中的每一行 i，将其对应的唯一行索引 inverse_indices[i] 赋值给 A[i, inverse_indices[i]]。这里的赋值操作实际上是将原始行索引 i 写入到辅助张量中对应唯一行的列。
- 使用 argmin: 对张量 A 沿着列（dim=0）执行 argmin 操作。对于每一列 j（代表第 j 个唯一行），argmin将返回该列中最小值所在的行索引。由于我们只在原始行 i 对应唯一行 j 的位置 A[i, j] 写入了 i，而其他位置是较大的占位符值，因此argmin将准确地找到第一个将自身映射到唯一行 j 的原始行索引。
步骤详解与示例代码
我们将使用一个足够大的值（例如，len(data) 或更大的一个数，如 1000）作为占位符，确保它大于任何可能的原始行索引。
import torch
import numpy as np
# 示例张量（与前文相同）
data = torch.rand(100, 5)
data[np.random.choice(100, 50, replace=False)] = torch.tensor([1.0, 2.0, 3.0, 4.0, 5.0])
# 查找唯一行及其相关信息
u_data, inverse_indices, counts = torch.unique(data, dim=0, return_inverse=True, return_counts=True)
# --- 优化的PyTorch方法 ---
# 1. 初始化辅助张量 A
# A 的维度为 (原始行数, 唯一行数)
# 使用一个大于原始行数的占位符值（如 len(data) 或 1000）进行初始化
# 这里使用 len(data) 作为占位符，因为原始行索引最大为 len(data) - 1
placeholder_val = len(data)
A = placeholder_val * torch.ones((len(data), len(u_data)), dtype=torch.long)
# 2. 填充辅助张量 A
# 对于原始张量中的每一行 i (由 torch.arange(len(data)) 生成)，
# 找到其对应的唯一行索引 inverse_indices[i]。
# 然后在 A[i, inverse_indices[i]] 的位置上写入原始行索引 i。
# 这里的赋值操作 A[torch.arange(len(data)), inverse_indices] = torch.arange(len(data))
# 实际上是将原始行索引本身作为值写入，而不是 inverse_indices。
# 修正：应写入原始行索引 i，而不是 inverse_indices[i]
A[torch.arange(len(data)), inverse_indices] = torch.arange(len(data))
# 3. 对 A 沿着列方向执行 argmin 操作
# 对于 A 的每一列 j（代表第 j 个唯一行），argmin(A[:, j]) 将返回该列中最小值的行索引。
# 由于我们只在 A[i, j] 处写入了 i，且其他地方是更大的占位符，
# 因此 argmin 会找到第一个将自身映射到唯一行 j 的原始行索引。
unique_indices_optimized = torch.argmin(A, dim=0)
print(f"通过优化方法找到的首次出现索引: {unique_indices_optimized}")
# 验证两种方法的结果是否一致
# 为了验证，我们还需要运行之前的循环方法
unique_indices_loop = torch.zeros(len(u_data), dtype=torch.long)
for idx in range(len(u_data)):
unique_indices_loop[idx] = torch.where(inverse_indices == idx)[0][0]
print(f"两种方法结果是否一致: {torch.allclose(unique_indices_optimized.float(), unique_indices_loop.float())}")通过这种方法，我们成功地将 Python 循环替换为高效的 PyTorch 张量操作，显著提升了查找唯一行首次出现索引的效率。
效率与内存权衡
这种优化的方法虽然避免了 Python 循环，但引入了一个新的辅助张量 A。这个张量的尺寸是 (原始行数, 唯一行数)，它可能比原始数据张量占用更多的内存。
- 计算效率: torch.argmin 是一个高度优化的操作，通常能够充分利用 GPU 或多核 CPU 的并行计算能力，因此在计算速度上远超 Python 循环。
- 内存消耗: 当原始行数 len(data) 和唯一行数 len(u_data) 都非常大时，辅助张量 A 可能会占用大量内存。在内存受限的环境下，这可能成为一个需要权衡的因素。
在实际应用中，如果数据量巨大且内存是瓶颈，可能需要考虑其他策略，例如分块处理或更复杂的算法。但对于大多数常见场景，这种无循环的张量化方法是首选，因为它在计算速度上提供了显著的优势。
总结
本文详细介绍了在 PyTorch 中高效查找唯一行首次出现索引的优化方法。通过利用 torch.unique 函数的 inverse_indices 输出，并结合构建一个辅助二维张量以及使用 torch.argmin 操作，我们能够将原本低效的 Python 循环转换为高性能的张量操作。这种方法在处理大规模数据时具有显著的计算效率优势，但需要注意其潜在的内存消耗。在选择具体实现方案时，应根据实际数据规模和硬件资源进行综合考量。
