0

0

深入理解NumPy数据类型:避免数组赋值时的数据溢出问题

碧海醫心

碧海醫心

发布时间:2025-12-08 21:25:35

|

747人浏览过

|

来源于php中文网

原创

深入理解NumPy数据类型:避免数组赋值时的数据溢出问题

在使用numpy数组时,若为数组指定了不合适的`dtype`(数据类型),尤其是范围过小的整数类型如`np.uint8`,可能导致超出该类型表示范围的数值发生溢出,从而在数组赋值后出现意外的“数据改变”。本文将深入探讨numpy数据类型溢出的原理,并通过实例代码展示如何避免这一常见陷阱,确保数据完整性。

在Python的数据科学生态中,NumPy库以其高效的数值计算能力而广受欢迎。然而,初学者在使用NumPy数组时,有时会遇到一个令人困惑的问题:当将一个数组的值赋给另一个新创建的数组时,新数组中的数据却与预期不符,甚至出现完全不同的数值。这并非NumPy的“bug”,而是对数据类型(dtype)理解不足导致的数据溢出问题。

问题的根源:NumPy数据类型溢出

NumPy数组在创建时,会为其中存储的元素指定一个数据类型,例如np.int8、np.uint8、np.int32、np.float64等。每种数据类型都有其特定的取值范围。当试图将一个超出该类型表示范围的数值存储进去时,就会发生数据溢出(overflow),导致数值被截断或“环绕”(wrap around),从而得到一个看似错误的结果。

以np.uint8为例,它代表无符号8位整数(unsigned 8-bit integer)。这意味着它只能存储0到255之间的整数值。任何小于0或大于255的数值在被强制转换为np.uint8时,都会发生溢出。例如:

  • 573 转换为 np.uint8:573 % 256 = 61
  • 1023 转换为 np.uint8:1023 % 256 = 255 (因为1023 = 3*256 + 255)

我们可以使用np.iinfo函数来查看整数数据类型的详细信息,包括其最小值和最大值:

import numpy as np

# 查看 np.uint8 的信息
print(np.iinfo(np.uint8))
# 输出: iinfo(min=0, max=255, dtype=uint8)

# 查看 np.int32 的信息
print(np.iinfo(np.int32))
# 输出: iinfo(min=-2147483648, max=2147483647, dtype=int32)

案例分析:不正确的dtype导致的数据改变

考虑以下场景,一个函数旨在对三维NumPy数组进行重新排序:

import numpy as np

def reorder_problematic(points):
    # 将输入数组重塑为 (4, 2)
    points = points.reshape((4, 2))

    # 创建空的输出数组,指定 dtype 为 np.uint8
    # 这里的 dtype 是问题的关键
    points_new = np.zeros((4, 1, 2), np.uint8) 

    # 根据和与差进行排序逻辑
    add = points.sum(1)
    diff = np.diff(points, axis=1)

    points_new[0] = points[np.argmin(add)]
    points_new[3] = points[np.argmax(add)]
    points_new[1] = points[np.argmin(diff)]
    points_new[2] = points[np.argmax(diff)]

    return points_new

# 示例输入数据
input_data = np.array([[[ 573,  148]], [[  25,  223]], [[ 153, 1023]], [[ 730,  863]]])
output_data = reorder_problematic(input_data)
print("原始输入数据:\n", input_data)
print("使用 problematic 函数的输出数据:\n", output_data)

运行上述代码,会得到如下输出:

原始输入数据:
 [[[ 573  148]]
 [[  25  223]]
 [[ 153 1023]]
 [[ 730  863]]]
使用 problematic 函数的输出数据:
 [[[ 25 223]]
 [[ 61 148]]
 [[153 255]]
 [[218  95]]]

可以看到,output_data中的数值与input_data完全不同。例如,573变成了61,1023变成了255。这正是由于points_new数组被声明为np.uint8类型,而input_data中的许多数值(如573, 1023, 730, 863)都超出了np.uint8的取值范围(0-255),导致在赋值时发生了溢出。

为了进一步验证,我们可以尝试将原始输入数据直接转换为np.uint8类型:

# 显式将输入数据转换为 np.uint8
test_cast = np.array([[[573, 148]],
                      [[25, 223]],
                      [[153, 1023]],
                      [[730, 863]]],
                     dtype=np.uint8)
print("输入数据强制转换为 np.uint8 后的结果:\n", test_cast)

输出结果与reorder_problematic函数的输出高度吻合:

输入数据强制转换为 np.uint8 后的结果:
 [[[ 61 148]]
 [[ 25 223]]
 [[153 255]]
 [[218  95]]]

为什么基于列表的方法“有效”?

在原问题中,作者还提供了一个基于Python列表的重写版本,它似乎“修复”了这个问题:

def reorder_by_lst(points):
    points = points.reshape((4, 2))
    add = points.sum(1)
    diff = np.diff(points, axis=1)

    a = points[np.argmin(add)]
    d = points[np.argmax(add)]
    b = points[np.argmin(diff)]
    c = points[np.argmax(diff)]

    lst = [a, b, c, d]
    # 这里将列表转换为 NumPy 数组,但没有指定 dtype
    return np.array(lst) 

output_data_lst = reorder_by_lst(input_data)
print("使用 list 函数的输出数据:\n", output_data_lst)

输出结果:

Delphi 7应用编程150例 全书内容 CHM版
Delphi 7应用编程150例 全书内容 CHM版

Delphi 7应用编程150例 CHM全书内容下载,全书主要通过150个实例,全面、深入地介绍了用Delphi 7开发应用程序的常用方法和技巧,主要讲解了用Delphi 7进行界面效果处理、图像处理、图形与多媒体开发、系统功能控制、文件处理、网络与数据库开发,以及组件应用等内容。这些实例简单实用、典型性强、功能突出,很多实例使用的技术稍加扩展可以解决同类问题。使用本书最好的方法是通过学习掌握实例中的技术或技巧,然后使用这些技术尝试实现更复杂的功能并应用到更多方面。本书主要针对具有一定Delphi基础知识

下载
使用 list 函数的输出数据:
 [[  25  223]
 [ 730  863]
 [ 573  148]
 [ 153 1023]]

这个版本之所以“有效”,是因为在np.array(lst)这一行,我们并没有显式地指定数据类型。NumPy在将Python列表转换为数组时,会根据列表中的元素自动推断出一个最合适的数据类型。由于input_data中的值最大为1023,NumPy通常会推断出np.int32(或在某些系统上是np.int64)这样的数据类型,其取值范围远大于0-255,因此能够容纳所有原始数值,避免了溢出。

虽然这种隐式推断在某些情况下很方便,但它并不总是最佳实践,因为它可能导致:

  1. 不必要的内存消耗: 如果实际数据范围很小(例如都在0-100之间),但NumPy推断为np.int32,则会浪费内存。
  2. 不确定性: 在不同环境或NumPy版本中,推断结果可能略有不同,导致代码行为不一致。

解决方案与最佳实践

要彻底解决NumPy数组赋值时的数据溢出问题,核心在于显式地为数组指定正确且足够大的数据类型

  1. 选择合适的数据类型: 根据你预期存储的数据范围,选择一个能够完全容纳这些值的数据类型。

    • 整数: 如果数据是整数,并且可能包含负数,使用np.int16、np.int32或np.int64。如果只包含非负整数,可以使用np.uint16、np.uint32或np.uint64。
    • 浮点数: 如果数据是浮点数,使用np.float32或np.float64。

    对于本例中的坐标数据,最大值是1023,最小值是25,且都是正整数。np.int16(范围通常为-32768到32767)或np.uint16(范围0到65535)都足以容纳这些值,并且比np.int32更节省内存。

  2. 修改代码以指定正确的dtype:

import numpy as np

def reorder_fixed(points):
    points = points.reshape((4, 2))

    # 修正:将 dtype 从 np.uint8 改为 np.int16 或 np.uint16
    # 考虑到数据最大值1023,np.uint16 是一个合适的选择
    points_new = np.zeros((4, 1, 2), np.uint16) 

    add = points.sum(1)
    diff = np.diff(points, axis=1)

    points_new[0] = points[np.argmin(add)]
    points_new[3] = points[np.argmax(add)]
    points_new[1] = points[np.argmin(diff)]
    points_new[2] = points[np.argmax(diff)]

    return points_new

input_data = np.array([[[ 573,  148]], [[  25,  223]], [[ 153, 1023]], [[ 730,  863]]])
output_data_fixed = reorder_fixed(input_data)
print("使用 fixed 函数的输出数据:\n", output_data_fixed)
print("输出数据的数据类型:", output_data_fixed.dtype)

运行修正后的代码,将得到期望的输出:

使用 fixed 函数的输出数据:
 [[[  25  223]]
 [[ 730  863]]
 [[ 573  148]]
 [[ 153 1023]]]
输出数据的数据类型: uint16

现在,output_data_fixed中的数值与原始输入数据完全一致,且数据类型为uint16。

总结

NumPy数组的数据类型(dtype)是其强大功能的核心,但也是新手常遇到的陷阱。理解每种数据类型的取值范围至关重要,特别是在创建新数组或进行类型转换时。为了避免数据溢出和意外的数值改变,请始终遵循以下最佳实践:

  • 显式指定dtype: 在创建NumPy数组时,尽可能明确指定其dtype,而不是依赖NumPy的隐式推断。
  • 选择合适的dtype: 根据数据可能的最大值、最小值以及是否包含小数,选择一个既能容纳所有数据又不至于过度浪费内存的数据类型。
  • 检查数据类型信息: 使用np.iinfo()(针对整数)和np.finfo()(针对浮点数)来查询数据类型的详细信息,确保所选类型能够满足需求。

通过深入理解和正确应用NumPy的数据类型,可以有效避免常见的数值处理错误,确保数据操作的准确性和可靠性。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

774

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

684

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

767

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

719

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1425

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

571

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

579

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

751

2023.08.11

c++ 根号
c++ 根号

本专题整合了c++根号相关教程,阅读专题下面的文章了解更多详细内容。

45

2026.01.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 20.5万人学习

Django 教程
Django 教程

共28课时 | 3.5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号