0

0

Python向MongoDB插入包含Numpy数据类型时报错怎么办_基础数据类型强制转换(tolist/item)处理

P粉602998670

P粉602998670

发布时间:2026-03-12 11:27:32

|

662人浏览过

|

来源于php中文网

原创

numpy.int64等类型不被mongodb bson协议支持,需用.item()转为python原生标量或.tolist()转为原生列表,pandas批量处理应遍历列按dtype分类转换,避免自定义编码器引发隐性问题。

python向mongodb插入包含numpy数据类型时报错怎么办_基础数据类型强制转换(tolist/item)处理

为什么 numpy.int64 直接插 MongoDB 会报错

MongoDB 的 BSON 协议只认 Python 原生类型(如 intfloatstr),不支持 numpy.int64numpy.float32 这类扩展类型。PyMongo 在序列化时遇到它们会直接抛 TypeError: Object of type int64 is not JSON serializable 或类似错误。

这不是 PyMongo 版本问题,也不是配置能绕过的——BSON 编码器硬性拒绝 numpy 类型。

  • 常见错误现象:TypeError: Type <class> not supported</class>Cannot encode object
  • 典型场景:用 pandas.read_csv() 读数据后直接转 dict 插入;或从 NumPy 数组切片取值后没处理就塞进文档
  • 别试 json.dumps(..., default=str):它会让数字变字符串,丢失类型语义,且无法被 MongoDB 正确索引

tolist()item() 该选哪个

两者都用于降维/转换,但适用粒度不同,乱用会导致嵌套结构出错或静默失败。

  • tolist() 适合整个 NumPy 数组(含多维):返回 Python 原生 list/nested list,保留结构层级
    → 例如 np.array([[1, 2], [3, 4]]).tolist()[[1, 2], [3, 4]]
  • item() 只适用于标量(0维数组)或单元素数组:返回纯 Python 标量(int / float
    → 例如 np.int64(42).item()42(类型是 int);np.array(3.14).item()3.14(类型是 float
  • 对一维数组误用 item() 会报 ValueError: can only convert an array of size 1 to a Python scalar
  • 对多维数组用 tolist() 是安全的;但若字段本该是单值(比如 "age": np.int64(25)),必须用 .item(),否则插入的是 list [25]

如何批量处理 Pandas DataFrame 插入前的类型清洗

Pandas 的 dtypes 常含 int64float64object(实际存着 numpy 类型),不能直接 to_dict('records') 后插入。

智川X-Agent
智川X-Agent

中科闻歌推出的一站式AI智能体开发平台

下载

立即学习Python免费学习笔记(深入)”;

  • 最稳妥做法:遍历每列,按 dtype 分类转换
    df = df.astype({col: 'int64' for col in int_cols}) 不解决问题——这只是 Pandas 内部类型,底层仍是 numpy 类型
  • 推荐在转 dict 前统一映射:
    def clean_numpy_types(obj):
        if isinstance(obj, (np.integer, np.floating)):
            return obj.item()
        elif isinstance(obj, np.ndarray):
            return obj.tolist()
        else:
            return obj
    
    records = df.applymap(clean_numpy_types).to_dict('records')
  • 注意 applymap() 已弃用(Pandas ≥ 2.1),新写法用 map() 配合 apply()
    records = df.apply(lambda s: s.map(clean_numpy_types)).to_dict('records')
  • 性能提示:对百万级数据,避免逐元素判断类型;可先用 df.select_dtypes(include=['number']).columns 锁定数值列,再批量 .astype(float).round().astype(int) 强制转原生类型(但会丢失 uint 等边界精度)

PyMongo 插入时自动转换的陷阱

有人想用自定义 BSON 编码器一劳永逸,但实际踩坑更多。

  • PyMongo 的 CodecOptions + 自定义 TransformCodec 确实能拦截 numpy 类型,但需严格匹配所有子类(np.int32np.uint64…),漏一个就崩
  • 更隐蔽的问题:自定义编码器会影响所有插入操作,包括你没意识到的第三方库调用(比如某些 ORM 封装),导致行为不一致
  • 如果用了 mongoenginebeanie,它们有自己的序列化流程,加 PyMongo 编码器可能完全不生效
  • 真正省事的做法不是“全局拦截”,而是「在哪读进来,就在哪清掉」:Pandas 处理完立刻 .astype(object).applymap(...),或 NumPy 计算后显式 .item() 赋值给字典字段

最易被忽略的一点:布尔值。np.bool_(True) 不是 Python bool,MongoDB 虽能存,但部分驱动版本会把它当 int 处理(存成 1/0),查的时候类型不一致。务必用 .item() 转。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

455

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

546

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

334

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

82

2025.09.10

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

79

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

337

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

224

2025.10.31

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号