0

0

C++如何构建高性能的序列化与反序列化框架?(数据存储与传输)

裘德小鎮的故事

裘德小鎮的故事

发布时间:2026-03-01 11:59:24

|

356人浏览过

|

来源于php中文网

原创

std::string 不该直接 memcpy 到二进制流,因其内部含指针,memcpy 仅复制地址导致反序列化时野指针;正确做法是先写长度再写内容字节,并统一处理字节序与对齐。

c++如何构建高性能的序列化与反序列化框架?(数据存储与传输)

为什么 std::string 不该直接 memcpy 到二进制流里

因为序列化不是“把内存 dump 出去”,而是把逻辑结构稳定地映射成字节序列。用 memcpy(&obj, buf, sizeof(obj)) 看似快,但会踩中对齐、填充字节、指针悬空、非 POD 类型(如 std::string)等坑——它只存了指针地址,反序列化时读出来就是野指针。

真正安全的做法是显式控制每个字段的序列化行为:

  • std::string 必须先写长度(uint32_t),再写内容字节,否则无法知道读多少
  • 浮点数跨平台需统一用 memcpy 转成整型再写(避免 x87 扩展精度残留)
  • 结构体字段顺序必须和反序列化端严格一致,建议加 static_assert(std::is_standard_layout_v<t>)</t>

如何让 flatbuffers 在不牺牲性能的前提下支持运行时 schema 变更

flatbuffers 原生不支持动态字段增删,但实际业务中常需要兼容旧版本客户端。硬编码 schema 会导致每次字段变更都要发新包,而全量 JSON 又太慢。

折中方案是:用 flatbuffersflexbuffer 子模块承载可选字段,主结构仍走高效 flatbuffer;关键字段(如 ID、type)保留在 flatbuffer 根表,扩展字段走 flexbuffer::Map

立即学习C++免费学习笔记(深入)”;

HueBit AI
HueBit AI

一站式AI艺术创作工具

下载
  • 主结构定义保持 table,字段全 required,保证解析零拷贝
  • 新增字段不进主表,统一塞进一个 optional_data: [ubyte] 字段,反序列化时用 flexbuffer::GetRoot 解析
  • 服务端写入前做 flexbuffer::Builder 预校验,避免无效 JSON 导致整个 buffer 失效

protobufparseFromArray 为什么比 parseFromIstream 快 3–5 倍

根本区别不在解析逻辑,而在内存访问模式:parseFromArray 接收连续内存块,可利用 CPU 预取和 SIMD 加速跳过未知字段;parseFromIstream 每次读都可能触发系统调用、缓存未命中,还强制按字节流处理,无法批量跳过。

但要注意前提条件:

  • 必须确保传入的 const void* 指向完整、已加载的 buffer,不能是 mmap 映射的缺页区域
  • buffer 生命周期必须长于解析过程,别传栈变量地址或临时 std::vector::data()(析构后失效)
  • 若数据来自网络,务必先收全再调用,不要边收边 parse——protobuf 不支持流式 partial parse

自定义序列化函数里,std::endianhtonl 怎么选

跨网络传输或跨架构存储时,字节序必须显式约定。C++23 引入 std::endian,但仅用于编译期检测;真正转换还得靠 htonl/htons 或手动位移。

实操建议:

  • 网络传输一律用 htonl(32 位)、htons(16 位),它们在所有 POSIX 平台语义明确且内联优化充分
  • 文件存储若需长期兼容,也推荐用网络序,避免未来 ARM/Mac 迁移出问题
  • 别依赖 std::byteswap,它不区分用途,且 MSVC 对 __builtin_bswap 支持不稳定
  • 小端机器上写 float/double,先 memcpyuint32_t/uint64_t,再 htonl,不能直接对浮点变量取地址转序

最易被忽略的一点:结构体嵌套时,每个子对象的字节序转换必须独立进行,没有“全局字节序开关”这种东西——漏掉一个字段,整条链路就错位。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

450

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

546

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

326

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

81

2025.09.10

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

890

2023.08.02

css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

592

2024.04.28

C++中int、float和double的区别
C++中int、float和double的区别

本专题整合了c++中int和double的区别,阅读专题下面的文章了解更多详细内容。

105

2025.10.23

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

557

2023.09.20

Golang 测试体系与代码质量保障:工程级可靠性建设
Golang 测试体系与代码质量保障:工程级可靠性建设

Go语言测试体系与代码质量保障聚焦于构建工程级可靠性系统。本专题深入解析Go的测试工具链(如go test)、单元测试、集成测试及端到端测试实践,结合代码覆盖率分析、静态代码扫描(如go vet)和动态分析工具,建立全链路质量监控机制。通过自动化测试框架、持续集成(CI)流水线配置及代码审查规范,实现测试用例管理、缺陷追踪与质量门禁控制,确保代码健壮性与可维护性,为高可靠性工程系统提供质量保障。

6

2026.02.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.4万人学习

C 教程
C 教程

共75课时 | 5.1万人学习

C++教程
C++教程

共115课时 | 19.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号