0

0

C++如何实现带背压的异步TCP服务器?(连接数与吞吐平衡)

冰火之心

冰火之心

发布时间:2026-02-26 16:04:03

|

350人浏览过

|

来源于php中文网

原创

epoll+et是高性能网络编程基础,但需配合非阻塞socket、低水位调优、用户态缓冲区管理、内存池及连接级背压控制,否则无法应对慢客户端导致的内存耗尽与事件循环阻塞。

c++如何实现带背压的异步tcp服务器?(连接数与吞吐平衡)

为什么 epoll + ET 模式是基础,但光用它不够

单纯靠 epoll 边缘触发(EPOLLET)能提升单连接吞吐,但无法解决背压——当客户端消费慢、接收缓冲区积压时,服务器仍会持续读、持续发,最终耗尽内存或触发 send() 阻塞/失败。关键不是“能不能收发”,而是“要不要现在收发”。

  • 必须配合 socket 的 SOCK_NONBLOCKSO_SNDLOWAT/SO_RCVLOWAT 调优,否则低水位默认值(通常 1 字节)会让 epoll 过早就绪
  • EPOLLET 下,一次 read() 必须循环到 EAGAIN,否则漏数据;一次 write() 若返回 EAGAIN,得立刻停发、注册 EPOLLOUT,等可写再续
  • 别在 epoll_wait() 外部做任何阻塞操作(比如同步日志、磁盘 IO),否则整个事件循环卡住

write() 返回 EAGAIN 后怎么安全挂起连接

这不是简单把连接扔进等待队列就行。核心是:挂起时必须确保已写数据全部进入内核发送缓冲区,且下次可写事件到来前,不能重复注册 EPOLLOUT,也不能遗漏重试逻辑。

  • 每次 write() 前检查连接的输出缓冲区(用户态 buffer)是否为空;非空则说明上次没发完,直接跳过本次 write 尝试
  • 收到 EAGAIN 后,把待发数据追加进该连接的 output_buffer(需自己维护,不能依赖 TCP 缓冲区),然后调用 epoll_ctl(epfd, EPOLL_CTL_MOD, fd, &ev),其中 ev.events = EPOLLIN | EPOLLOUT | EPOLLET
  • 务必在 EPOLLOUT 就绪回调里清空 output_buffer 并尝试重发;发完后要主动移除 EPOLLOUT(用 EPOLL_CTL_MOD 改回 EPOLLIN | EPOLLET),否则会持续触发空就绪

连接数暴涨时,内存分配和连接管理怎么不拖垮吞吐

每连接一个 input_buffer + output_buffer,若用 std::vectornew 动态分配,百万连接下 malloc 频次和碎片会吃掉大量 CPU。背压机制本身也依赖快速判断“谁堵了”,不能遍历所有连接。

Runway
Runway

Runway是一个AI创意工具平台,它提供了一系列强大的功能,旨在帮助用户在视觉内容创作、设计和开发过程中提高效率和创新能力。

下载
  • 用内存池预分配固定大小的 buffer(如 4KB/8KB),按需切片,避免每次 new/delete;释放时不归还系统,只放回池中
  • 连接对象(struct Connection)建议用 std::vectorboost::container::static_vector 存储,避免指针跳转;成员变量排布按访问频次从高到低(如 fdstateinput_size 放前面)
  • 不要为每个连接单独开线程或协程;用单线程 event loop + epoll 是底线;若真需要多核,用进程间负载分片(如 SO_REUSEPORT),而非线程间共享连接状态

背压信号怎么传给业务逻辑层

业务代码(比如协议解析、DB 查询回调)如果不知道当前连接已拥塞,可能继续往 output_buffer 塞数据,导致缓冲区无限膨胀。不能靠全局开关,得让每个连接自己说话。

立即学习C++免费学习笔记(深入)”;

  • 在连接结构体里加 bool write_blocked{false},每次 write() 返回 EAGAIN 时置 true,发完清空 buffer 后置 false
  • 对外暴露 can_write(Connection* conn) 接口,业务层调用前先查这个 flag;或者更彻底:只提供 try_write(conn, data),内部自动判断并缓存
  • 警惕“假成功”:即使 write() 返回 >0,也不代表全发出去了——TCP 只保证进了内核缓冲区,不代表对方收到了。真正的背压终点是对方 ACK 滞后,但这层一般不感知,所以重点守住本机发送缓冲区水位

真正难的不是实现某个函数,而是所有连接共用一套事件循环时,任意一个慢连接的 output_buffer 膨胀,都会悄悄吃掉其他连接的内存配额。buffer 大小、回收时机、event loop 响应延迟,三者得一起调。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

385

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

200

2025.07.04

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

385

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

200

2025.07.04

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1657

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

506

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2310

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

40

2026.01.19

Golang 实际项目案例:从需求到上线
Golang 实际项目案例:从需求到上线

《Golang 实际项目案例:从需求到上线》以真实业务场景为主线,完整覆盖需求分析、架构设计、模块拆分、编码实现、性能优化与部署上线全过程,强调工程规范与实践决策,帮助开发者打通从技术实现到系统交付的关键路径,提升独立完成 Go 项目的综合能力。

1

2026.02.26

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.3万人学习

C 教程
C 教程

共75课时 | 5万人学习

C++教程
C++教程

共115课时 | 19.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号