0

0

gRPC单连接与多连接并发性能压测分析_底层HTTP/2流分析

P粉602998670

P粉602998670

发布时间:2026-02-24 14:46:38

|

731人浏览过

|

来源于php中文网

原创

是的,grpc单连接下并发请求复用同一tcp连接,前提是客户端未主动关闭、服务端未强制断连、且所有请求指向相同target(含host:port和tls配置);底层由http/2连接池管理,同一clientconn内的unarycall或stream共享连接并分配不同stream id。

grpc单连接与多连接并发性能压测分析_底层http/2流分析

gRPC 单连接下并发请求真的复用同一个 TCP 连接吗?

是的,但前提是客户端没主动关闭、服务端没强制断连、且所有请求都发向同一 target(含相同 host:port 和相同 TLS 配置)。gRPC Go/Java/Python 客户端默认启用 HTTP/2 连接复用,底层由 http2.Transport 或等价机制管理连接池——单个 grpc.ClientConn 实例内部只维护一个或少数几个 TCP 连接,具体数量受 MaxConnsPerHost(Go)或 maxInboundMessageSize 等间接参数影响。

  • 不同 ClientConn 实例之间绝对不共享连接,哪怕 target 完全一致
  • 同一 ClientConn 发出的多个 UnaryCallStream 会复用同一个 HTTP/2 连接,走不同 stream ID
  • 若调用中发生 UNAVAILABLE 错误且伴随 connection reset by peer,大概率是连接被中间设备(如 LB、防火墙)中断,此时 gRPC 会新建连接,不是“复用失效”,而是“复用被迫重建”

压测时多 goroutine 共享一个 ClientConn 会遇到什么瓶颈?

瓶颈不在连接数,而在 HTTP/2 流控、序列化开销和客户端线程竞争。典型现象是:QPS 上不去、延迟毛刺增多、stream ID exhausted 报错(尤其在长连接 + 高频短请求场景)。

  • HTTP/2 协议规定单连接最大流数为 2^31 - 1,但 gRPC 实现(如 Go 的 grpc-go)默认限制为 100 并发流(可通过 WithMaxConcurrentStreams 调整)
  • 每个 stream 建立有固定开销:序列化 request、生成 stream ID、写入帧头;高并发下 protobuf 序列化可能成为 CPU 瓶颈
  • 多 goroutine 同时调用 Invoke 会竞争 ClientConn 内部的 mu 互斥锁(尤其在初始化 stream 时),Go client 在 v1.48+ 已优化该锁粒度,但旧版本仍明显
  • 示例:若压测脚本用 1000 goroutine 循环调用 client.SayHello(ctx, req),但未设置 WithMaxConcurrentStreams(1000),实际并发流会被卡在 100,其余请求排队等待

什么时候必须用多个 ClientConn?

当单连接无法满足吞吐、隔离性或故障域要求时,不是“为了并发而多连”。

Play.ht
Play.ht

根据文本生成多种逼真的语音

下载
  • 跨地域调用:不同 region 的 endpoint 必须用独立 ClientConn,否则 DNS 解析或路由策略冲突
  • 多租户场景:需按 tenant 切分连接,避免某租户突发流量拖垮其他租户的 stream 资源
  • 故障隔离:某个 ClientConn 因网络抖动频繁重连,不应影响其他业务通道;gRPC 不提供连接级熔断,只能靠多实例 + 外部健康检查实现
  • 极高吞吐场景(>5w QPS):单连接受内核 socket 缓冲区、网卡队列、HTTP/2 流控窗口限制,实测中常在 2~3w QPS 出现延迟陡增,此时横向扩展 ClientConn 数量比调大单连接参数更有效

HTTP/2 stream 层面怎么确认是否真复用了?

别信文档,看 wire log 或 Go runtime 的 http2.FrameDebugWriter,重点观察 HEADERS 帧里的 stream ID 变化和 SETTINGS 是否重复协商。

  • 启用 gRPC 日志:GRPC_GO_LOG_VERBOSITY_LEVEL=99 GRPC_GO_LOG_SEVERITY_LEVEL=info,搜索 transport: loopyWriter.runtransport: http2Client.notifyError 可看到 stream 创建/关闭轨迹
  • 抓包过滤 http2.stream_id != 0 and tcp.port == 你的端口,连续请求应看到 stream ID 递增(1, 3, 5…),而非反复从 1 开始
  • 注意:stream ID 是 client-initiated 的奇数 ID,server-initiated 是偶数,gRPC 只用奇数;若看到大量 ID 重置(如从 101 突然跳回 1),说明连接被重置过,不是“复用”,是“重建”
  • 常见误判点:Wireshark 解析 HTTP/2 依赖 TLS 握手密钥,明文环境可直接看;TLS 环境需导出 SSLKEYLOGFILE 才能解密帧内容

真实压测中,连接复用只是基础,真正卡点往往在 protobuf 编解码效率、服务端 handler 阻塞、或 HTTP/2 窗口自动调节滞后。别急着加连接数,先用 pprof 看 client 侧 CPU 和 goroutine 分布,再决定动哪一层。

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

242

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

349

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

405

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1091

2025.06.17

苹果官网入口与在线访问指南_中国站点快速直达与iPhone查看方法
苹果官网入口与在线访问指南_中国站点快速直达与iPhone查看方法

本专题汇总苹果官网最新可用入口及中国站点访问方式,涵盖官网直达链接、iPhone官方页面查看方法与常见访问说明,帮助用户快速进入苹果官方网站,便捷了解产品信息与官方服务。

7

2026.02.24

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号