0

0

扩展 WebSocket 的经验教训

DDD

DDD

发布时间:2025-01-25 08:10:42

|

1079人浏览过

|

来源于dev.to

转载

随着对同步引擎和实时功能的需求不断增长,websocket 已成为现代应用程序的关键组件。在 compose,websocket 构成了我们服务的支柱,为我们的后端 sdk 提供支持,使开发人员能够仅使用后端代码来交付低延迟的交互式应用程序。

但是,事实证明,扩展 websocket 比我们预期的要复杂得多。以下是我们一路走来学到的一些最重要的经验教训。

优雅地处理部署

用户永远不应该注意到部署何时发生,因此 websocket 连接需要在部署之间保持不变。这是一个微妙的过程,需要强大的重连逻辑来处理意外问题。在 compose,我们通过以下步骤实现了近乎零的停机时间:

  1. 启动新服务器。

  2. 一旦新服务器健康,旧服务器开始返回 503 service unavailable 响应来进行健康检查。

  3. 连续 4 次 503 响应后,负载均衡器声明服务器不健康,并从池中删除旧服务器。负载均衡器健康状况检查每 5 秒一次,因此此过程最多需要 25 秒。

  4. 旧服务器发送自定义 websocket 关闭消息,指示客户端以随机间隔延迟重新连接,以避免重新连接激增。

  • 自定义关闭消息可让客户端在客户端断开连接的约 10 秒期间向用户显示更准确的消息。
  • 随机延迟有助于防止所有客户端立即重新连接的雷群问题。客户端还将与部署相关的重新连接的指数退避加倍,以解决不可预见的问题。
  • 关闭消息延迟 20 秒,以考虑负载均衡器转移流量所需的时间。

一旦所有客户端断开连接,旧服务器就会完全关闭。

如果您使用 render 或 railway 等托管服务,您应该特别注意客户端连接在部署期间会顺利传输。

许多标榜零停机部署的托管服务将等到所有未完成的请求都得到处理后再关闭服务器。由于 websocket 连接是持久的,这可能会导致旧服务器在部署后活跃几分钟甚至几小时,直到托管服务强制终止进程。

建立一致的消息模式

虽然 http 带有内置路由约定(get /用户、post /公司、put /设置),但 websocket 要求开发人员定义自己的架构来组织消息。

在 compose 中,每个 websocket 消息都以固定的 2 字节类型前缀开头,用于对消息进行分类。

  • 它节省空间(仅 2 个字节),同时仍可扩展到 65,536 种不同类型。

  • 它使客户端能够可靠地从消息中分割类型前缀,而不影响其余数据,因为前缀始终为 2 个字节。

    慧谷企业网站源码3.8 开源版
    慧谷企业网站源码3.8 开源版

    慧谷动力网站管理系统拥有极为灵活的产品架构、并且完全开源任何企业机构都可对其二次开发、极强的可扩展性和可伸缩性,多年的网站开发经验、自助化的后台管理,充分满足大中小型企业电子商务网站的构建和运营管理需求,该系统采用最简单易用的asp+access进行搭建,拥有完善的网站前后台,并特别根据企业网站的特点开发出独具特色的栏目和功能。HuiguerCMS是企业建站的绝佳选择! 系统三大特色:1、全静态:

    下载
  • 它为我们提供了一种通过版本控制消息类型来升级 api 的简单方法。

const message_type_to_header = {
  render_ui: "aa",
  update_ui: "ab",
  show_loading: "ac",
  render_ui_v2: "ad",
  /* ... */
}

此外,我们使用分隔符来分隔消息中的不同字段,这比 json 编码/解码速度更快,而且内存效率更高。

const DELIMITER = "|";

function createDelimitedMessage(type: string, args: any[]) {
  return [MESSAGE_TYPE_TO_HEADER[type], ...args].join(DELIMITER);
}

function parseDelimitedMessage(message: string) {
  const [type, ...args] = message.split(DELIMITER);
  return { type, args };
}

我们很幸运,我们的后端和前端都是用 typescript 编写的,这使我们能够在两者之间共享消息模式并确保两者都不会不同步。

通过心跳检测静默断开连接

连接可能会在不触发关闭事件的情况下意外断开,从而导致客户端认为它们已连接但实际上并未连接的情况。为了防止连接失效,实现强大的心跳机制至关重要。
我们在客户端和服务器之间定期发送 ping/pong 消息,并在一段时间内未收到心跳的情况下重新连接。

我们的服务器每 30 秒发送一条 ping 消息,并期待 pong 响应。如果客户端没有每 45 秒收到一次 ping,它会立即断开连接并尝试重新连接。同样,服务器会在 45 秒内关闭错过 pong 响应的连接。

通过监控两端的心跳,我们检测并处理客户端网络看似正常但服务器从未收到响应的罕见情况。

有 http 后备

websocket 连接可能会被意外阻止,尤其是在限制性公共网络上。为了缓解此类问题,compose 使用服务器发送事件 (sse) 作为接收更新的后备,而 http 请求则处理客户端到服务器的通信。

sse & http fallback

由于 sse 基于 http,因此被阻止的可能性要小得多,从而在受限环境中提供了可靠的替代方案。此外,它仍然实现了相当低的延迟,特别是与短轮询解决方案相比。

结论性想法

还有很多关于扩展 websocket 的内容,我们在此没有介绍。例如:

  • 缺乏标准工具:虽然大多数框架都包含用于速率限制、数据验证和错误处理的内置工具,但您通常必须为 websocket 自行实现这些功能。
  • 无法缓存响应:边缘网络可以轻松缓存靠近用户的 http 响应,但没有标准方法可以使用 websocket 来实现此目的。
  • 每条消息身份验证:通过在处理每条消息之前确保每条消息对该用户有效来防止滥用。

但无论复杂性如何,用户都希望现代应用程序能够快速、实时和协作。而且,到目前为止,没有比 websocket 更好的方法来实现这一目标。

在 compose 中,websocket 为整个平台提供支持 - 从数据库一直到主 ui 线程。通过我们的 sdk,开发人员可以从其后端逻辑生成完整的 web 应用程序。确保这些应用程序快速且大规模性能需要 websocket。如果您有兴趣了解更多信息,请查看我们的文档。安装 sdk 并构建您的第一个应用程序只需不到 5 分钟。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

420

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

536

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

311

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

77

2025.09.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

523

2023.08.10

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

359

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2082

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

349

2023.08.31

C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

8

2026.01.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
TypeScript 教程
TypeScript 教程

共19课时 | 2.6万人学习

TypeScript——十天技能课堂
TypeScript——十天技能课堂

共21课时 | 1.1万人学习

TypeScript-45分钟入门
TypeScript-45分钟入门

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号