0

0

Go 中实现按唯一 ID 串行执行任务的轻量级调度器模式

碧海醫心

碧海醫心

发布时间:2026-03-06 12:17:01

|

415人浏览过

|

来源于php中文网

原创

Go 中实现按唯一 ID 串行执行任务的轻量级调度器模式

本文介绍一种基于单调度协程 + 每 id 独立通道的 go 并发控制模式,可安全、无锁、低开销地确保同一 id 的任务始终由至多一个 goroutine 串行执行,适用于无显式生命周期边界(如“事务结束”)的长期 id 复用场景。

本文介绍一种基于单调度协程 + 每 id 独立通道的 go 并发控制模式,可安全、无锁、低开销地确保同一 id 的任务始终由至多一个 goroutine 串行执行,适用于无显式生命周期边界(如“事务结束”)的长期 id 复用场景。

在构建高并发 Web 服务时,常遇到一类典型需求:对具有相同业务标识(如数据库主键 id)的请求,必须严格串行化其关键操作——例如更新某用户账户余额、处理某设备的配置变更等。若并发执行,极易引发数据竞争或状态不一致。但传统方案(如全局 sync.Map + 每 ID 动态 sync.Mutex + 手动引用计数 + 定期 GC)不仅逻辑复杂、易出死锁,还难以保证资源及时释放与长周期 ID 的正确复用。

更优解是采用 “中心化调度 + 按 ID 分流通道” 模式:仅由一个长期运行的调度协程(dispatcher)统一管理所有 ID 对应的执行通道与状态,彻底规避多协程竞争 map 和 mutex 的风险。每个 ID 拥有专属的无缓冲或有缓冲 channel,调度器负责将任务派发至对应 channel;而每个 ID 最多存在一个工作协程(worker),持续从该 channel 接收并执行任务。关键在于:worker 不自行决定退出,而是向 dispatcher 发送完成信号;dispatcher 根据内部计数器(记录待处理任务数)自主判断是否终止 worker 并清理资源。

以下为完整可运行实现:

海绵音乐
海绵音乐

字节跳动推出的AI音乐生成工具

下载
package main

import (
    "fmt"
    "time"
)

// Task 表示待执行的任务
type Task struct {
    ID    string
    Work  func()
    Done  chan<- struct{} // 用于通知 dispatcher 当前任务完成
}

// Dispatcher 调度器核心结构
type Dispatcher struct {
    workCh   chan Task
    stopCh   chan struct{}
    idState  map[string]*idState // id -> {ch, count}
}

type idState struct {
    ch    chan Task
    count int
}

func NewDispatcher() *Dispatcher {
    return &Dispatcher{
        workCh:  make(chan Task),
        stopCh:  make(chan struct{}),
        idState: make(map[string]*idState),
    }
}

func (d *Dispatcher) Run() {
    defer close(d.stopCh)
    for {
        select {
        case task := <-d.workCh:
            d.handleNewWork(task)
        case <-d.stopCh:
            return
        }
    }
}

func (d *Dispatcher) handleNewWork(task Task) {
    state, exists := d.idState[task.ID]
    if !exists {
        // 首次为该 ID 创建 channel 和 worker
        ch := make(chan Task, 1) // 可根据吞吐调整缓冲区大小
        d.idState[task.ID] = &idState{ch: ch, count: 0}
        go d.worker(task.ID, ch)
    }
    // 无论是否存在,均发送任务并递增计数
    state.ch <- task
    state.count++
}

func (d *Dispatcher) worker(id string, ch <-chan Task) {
    for {
        select {
        case task := <-ch:
            task.Work()
            if task.Done != nil {
                task.Done <- struct{}{}
            }
        case <-d.stopCh:
            return
        }
    }
}

// Submit 提交任务到调度器(线程安全)
func (d *Dispatcher) Submit(id string, work func()) {
    done := make(chan struct{}, 1)
    d.workCh <- Task{ID: id, Work: work, Done: done}
    // 可选:同步等待任务完成(若需结果)
    <-done
}

// Stop 停止调度器(需配合 graceful shutdown)
func (d *Dispatcher) Stop() {
    close(d.workCh)
    <-d.stopCh
}

// 示例使用
func main() {
    dispatcher := NewDispatcher()
    go dispatcher.Run()
    defer dispatcher.Stop()

    // 模拟多个请求:相同 ID 的任务将被串行执行
    for i := 0; i < 5; i++ {
        id := "user_123"
        go func(i int) {
            fmt.Printf("Request %d for %s submitted\n", i, id)
            dispatcher.Submit(id, func() {
                fmt.Printf("Executing request %d for %s...\n", i, id)
                time.Sleep(2 * time.Second) // 模拟耗时操作
                fmt.Printf("Finished request %d for %s\n", i, id)
            })
        }(i)
    }

    time.Sleep(15 * time.Second) // 等待所有任务完成
}

关键优势说明:

  • 零锁设计:所有 map 访问、channel 创建/销毁均由单个 dispatcher 协程完成,完全避免 sync.Mutex 或 sync.RWMutex;
  • 自动资源回收:worker 退出由 dispatcher 决策(通过 count 判断),无需手动 GC 或引用计数;
  • 长 ID 生命周期友好:ID 可闲置数天后再次激活,调度器会自动重建 channel 与 worker;
  • 弹性缓冲控制:通过调整 make(chan Task, N) 的缓冲大小,可在吞吐与内存间权衡(N=0 为严格 FIFO,N>0 可缓解突发流量);
  • 可扩展性强:支持添加超时控制、任务优先级、失败重试等策略,只需在 dispatcher 中增强状态机逻辑。

⚠️ 注意事项:

  • 调度器本身是单点,但因只做轻量消息转发(无 IO/计算),实际性能瓶颈极低;若极端高并发(>10k QPS),可考虑分片(sharding by ID hash);
  • Submit 默认同步等待完成,若需纯异步,可移除 done channel 逻辑;
  • 生产环境建议为 workCh 设置合理缓冲(如 make(chan Task, 1024))并监控积压,防止 dispatcher 成为背压源头;
  • 若任务可能 panic,应在 worker 内部加 recover(),避免 worker 意外退出导致后续任务丢失。

该模式本质是将“并发控制”问题转化为“消息路由”问题,以清晰的状态流转替代脆弱的锁协同,是 Go 生态中符合 CSP 哲学的优雅实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

209

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

245

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

355

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

214

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

407

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

449

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1335

2025.06.17

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

1

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.9万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号