Go语言通过goroutine和channel实现高效并发HTTP请求,示例中使用多个goroutine并行执行fetch函数并通过channel接收结果;为避免资源耗尽,可引入sync.WaitGroup与协程池控制并发数;同时需设置超时机制,推荐使用context.WithTimeout进行请求级超时控制,确保程序健壮性。

在Go语言中,实现并发HTTP请求非常简单且高效,得益于其原生支持的goroutine和channel机制。通过合理使用这些特性,可以轻松地同时发起多个HTTP请求,提升程序性能,特别是在需要获取多个独立资源时。
每个HTTP请求可以在独立的goroutine中执行,从而实现并发。标准库net/http本身是线程安全的,可以直接在多个goroutine中调用。
示例代码:
package main
<p>import (
"fmt"
"io/ioutil"
"net/http"
)</p><p>func fetch(url string, ch chan<- string) {
resp, err := http.Get(url)
if err != nil {
ch <- fmt.Sprintf("Error: %s", url)
return
}
defer resp.Body.Close()
body, _ := ioutil.ReadAll(resp.Body)
ch <- fmt.Sprintf("URL: %s, Status: %d, Body size: %d", url, resp.StatusCode, len(body))
}</p><p>func main() {
urls := []string{
"<a href="https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c">https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c</a>",
"<a href="https://www.php.cn/link/98a733901e53052474f2320d0a3a9473">https://www.php.cn/link/98a733901e53052474f2320d0a3a9473</a>",
"<a href="https://www.php.cn/link/c2148796071914983ed6b6e9dbbff735">https://www.php.cn/link/c2148796071914983ed6b6e9dbbff735</a>",
}</p><pre class='brush:php;toolbar:false;'>ch := make(chan string, len(urls)) // 缓冲channel避免阻塞
for _, url := range urls {
go fetch(url, ch)
}
for range urls {
fmt.Println(<-ch)
}}
立即学习“go语言免费学习笔记(深入)”;
在这个例子中,每个fetch函数运行在一个独立的goroutine中,结果通过channel返回。主函数等待所有结果返回后打印输出。
如果请求量很大,直接为每个请求启动goroutine可能导致系统资源耗尽。可以通过sync.WaitGroup配合固定数量的工作协程来控制并发数。
package main
<p>import (
"fmt"
"net/http"
"sync"
)</p><p>func worker(jobs <-chan string, results chan<- string, wg *sync.WaitGroup) {
defer wg.Done()
for url := range jobs {
resp, err := http.Get(url)
if err != nil {
results <- fmt.Sprintf("Failed: %s", url)
continue
}
results <- fmt.Sprintf("OK: %s, Status: %d", url, resp.StatusCode)
resp.Body.Close()
}
}</p><p>func main() {
urls := []string{
"<a href="https://www.php.cn/link/4d2fe2e8601f7a8018594d98f28706f2">https://www.php.cn/link/4d2fe2e8601f7a8018594d98f28706f2</a>",
"<a href="https://www.php.cn/link/98a733901e53052474f2320d0a3a9473">https://www.php.cn/link/98a733901e53052474f2320d0a3a9473</a>",
"<a href="https://www.php.cn/link/7ac09a39f051ff62eefbafd363b1bbb3">https://www.php.cn/link/7ac09a39f051ff62eefbafd363b1bbb3</a>",
"<a href="https://www.php.cn/link/dc17d9b4862d86f8054735577c04462a">https://www.php.cn/link/dc17d9b4862d86f8054735577c04462a</a>",
"<a href="https://www.php.cn/link/0ad3140ed0cf59e84008db87c8c1106c">https://www.php.cn/link/0ad3140ed0cf59e84008db87c8c1106c</a>",
}</p><pre class='brush:php;toolbar:false;'>const numWorkers = 3
jobs := make(chan string, len(urls))
results := make(chan string, len(urls))
var wg sync.WaitGroup
// 启动工作协程
for i := 0; i < numWorkers; i++ {
wg.Add(1)
go worker(jobs, results, &wg)
}
// 发送任务
for _, url := range urls {
jobs <- url
}
close(jobs)
// 等待完成并关闭结果通道
go func() {
wg.Wait()
close(results)
}()
// 收集结果
for result := range results {
fmt.Println(result)
}}
立即学习“go语言免费学习笔记(深入)”;
这种方式能有效限制同时运行的goroutine数量,避免过多网络连接带来的压力。
并发请求中必须设置超时,防止某个请求长时间阻塞整个流程。可以通过自定义http.Client来实现。
client := &http.Client{
Timeout: 5 * time.Second,
}
resp, err := client.Get(url)
也可以使用context实现更灵活的超时控制:
ctx, cancel := context.WithTimeout(context.Background(), 3*time.Second) defer cancel() <p>req, _ := http.NewRequestWithContext(ctx, "GET", url, nil) resp, err := http.DefaultClient.Do(req)</p>
结合context可以在请求级别控制超时、取消等行为,更适合复杂场景。
基本上就这些。Go的并发模型让HTTP请求处理变得简洁而强大,关键是合理控制资源、处理错误,并利用channel协调数据流动。不复杂但容易忽略细节。
以上就是Golang如何实现并发HTTP请求_Golang HTTP请求并发处理方法的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号