0

0

如何在 Go 中选择性地跟随 HTTP 重定向并捕获中间 URL

碧海醫心

碧海醫心

发布时间:2026-01-06 19:30:10

|

571人浏览过

|

来源于php中文网

原创

如何在 Go 中选择性地跟随 HTTP 重定向并捕获中间 URL

go 的 `http.client` 允许通过自定义 `checkredirect` 函数中断重定向流程,且在返回错误时仍会返回上一次成功响应(`*http.response`),从而可安全获取重定向链中 paywall 前的最终有效 url。

在构建链接解析器(如 Twitter 链接展开服务)时,常需避免跳转至付费墙(paywall)页面,而保留其前一个公开、可访问的目标 URL。例如,短链 on.ft.com/14pQBYE 可能经由 ft.com/article/xxx → registration.ft.com/... 两次跳转,我们希望在抵达 registration.ft.com 前终止,并拿到 ft.com/article/xxx 这一真实内容地址。

关键在于:http.Client 的设计已支持“错误即信号”模式。根据 官方文档 明确说明:当 CheckRedirect 返回非 nil 错误时,Client.Get() 不会静默失败,而是返回上一次成功请求对应的 *http.Response 和该错误(包装为 *url.Error)。这意味着你无需重写 RoundTripper,也无需手动模拟重定向逻辑——标准客户端完全胜任“选择性跟随 + 中断捕获”。

以下是一个生产就绪的实践示例:

VIVA
VIVA

一个免费的AI创意视觉设计平台

下载
package main

import (
    "errors"
    "fmt"
    "net/http"
    "net/url"
    "strings"
)

// 自定义错误类型,用于语义化标识“应中止且非异常”
var ErrPaywalled = errors.New("redirect would land on paywall")

// 定义需拦截的敏感域名(支持子域名匹配)
var blockedHosts = map[string]struct{}{
    "registration.ft.com": {},
    "login.nytimes.com":   {},
    "account.wsj.com":     {},
}

func isBlockedHost(host string) bool {
    for domain := range blockedHosts {
        if strings.HasSuffix(host, domain) || host == domain {
            return true
        }
    }
    return false
}

var client = &http.Client{
    CheckRedirect: func(req *http.Request, via []*http.Request) error {
        // 防御性检查:避免无限重定向(建议生产环境启用)
        if len(via) > 10 {
            return fmt.Errorf("stopped after 10 redirects")
        }

        if isBlockedHost(req.URL.Host) {
            return ErrPaywalled
        }
        return nil // 继续重定向
    },
}

func resolveURL(target string) (*url.URL, error) {
    resp, err := client.Get(target)
    if err != nil {
        // 区分真正的网络错误与预期的 Paywall 中断
        if urlErr, ok := err.(*url.Error); ok && urlErr.Err == ErrPaywalled {
            // ✅ 成功:resp 是抵达 paywall 前的最后一个有效响应
            return resp.Request.URL, nil
        }
        return nil, err // 其他错误(DNS 失败、超时等)需上报
    }
    defer resp.Body.Close()

    // 若未触发 CheckRedirect 错误,说明全程无拦截,返回最终 URL
    return resp.Request.URL, nil
}

func main() {
    finalURL, err := resolveURL("http://on.ft.com/14pQBYE")
    if err != nil {
        fmt.Printf("Failed to resolve: %v\n", err)
        return
    }
    fmt.Printf("Resolved to: %s\n", finalURL.String())
}

核心要点总结

  • CheckRedirect 返回自定义错误(如 ErrPaywalled)是合法且推荐的控制流手段,不是异常;
  • resp.Request.URL 即为最后一次成功 HTTP 请求所使用的 URL,也就是你想要的“Paywall 前地址”;
  • 务必检查 err 类型和具体值,仅对预期错误(如 ErrPaywalled)做静默处理,其他错误(如连接超时、TLS 握手失败)必须显式处理;
  • 生产环境中应加入重定向循环防护(如限制 len(via) 端口);
  • 若需完整重定向路径,可将 via 切片中的每个 req.URL 记录下来,但注意 via 不包含最终 resp.Request.URL,需手动追加。

这一模式简洁、高效,完全基于标准库,无需引入第三方依赖或复杂封装,是 Go 中实现智能 URL 解析的首选方案。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

492

2023.10.18

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

382

2023.10.25

go语言 数组和切片
go语言 数组和切片

本专题整合了go语言数组和切片的区别与含义,阅读专题下面的文章了解更多详细内容。

55

2025.09.03

go语言 数组和切片
go语言 数组和切片

本专题整合了go语言数组和切片的区别与含义,阅读专题下面的文章了解更多详细内容。

55

2025.09.03

http500解决方法
http500解决方法

http500解决方法有检查服务器日志、检查代码错误、检查服务器配置、检查文件和目录权限、检查资源不足、更新软件版本、重启服务器或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

495

2023.11.09

http请求415错误怎么解决
http请求415错误怎么解决

解决方法:1、检查请求头中的Content-Type;2、检查请求体中的数据格式;3、使用适当的编码格式;4、使用适当的请求方法;5、检查服务器端的支持情况。更多http请求415错误怎么解决的相关内容,可以阅读下面的文章。

450

2023.11.14

HTTP 503错误解决方法
HTTP 503错误解决方法

HTTP 503错误表示服务器暂时无法处理请求。想了解更多http错误代码的相关内容,可以阅读本专题下面的文章。

3513

2024.03.12

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2904

2024.08.16

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 6.1万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号