0

0

基于Golang的网页链接提取器_HTML解析与URL过滤逻辑

P粉602998670

P粉602998670

发布时间:2026-02-24 18:47:38

|

449人浏览过

|

来源于php中文网

原创

nextsibling 总是 nil 是因为 html 解析器不跳过文本/注释节点,应改用 nextsiblingelement() 或检查 node.type == html.elementnode;解析 href 时需用 base.resolvereference(rel) 规范化 url;乱码问题需通过 charset.determineencoding + newreader 自动检测编码;过滤链接应基于 url.parse 后的 scheme 和 fragment 判断,而非字符串前缀。

基于golang的网页链接提取器_html解析与url过滤逻辑

golang.org/x/net/html 解析 HTML 时,为什么 NextSibling 总是 nil?

因为 HTML 解析器不自动跳过文本节点和注释节点,NextSibling 返回的是紧邻的下一个节点(可能是 TextComment 类型),不是你想要的下一个标签元素。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • NextSiblingElement() 替代 NextSibling —— 它会自动跳过非元素节点
  • 手动遍历时,检查 node.Type == html.ElementNode 再处理
  • 别依赖 FirstChild 直接取 a 标签,先用 FindNextElement 类辅助函数定位

提取 <a href="..."></a> 时,相对 URL 怎么转成绝对 URL?

直接拼接会出错:原始页面 URL 可能带 hash、query,也可能本身是相对路径(如 //example.com/path),url.Parse 默认按 base URL 解析,但必须传对 base。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • url.Parse(base) 得到 base URL,再用 base.ResolveReference(rel) 处理每个 href
  • base 必须是完整 URL(含 scheme),如果只拿到 https://a.com/b/c.html,就用它;如果只有 /b/c.html,得补全 scheme 和 host
  • 注意 rel 是从 HTML 属性读出的原始字符串,可能为空、#topjavascript:void(0),要先过滤再解析

net/http.Get 抓回来的 HTML 里有乱码,golang.org/x/net/html 解析失败怎么办?

常见现象是 Parse 返回 io.ErrUnexpectedEOF 或解析出空文档——本质是 HTTP 响应没声明正确 charset,或响应体实际编码与声明不符(比如声明 UTF-8,实际是 GBK)。

梯子AI
梯子AI

百度推出的AI智能搜索

下载

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • 先读响应头 Content-Type,提取 charset=xxx;没声明就默认 UTF-8,但得准备 fallback
  • golang.org/x/net/html/charsetDetermineEncoding + NewReader 自动检测编码(对 HTML body 更准)
  • 别直接把 resp.Body 丢给 html.Parse,中间套一层解码后的 io.Reader

怎么过滤掉非目标链接(比如 JS、CSS、锚点、mailto)?

单纯看 href 字符串前缀容易漏判或误杀:javascript:data: 要剔除,mailto:tel: 通常不爬,但 // 开头的协议相对 URL 是合法的,/path 也是。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • url.Parse 解析后判断 u.Scheme:只保留 ""(相对)、"http""https"
  • u.Fragment != "" 表示是锚点(如 #section1),可跳过
  • u.Opaque 非空的情况(如 mailto:a@b.c)直接排除
  • 避免正则匹配 ^https?:// —— 会漏掉协议相对链接和纯路径

真正麻烦的是混合场景:一个页面同时有 meta charset 声明、BOM 头、script 动态写入 a 标签、还有 CSP 限制 referer。这时候解析逻辑得拆成「预检 → 解码 → 构建 DOM 树 → 提取 → 规范化 → 过滤」五步,少一步都可能漏链接或崩掉。

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

242

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

349

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

405

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1091

2025.06.17

Golang 生态工具与框架:扩展开发能力
Golang 生态工具与框架:扩展开发能力

《Golang 生态工具与框架》系统梳理 Go 语言在实际工程中的主流工具链与框架选型思路,涵盖 Web 框架、RPC 通信、依赖管理、测试工具、代码生成与项目结构设计等内容。通过真实项目场景解析不同工具的适用边界与组合方式,帮助开发者构建高效、可维护的 Go 工程体系,并提升团队协作与交付效率。

1

2026.02.24

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.4万人学习

AngularJS教程
AngularJS教程

共24课时 | 3.8万人学习

CSS教程
CSS教程

共754课时 | 35.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号