
本文详解如何使用 r 语言的 rvest 包稳定抓取 npb.jp 网站上的多表格统计数据,重点解决 ssl 证书错误、动态结构识别与 css 选择器失效等常见问题,并提供可复用的健壮代码方案。
在使用 rvest 抓取日本职业棒球联盟(NPB)官网(如 https://npb.jp/bis/eng/2022/stats/std_c.html)时,许多用户会遇到“无法定位表格”的问题——即使 HTML 成功加载,html_nodes() 却返回空结果。这通常并非代码逻辑错误,而是由三方面原因导致:HTTPS 证书验证失败、网页实际 DOM 结构与开发者工具显示不一致、以及目标表格缺乏稳定 ID 或 class 标识。
首先,直接通过 URL 调用 read_html() 可能触发 SSL 证书错误(尤其在 Windows 或某些 R 版本下),导致页面解析中断或返回不完整 HTML。此时建议采用「本地缓存」策略:手动保存网页源码为 .html 文件(浏览器右键 → “查看页面源代码” → 全选复制 → 保存为 UTF-8 编码的 baseball.html),再从本地读取:
library(rvest) library(magrittr) # ✅ 推荐:绕过证书问题,确保 HTML 完整加载 url <- "baseball.html" # 替换为你的本地路径 doc <- read_html(url)
其次,原问题中使用的 CSS 选择器 #stdivmaintbl > table > tbody > tr > td > div:nth-child(1) 过于具体且依赖 DOM 深层嵌套,极易因网页微小更新而失效。经检查,NPB 页面中所有主统计表格均包裹在具有统一类名 stdtblmain 的
# ✅ 正确:定位所有主数据表容器
tables <- doc %>% html_nodes(".stdtblmain") %>% html_table(fill = TRUE)html_table(fill = TRUE) 中的 fill = TRUE 参数至关重要——它能自动对齐跨行合并单元格(如 NPB 表中常见的“Team”跨行标题),避免列错位。最终 tables 是一个列表,其中 tables[[1]] 对应球队总览表,tables[[2]] 通常为投手/打者进阶统计表(依页面结构而定)。
⚠️ 注意事项:
- 编码处理:若出现乱码(如日文字符显示为 ?),请在 read_html() 后显式声明编码:read_html(url, encoding = "UTF-8");
-
反爬机制:NPB 官网虽无强反爬,但仍建议添加请求头模拟浏览器访问(适用于直连 URL 场景):
url <- "https://npb.jp/bis/eng/2022/stats/std_c.html" doc <- read_html(url, timeout = 30, httr::user_agent("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36")) - 数据清洗提示:原始表格常含空行、合并标题行及占位符(如 "***" 表示“自身交锋”)。建议后续使用 dplyr::filter(!is.na(X1)) 清理空行,并用 tidyr::pivot_longer() 重构宽表。
总结而言,成功抓取 NPB 数据的关键在于:规避网络层障碍(证书/超时)、选用语义化 CSS 类选择器(.stdtblmain)、启用 fill = TRUE 处理复杂表格结构,并始终以本地 HTML 快照作为调试基准。该模式同样适用于 NPB 其他年份/赛季页面(只需替换 URL 路径),具备良好的可迁移性。










