0

0

如何使用 Selenium 从网页元素中准确提取全部单词列表

聖光之護

聖光之護

发布时间:2026-01-20 14:30:48

|

861人浏览过

|

来源于php中文网

原创

如何使用 Selenium 从网页元素中准确提取全部单词列表

本文讲解如何在 selenium 中正确获取动态渲染页面中所有单词(包括不可见但已加载的 dom 元素内容),解决 `.text` 返回空字符串的问题,推荐使用 `get_attribute("textcontent")` 替代。

在使用 Selenium 抓取类似 10 Fast Fingers 这类动态加载单词的打字测试页面时,一个常见误区是直接调用 element.text 获取文本内容。虽然该方法对当前可见、已渲染且未被 CSS 隐藏的元素有效,但它会忽略因滚动位置、CSS 样式(如 display: none、visibility: hidden 或 opacity: 0)或尚未进入视口而未被浏览器“激活”的文本节点——而这正是你看到大量空字符串的根本原因。

实际上,目标页面(#row1 > span[wordnr])中的所有单词 元素在页面加载后即已存在于 DOM 中,但部分元素可能尚未被浏览器计算为“可读文本”(例如处于懒加载区域或被临时隐藏),导致 .text 返回空值;而 get_attribute("textContent") 则直接读取元素的原始 DOM 文本内容,不受渲染状态或 CSS 可见性影响,因此能稳定获取全部约 300 个单词。

✅ 正确做法如下(已优化并添加健壮性处理):

Favird No-Code Tools
Favird No-Code Tools

无代码工具的聚合器

下载
from selenium import webdriver
from selenium.webdriver.chrome.service import Service as ChromeService
from webdriver_manager.chrome import ChromeDriverManager
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import time

driver = webdriver.Chrome(service=ChromeService(ChromeDriverManager().install()))
try:
    driver.get("https://www.php.cn/link/8e3502fa984f26f6890f4a54c4be3f8d")

    # 等待并拒绝 Cookie 弹窗(显式等待更可靠)
    WebDriverWait(driver, 10).until(
        EC.element_to_be_clickable((By.ID, "CybotCookiebotDialogBodyButtonDecline"))
    ).click()

    # 等待单词容器加载完成(确保 #row1 存在且子元素就绪)
    WebDriverWait(driver, 10).until(
        EC.presence_of_element_located((By.CSS_SELECTOR, "#row1"))
    )

    # 使用 get_attribute("textContent") 替代 .text
    words = driver.find_elements(By.CSS_SELECTOR, "#row1 > span[wordnr]")
    word_list = [word.get_attribute("textContent") for word in words if word.get_attribute("textContent")]

    print(f"成功提取 {len(word_list)} 个单词")
    print(word_list[:20])  # 打印前20个作为验证

finally:
    # driver.quit()  # 生产环境建议保留,调试时可注释
    pass

? 关键要点与注意事项:

  • 永远优先使用 get_attribute("textContent") 而非 .text 来获取结构化文本内容,尤其在处理动态词表、隐藏元素或 SSR/CSR 混合渲染页面时;
  • ⚠️ .text 依赖浏览器渲染引擎的“可视文本计算”,受 display、visibility、opacity、clip-path 等样式影响,不可靠
  • ⚠️ get_attribute("innerText") 同样受可见性影响,不推荐;textContent 是 DOM Level 3 标准属性,返回纯文本内容(含空格/换行),最接近源 HTML;
  • ✅ 添加 WebDriverWait 显式等待关键元素就绪,避免因网络延迟或 JS 加载顺序导致 find_elements 返回空列表;
  • ✅ 过滤掉 None 或空白字符串(if word.get_attribute("textContent")),提升数据洁净度;
  • ? 若后续需自动输入,注意目标输入框可能有防机器人检测(如事件监听、输入节流),需模拟真实用户行为(如 send_keys() + ActionChains 移动光标等)。

通过以上调整,你将稳定获取完整单词列表,为自动化打字、性能分析或本地训练提供高质量数据基础。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

846

2023.08.22

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

760

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1566

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

649

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1228

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

1184

2024.04.29

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

192

2025.07.29

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 0.9万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.6万人学习

CSS教程
CSS教程

共754课时 | 42.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号