0

0

构建健壮的Web抓取:JavaScript fetch请求的重试策略

霞舞

霞舞

发布时间:2025-11-10 19:34:11

|

271人浏览过

|

来源于php中文网

原创

构建健壮的Web抓取:JavaScript fetch请求的重试策略

在进行批量网络请求,特别是循环抓取网页内容时,网络不稳定或瞬时故障可能导致 `fetch` 请求失败并中断整个流程。本文将详细介绍如何通过实现一个异步重试机制来增强 `fetch` 操作的健壮性,确保即使在遇到临时网络问题时也能自动重试,从而提高数据获取的成功率和程序的稳定性。

在现代Web应用开发中,尤其是在进行数据抓取、API调用或批量资源加载等场景下,我们常常需要在一个循环中发起大量的网络请求。例如,遍历一个 NodeList 并逐一 fetch 其 href 属性指向的页面内容。然而,fetch API本身是基于Promise的,当网络出现瞬时中断、服务器响应延迟或返回非2xx状态码时,Promise会进入 rejected 状态,导致后续代码无法执行,整个循环流程也可能因此中断。这种脆弱性在处理大量请求时尤为明显,一次小小的网络波动就可能影响整个任务的完成。

为了提升这类操作的鲁棒性,一种行之有效的方法是引入重试机制。当一个网络请求失败时,程序不立即报错,而是尝试在一定次数内重新发起请求,直到成功或达到最大重试次数。这可以有效应对临时的网络抖动或服务器短暂的不可用。

实现 fetchWithRetry 函数

我们可以封装一个异步函数 fetchWithRetry,它接收目标URL和最大重试次数作为参数。该函数的核心在于使用 try...catch 块来捕获 fetch 操作可能抛出的错误,并在捕获到错误时根据剩余重试次数决定是否递归调用自身。

async function fetchWithRetry(url, numberOfRetries) {
  try {
    const response = await fetch(url);
    // 检查HTTP状态码,例如非2xx状态码也视为失败
    if (!response.ok) {
        throw new Error(`HTTP error! status: ${response.status}`);
    }
    const html = await response.text();
    const parser = new DOMParser();
    const doc = parser.parseFromString(html, 'text/html');
    console.log(`Successfully parsed: ${url}`); // 使用console.log代替alert,更适合教程和实际开发
    return doc;
  } catch (error) {
    if (numberOfRetries > 0) {
      console.error(`Error fetching ${url}. Retrying... (${numberOfRetries} retries left)`, error);
      // 可以在这里添加一个延迟,避免立即重试导致服务器压力过大
      // await new Promise(resolve => setTimeout(resolve, 1000)); // 例如,延迟1秒
      return fetchWithRetry(url, numberOfRetries - 1);
    } else {
      console.error(`Error fetching ${url}. Maximum retries exceeded.`, error);
      throw error; // 达到最大重试次数后,向上抛出错误
    }
  }
}

函数说明:

立即学习Java免费学习笔记(深入)”;

  • url: 目标网页的URL字符串。
  • numberOfRetries: 允许的最大重试次数。每次重试成功,此值减1。
  • try 块: 尝试执行 fetch 请求并解析HTML。为了更健壮,我们额外检查了 response.ok 属性,确保HTTP状态码是成功的(2xx范围)。
  • catch 块: 捕获 fetch 操作中发生的任何网络错误或解析错误。
    • 如果 numberOfRetries > 0,则说明还有重试机会,函数会打印错误信息并递归调用自身,将 numberOfRetries 减1。
    • 如果 numberOfRetries 已经为0,则表示已达到最大重试次数,此时不再重试,而是抛出原始错误,让上层调用者处理。
  • 日志输出: 使用 console.log 和 console.error 代替 alert,这在实际开发中更专业且不会阻塞UI。
  • 延迟重试(可选): 在实际应用中,为了避免因频繁重试给服务器带来过大压力,或者给服务器一个恢复的时间,可以在重试前添加一个短暂的延迟,例如使用 await new Promise(resolve => setTimeout(resolve, delayTime))。

在循环中集成重试机制

现在,我们可以将原始代码中的 fetch 调用替换为 fetchWithRetry。

async function processNodes(nodeList) {
  for (const el of nodeList) {
    const url = el.getAttribute('href');
    try {
      const doc = await fetchWithRetry(url, 3); // 设置最大重试次数为3
      // 在这里处理成功解析的文档对象 doc
      // 例如:
      // const title = doc.querySelector('title')?.textContent;
      // console.log(`Processed ${url}, Title: ${title}`);
    } catch (error) {
      console.error(`Failed to process ${url} after multiple retries.`, error);
      // 可以选择跳过当前节点,或记录失败的URL以便后续处理
    }
  }
  console.log('All nodes processed (or attempted).');
}

// 示例调用 (假设 NodeList 是一个可迭代对象,例如 document.querySelectorAll 返回的)
// const myNodeList = document.querySelectorAll('a.some-link');
// processNodes(myNodeList);

通过这种方式,即使某个URL的请求失败,重试机制也会尝试挽回,从而避免整个循环因单点故障而中断。外层循环中的 try...catch 块可以进一步捕获 fetchWithRetry 最终抛出的错误,使得我们可以对那些即使重试也无法成功的请求进行统一处理。

注意事项与最佳实践

  1. 重试次数的设定: 合理设置 numberOfRetries。过多的重试可能导致不必要的延迟和资源消耗,甚至可能触发服务器的限流机制;过少则可能无法有效应对瞬时故障。通常3-5次是一个不错的起点。

    Hitems
    Hitems

    HITEMS是一个AI驱动的创意设计平台,支持一键生成产品

    下载
  2. 指数退避(Exponential Backoff): 为了避免在短时间内对服务器造成过大压力,并给服务器更长的恢复时间,建议在每次重试之间引入递增的延迟。例如,第一次重试等待1秒,第二次等待2秒,第三次等待4秒。

    async function fetchWithExponentialBackoff(url, numberOfRetries, delay = 1000) {
      try {
        const response = await fetch(url);
        if (!response.ok) {
            throw new Error(`HTTP error! status: ${response.status}`);
        }
        const html = await response.text();
        const parser = new DOMParser();
        const doc = parser.parseFromString(html, 'text/html');
        console.log(`Successfully parsed: ${url}`);
        return doc;
      } catch (error) {
        if (numberOfRetries > 0) {
          console.error(`Error fetching ${url}. Retrying in ${delay / 1000}s... (${numberOfRetries} retries left)`, error);
          await new Promise(resolve => setTimeout(resolve, delay));
          return fetchWithExponentialBackoff(url, numberOfRetries - 1, delay * 2); // 延迟加倍
        } else {
          console.error(`Error fetching ${url}. Maximum retries exceeded.`, error);
          throw error;
        }
      }
    }
  3. 错误日志与监控: 详细记录每次失败和重试的日志,有助于排查问题和监控系统健康状况。对于最终失败的请求,可以考虑将其URL记录下来,以便后续人工干预或重新处理。

  4. 服务器限流(Rate Limiting): 如果你正在抓取大量网页,除了重试机制,还需考虑目标服务器可能存在的限流策略。在请求之间添加固定的延迟(而非仅仅在重试时)是常见的做法,以避免被封禁IP。

  5. 超时设置: fetch API本身没有直接的超时选项,但可以通过 AbortController 实现。在重试机制中结合超时,可以避免长时间等待无响应的请求。

    // 结合 AbortController 实现超时
    async function fetchWithTimeoutAndRetry(url, numberOfRetries, timeout = 5000) { // 默认5秒超时
      try {
        const controller = new AbortController();
        const id = setTimeout(() => controller.abort(), timeout); // 设置超时计时器
        const response = await fetch(url, { signal: controller.signal });
        clearTimeout(id); // 请求成功或失败后清除超时计时器
    
        if (!response.ok) {
            throw new Error(`HTTP error! status: ${response.status}`);
        }
        const html = await response.text();
        const parser = new DOMParser();
        const doc = parser.parseFromString(html, 'text/html');
        console.log(`Successfully parsed: ${url}`);
        return doc;
      } catch (error) {
        if (error.name === 'AbortError') {
            console.error(`Fetch request for ${url} timed out.`);
        }
        if (numberOfRetries > 0) {
          console.error(`Error fetching ${url}. Retrying... (${numberOfRetries} retries left)`, error);
          return fetchWithTimeoutAndRetry(url, numberOfRetries - 1, timeout);
        } else {
          console.error(`Error fetching ${url}. Maximum retries exceeded.`, error);
          throw error;
        }
      }
    }
  6. 幂等性: 确保重试操作是幂等的,即多次执行相同的操作不会产生额外副作用。对于简单的GET请求通常不是问题,但对于POST/PUT等修改资源的操作,需要特别注意。

总结

通过实现一个异步重试机制,我们可以显著提升JavaScript中 fetch 操作的健壮性和可靠性,特别是在处理批量网络请求时。结合合理的重试次数、指数退避策略、超时控制以及详细的错误日志,开发者可以构建出更加稳定、高效的数据抓取和处理流程,有效应对复杂多变的网络环境。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

228

2023.10.18

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

297

2023.10.25

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

298

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1501

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

624

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

633

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

589

2024.04.29

clawdbot ai使用教程 保姆级clawdbot部署安装手册
clawdbot ai使用教程 保姆级clawdbot部署安装手册

Clawdbot是一个“有灵魂”的AI助手,可以帮用户清空收件箱、发送电子邮件、管理日历、办理航班值机等等,并且可以接入用户常用的任何聊天APP,所有的操作均可通过WhatsApp、Telegram等平台完成,用户只需通过对话,就能操控设备自动执行各类任务。

19

2026.01.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
React 教程
React 教程

共58课时 | 4.3万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 2.5万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号