0
0
花韻仙語
发布时间：2024-11-04 20:27:09
|443人浏览过
|来源于php中文网
原创
scrapy crawlspider 中 deny 设置不起作用？
在 crawlspider 中，deny 设置可用于阻止爬取特定 url 链接。然而，根据提供的代码片段，deny 设置似乎没有正常工作，仍然爬取了包含 "guba" 的链接。
此问题可能是由于以下原因造成的：
deny 参数不是正则表达式
deny 参数必须是正则表达式，否则只有 url 完全匹配才可以被阻止。代码片段中使用的字符串不是正则表达式，因此它将只阻止完全匹配这些字符串的 url。
为了解决这个问题，需要将 deny 参数中的字符串修改为正则表达式。例如：
deny=(r'guba', r'data', r'fund.*\.eastmoney\.com/\d+\.html', r'.*so\.eastmoney.*', r'/gonggao/')
这样一来，代码将阻止包含 "guba"、"data"、符合正则表达式 "fund..eastmoney.com/d+.html"、符合正则表达式 ".so.eastmoney.*" 和 "/gonggao/" 的链接。
本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
热门AI工具
相关专题
php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法，还有更多js正则表达式的相关文章、相关下载、相关课程，供大家免费下载体验。
510
2023.06.20
正则表达式，又称规则表达式,，是一种文本模式，包括普通字符和特殊字符，是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串，通常被用来检索、替换那些符合某个模式的文本。php中文网给大家带来了有关正则表达式的相关教程以及文章，希望对大家能有所帮助。
249
2023.07.05
java正则表达式语法是一种模式匹配工具，它非常有用，可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题，供大家免费下载体验。
742
2023.07.05
正则表达式空格可以用“s”来表示，它是一个特殊的元字符，用于匹配任意空白字符，包括空格、制表符、换行符等。本专题为大家提供正则表达式相关的文章、下载、课程内容，供大家免费下载体验。
351
2023.08.31
Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据，或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。
293
2023.11.13
正则表达式空格可以用“s”来表示，它是一个特殊的元字符，用于匹配任意空白字符，包括空格、制表符、换行符等。想了解更多正则表达式空格怎么表示的内容，可以访问下面的文章。
234
2023.11.17
正则表达式中可以通过匹配单个数字、匹配多个数字、匹配固定长度的数字、匹配整数和小数、匹配负数和匹配科学计数法表示的数字的方法匹配数字。更多关于正则表达式的相关知识详情请看本专题下面的文章。php中文网欢迎大家前来学习。
528
2023.12.06
热门下载
相关下载
精品课程
Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
