javascript - Python爬js加载的页面数据,已试过selenium可用,求其他高效方法?
PHP中文网
PHP中文网 2017-04-11 12:15:44
[JavaScript讨论组]

问题:爬虫某小茶叶电商平台网网站的商品数据
网址: http://donghetea.com/category...频道:行情参考)

爬虫计划>
1、在类目下,获取所有商品的url(已获取行情参考下所有商品url链接)
2、请求每个url,爬取详细的产品年份,规格,价格等。
目前遇到问题~看到商品资料是用js加载。

工具:用python3 requests 和beautifulsoup 解析
无法解析产品url里面js加载的产品信息
我用了下下策,用selenium来模拟打开浏览器,再用beautfulsoup解析获取商品详情页面里的资料。
但是效率太低了,想请教是否有更好的方法~
试过抓包,但是因为太菜,没找到api。

PHP中文网
PHP中文网

认证0级讲师

全部回复(0)
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号