相关动态
Eastmoney-Spyder:股吧网页数据抓取分析(一)
2024-11-17 18:24

数据来源:热门个股吧 数据字段:阅读、评论、标题、作者、更新时间 实现功能:读取每个股吧的全部页面的数据并写入excel表中

Eastmoney-Spyder:股吧网页数据抓取分析(一)

Eastmoney-Spyder:股吧网页数据抓取分析(一)

我们需要抓取的是全部发帖信息的阅读评论标题作者最后更新时间这五个字段的数据,我一开始想也不是很难,解析一下网页匹配一下对应的标签值就可以了,但后面还是出现了各种各样的问题,需要大家注意一下。


① 网页源代码

首先打开网页的开发者工具(Ctrl+Shift+i,在源代码中查找对应字段的标签结构。

Eastmoney-Spyder:股吧网页数据抓取分析(一) 从图中可以看出,这五个字段分别位于行标签内,对应的属性分别是。想必大家已经有思路了,我们可以通过先获取网页代码,再解析网页查询对应的五个字段,最后做一个提取就可以了。

Eastmoney-Spyder:股吧网页数据抓取分析(一)

② 网页链接

【某一股吧:300059】 点击查看网页链接结构首页第二页 可以看出个股吧链接主要由三部分组成list、名称代码、页数

I.全部个股吧的数字代码

Eastmoney-Spyder:股吧网页数据抓取分析(一) II. 翻页数据

Eastmoney-Spyder:股吧网页数据抓取分析(一)

如何得到不同股吧的所有翻页数据,着实让我找了好久,各种资源我都找了可惜还是没有发现,突然无意之中我找到了解决办法,我直接一个好家伙

跟上述的五类字段一样,我们查看一下页数的代码字段,如下图所示Eastmoney-Spyder:股吧网页数据抓取分析(一) 我的第一个办法是直接解析网页后找到标签下的属性,其内容即为总页数,本来以为原来这么好获取,结果解析完才发现,里的内容是动态的,即是会随页而变化的,故直接requests并不能获取到,但是还是被我发现了玄机Eastmoney-Spyder:股吧网页数据抓取分析(一) 大家可以看这里,里面的内容是,我对比了几个页面后发现其中数字分别代表的是

 

那么这时候,我们就可以直接用累积多年的算力(小学除法)算出该股吧共有,向上取整共页!如果你也脱口而出好家伙的话,请在屏幕下方打出来


基本问题解决了,我们可以开始编写代码了。这部分不讲代码原理,只解释代码功能。如果代码存在问题或不清楚的话,欢迎大家在下方留言,我一定及时回复。

① 获取网页源代码

 

② 解析网页并提取数据字段

 

③ 获取股吧总页数

基于解析的网页直接find_all也是可以的
 

上述代码基本的字段已经可以实现抓取了,结果如下

Eastmoney-Spyder:股吧网页数据抓取分析(一) 可以看到,我这里的时间多了年份,这是由于研究的需要,在基于一次抓取的结果上,进行二次抓取标题所带的链接网页获得的,有关二次抓取的内容,我们再下一节再和大家分享。

Eastmoney-Spyder:股吧网页数据抓取分析(一)


在抓取过程中,我还遇到了很多问题诸如: ① 部分帖子结构不同或存在冗余该如何处理(问董秘等链接) ② 抓取过程中ip被屏蔽自动跳转页面该如何处理(代理IP池) … … 这些内容在后续章节中再和大家分享,下期再见啦

知乎:南浔Pyer
CSDN:南浔Pyer
个人网站:DL小站
GitHub:LeoWang91
    以上就是本篇文章【Eastmoney-Spyder:股吧网页数据抓取分析(一)】的全部内容了,欢迎阅览 ! 文章地址:http://yybeili.xhstdz.com/news/7136.html 
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 物流园资讯移动站 http://yybeili.xhstdz.com/mobile/ , 查看更多   
最新文章
国际站:SEO Checker诊断工具助力商家诊断详情页,提升seo效果
国际站商家看过来:众所周知,一个优质的商品描述,可以提升买家转化的同时,还可以带来更多免费流量,从而让商家获得更多询盘和
【富蕴网站优化】在网站优化中有哪些常用的网站推广方式?
1、,百度,google的优化,针对,音乐,mp3下载,电影、游戏等一级,二级,甚至关键字优化。Seo介绍的网站很多,就不在这里重复
公众号简单爬虫--把公众号文章全部转载到网站(二)
根据上一篇的方法,我们得到了一个获取列表信息的地址,而且是用get方法就可以的地址.那么事情就变得很简单了,就是常规的爬取信息
1.【typecho】个人博客安装—使用群晖演示
哈喽,大家好今天给大家带来的是最近在群晖上安装一个博客的演示。先给大家看一下安装好之后的效果。虽然说现在使用博客和看博客
SEO优化攻略,揭秘网站排名提升与流量最大化技巧
本文深入解析SEO优化策略,通过关键词研究、高质量内容创作、链接建设等技术手段,帮助提升网站在搜索引擎中的排名,从而实现流
【HMNOTE搜狗手机输入法下载】小米HMNOTE搜狗手机输入法12.1.1免费下载
搜狗输入法,拥有超大中文词库,输入更加精准,智能。搜狗智能旺仔带你用表达,斗图,妙语,输入更加有趣。******特色功能******
vivo S19 Pro:全焦段人像拍照的5G游戏续航新宠
在智能手机市场日益同质化的今天,vivo S19 Pro以其独特的全焦段人像拍照功能、强大的5G性能以及出色的游戏续航能力,成为了众多
12月12日,星期四, 每天60秒读懂全世界!
新闻来源:百度热搜榜1. 25年老员工被开除 法院判赔98万近日,工作25年的李某被安排学习员工手册,全程玩手机遭公司开除,引发热
刚子扯谈:网站运营在左 技术在右 真TM扯
2013年8月5日,雨未下,天猴焖开片语:今天的扯谈内容是我转载我Java学习交流群里面一个哥们,当然我推荐他加入了朋友的网络分析
做seo营销网站/百度惠生活商家入驻
假定我们定义了一个Persion的message type,我们的用法可能如下定义 和 package tutorial;message Person {required int
相关文章