網(wǎng)站首頁 編程語言 正文
前言
寫這次博客其實事出有因,前幾天呢,一個非常優(yōu)秀的學(xué)姐在QQ空間里曬了自己的CSDN博客的總閱讀量,達到了7萬+,很厲害了,而且確實她的博文都是精髓,我就也想來看看我的博客總閱讀量了,看看什么時候能達到人家的高度,但是博客園偏偏就沒有這個功能(CSDN是可以直接在首頁看的)。于是乎,想盡一切辦法,要來統(tǒng)計閱讀量了,看看別人寫的使用其他的統(tǒng)計工具,把代碼放在博客園的公告欄,我也就放了個站長聯(lián)盟的統(tǒng)計代碼(具體操作可以百度,免費申請賬號的),雖然,它統(tǒng)計的數(shù)據(jù)更多,但是呢,它只能統(tǒng)計我從使用這個工具之后的訪問量,也就是,到現(xiàn)在為止,我的所有博客到底擁有多少的閱讀量,還是沒能統(tǒng)計出來,那不還是沒解決問題嘛,這就很尷尬了。。。
坐在電腦前,發(fā)了一會呆,突然,想起來,哎,這下學(xué)的Python爬蟲或許可以派上用場了,于是乎,我就開始了愉快的爬蟲統(tǒng)計閱讀量之路,其實也很簡單,抓取博客園博文的每一頁,然后利用xpath解析出閱讀量,然后進行加和就行了,為了做持久化,隨時看看閱讀量的增加情況,我就寫入了一個文本文件,每次就兩行內(nèi)容,查詢時間和總閱讀量,當(dāng)然,我在控制臺可以清晰的查看每頁每條博文的閱讀量。這下可總算是把問題解決了,182篇博文,總閱讀量:35205,差不多是學(xué)姐的一半,繼續(xù)努力,看明年畢業(yè)時能不能達到學(xué)姐的高度,下面是最終的代碼,當(dāng)然還有很多不足之處,希望大家多多指教
實現(xiàn)代碼
#導(dǎo)入需要的模塊
import time
import requests
from lxml import etree
#進行UA偽裝
headers={
"User-agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.130 Safari/537.36"
}
#創(chuàng)建文件,存儲爬到的數(shù)據(jù),做持久化,以追加的方式打開,可讀可寫
fp=open('./counter.txt','a+',encoding = 'utf-8')
#記錄當(dāng)前查詢時間
select_time=time.strftime('%Y.%m.%d %H:%M:%S ',time.localtime(time.time()))
fp.write('查詢的時間為:'+select_time+'\n')
def spider():
#總閱讀量
counts=0
#分頁爬取數(shù)據(jù)加和
for page_num in range(1,20):
#設(shè)置url
url="https://www.cnblogs.com/andrew3/default.html?page=%d"
new_url=format(url%page_num)
#獲取頁面數(shù)據(jù)
page_text=requests.get(url=new_url,headers=headers).text
tree=etree.HTML(page_text)
#解析數(shù)據(jù),得到每頁每篇博文的閱讀量
count_list=tree.xpath('//div[@class="forFlow"]/div/div[@class="postDesc"]/span[1]/text()')
print(count_list)
#每一頁的閱讀量
sum=0
#計算每頁的閱讀量
for i in range(len(count_list)):
sum+=int(count_list[i][3:len(count_list[i])-1])
#計算總閱讀量
counts+=sum
#打印每頁每篇博文的閱讀量
print(sum,counts)
#總閱讀量持久化
fp.write("總閱讀量為:%s" % counts + '\n')
#關(guān)閉文件,釋放資源
def close_file():
fp.close()
def main():
spider()
close_file()
if __name__ == '__main__':
main()
效果圖
原文鏈接:https://www.cnblogs.com/andrew3/p/12969703.html
相關(guān)推薦
- 2022-07-23 C#操作windows系統(tǒng)進程的方法_C#教程
- 2023-03-23 Android進階NestedScroll嵌套滑動機制實現(xiàn)吸頂效果詳解_Android
- 2024-01-07 @Modifying注解和@Transactional注解?
- 2022-12-23 Kotlin?try?catch異常處理i詳解_Android
- 2022-03-16 .Net?6中WebApplicationBuilder介紹和用法_自學(xué)過程
- 2022-08-23 Python利用VideoCapture讀取視頻或攝像頭并進行保存_python
- 2022-09-17 C++?如何實現(xiàn)順序棧(使用模板類)_C 語言
- 2021-12-04 C語言實現(xiàn)可排序通訊錄的示例代碼_C 語言
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動態(tài)字符串(SD
- arthas操作spring被代理目標(biāo)對象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支