日本免费高清视频-国产福利视频导航-黄色在线播放国产-天天操天天操天天操天天操|www.shdianci.com

學無先后,達者為師

網(wǎng)站首頁 編程語言 正文

Pycharm安裝scrapy及初始化爬蟲項目的完整步驟_python

作者:_碼農(nóng)耕地人 ? 更新時間: 2022-10-01 編程語言

一)安裝scrapy:

1、打開cmd命令窗口,輸入:pip install Scrapy。

2、安裝成功之后會顯示下面字符,表示未將scrapy設(shè)置到環(huán)境變量。

3、配置環(huán)境變量:右鍵我的電腦-->屬性-->高級設(shè)置--->環(huán)境變量---->系統(tǒng)變量中的Path--->編輯--->添加--->將上文中黃色的路徑添加到環(huán)境變量即可。

4、scrapy安裝完畢。

二)創(chuàng)建一個scrapy爬蟲項目:

1、創(chuàng)建一個普通的Pycharm項目,然后找到下面的terminal

?2、輸入命令scrapy startproject 模塊名稱(可以自己隨便起,我以名為mine為例),成功之后你會發(fā)現(xiàn)自己的項目中多了一個mine的包文件。

?3、上述操作成功后終端會顯示下圖文字:此時我們輸入cd那條命令。進入目標文件。

?4、這時就可以創(chuàng)建爬蟲目標文件啦,

????????輸入scrapy genspider 爬取名 網(wǎng)站域名

1、爬取名是自己隨便起的,比如我要爬百度那么我就可以起名為baidu

2、網(wǎng)站域名就是去掉? https:www.? 剩下的部分,以博客園的為例:

網(wǎng)址為:https://www.cnblogs.com/

域名為?cnblogs.com

?2和3操作截圖:?

5、此時我們會在目錄里看見一個新的py文件:里自動生成如下代碼:

三)開啟pycharm對scrapy框架的調(diào)試功能:

由于pycharm沒有創(chuàng)建scrapy框架的模塊,所以我們想調(diào)試scrapy程序時要自己寫一個小腳本來開啟pycharm對scrapy的調(diào)試功能。

?1、在與mine包同級條件下創(chuàng)建一個main.py文件:

?2、mine文件將一下代碼賦值進去:

import os
import sys
 
from scrapy.cmdline import execute
 
sys.path.append(os.path.dirname(os.path.abspath(__file__)))
execute(["scrapy", "crawl", "cnblog"])  # 第三個參數(shù)為自己創(chuàng)建的那個爬取的名稱

?這樣就大功告成啦!

總結(jié)

原文鏈接:https://blog.csdn.net/weixin_60414376/article/details/124023917

欄目分類
最近更新