日本免费高清视频-国产福利视频导航-黄色在线播放国产-天天操天天操天天操天天操|www.shdianci.com

學無先后,達者為師

網站首頁 編程語言 正文

python入門之Scrapy?shell的使用_python

作者:碼農飛哥 ? 更新時間: 2022-04-12 編程語言

前言:

我們想要在爬蟲中使用xpathbeautifulsoup、正則表達式,css選擇器等來提取想要的數據,但是因為scrapy是一個比較重的框架,每次運行都要等到一段時間,因此要去驗證我們提取規則是否正確,是一個比較麻煩的事情,因此,scrapy提供了一個shell。用來方便的測試規則,當然也不僅僅局限于這一個功能。

打開Scrapy shell:

進入命令行終端,進入到scrapy項目所在的目錄,然后進入到scrapy框架所在的虛擬環境中,輸入命令 scrapy shell [鏈接] ,就會進入到scrapy的shell環境中。在這個環境中,你可以跟在爬蟲的parse方法中一樣使用了。

進入到scrapy項目所在的目錄:

cd /Volumes/development/Python_learn/PycharmProjects/scrapy_demo/bmw_img_demo/

進入到scrapy框架所在的虛擬環境中:

?source /Volumes/development/Python_learn/PycharmProjects/venv/crawler_evn/bin/activate

輸入命令 scrapy shell [鏈接] :

rapy shell https://car.autohome.com.cn/pic/series/66.html

?輸入我們需要測試的語句:

? ? ? ?srcs = response.xpath('//div[contains(@class,"uibox-con")]/ul/li/a/img/@src').getall()

原文鏈接:https://feige.blog.csdn.net/article/details/122775755

欄目分類
最近更新