網(wǎng)站首頁 編程語言 正文
遠(yuǎn)程登錄控制臺(tái)
Scrapy附帶一個(gè)內(nèi)置的telnet控制臺(tái),用于檢查和控制Scrapy運(yùn)行過程。telnet控制臺(tái)只是一個(gè)運(yùn)行在scrappy進(jìn)程內(nèi)部的常規(guī)python shell,因此您可以從中做任何事情。
telnet控制臺(tái)是一個(gè) built-in Scrapy extension 它在默認(rèn)情況下是啟用的,但如果需要,您也可以禁用它。有關(guān)擴(kuò)展本身的更多信息,請參閱 Telnet控制臺(tái)擴(kuò)展 。
警告
通過公共網(wǎng)絡(luò)使用telnet控制臺(tái)是不安全的,因?yàn)閠elnet不提供任何傳輸層安全性。擁有用戶名/密碼驗(yàn)證不會(huì)改變這一點(diǎn)。
預(yù)期用途是本地連接到正在運(yùn)行的Scrapy Spider(Spider進(jìn)程和Telnet客戶端在同一臺(tái)計(jì)算機(jī)上)或通過安全連接(VPN、SSH通道)進(jìn)行連接。請避免在不安全的連接上使用telnet控制臺(tái),或使用 TELNETCONSOLE_ENABLED 選擇權(quán)。
如何訪問telnet控制臺(tái)
telnet控制臺(tái)偵聽中定義的TCP端口 TELNETCONSOLE_PORT 設(shè)置,默認(rèn)為 6023 . 要訪問控制臺(tái),您需要鍵入:
telnet localhost 6023 Trying localhost... Connected to localhost. Escape character is '^]'. Username: Password: >>>
默認(rèn)用戶名為 scrapy 密碼是自動(dòng)生成的。自動(dòng)生成的密碼可以在垃圾日志上看到,如下例所示:
2018-10-16 14:35:21 [scrapy.extensions.telnet] INFO: Telnet Password: 16f92501e8a59326
默認(rèn)用戶名和密碼可以被設(shè)置覆蓋 TELNETCONSOLE_USERNAME 和 TELNETCONSOLE_PASSWORD .
警告
用戶名和密碼僅提供有限的保護(hù),因?yàn)閠elnet不使用安全傳輸-默認(rèn)情況下,即使設(shè)置了用戶名和密碼,通信也不會(huì)加密。
您需要在Windows和大多數(shù)Linux發(fā)行版中默認(rèn)安裝的telnet程序。
telnet控制臺(tái)中的可用變量
elnet控制臺(tái)就像一個(gè)運(yùn)行在scrappy進(jìn)程內(nèi)部的常規(guī)python shell,所以您可以從中做任何事情,包括導(dǎo)入新模塊等。
但是,telnet控制臺(tái)附帶一些為方便起見而定義的默認(rèn)變量:
捷徑 | 描述 |
---|---|
crawler |
殘廢的爬蟲 (scrapy.crawler.Crawler 對(duì)象) |
engine |
crawler.engine屬性 |
spider |
主動(dòng)蜘蛛 |
slot |
發(fā)動(dòng)機(jī)槽 |
extensions |
擴(kuò)展管理器(crawler.extensions屬性) |
stats |
stats收集器(crawler.stats屬性) |
settings |
Scrapy設(shè)置對(duì)象(crawler.settings屬性) |
est |
打印發(fā)動(dòng)機(jī)狀態(tài)報(bào)告 |
prefs |
內(nèi)存調(diào)試(請參見 調(diào)試內(nèi)存泄漏) |
p |
到的快捷方式 pprint.pprint() 功能 |
hpy |
內(nèi)存調(diào)試(請參見 調(diào)試內(nèi)存泄漏) |
telnet控制臺(tái)使用示例
以下是使用telnet控制臺(tái)可以執(zhí)行的一些示例任務(wù):
查看發(fā)動(dòng)機(jī)狀態(tài)
你可以使用 est() scrapy引擎使用telnet控制臺(tái)快速顯示其狀態(tài)的方法:
elnet localhost 6023 >>> est() Execution engine status time()-engine.start_time ? ? ? ? ? ? ? ? ? ? ? ?: 8.62972998619 len(engine.downloader.active) ? ? ? ? ? ? ? ? ? : 16 engine.scraper.is_idle() ? ? ? ? ? ? ? ? ? ? ? ?: False engine.spider.name ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?: followall engine.spider_is_idle() ? ? ? ? ? ? ? ? ? ? ? ? : False engine.slot.closing ? ? ? ? ? ? ? ? ? ? ? ? ? ? : False len(engine.slot.inprogress) ? ? ? ? ? ? ? ? ? ? : 16 len(engine.slot.scheduler.dqs or []) ? ? ? ? ? ?: 0 len(engine.slot.scheduler.mqs) ? ? ? ? ? ? ? ? ?: 92 len(engine.scraper.slot.queue) ? ? ? ? ? ? ? ? ?: 0 len(engine.scraper.slot.active) ? ? ? ? ? ? ? ? : 0 engine.scraper.slot.active_size ? ? ? ? ? ? ? ? : 0 engine.scraper.slot.itemproc_size ? ? ? ? ? ? ? : 0 engine.scraper.slot.needs_backout() ? ? ? ? ? ? : False
暫停、恢復(fù)和停止報(bào)廢發(fā)動(dòng)機(jī)
暫停:
telnet localhost 6023 >>> engine.pause() >>>
恢復(fù):
telnet localhost 6023 >>> engine.unpause() >>>
停止:
telnet localhost 6023 >>> engine.stop() Connection closed by foreign host.
Telnet控制臺(tái)信號(hào)
scrapy.extensions.telnet.update_telnet_vars(telnet_vars)
在telnet控制臺(tái)打開之前發(fā)送。您可以連接到這個(gè)信號(hào)來添加、刪除或更新telnet本地命名空間中可用的變量。為此,需要更新 telnet_vars 聽寫你的處理程序。
參數(shù)
telnet_vars (dict) – telnet變量的dict
遠(yuǎn)程登錄設(shè)置
以下是控制telnet控制臺(tái)行為的設(shè)置:
TELNETCONSOLE_PORT
違約: [6023, 6073]
用于telnet控制臺(tái)的端口范圍。如果設(shè)置為 None 或 0 ,使用動(dòng)態(tài)分配的端口。
TELNETCONSOLE_HOST
違約: '127.0.0.1'
telnet控制臺(tái)應(yīng)該監(jiān)聽的接口
TELNETCONSOLE_USERNAME
違約: 'scrapy'
用于telnet控制臺(tái)的用戶名
TELNETCONSOLE_PASSWORD
違約: None
telnet控制臺(tái)使用的密碼,默認(rèn)行為是讓它自動(dòng)生成。
原文鏈接:https://blog.csdn.net/zhongjianboy/article/details/129221371
- 上一篇:沒有了
- 下一篇:沒有了
相關(guān)推薦
- 2023-02-14 使用PowerShell獲取Trustedinstaller權(quán)限的問題_PowerShell
- 2022-11-20 C#設(shè)計(jì)模式之裝飾器模式實(shí)例詳解_C#教程
- 2022-07-21 CSS復(fù)合型寫法
- 2022-11-13 yolov5模型配置yaml文件詳細(xì)講解_python
- 2022-09-23 Redux中異步action與同步action的使用_React
- 2023-01-29 Redis配置外網(wǎng)可訪問(redis遠(yuǎn)程連接不上)的方法_Redis
- 2022-08-13 Android自定義ProgressBar實(shí)現(xiàn)漂亮的進(jìn)度提示框_Android
- 2022-09-30 volatile保證可見性及重排序方法_相關(guān)技巧
- 欄目分類
-
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細(xì)win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運(yùn)行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲(chǔ)小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運(yùn)算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認(rèn)證信息的處理
- Spring Security之認(rèn)證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯(cuò)誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實(shí)現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動(dòng)態(tài)字符串(SD
- arthas操作spring被代理目標(biāo)對(duì)象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊(duì)列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠(yuǎn)程分支