網站首頁 編程語言 正文
Scrapy回調函數
回調方法示例:
yield Request(url=self.base_url + 'QueryInfo', headers=self.request_headers, method="POST", body=json.dumps(request_params), callback=self.page_query_schools, cb_kwargs=add_params)
callback對應的是page_query_school()即為回調的方法。
傳遞參數方式
如何向回調方法中傳遞參數呢?
在scrapy1.7之后,是基于cb_kwargs方式傳遞dict類型,可以在回調方式中直接訪問對應的參數值。
add_params = {}
add_params['province_code'] = province_code
add_params['province_name'] = name
yield Request(url=self.base_url + 'QueryInfo', headers=self.request_headers, method="POST", body=json.dumps(request_params), callback=self.page_query_schools, cb_kwargs=add_params)
? ? ? ? ?
def page_query_schools(self, response, province_code, province_name): ? ? ? ?
? ? ?# logic definition?
從上述方法中可知, add_params初始化為dict, 放入province_code/province_name兩個值。
在page_query_schools()方法中,其中的key值直接以參數傳入方法: province_code/province_name.
注意事項
錯誤的用法:
add_params = {}
add_params['data_item']['province_code'] = province_code
add_params['data_item']['province_name'] = name
yield Request(url=self.base_url + 'QueryInfo', headers=self.request_headers, method="POST", body=json.dumps(request_params), callback=self.page_query_schools, cb_kwargs=dict(data_hsh=add_params))
? ? ? ??
def page_query_schools(self, response, data_hsh): ? ? ? ?
? ? # logic definition?
這種用法的錯誤是:data_hsh傳遞是引用,在循環訪問中,data_hsh是指向相同的結果值,造成變量的引用有誤,與預期不符。
正確的做法:cb_kwargs傳遞直接變量屬性值,不要使用復雜的數據結構,可以做到不同的屬性值
總結
原文鏈接:https://blade.blog.csdn.net/article/details/108352214
相關推薦
- 2022-07-11 go語言數據結構之前綴樹Trie_Golang
- 2023-05-09 Linux?解壓縮文件到指定目錄_linux shell
- 2022-10-21 使用nginx進行負載均衡的搭建全過程_nginx
- 2022-11-30 Python利用yarl實現輕松操作url_python
- 2022-07-02 Python?matplotlib繪圖時指定圖像大小及放大圖像詳解_python
- 2022-03-14 golang實現子網掩碼和網絡位長度相互轉換
- 2022-07-22 vi編輯器設置自定義快捷鍵自動生成c語言的main函數
- 2022-12-22 python3中超級好用的日志模塊-loguru模塊使用詳解_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支