網站首頁 編程語言 正文
解決scrapy爬蟲報錯 pymongo.errors.DuplicateKeyError: E11000 duplicate key error collection
作者:愛吃肉真是太好了呀 更新時間: 2022-02-18 編程語言scrapy爬蟲報錯內容
pymongo.errors.DuplicateKeyError: E11000 duplicate key error collection: scrapy_data.qiushibaike index: id dup key: { _id: ObjectId(‘61989dfcfe585e2673d7ee1b’) }, full error: {‘index’: 0, ‘code’: 11000, ‘keyPattern’: {’_id’: 1}, ’
keyValue’: {’_id’: ObjectId(‘61989dfcfe585e2673d7ee1b’)}, ‘errmsg’: “E11000 duplicate key error collection: scrapy_data.qiushibaike index: id dup key: { _id: ObjectId(‘61989dfcfe585e2673d7ee1b’) }”}
2個步驟解決:
1.爬蟲items.py加入_id字段
2.我們使用 MongoDB 只能插入字典,但是item 是類似字典所以報錯。
插入數據的時候做一個字典的轉化動作:
注:我的scrapy版本是2.5.1
原文鏈接:https://blog.csdn.net/zcm545186061/article/details/121439819
相關推薦
- 2022-10-17 VSCode安裝Django插件后實現html語法提示的方法步驟_python
- 2022-05-20 Maven的配置及使用
- 2022-12-27 詳解PyQt5?事件處理機制_python
- 2022-06-30 opencvsharp瑕疵檢測的實現示例_C#教程
- 2022-09-15 Linux添加Python?path方法及修改環境變量的三種方法_python
- 2022-05-12 小程序滾動穿透解決方案
- 2022-09-10 詳解Go?中的時間處理_Golang
- 2024-03-17 bootloader配置權限過高會怎么樣?
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支