文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:148日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)

想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. docker安裝后出現Cannot connect to the Docker daemon.2. javascript - vue生成一維碼?求助?。。。?!急3. docker-compose中volumes的問題4. java - SSH框架中寫分頁時service層中不能注入分頁類5. boot2docker無法啟動6. javascript - mock.js可以存儲數據嗎7. docker網絡端口映射,沒有方便點的操作方法么?8. 如何使用git對word文檔進行版本控制?9. java - Spring事務回滾問題10. nignx - docker內nginx 80端口被占用
排行榜

網公網安備