文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:156日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創(chuàng)建一個debugger吧(scrapy crawl spider_name)

想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. 運行python程序時出現(xiàn)“應用程序發(fā)生異常”的內存錯誤?2. 在mac下出現(xiàn)了兩個docker環(huán)境3. 利用IPMI遠程安裝centos報錯!4. spring-mvc - spring-session-redis HttpSessionListener失效5. javascript - QQ第三方登錄的問題6. 測試自動化html元素選擇器元素ID或DataAttribute [關閉]7. javascript - node得到req不能得到boolean8. javascript - 最近用echarts做統(tǒng)計圖時遇到兩個問題!!9. java - Spring boot 讀取 放在 jar 包外的,log4j 配置文件,系統(tǒng)有創(chuàng)建日志文件,不寫入日志信息。10. javascript - 在 model里定義的 引用表模型時,model為undefined。
排行榜

熱門標簽
網(wǎng)公網(wǎng)安備