文章詳情頁
java - 爬蟲爬取圖片問題?
瀏覽:155日期:2023-10-31 08:12:21
問題描述
剛才修改了下 POM,大家可以重新下載源碼這是我寫的爬蟲的項目地址 項目不報錯,但是問題是下載圖片到本地后經常性的是圖片不完整,如下:
這是下載圖片的核心代碼,如下:
@Override public void run() {Response res = null;try { res = Jsoup.connect(src).ignoreContentType(true).timeout(30000).execute(); byte[] bytes = res.bodyAsBytes(); File file = new File(path + name); if (!file.exists()) {RandomAccessFile raf = new RandomAccessFile(file, 'rw');raf.write(bytes);raf.close(); }} catch (IOException e1) { e1.printStackTrace();} }
經過資料查詢,感覺是范圍請求 Range的問題或者自己沒發現的問題?希望大家給看下,謝謝
問題解答
回答1:感覺是響應數據沒獲取完整,你debug一下看看響應的實際數據大小和你保存的數據大小是否有出入。
又或者因為還有一部分數據還在緩沖區中,沒來得及寫到文件,此時進程退出,導致數據不完整,關閉文件流之前執行一下flush操作。
標簽:
java
相關文章:
1. boot2docker無法啟動2. 關docker hub上有些鏡像的tag被標記““This image has vulnerabilities””3. docker-compose中volumes的問題4. java - SSH框架中寫分頁時service層中不能注入分頁類5. nignx - docker內nginx 80端口被占用6. javascript - mock.js可以存儲數據嗎7. docker安裝后出現Cannot connect to the Docker daemon.8. dockerfile - 為什么docker容器啟動不了?9. docker api 開發的端口怎么獲取?10. golang - 用IDE看docker源碼時的小問題
排行榜

網公網安備