問題描述

我想爬取簡書在某一時間段的帖子，比如 2013 年 4 月 13 — 2013 年 5 月 13

想嘗試的思路如下：

百度

利用百度的 site 語法

限定日期

觀察大約有 70 個帖子

Google

google 的 site 語法

限定日期

觀察大約有 120 個帖子

實現：用 Python 直接請求搜索的結果，然后把得到的網址重定向一下得到真正的簡書網址，然后對真正的網址進行請求

問題

用這種方法得到的結果是否靠譜？請問有更靠譜的方法嗎？

用 Google 還是用百度呢？

問題解答

為了全面，你可以把主流的搜索引擎接口都拿來用，不一定要限制在某個搜索引擎接口上。我們有隊友搜索某些話題就是這么干的，因為有的網站站內沒提供滿足需求的搜索方式，這個時候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面，robots協議規定了不能搜索的，搜索引擎不會收錄