
2023 10 月資料更新異常情況解釋 (2023-01 號爬蟲錯誤)
我們在 10/06 ~ 10/26 期間,由於主機維護問題,導致爬蟲無法順利執行。

我們在 10/06 ~ 10/26 期間,由於主機維護問題,導致爬蟲無法順利執行。

我們在 3 月 25 日至 4 月 13 日期間遭遇了一些技術問題,導致我們無法按時收集並更新部分租屋資料。我們深感歉意,現在將會詳細解釋所發生的情況及其影響。

由於591 改版的緣故,2021 的年度資料,也存在資料遺失的問題。但因為在 10 月爬蟲機器人修正後,有將所有資料重新更新一次,因此遺失的狀況,會比逐月、逐季資料還要輕微。以下將比對逐月、整年的資料集,並對照 2020 與 2021 兩年的差異,以提供遺失情況的線索。 由於影響 591 刊登物件數的變因很多,單純第比較跨月、跨年的數量,並沒有太多意義,因此本文所作的分析,以確認資料的性質為主。

2021-06-17 ~ 2021-10-30,因為 591 實施漸進式改版,改變資料讀取方式,導致這段時間遺失部份資料。 本文將說明改版影響範圍、資料遺失的補救方式,並附上詳細解釋、原始資料,以及代辦事項。

錯誤發生時間: 2021-02-20 ~ 2021-02-24 ,因為資料庫空間用盡,導致這段期間的資料,沒有寫入資料庫 對資料的影響: 在 2021-02-20 ~ 2021-02-24 這幾天新增的物件,建立日期均會顯示為 02-24 ,因此 02-24 的新增物件、關閉物件都會比平常還要多

錯誤發生時間: 2019-11-01 ~ 2019-11-01 ,因為資料匯出程式設定的問題,耗盡資料庫 CPU 資源,導致 11-01 沒有更新完當日的所有資料 對資料的影響: 如果在 2019-10-31 當天新增的物件,建立日期會顯示為 11-02 ,因此 11-02 的新增物件、關閉物件都會比平常還要多

錯誤發生時間: 2019-10-17 ~ 2019-10-19 ,因為爬蟲工作產生方式的問題,製造太多重複而作不完工作,耗盡資料庫 CPU 資源,導致連續三日資料沒爬完 2019-10-20 開始爬蟲恢復正常

錯誤發生時間: 2019-05-09 ~ 2019-05-10 ,因為591 網頁排版更新,導致無法抓到新資料 2019-05-11 開始爬蟲恢復正常

錯誤發生時間: 第一波:2019-03-08 ~ 2019-03-12 ,因為資料庫空間用盡,導致部份物件更新失敗 第二波:2019-03-14 ~ 2019-03-19 ,因為 591 網站更新,導致無法抓到新物件 2019-03-19 開始爬蟲恢復正常