SEO：Google網站管理員工具的抓取錯誤解決方法

「抓取錯誤」是 Google網站管理員工具(Webmaster Tools)中最受歡迎的工具之一。它可以幫助你檢查錯誤的鏈接，不僅僅是URL鏈接，還包行DNS解析失敗、服務器鏈接、robots.txt 文件等問題，幾乎所有網站都會出現抓取錯誤。
: p; H! A9 p1 H, N. s' P8 F
　　網站站長工具將錯誤分為兩類：網站錯誤(site errors)和鏈接地址錯誤(URL errors)。如果在一個網站上出現多個抓取錯誤，那麼你的網站信任度會下降，甚至會影響到排名，當然這工具對於百度優化同樣有效。那麼應當如何解決Google網站管理員工具的抓取錯誤呢。
. R! {+ H/ S( r, C* H3 K
通過Googlebot抓取的錯誤分類就看知道是什麼導致抓取錯誤的原因了。
% o: k: _) v& Q& }8 L# k  b
% N: \: I; P0 @& e) o# V　　一、HTTP的錯誤

　　當一個網站上的網頁(例如，當用戶在瀏覽器中訪問您的網頁或Googlebot抓取頁面時)到您的服務器發出請求，服務器返回HTTP狀態碼響應請求。
7 n! b2 ^, I( T$ P" r+ E) ~
　　如果出現403狀態，可以不用理睬，這表明是你的主機阻止了Googlebot抓取。對於所有HTTP狀態碼的列表文件，可以參考Google HTTP狀態碼幫助頁面。
" ~+ l  T4 m0 m; F: @
# U& L8 }& a& ~# y1 Y　　二、Sitemap中的錯誤
3 n- Q) P; |: A, x" z: \
　　Sitemap錯誤往往會造成404錯誤頁面，或在當前地圖返回一個404錯誤頁面，如果出現404錯誤頁面請檢查Sitemap中所有的鏈接，
4 w! x4 p3 Y% u
　　Google會不斷抓取你已經刪除的Sitemap，這點很鬱悶，但也有辦法解決：確保舊的Sitemap已經在管理員工具中被刪除。如果不想被抓取，確保舊Sitemap出現404或者重新定向到新的Sitemap。

% ]0 T. h9 \  n. U  i( G: e# q' D9 d　　來自Google員工Susan Moskwa解釋道：
. k- ^) J0 E, C
$ u3 u' S# V8 U$ R　　阻止Googlebot的爬行，最好的辦法是使這些網址(例如舊的sitemaps)出現404，當我們看到一個URL多次出現404後，Googlebot會停止爬行。

2 ^# H& f: y- D' v6 p% l　　三、重定向錯誤

　　有些錯誤是因為301從定向引起的，執行重定向後要注意什麼：
7 F1 `1 d  Q4 L6 U, |) r9 b
　　1：確保他們返回到正確的HTTP狀態碼。

! a. L+ l+ O% ], x) Z. i　　2：確保沒有任何循環重定向。

　　3：確保重定向指向有效的網頁，而不是404頁，或其他錯誤頁，如503(服務器錯誤)或403(禁止抓取)
8 B! \# r+ {& T. D4 P8 ]
8 ^; ^+ t- M+ m$ H! l　　4：確保重定向不是指向一個空頁面。

　　四、404錯誤

1 u; h0 l$ T" r  A1 c　　404錯誤可能會出現在以下幾個方面：
' e7 n7 {# G6 U  q% m% M: x6 Z
# r. N/ z* y: R" L% b2 W+ G　　1：刪除了網站上的網頁；

8 s; X8 t! [4 a4 B* q! n5 P* X* ?　　2：改變了網頁的名稱；

' Z$ O2 y: x+ x: L5 Q" g# b　　4：鏈接到了一個不存在的頁面；

+ O7 c3 d9 |: w+ G: F/ W　　5：其他網站鏈接到你網站上一個不存在的頁面；

　　6：網站遷移到一個新的域名不完全匹配的網站。
# ^& m) W) d) U# k
+ q% X8 m6 N! `+ q9 h$ g) q　　五、受robots.txt限制
1 F9 }4 q9 ]) |9 T% m! `
　　還有一個原因是robots.txt文件阻止了Googlebot的抓取，如果出現大量抓取錯誤，第一步應該檢查robots.txt

7 d3 G# W) t+ ?) |6 I+ ^( U$ l6 U　　六、軟404錯誤
) s& e3 R: F9 `" z6 I2 @
9 X: A- H- L5 H% d3 x2 Q; Y通常情況下，當有人請求的頁面不存在，服務器將返回一個404(未找到)錯誤。除了在響應請求的頁面不存在返回404代碼，服務器也將顯示一個404頁。 這可能是一個標準的「未找到文件」的消息，或旨在提供更多信息的用戶，它可能是一個自定義頁面。 頁的內容是由服務器返回的HTTP響應完全無關。僅僅因為一個頁面顯示404文件未找到消息並不意味著它是一個404頁。

七、超時

1 Y" d2 \7 K' _) S2 F+ N　　網站超時也是出現抓取錯誤的原因之一，如果出現超時現象，Googlebot會停止抓取。超時的錯誤類型有：
2 E4 T, H9 ?* I! s6 j
7 ]- ^7 I, N  n; X  O( {　　1：DNS超時，可以使用Nslookup 命令檢測DNS，出現DNS超時最大的因素是域名服務商的DNS服務器不穩定。

　　2：網址超時，在某一個特定頁面，而不是整個域的錯誤。

　　3：robots.txt超時，如果你網站有robots.txt，但服務器超時，Googlebot會假定該文件不存在。

　　4：動態網頁的響應時間過長而造成網頁載入時間過長。

在網站上看到的，感覺很好，很有用，跟大家分享一下。

謝謝版主 ，頂一下，支持，
http://www.i2source.com

Google網站管理員工具確實挺管用的

很好用的工具