[轉帖]為網站的Web Robot 設計路標

Internet越來越酷，WWW的知名度如日中天。在Internet上發佈公司信息、進行電子商 務已經從時髦演化成時尚。作為一個Web Master，你可能對HTML、Javascript、Java、 ActiveX瞭如指掌，但你是否知道什麼是Web Robot？你是否知道Web Robot和你所設 計的主頁有什麼關係？
6 w! [& V! d3 l2 R


( r/ @! s- w/ m* ~- l7 \  z7 ]Internet上的流浪漢--- Web Robot
2 u* i: B) l& E5 g* d' T& S
) ~; Y/ J, P2 N+ p! h5 K- `, M

  R8 Y" x- J! d1 f　　有時你會莫名其妙地發現你的主頁的內容在一個搜索引擎中被索引，即使你從未與他們有過任何聯繫。其實這正是Web Robot的功勞。Web Robot其實是一些程序，它可以穿越大量Internet網址的超文本結構，遞歸地檢索網絡站點所有的內容。這些程序有時被叫「蜘蛛（Spider）」，「網上流浪漢（Web Wanderer）」，「網絡蠕蟲（web worms）」或Web crawler。一些Internet網上知名的搜索引擎站點（Search Engines）都有專門的Web Robot程序來完成信息的採集，例如Lycos，Webcrawler，Altavista等，以 及中文搜索引擎站點例如北極星，網易，GOYOYO等。

# ~  ^# o* R! C7 W; P
1 Z! J. C. i3 `
, n# m5 ^$ h3 w( w  i1 I( D　　Web Robot就像一個不速之客，不管你是否在意，它都會忠於自己主人的職責，任勞任怨、不知疲倦地奔波於萬維網的空間，當然也會光臨你的主頁，檢索主頁內容並生 成它所需要的記錄格式。或許有的主頁內容你樂於世人皆知，但有的內容你卻不願被洞察、索引。難道你就只能任其「橫行」於自己主頁空間，能否指揮和控制Web Robot的行蹤呢？答案當然是肯定的。只要你閱讀了本篇的下文，就可以像一個交通 警察一樣，佈置下一個個路標，告訴Web Robot應該怎麼去檢索你的主頁，哪些可以 檢索，哪些不可以訪問。

: A! W6 F" V& X, x( q
+ U* o( a9 Y) ~" g$ |+ K3 b, l
: J+ w1 F8 e9 y6 Y7 @" f, |+ E2 a  O　　其實Web Robot能聽懂你的話
9 K/ Z' i" A, M5 g6 u. l


: \! w9 S& O% v- @' l　　不要以為Web Robot是毫無組織，毫無管束地亂跑。很多Web Robot軟件給網絡站點的 管理員或網頁內容製作者提供了兩種方法來限制Web Robot的行蹤：



　　1、Robots Exclusion Protocol 協議

5 Z0 p0 n- E) z8 w# y9 ]+ {' w

　　網絡站點的管理員可以在站點上建立一個專門格式的文件，來指出站點上的哪一部分 可以被robot訪問, 這個文件放在站點的根目錄下，即 http://.../robots.txt
/ `) u% R$ c8 ?: f# S
3 e$ K# E& ~4 Z+ |$ y

4 t' D  T8 c" v8 i　　2、Robots META tag

4 L7 E% `4 D' A

　　一個網頁作者可以使用專門的HTML META tag ，來指出某一個網頁是否可以被索 引、分析或鏈接。
$ d* i2 U' F: t+ w& k/ I

. ^' ]' X9 N$ k- R) u4 |
0 }+ T& z5 D7 F; I　　這些方法適合於大多數的Web Robot，至於是否在軟件中實施了這些方法，還依賴於 Robot的開發者，並非可以保證對任何Robot都靈驗。如果你迫切需要保護自己內容， 則應考慮採用諸如增加密碼等其他保護方法。
$ f6 |' X* @6 ]' x& I: k! ~( w1 b1 `
8 S* _7 Y" J( J0 S
4 \0 c" N5 H2 o8 x( i8 u
4 C7 H% L4 ^9 w1 x/ P　　使用Robots Exclusion Protocol協議

9 J7 V3 r* B2 l5 W, j* ]6 n, S
& B$ m) U$ W$ C6 P
　　當Robot訪問一個 Web 站點時，比如http://www.sti.net.cn/，它先去檢查文件http: //www.sti.net.cn/robots.txt。如果這個文件存在，它便會按照這樣的記錄格式去分析：
% e1 J; i: p/ W5 h. q$ h3 @


, z: Y9 L: H% p, lUser-agent: *
9 [( ^, s8 Y: E/ U. ADisallow: /cgi-bin/
Disallow: /tmp/
Disallow: /~joe/
2 A- n7 a! u4 `# M# K" u+ M

1 J- }9 t' K1 J2 g- m- C
$ s! _3 K+ e' M" w　　以確定它是否應該檢索站點的文件。這些記錄是專門給Web Robot看的，一般的瀏覽 者大概永遠不會看到這個文件，所以千萬不要異想天開地在裡面加入形似<img src=*> 類的HTML語句或是「How do you do? where are you from?」之類假情假意的問候語。



　　在一個站點上只能有一個 "/robots.txt" 文件，而且文件名的每個字母要求全部是小寫。在Robot的記錄格式中每一個單獨的"Disallow" 行表示你不希望Robot訪問的URL， 每個URL必須單獨佔一行，不能出現 "Disallow: /cgi-bin/ /tmp/"這樣的病句。同時在一個 記錄中不能出現空行，這是因為空行是多個記錄分割的標誌。
/ U6 {+ d) L9 ?1 [2 y


　　User-agent行指出的是Robot或其他代理的名稱。在User-agent行，'*' 表示一個特殊的含義---所有的robot。



: z1 e% C3 V  Z- |3 {　　下面是幾個robot.txt的例子：
% @# A2 ]! R0 [. \7 @9 }& b5 o  S
- T5 j3 P3 `) q0 |
( v$ k1 a. p% ]% {4 M
# W: z# Q* ~! k　　在整個服務器上拒絕所有的robots：


9 P  U5 y' Q! z/ ]! Q
6 P( h1 g3 d" y$ mUser-agent: *
% u  V7 U' g8 T: l7 |8 [& f$ bDisallow: /
4 k9 P) P" G; p) X* e6 N. W
7 s7 P5 q/ Z2 {/ c( H

允許所有的robots訪問整個站點：
User-agent: *
1 A% j" x! d9 P. p1 s3 gDisallow:
. W: d' @5 U' _/ o7 S  S3 @7 \或者產生一個空的 "/robots.txt" 文件。
1 H( c6 p6 `. {+ N
/ d* v; Y) Y; L3 L
7 W1 @+ I! H, [' j" I4 g5 j
5 l" M* g& u& E$ B+ ?服務器的部分內容允許所有的robot訪問
' T+ S2 [/ u$ k2 d  K  p3 h# p: @User-agent: *
' x; o- v! L. l2 |& j. ], g  K/ X% FDisallow: /cgi-bin/
Disallow: /tmp/
Disallow: /private/


6 B- ~( o1 E- @: ]0 P
拒絕某一個專門的robot：
User-agent: BadBot
Disallow: /
. S6 d: f! c$ X+ C% I! w; }
9 |9 _2 f5 n) A7 z4 ~
) a6 Y* }' o1 ]+ d5 L' ?
只允許某一個robot光顧：
User-agent: WebCrawler
Disallow:
User-agent: *
, P! K* U& W5 d* J4 J: vDisallow: /
) C; o( p; {5 }% |
. [" f6 \% T8 A' z
7 v) f/ ^( I4 s6 Y* g  ?
最後我們給出 http://www.w3.org/站點上的robots.txt：
# For use by search.w3.org
User-agent: W3Crobot/1
4 W2 r% k9 K9 y$ VDisallow:
- `4 C5 v2 A9 r0 d, MUser-agent: *
( r* o* M3 b0 q/ ]5 G+ A. MDisallow: /Member/ # This is restricted to W3C Members only
6 m2 d! L- z4 l7 E9 ^' z, e5 ZDisallow: /member/ # This is restricted to W3C Members only
0 x$ \6 \3 L# M- ?7 w' C" T" l4 ODisallow: /team/ # This is restricted to W3C Team only
) Y  N- e5 ^5 U  X0 A" n" XDisallow: /TandS/Member # This is restricted to W3C Members only
Disallow: /TandS/Team # This is restricted to W3C Team only
Disallow: /Project
Disallow: /Systems
9 B$ H2 }9 M" a  BDisallow: /Web
Disallow: /Team


, z1 A3 m4 D0 _7 s% @4 j
　　使用Robots META tag方式



" w# n0 S- L# k, ^7 V0 V　　Robots META tag 允許HTML網頁作者指出某一頁是否可以被索引，或是否可以用來查 找更多的鏈接文件。目前只有部分robot實施了這一功能。
  l6 n: ~0 i/ c' |( l# ?; ?


$ Z. u+ o" w6 P% Y3 \9 ?9 t. v( K9 P　　Robots META tag的格式為：


1 i; L8 z+ V5 I- S7 x
  u: M& N% M0 `: \<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
像其他的META tag一樣，它應該放在HTML文件的HEAD區：
<html>
5 |* v6 b& V  Y% s6 _<head>
& H+ b9 d# Q; T. R: D% v<meta name="robots" content="noindex,nofollow">
<meta name="description" content="This page ....">
<title>...</title>
* G$ o' J7 g: _1 k</head>
<body>
...
$ R) a0 M! o& F1 V5 J


' t/ _8 G5 j0 M4 l$ w  k　　Robots META tag指令使用逗號隔開，可以使用的指令包括 [NO]INDEX 和[NO] FOLLOW。INDEX 指令指出一個索引性robot是否可以對本頁進行索引；FOLLOW 指 令指出robot是否可以跟蹤本頁的鏈接。缺省的情況是INDEX和FOLLOW。例如：
4 c- _, X: z. c4 z# C' O
( l4 L, N4 f7 Y% B- {( x6 }. J

) ^0 l8 S2 M+ ^: b<meta name="robots" content="index,follow">
<meta name="robots" content="noindex,follow">
<meta name="robots" content="index,nofollow">
<meta name="robots" content="noindex,nofollow">

( E8 ]! p# M$ \+ ^) w
+ v: w$ b; ~5 y$ ~# @" _) R' m* G# F
　　一個好的Web 站點管理員應該將robot的管理考慮在內，使robot為自己的主頁服務， 同時又不損害自己網頁的安全。

恩，慢慢看，否則消化不良

看不懂啊。呵呵