從0開始學採集------高級篇：使用Curl模擬登陸網站

/ @( ]# }( Y4 f' T, r
前言：
在從0開始學採集------中級篇：使用Curl抓取網頁內容，我們介紹了如何使用curl抓取論壇的帖子列表。但我們知道無論是論壇還是我們某些要採集和群發的對象，有很多時候是需要登陸後才可以訪問或操作的。拿我們的例子TGL論壇來說，比如這個帖子，如何賺豬毛教程，閱讀權限為10，也就是必須要登陸才可以看到，只有可以看到才能談如何採集。再比如，只要涉及群發的沒有一個不是必須先登陸的。那麼今天我們就來介紹下，使用curl如何模擬登陸到TGL，我用相對最簡單、易懂的語句寫了一個例子，並配了註釋，希望有興趣的朋友參考下，結合上一篇的例子，綜合起來就可以完成一個最簡單的採集程序了。如果你能寫出來，那麼你就可以去嘗試研究實戰採集了，curl的參數還有很多，同時，許多網站的防採集、防群發措施也很多，需要更深入一步的研究才能解決。
+ a" L* g7 ~; f2 n
採集步驟：
- g9 w8 M( k9 B  g模擬登陸網站的過程要分兩步進行：
* S5 J. ^7 j# v4 }3 K1.先訪問產生登陸cookie並保存。
2.讀取cookie後，打開需要的頁面採集或做其他你想要的操作。

; @* h5 E, c9 g參考代碼：
$ e) S( m: q5 W! o' Q& n<?php
) c/ c! [8 g! H4 f% S1 Tset_time_limit(0);//設置允許腳本運行的時間為無限，默認為30秒
, B& Z& S* M2 x: A$username="填寫你的用戶名";
$password="填寫你的密碼";
$cookie_file = dirname(__FILE__)."/cookie.txt";//設置cookie文件的保存位置
! t3 Q5 a9 R) i8 {$login_url = 'http://www.luosuo.net/old/member.php?mod=logging&action=login&loginsubmit=yes&infloat=yes&lssubmit=yes';//要登陸的網頁地址
//設置post要提交的內容
$post_data = array(
; [9 T& y& J5 Z* I, V1 y'username'=>$username,
# a7 ]+ y0 s# Q% m'password'=>$password
/ r# L, c5 v8 B% u, q);

//建立cookie開始，也就是步驟1
$ch = curl_init($login_url);//初始化
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//將返回的內容作為變量儲存,而不輸出.
% a9 |2 v+ B6 W" [+ z9 n6 A4 ncurl_setopt($ch, CURLOPT_POST, 1);//設置提交方式為post
curl_setopt($ch, CURLOPT_POSTFIELDS, $post_data);//提交POST
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);//保存cookie
curl_exec($ch);//執行
2 f: u% m( C! X( vcurl_close($ch);//返回關閉
- n% ~: x2 Z6 x//建立cookie結束

$url='http://www.luosuo.net/old/thread-106111-1-1.html';
9 O+ y$ u) t* J+ [. d1 u$ch = curl_init($url);
9 E* e  ~. P2 o3 J6 bcurl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
- L, G0 c4 z) l, M; D- Ncurl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);//讀取cookie
! [# @4 \" Y) i+ H* x! ^" k$contents = curl_exec($ch);
0 j" d4 M! s( ]  i4 Qecho $contents;
" P1 @8 P: W% ~' a& ycurl_close($ch);
3 J* A6 R  s! ^& E% S$ x?>
- N% n) F, \. {
一些參數的由來：
7 Y4 a. y/ _  N5 i6 [, j代碼加註釋，估計大家都看懂了。但是代碼中$login_url，$post_data裡面內容怎麼得到的呢？答案在下圖中，有耐心、想學習的朋友一定可以輕鬆找到。

0 b2 N; t7 x' O0 {9 }0 J
( O5 @# r* t. s* N, E0 E. @至此，我的《從0開始學採集》系列教程也已完結，感謝月光飛燕每次都將我的帖子設置高亮，也感謝論壇裡一直為我加分，一直回帖支持我的朋友們！有了大家的支持，才給了我寫完整篇教程的動力。

) W) `5 \# L3 o; @" g0 Q3 C7 [雖然，我來到論壇僅僅一周多的時間，但在這裡我學到了很多東西，確實感覺自己處身於所需要知識的海洋裡，思路變得開闊了，也漸漸的感覺到了自己的方向。從自己寫貼中，也體會到了更應珍惜論壇中其他朋友提供的有價值帖子，因為別人寫帖也必定要像自己一樣至少花費1個小時的時間才能完成，教程往往也是作者在總結掌握知識的基礎上，形成的智慧結晶，更應去仔細學習，認真實踐。有問題回帖交流。
1 v* S8 b+ L7 c8 }


: V+ `2 `! M4 x( l

. w4 o1 g8 x+ p4 x: Q2 A; W

   感謝你的分享:)
# w! V1 J5 X, O8 k

完結啦？！！。。。                                    

這個太厲害了，謝謝分享

不錯
, ~$ M6 o. ?2 e/ ~! |支持一下，我也常用curl採集

感謝分享。。。。。。。。。

謝謝分享~~~~~~~~~~~~~~~~~~~~~~~

非常感謝分享，為新手又開了一扇門。

謝謝樓主分享採集經驗，挺不錯的教程