作為一種便捷地收集網上信息并從中抽取出可用信息的方式，網絡爬蟲技術變得越來越有用。使用Python這樣的簡單編程語言，你可以使用少量編程技能就可以爬取復雜的網站。

《用Python寫網絡爬蟲》作為使用Python來爬取網絡數(shù)據的杰出指南，講解了從靜態(tài)頁面爬取數(shù)據的方法以及使用緩存來管理服務器負載的方法。此外，本書還介紹了如何使用AJAX URL和Firebug擴展來爬取數(shù)據，以及有關爬取技術的更多真相，比如使用瀏覽器渲染、管理cookie、通過提交表單從受驗證碼保護的復雜網站中抽取數(shù)據等。本書使用Scrapy創(chuàng)建了一個高級網絡爬蟲，并對一些真實的網站進行了爬取。

用Python寫網絡爬蟲包含如下內容：

通過跟蹤鏈接來爬取網站；

使用lxml從頁面中抽取數(shù)據；

構建線程爬蟲來并行爬取頁面；

將下載的內容進行緩存，以降低帶寬消耗；

解析依賴于Java的網站；

與表單和會話進行交互；

解決受保護頁面的驗證碼問題；

對AJAX調用進行逆向工程；

使用Scrapy創(chuàng)建高級爬蟲。

。。。

?；?，是指一個學校中最最受歡迎的女學生。一般長得清純，受人歡迎，性格好，交際能力強。不一定是在這所學校最漂亮的，但一定清純,受人歡迎，受人追捧。

展開全文

Scrapy運行流程大概如下：

引擎從調度器中取出一個鏈LJ接用于接下來的抓取

引擎把LJ封裝成一個請求(Request)傳給下載器

下載器把資源下載下來，并封裝成應答包(Response)

爬蟲解析Response

解析出實體（Item）,則交給實體管道進行進一步的處理

解析出的是LJ,則把LJ交給調度器等待抓取

。。。

Scrapy，Python開發(fā)的一個快速,高層次的屏幕抓取和web抓取框架，用于抓取web站點并從頁面中提取結構化的數(shù)據。Scrapy用途廣泛，可以用于數(shù)據挖掘、監(jiān)測和自動化測試。

Scrapy吸引人的地方在于它是一個框架，任何人都可以根據需求方便的修改。它也提供了多種類型爬蟲的基類，如BaseSpider、sitemap爬蟲等，最新版本又提供了web2.0爬蟲的支持。

Scratch，是抓取的意思，這個Python的爬蟲框架叫Scrapy，大概也是這個意思吧，就叫它：小刮刮吧。

Scrapy 使用了 Twisted異步網絡庫來處理網絡通訊。

。。。

Scrapy主要包括了以下組件：

引擎(Scrapy)

用來處理整個系統(tǒng)的數(shù)據流處理, 觸發(fā)事務(框架核心)

調度器(Scheduler)

用來接受引擎發(fā)過來的請求, 壓入隊列中, 并在引擎再次請求的時候返回. 可以想像成一個URL（抓取網頁的網址或者說是鏈接）的優(yōu)先隊列, 由它來決定下一個要抓取的網址是什么, 同時去除重復的網址

下載器(Downloader)

用于下載網頁內容, 并將網頁內容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的異步模型上的)

爬蟲(Spiders)

爬蟲是主要干活的, 用于從特定的網頁中提取自己需要的信息, 即所謂的實體(Item)。用戶也可以從中提取出鏈接,讓Scrapy繼續(xù)抓取下一個頁面

項目管道(Pipeline)

負責處理爬蟲從網頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的信息。當頁面被爬蟲解析后，將被發(fā)送到項目管道，并經過幾個特定的次序處理數(shù)據。

下載器中間件(Downloader Middlewares)

位于Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應。

爬蟲中間件(Spider Middlewares)

介于Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應輸入和請求輸出。

調度中間件(Scheduler Middewares)

介于Scrapy引擎和調度之間的中間件，從Scrapy引擎發(fā)送到調度的請求和響應。

。。。

程序運行部分結果圖：

以上是全部代碼，只是善于分享，不足之處請包涵！爬蟲基本的原理就是，獲取源碼，進而獲取網頁內容。一般來說，只要你給一個入口，通過分析，可以找到無限個其他相關的你需要的資源，進而進行爬取。

更多精彩歡迎關注：

精品課程 http://xue.ujiuye.com/list/

優(yōu)學網http://xue.ujiuye.com