日韩无码专区无码一级三级片|91人人爱网站中日韩无码电影|厨房大战丰满熟妇|AV高清无码在线免费观看|另类AV日韩少妇熟女|中文日本大黄一级黄色片|色情在线视频免费|亚洲成人特黄a片|黄片wwwav色图欧美|欧亚乱色一区二区三区

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時間：8:30-17:00
你可能遇到了下面的問題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
Python爬蟲爬取美劇網(wǎng)站

一直有愛看美劇的習(xí)慣，一方面鍛煉一下英語聽力，一方面打發(fā)一下時間。之前是能在視頻網(wǎng)站上面在線看的，可是自從廣電總局的限制令之后，進口的美劇英劇等貌似就不在像以前一樣同步更新了。但是，作為一個宅diao的我又怎甘心沒劇追呢，所以網(wǎng)上隨便查了一下就找到一個能用迅雷下載的美劇下載網(wǎng)站【天天美劇】，各種資源隨便下載，最近迷上的BBC的高清紀(jì)錄片，大自然美得不要不要的。

創(chuàng)新互聯(lián)是一家集網(wǎng)站建設(shè),容縣企業(yè)網(wǎng)站建設(shè),容縣品牌網(wǎng)站建設(shè),網(wǎng)站定制,容縣網(wǎng)站建設(shè)報價,網(wǎng)絡(luò)營銷,網(wǎng)絡(luò)優(yōu)化,容縣網(wǎng)站推廣為一體的創(chuàng)新建站企業(yè)，幫助傳統(tǒng)企業(yè)提升企業(yè)形象加強企業(yè)競爭力。可充分滿足這一群體相比中小企業(yè)更為豐富、高端、多元的互聯(lián)網(wǎng)需求。同時我們時刻保持專業(yè)、時尚、前沿，時刻以成就客戶成長自我，堅持不斷學(xué)習(xí)、思考、沉淀、凈化自己，讓我們?yōu)楦嗟钠髽I(yè)打造出實用型網(wǎng)站。

雖說找到了資源網(wǎng)站可以下載了，但是每次都要打開瀏覽器，輸入網(wǎng)址，找到該美劇，然后點擊鏈接才能下載。時間長了就覺得過程好繁瑣，而且有時候網(wǎng)站鏈接還會打不開，會有點麻煩。正好一直在學(xué)習(xí)Python爬蟲，所以今天就心血來潮來寫了個爬蟲，抓取該網(wǎng)站上所有美劇鏈接，并保存在文本文檔中，想要哪部劇就直接打開復(fù)制鏈接到迅雷就可以下載啦。

其實一開始打算寫那種發(fā)現(xiàn)一個url，使用requests打開抓取下載鏈接，從主頁開始爬完全站。但是，好多重復(fù)鏈接，還有其網(wǎng)站的url不是我想的那么規(guī)則，寫了半天也沒有寫出我想要的那種發(fā)散式的爬蟲，也許是自己火候還不到吧，繼續(xù)努力。。。

后來發(fā)現(xiàn)，其電視劇鏈接都是在文章里面，然后文章url后面有個數(shù)字編號，就像這樣的http://cn163.net/archives/24016/，所以機智的我又用了之前寫過的爬蟲經(jīng)驗，解決方法就是自動生成url，其后面的數(shù)字不是可以變的嗎，而且每部劇的都是***的，所以嘗試了一下大概有多少篇文章，然后用range函數(shù)直接連續(xù)生成數(shù)來構(gòu)造url。

但是很多url是不存在的，所以會直接掛掉，別擔(dān)心，我們用的可是requests，其自帶的status_code就是用來判斷請求返回的狀態(tài)的，所以只要是返回的狀態(tài)碼是404的我們都把它跳過，其他的都進去爬取鏈接，這就解決了url的問題了。

以下就是上述步驟的實現(xiàn)代碼。

 
 
    
  
  
  1. def get_urls(self):
    2. 
  
  
  2.     try:
    3. 
  
  
  3.         for i in range(2015,25000):
    4. 
  
  
  4.             base_url='http://cn163.net/archives/'
    5. 
  
  
  5.             url=base_url+str(i)+'/'
    6. 
  
  
  6.             if requests.get(url).status_code == 404:
    7. 
  
  
  7.                 continue
    8. 
  
  
  8.             else:
    9. 
  
  
  9.                 self.save_links(url)
    10. 
  
  
  10.     except Exception,e:
    11. 
  
  
  11.         pass
    12.

其余的就進行的很順利了，網(wǎng)上找到前人寫的類似的爬蟲，但是只是爬取一篇文章的，所以借鑒了一下其正則表達式。自己用了BeautifulSoup還沒有正則效果好，所以果斷棄了，學(xué)海無涯啊。但是效果也不是那么理想，有一半左右的鏈接不能正確抓取，還需繼續(xù)優(yōu)化。

 
 
    
  
  
  1. #  -*- coding:utf-8 -*-
    2. 
  
  
  2. import requests 
    3. 
  
  
  3. import re
    4. 
  
  
  4. import sys
    5. 
  
  
  5. import threading
    6. 
  
  
  6. import time
    7. 
  
  
  7. reload(sys)
    8. 
  
  
  8. sys.setdefaultencoding('utf-8')
    9. 
  
  
  9. class Archives(object):
    10. 
  
  
  10. 
  
  
  11.     def save_links(self,url):
    12. 
  
  
  12.         try:
    13. 
  
  
  13. 
  
  
  14.             data=requests.get(url,timeout=3)
    15. 
  
  
  15.             content=data.text
    16. 
  
  
  16.             link_pat='"(ed2k://\|file\|[^"]+?\.(S\d+)(E\d+)[^"]+?1024X\d{3}[^"]+?)"'
    17. 
  
  
  17.             name_pat=re.compile(r'(.*?)',re.S)
    18. 
  
  
  18.             links = set(re.findall(link_pat,content))
    19. 
  
  
  19.             name=re.findall(name_pat,content)
    20. 
  
  
  20.             links_dict = {}
    21. 
  
  
  21.             count=len(links)
    22. 
  
  
  22.         except Exception,e:
    23. 
  
  
  23.             pass
    24. 
  
  
  24.         for i in links:
    25. 
  
  
  25.             links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把劇集按s和e提取編號
    26. 
  
  
  26.         try:
    27. 
  
  
  27.             with open(name[0].replace('/',' ')+'.txt','w') as f:
    28. 
  
  
  28.                 print name[0]
    29. 
  
  
  29.                 for i in sorted(list(links_dict.keys())):#按季數(shù)+集數(shù)排序順序?qū)懭?/li>
  
  
  30.                     f.write(links_dict[i][0] + '\n')
    31. 
  
  
  31.             print "Get links ... ", name[0], count
    32. 
  
  
  32.         except Exception,e:
    33. 
  
  
  33.             pass
    34. 
  
  
  34. 
  
  
  35.     def get_urls(self):
    36. 
  
  
  36.         try:
    37. 
  
  
  37.             for i in range(2015,25000):
    38. 
  
  
  38.                 base_url='http://cn163.net/archives/'
    39. 
  
  
  39.                 url=base_url+str(i)+'/'
    40. 
  
  
  40.                 if requests.get(url).status_code == 404:
    41. 
  
  
  41.                     continue
    42. 
  
  
  42.                 else:
    43. 
  
  
  43.                     self.save_links(url)
    44. 
  
  
  44.         except Exception,e:
    45. 
  
  
  45.             pass
    46. 
  
  
  46.     def main(self):
    47. 
  
  
  47.         thread1=threading.Thread(target=self.get_urls())
    48. 
  
  
  48.         thread1.start()
    49. 
  
  
  49.         thread1.join()
    50. 
  
  
  50.     if __name__ == '__main__':
    51. 
  
  
  51.     start=time.time()
    52. 
  
  
  52.     a=Archives()
    53. 
  
  
  53.     a.main()
    54. 
  
  
  54.     end=time.time()
    55. 
  
  
  55.     print end-start
    56.

完整版代碼，其中還用到了多線程，但是感覺沒什么用，因為Python的GIL的緣故吧，看似有兩萬多部劇，本以為要很長時間才能抓取完成，但是除去url錯誤的和沒匹配到的，總共抓取時間20分鐘不到。搞得我本來還想使用Redis在兩臺Linux上爬取，但是折騰了一番之后感覺沒必要，所以就這樣吧，后面需要更大數(shù)據(jù)的時候再去弄。

還有過程中遇到一個很折磨我的問題是文件名的保存，必須在此抱怨一下，txt文本格式的文件名能有空格，但是不能有斜線、反斜線、括號等。就是這個問題，一早上的時間都花在這上面的，一開始我以為是抓取數(shù)據(jù)的錯誤，后面查了半天才發(fā)現(xiàn)是爬取的劇名中帶有斜杠，這可把我坑苦了。


標(biāo)題名稱：Python爬蟲爬取美劇網(wǎng)站
網(wǎng)站網(wǎng)址：http://m.5511xx.com/article/djghedd.html