新聞中心
1、使用注意

讓客戶滿意是我們工作的目標(biāo),不斷超越客戶的期望值來(lái)自于我們對(duì)這個(gè)行業(yè)的熱愛。我們立志把好的技術(shù)通過有效、簡(jiǎn)單的方式提供給客戶,將通過不懈努力成為客戶在信息化領(lǐng)域值得信任、有價(jià)值的長(zhǎng)期合作伙伴,公司提供的服務(wù)項(xiàng)目有:空間域名、虛擬空間、營(yíng)銷軟件、網(wǎng)站建設(shè)、渾源網(wǎng)站維護(hù)、網(wǎng)站推廣。
(1)使用池時(shí),如果未指定進(jìn)程數(shù),則默認(rèn)為CPU核心數(shù)。
(2)核心數(shù)量對(duì)應(yīng)于計(jì)算機(jī)的邏輯處理器數(shù)量(任務(wù)管理器-性能),而不是核心數(shù)量(我的計(jì)算機(jī)有2個(gè)核心和4個(gè)邏輯處理器,因此這里默認(rèn)使用4個(gè)進(jìn)程)
(3)進(jìn)程數(shù)可以是幾十萬(wàn),并不意味著開放進(jìn)程的數(shù)量是4。只要使用池(10),就可以同時(shí)打開10個(gè)進(jìn)程進(jìn)行爬網(wǎng)。
(4)但是需要注意的是,無(wú)論多線程還是多進(jìn)程,打開過多都會(huì)導(dǎo)致切換耗時(shí),降低效率,所以創(chuàng)建過多的多線程和進(jìn)程是謹(jǐn)慎的。
2、實(shí)例
import requests
from bs4 import BeautifulSoup
from multiprocessing import Pool, current_process
def get_title(i):
print('start', current_process().name)
title_list = []
url = 'https://movie.douban.com/top250?start={}&filter='.format(i*25)
r = requests.get(url)
soup = BeautifulSoup(r.content, 'html.parser')
lis = soup.find('ol', class_='grid_view').find_all('li')
for li in lis:
title = li.find('span', class_="title").text
# return title
title_list.append(title)
print(title)
return(title_list)if __name__ == '__main__':
pool = Pool()
for i in range(10):
pool.apply_async(get_title, (i, ))
pool.close()
pool.join()
print('finish')以上就是python進(jìn)程池的使用注意,希望能對(duì)大家有所幫助。更多Python學(xué)習(xí)指路:創(chuàng)新互聯(lián)python教程
本文教程操作環(huán)境:windows7系統(tǒng)、Python 3.9.1,DELL G3電腦。
標(biāo)題名稱:創(chuàng)新互聯(lián)Python教程:python進(jìn)程池的使用注意
轉(zhuǎn)載注明:http://m.5511xx.com/article/dhspsjg.html


咨詢
建站咨詢
