1、使用注意
(1)使用池时,如果未指定进程数,则默认为CPU核心数。
(2)核心数量对应于计算机的逻辑处理器数量(任务管理器-性能),而不是核心数量(我的计算机有2个核心和4个逻辑处理器,因此这里默认使用4个进程)
(3)进程数可以是几十万,并不意味着开放进程的数量是4。只要使用池(10),就可以同时打开10个进程进行爬网。
(4)但是需要注意的是,无论多线程还是多进程,打开过多都会导致切换耗时,降低效率,所以创建过多的多线程和进程是谨慎的。
2、实例
importrequests frombs4importBeautifulSoup frommultiprocessingimportPool,current_process defget_title(i): print('start',current_process().name) title_list=[] url='https://movie.douban.com/top250?start={}&filter='.format(i*25) r=requests.get(url) soup=BeautifulSoup(r.content,'html.parser') lis=soup.find('ol',class_='grid_view').find_all('li') forliinlis: title=li.find('span',class_="title").text #returntitle title_list.append(title) print(title) return(title_list)if__name__=='__main__': pool=Pool() foriinrange(10): pool.apply_async(get_title,(i,)) pool.close() pool.join() print('finish')
以上就是python进程池的使用注意,希望能对大家有所帮助。更多Python学习指路:Python基础教程
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
评论(0)