python长尾词采集工具

该项目的目标是爬取百度百科Python词条的五十条记录，从中取出url、标题和相应的摘要，最后输出到一个html文件中，打开文件就可以看到url、标题和相应的摘要

调度程序：

该程序包含了url管理器、html下载器、html分析器和html输出器，他们分别在初试方法中被初始化，在main方法中调用craw()方法，该方法的逻辑为：把传进来的url放到url管理器的待爬取得url集合中，再在待爬取的url集合中取出一条url，用html下载器self.downloader中.download(new_url)方法下载其内容，再用html分析器self.parser中的parse(new_url, html_cont)方法分析内容，取出url、标题、摘要等信息，当爬取到五十条的时候，用html输出器输出成html文档

代码如下：

from baike_spider importhtml_downloaderfrom baike_spider importhtml_outputerfrom baike_spider importhtml_parserfrom baike_spider importurl_managerclassSpiderMain(object):def __init__(self):
self.urls=url_manager.UrlManager()
self.downloader=html_downloader.HtmlDownloader()
self.parser=html_parser.HtmlParser()
self.outputer=html_outputer.HtmlOutputer()defcraw(self, root_url):
count= 1self.urls.add_new_url(root_url)whileself.urls.has_new_url():try:
new_url=self.urls.get_new_url()print 'craw %d : %s' %(count, new_url)
html_cont=self.downloader.download(new_url)
new_urls, new_data=self.parser.parse(new_url, html_cont)
self.urls.add_new_urls(new_urls)
self.outputer.collect_data(new_data)if count == 50:breakcount= count + 1
except:print 'craw failed'self.outputer.output_html()if __name__ == '__main__':
root_url= "https://baike.baidu.com/item/Python/407313"obj_spider=SpiderMain()
obj_spider.craw(root_url)
url管理器
该程序初始化了两个集合，一个是已爬取的url集合，一个是待爬取的url集合，并且对外提供四个方法，分别为：add_new_url(self, url)、has_new_url(self)、get_new_url(self)、add_new_urls(self, urls)。这四个方法的功能为：把从网页上爬取的、既不在已爬取的url集合也不在待爬取的url集合的url加入到待爬取的url集合中；has_new_url(self)方法是判断待爬取的url集合中是否还有未爬取的url，返回值为true或者false；get_new_url(self)方法是从待爬取的url中取出一条url，再把该url从待爬取的url集合移动到已爬取的url集合中去；add_new_urls(self, urls)方法是通过调用add_new_url(self, url)，筛选从网页爬取下来的url是否需要加入到待爬取的url集合中去。
代码如下：
classUrlManager(object):def __init__(self):
self.new_urls=set()
self.old_urls=set()defadd_new_url(self, url):if url isNone:return
if url not in self.new_urls and url not inself.old_urls:
self.new_urls.add(url)defhas_new_url(self):return len(self.new_urls) !=0defget_new_url(self):
new_url=self.new_urls.pop()
self.old_urls.add(new_url)returnnew_urldefadd_new_urls(self, urls):if urls is None or len(urls) ==0:return
for url inurls:
self.add_new_url(url)
html下载器：
该程序对外提供一个方法download(self, url)，该方法的作用是去下载传进来的url的网页内容。
代码如下：
importcookielibimporturllib2classHtmlDownloader(object):defdownload(self, url):if url isNone:returnNone#request = urllib2.Request(url)
#request.add_header("user-agent","Mozilla/5.0")
cj =cookielib.CookieJar()
opener=urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
urllib2.install_opener(opener)
response=urllib2.urlopen(url)return response.read()
html分析器：
通过分析，百度百科页面的html发现，其文中链接格式为：跨平台，标题的格式为：
Python
，摘要的格式为： 
 

    Python 
   。也就是标题在dd标签class=lemmaWgt-lemmaTitle-title下的h1中，摘要在div的class=lemma-summary中。该程序向外提供一个方法def parse(self, page_url, html_cont)，该方法返回值是网页中的url和所需数据，它调用两个内部方法_get_new_urls(self, page_url, soup)和_get_new_data(self, page_url, soup)，其中_get_new_urls(self, page_url, soup)方法是爬取页面的url，_get_new_data(self, page_url, soup)方法是爬取所需的数据，比如标题和摘要。
代码如下：
importreimporturlparsefrom bs4 importBeautifulSoupclassHtmlParser(object):defparse(self, page_url, html_cont):if page_url is None or html_cont isNone:returnsoup= BeautifulSoup(html_cont, 'html.parser', from_encoding="UTF-8")
new_urls=self._get_new_urls(page_url, soup)
new_data=self._get_new_data(page_url, soup)returnnew_urls, new_datadef_get_new_urls(self, page_url, soup):
new_urls=set()
links= soup.find_all('a', href=re.compile(r"\/item\/(.*?)"))for link inlinks:
new_url= link['href']
new_full_url=urlparse.urljoin(page_url, new_url)
new_urls.add(new_full_url)returnnew_urlsdef_get_new_data(self, page_url, soup):
res_data={}
res_data['url'] =page_url
title_node= soup.find('dd', class_="lemmaWgt-lemmaTitle-title").find("h1")
res_data['title'] =title_node.get_text()
summary_node= soup.find('div', class_="lemma-summary")
res_data['summary'] =summary_node.get_text()return res_data
hrml输出器：
该程序对外提供两个方法collect_data(self, data)和output_html(self)，collect_data(self, data)方法是收集数据，output_html(self)方法是把收集到的数据输出成html
代码如下：
classHtmlOutputer(object):def __init__(self):
self.datas=[]defcollect_data(self, data):if data isNone:returnself.datas.append(data)defoutput_html(self):
fout= open('output.html', 'w')
fout.write("")
fout.write("
") 
   
fout.write("
fout.write("
") 
   
fout.write("
%s" % data['url']) 
   
fout.write("
%s" % data['title'].encode('UTF-8')) 
   
fout.write("
%s" % data['summary'].encode('UTF-8')) 
   
fout.write("
") 
   
fout.write("
") 
   
fout.write("")
fout.write("")
fout.close()
运行结果如下：

打开输出的html文件如下：