Python实现抓取HTML网页并以PDF文件形式保存的方法

百变鹏仔 2小时前 #Python

文章标签并以

这篇文章主要介绍了python实现抓取html网页并以pdf文件形式保存的方法,结合实例形式分析了pypdf2模块的安装及python抓取html页面并基于pypdf2模块生成pdf文件的相关操作技巧,需要的朋友可以参考下

本文实例讲述了Python实现抓取HTML网页并以PDF文件形式保存的方法。分享给大家供大家参考，具体如下：

一、前言

今天介绍将HTML网页抓取下来，然后以PDF保存，废话不多说直接进入教程。

二、准备工作

立即学习“Python免费学习笔记（深入）”；

1. PyPDF2的安装使用（用来合并PDF）：

PyPDF2版本：1.25.1

安装：

pip install PyPDF2

使用示例：

from PyPDF2 import PdfFileMergermerger = PdfFileMerger()input1 = open("hql_1_20.pdf", "rb")input2 = open("hql_21_40.pdf", "rb")merger.append(input1)merger.append(input2)# Write to an output PDF documentoutput = open("hql_all.pdf", "wb")merger.write(output)

2. requests、beautifulsoup 是爬虫两大神器，reuqests 用于网络请求，beautifusoup 用于操作 html 数据。有了这两把梭子，干起活来利索。scrapy 这样的爬虫框架我们就不用了，这样的小程序派上它有点杀鸡用牛刀的意思。此外，既然是把 html 文件转为 pdf，那么也要有相应的库支持， wkhtmltopdf 就是一个非常的工具，它可以用适用于多平台的 html 到 pdf 的转换，pdfkit 是 wkhtmltopdf 的Python封装包。首先安装好下面的依赖包

pip install requestspip install beautifulsoup4pip install pdfkit

3. 安装 wkhtmltopdf

Windows平台直接在 http://wkhtmltopdf.org/downloads.html 下载稳定版的 wkhtmltopdf 进行安装，安装完成之后把该程序的执行路径加入到系统环境 $PATH 变量中，否则 pdfkit 找不到 wkhtmltopdf 就出现错误 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行进行安装

$ sudo apt-get install wkhtmltopdf # ubuntu$ sudo yum intsall wkhtmltopdf   # centos

三、数据准备

1. 获取每篇文章的url

def get_url_list():  """  获取所有URL目录列表  :return:  """  response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000")  soup = BeautifulSoup(response.content, "html.parser")  menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1]  urls = []  for li in menu_tag.find_all("li"):    url = "http://www.liaoxuefeng.com" + li.a.get('href')    urls.append(url)  return urls

2. 通过文章url用模板保存每篇文章的HTML文件

html模板：

html_template = """nbsp;html&gt;  <meta>{content}"""

进行保存：

def parse_url_to_html(url, name):  """  解析URL，返回HTML内容  :param url:解析的url  :param name: 保存的html文件名  :return: html  """  try:    response = requests.get(url)    soup = BeautifulSoup(response.content, 'html.parser')    # 正文    body = soup.find_all(class_="x-wiki-content")[0]    # 标题    title = soup.find('h4').get_text()    # 标题加入到正文的最前面，居中显示    center_tag = soup.new_tag("center")    title_tag = soup.new_tag('h1')    title_tag.string = title    center_tag.insert(1, title_tag)    body.insert(1, center_tag)    html = str(body)    # body中的img标签的src相对路径的改成绝对路径    pattern = "(@@##@@<p></p><p><strong>3. 把html转换成pdf</strong></p><p class="jb51code"></p><pre class="brush:py;">def save_pdf(htmls, file_name):  """  把所有html文件保存到pdf文件  :param htmls: html文件列表  :param file_name: pdf文件名  :return:  """  options = {    'page-size': 'Letter',    'margin-top': '0.75in',    'margin-right': '0.75in',    'margin-bottom': '0.75in',    'margin-left': '0.75in',    'encoding': "UTF-8",    'custom-header': [      ('Accept-Encoding', 'gzip')    ],    'cookie': [      ('cookie-name1', 'cookie-value1'),      ('cookie-name2', 'cookie-value2'),    ],    'outline-depth': 10,  }  pdfkit.from_file(htmls, file_name, options=options)

4. 把转换好的单个PDF合并为一个PDF

merger = PdfFileMerger()for pdf in pdfs:  merger.append(open(pdf,'rb'))  print u"合并完成第"+str(i)+'个pdf'+pdf

完整源码：

# coding=utf-8import osimport reimport timeimport loggingimport pdfkitimport requestsfrom bs4 import BeautifulSoupfrom PyPDF2 import PdfFileMergerhtml_template = """nbsp;html&gt;  <meta>{content}"""def parse_url_to_html(url, name):  """  解析URL，返回HTML内容  :param url:解析的url  :param name: 保存的html文件名  :return: html  """  try:    response = requests.get(url)    soup = BeautifulSoup(response.content, 'html.parser')    # 正文    body = soup.find_all(class_="x-wiki-content")[0]    # 标题    title = soup.find('h4').get_text()    # 标题加入到正文的最前面，居中显示    center_tag = soup.new_tag("center")    title_tag = soup.new_tag('h1')    title_tag.string = title    center_tag.insert(1, title_tag)    body.insert(1, center_tag)    html = str(body)    # body中的img标签的src相对路径的改成绝对路径    pattern = "(

文章推荐

Python实现抓取HTML网页并以PDF文件形式保存的方法

python 删除非空文件夹的实例

Python实现去除列表中重复元素的方法

详谈Python3 操作系统与路径 模块(os / os.path / pathlib)

Python3.遍历某文件夹提取特定文件名的实例

Python实现删除时保留特定文件夹和文件的示例

详谈Python3 操作系统与路径模块(os / os.path / pathlib)