PHP前端开发

Python爬虫之lxml-etree和xpath的结合使用(附案例)

百变鹏仔 2小时前 #Python
文章标签 爬虫

本篇文章给大家介绍的是python爬虫之lxml-etree和xpath的结合使用(附案例),内容很详细,希望可以帮助到大家。

lxml:python 的HTML/XML的解析器

官网文档:https://lxml.de/

使用前,需要安装安 lxml 包

功能:

立即学习“Python免费学习笔记(深入)”;

1.解析HTML:使用 etree.HTML(text) 将字符串格式的 html 片段解析成 html 文档

2.读取xml文件

3.etree和XPath 配合使用

lxml 的安装

【PyCharm】>【file】>【settings】>【Project Interpreter】>【+】 >【lxml】>【install】

具体操作截图:

lxml-etree 的使用

  • 案例v25文件:https://xpwi.github.io/py/py%E7%88%AC%E8%99%AB/py25etree.py

  • 用 lxml 来解析HTML代码

# 先安装lxml# 用 lxml 来解析HTML代码from lxml import etreetext = '''<p>    </p>
     '''# 利用 etree.HTML 把字符串解析成 HTML 文件html = etree.HTML(text)s = etree.tostring(html).decode()print(s)

运行结果

lxml-etree 的使用

  • 案例v26etree2文件:https://xpwi.github.io/py/py%E7%88%AC%E8%99%AB/py26etree2.py

  • 读取xml文件:

# lxml-etree读取文件from lxml import etreexml = etree.parse("./py24.xml")sxml = etree.tostring(xml, pretty_print=True)print(sxml)

运行结果

etree和XPath 配合使用

  • 案例v26expath.文件:https://xpwi.github.io/py/py%E7%88%AC%E8%99%AB/py26expath.py

  • etree和XPath 配合使用:

# lxml-etree读取文件from lxml import etreexml = etree.parse("./py24.xml")print(type(xml))# 查找所有 book 节点rst = xml.xpath('//book')print(type(rst))print(rst)# 查找带有 category 属性值为 sport 的元素rst2 = xml.xpath('//book[@category="sport"]')print(type(rst2))print(rst2)# 查找带有category属性值为sport的元素的book元素下到的year元素rst3 = xml.xpath('//book[@category="sport"]/year')rst3 = rst3[0]print('-------------',type(rst3))print(rst3.tag)print(rst3.text)

运行结果

etree和XPath 配合使用结果