PHP前端开发

Python爬取豆瓣电影数据并且提取值xpath和lxml模块(代码)

百变鹏仔 19小时前 #Python
文章标签 豆瓣

本篇文章给大家带来的内容是关于python爬取豆瓣电影数据并且提取值xpath和lxml模块(代码),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。

工具:Python 3.6.5、PyCharm开发工具、Windows 10 操作系统、谷歌浏览器

目的:爬取豆瓣电影排行榜中电影的title、链接地址、图片、评价人数、评分等

网址:https://movie.douban.com/chart

语法要点:

立即学习“Python免费学习笔记(深入)”;

xpath语法:

谷歌浏览器安装 xpath helper插件:帮助我们从elements中定位数据

1、选择节点(标签)

(1)、/html/head/meta:能够选中html下的所有的meta标签

(2)、//li:当前页面上的所有的li标签

(3)、/html/head//link:head下的所有link标签

2、//:能够从任意节点开始选择

(1)、//li:当前页面上的所有的li标签

(2)、/html/head//link:head下的所有的link标签

3、@符号的用途

(1)、选择具体某个元素://p[@class='feed']/ul/li,选择class='feed'的p下的ul下的li

(2)、a/@href:选择a的href的值

4、获取文本

(1)、/a/text():获取a下的文本

(2)、/a//text():获取a下的所有文本

示例

lxml语法:

1、安装:pip install lxml

2、使用

from lxml import etree

element = etree.HTML("html字符串")

element.xpath("")

代码:

from lxml import etreeimport requestsurl = "https://movie.douban.com/chart"headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 Safari/537.36"}response = requests.get(url,headers=headers)html_str = response.content.decode()#print(html_str)html = etree.HTML(html_str)print(html)#1.获取所有的电影的URL地址#url_list = html.xpath("//div[@class='indent']/div/table//div[@class='pl2']/a/@href")#print(url_list)#2.所有图片的地址#img_list = html.xpath("//div[@class='indent']/div/table//a[@class='nbg']/img/@src")#print(img_list)ret1 = html.xpath("//div[@class='indent']/div/table")print(ret1)for table in ret1:    item = {}    item["title"] = table.xpath(".//div[@class='pl2']/a/text()")[0].replace("/","").strip()    item["href"] = table.xpath(".//div[@class='pl2']/a/@href")[0]    item["img"] = table.xpath(".//a[@class='nbg']/img/@src")[0]    item["comment_num"] = table.xpath(".//span[@class='pl']/text()")[0]    item["rating_num"] = table.xpath(".//span[@class='rating_nums']/text()")[0]    print(item)

运行效果: