PHP前端开发

为什么用 Python 获取的网址带有括号和单引号?

百变鹏仔 5天前 #Python
文章标签 括号

我用 python 获取的网址为何带有括号和单引号?

在编写爬虫程序时,你可能会遇到获取的网址中包含括号和单引号的情况,这可能会给后续处理带来不便。下面我们将探讨导致这种情况的原因并提供解决方案:

原因:

你使用的解析工具(如 beautifulsoup)在解析 html 时,会将原始的 html 字符串转换为 python 对象。html 中的某些特殊字符,如 、& 和 ', 在 python 中具有特殊的含义,因此在解析时需要进行转义。

立即学习“Python免费学习笔记(深入)”;

默认情况下,beautifulsoup 使用 html5 的解析器,它会将这些特殊字符转义成对应的 html 实体,如 表示 >、& 表示 & 和 ' 表示 '. 这些转义对于避免在 python 中产生语法错误很重要。

解决方案:

要获取不带括号和单引号的网址,你可以执行以下操作:

修改后的代码示例如下:

import requestsfrom lxml import etreeurl = 'http://www.prnasia.com/m/mediafeed/rss?id=2303&t=240'headers = {    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.66 Safari/537.36'}res = requests.get(url, headers=headers)res_dome = etree.HTML(res.text)for link in res_dome.xpath('//h3/a/@href'):    print(link)  # 无括号和单引号的网址