微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

使用 'requests.get()' 时,html 小于实际 html

如何解决使用 'requests.get()' 时,html 小于实际 html

enter image description here

enter image description here

第一张图是python引入的网站html,第二张图是网站按F12查看的实际html。我不知道为什么这两个结果不同。其他网站正常显示html,但不知道为什么只有那个网站显示不正常。

代码如下:

import requests
from bs4 import BeautifulSoup


result = requests.get('https://www.overbuff.com/heroes')

soup = BeautifulSoup(result.text,"html.parser")

print(soup)

解决方法

您可能被页面屏蔽了,应该尝试使用一些headers,例如:

headers = {"user-agent": "Mozilla/5.0"}    
r = requests.get(url,headers=headers)

示例

import requests
from bs4 import BeautifulSoup
url = "https://www.overbuff.com/heroes"
headers = {"user-agent": "Mozilla/5.0"}

r = requests.get(url,headers=headers)

soup = BeautifulSoup(r.text,"html.parser")

print(soup)

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。