Scrapy crawlera 身份验证问题

如何解决Scrapy crawlera 身份验证问题

我一直在尝试使用scrapy-crawlera 作为代理来使用scrapy 抓取一些数据。我在 settings.py 中添加了这些行：

DOWNLOADER_MIDDLEWARES = { 'scrapy_crawlera.CrawleraMiddleware': 610,} 
CRAWLERA_ENABLED = True 
CRAWLERA_APIKEY = 'MY_CRAWLERA_API_KEY'

在新更改的 scrapinghub 网站 app.zyte.com 中，我创建了一个智能代理管理器帐户，我的 api 密钥来自我的帐户设置。

我收到此警告 WARNING: retrying crawlera request for authentication issue 并且网站没有被抓取。

我做错了什么吗？

解决方法

这似乎是一个显而易见的答案，但我遇到了这个问题，并通过确保我使用的 API 密钥正确来解决它。就我而言，Zyte 发给我的第一个 API 密钥没有激活。我回到我的帐户控制台并在那里复制 API 密钥（它是不同的）。

因此，请确保您使用的是正确的密钥或尝试在控制台中创建一个新密钥。