微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

使用 Nutch 进行爬网,但它给许多文件的内容大小为 0

如何解决使用 Nutch 进行爬网,但它给许多文件的内容大小为 0

我正在使用 Apache Nutch 抓取网页。当我查看数据时,我有点惊讶。我正在寻找很多文件内容大小为 0。当我将 URL 附加到该内容文件时,我将获得具有相同 URL 的网页。但是,为什么 Nutch 不为我抓取该网页数据?它只是给出一个文件。因为,因此我丢失了大量数据,Nutch 也无法抓取 URL。因此,进一步任何依赖于该页面页面都被重命名为未抓取。有什么办法可以解决这个问题。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。