如何解决使用 wget 和多处理下载更多文件
我是 Python 新手。我正在尝试使用 wget 和 multiprocessing 同时下载更多文件。
我的问题是有时python进程下载所有图像,但有时它只下载其中的一部分。换句话说,运行相同的过程,我下载了不同数量的图像。有什么想法吗?
先谢谢你!
from multiprocessing import Pool
import wget
def download(args):
url,spath = args[0],args[1]
wget.download(url,out=spath)
urls = [('example.com/example/001.jpg','/home/example/example/0001.jpg'),('example.com/example/002.jpg','/home/example/example/0002.jpg'),('example.com/example/003.jpg','/home/example/example/0003.jpg'),....
('example.com/example/027.jpg','/home/example/example/0027.jpg'),('example.com/example/028.jpg','/home/example/example/0028.jpg'),('example.com/example/029.jpg','/home/example/example/0029.jpg'),('example.com/example/030.jpg','/home/example/example/0030.jpg')]
if __name__ == "__main__":
pool = Pool()
pool.map_async(download,urls)
pool.close()
pool.join()
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。