微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Azcopy进行数据移动的最佳选择吗?

如何解决Azcopy进行数据移动的最佳选择吗?

我有100 TB的数据要从S3转移到Blob存储。有没有最佳的Azcopy替代品?因为Azcopy使用高带宽并具有高cpu使用率。我不想使用它。在Azcopy v10中,应用所需的参数后仍会出现这些问题。有人可以在这方面帮助我吗,我在它上进行过研发,但没有找到其他选择。

解决方法

我同意@S RATH。

对于大数据移动,Data Factory是Azcopy的最佳选择。它具有更好的复印性能: enter image description here

Data Factory支持将Amazon S3和Blob存储作为连接器。

在“复制”处于活动状态时,您可以创建Amazon S3作为源数据集,并创建Blob存储作为接收器数据集。

请参阅以下教程:

  1. Copy data from Amazon Simple Storage Service by using Azure Data Factory:本文概述了如何从Amazon Simple Storage Service(Amazon S3)复制数据。要了解Azure数据工厂,请阅读介绍性文章。
  2. Copy and transform data in Azure Blob storage by using Azure Data Factory:本文概述了如何使用Azure Data Factory中的“复制”活动在Azure Blob存储之间复制数据。它还描述了如何使用“数据流”活动来转换Azure Blob存储中的数据。要了解Azure数据工厂,请阅读介绍性文章。

数据工厂还提供了许多改善数据复制性能的方法,请参考:Copy activity performance and scalability guide

我认为,这将帮助您节省很多时间,时间就是金钱。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。