如何解决带有for循环的AttentionBlock导出大图? 问题备注
有没有办法处理包含循环的注意力解码器块?实现在此 Colab Link
问题
我希望导出一个包含解码循环的注意块。 由于此 issue,LSTMCell 似乎无法导出到 ONNX。因此,我通过采用单个时间步进行推理来使用 LSTM 工作,例如 LSTMCell。我该如何处理这种模型?这是pytorch中onnx导出功能的问题吗?
如果我使用 use_external_data_format=True 选项导出,它不会保存到单个文件,而是保存到许多分离的文件中。
我在 ONNX github issue 中打开了一个问题并在 stackoverflow 中询问,因为我不确定这是错误/功能问题还是问题。
备注
似乎以下导出非常大图的实现无法导出到 ONNX 并显示以下错误。
RuntimeError: Exporting model exceed maximum protobuf size of 2GB. Please call torch.onnx.export with use_external_data_format=True.
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。