如何解决如何可视化 TensorRT 网络图?
我们当前的流程:tf2
->onnx
->TensorRT
的对话(所有16
和 32
和 8
位选项)
是否有像 https://github.com/lutzroeder/netron 这样的现有工具(或任何其他方式)来查看 TensorRT
的输出模型?
谢谢!
解决方法
目标是从onnx/TensorRT压缩后可视化吗?或者只是为了一般的形象化?您始终可以只使用 keras tool。
我相信基于此 youtube video,您也可以将 TensorRT 模型与 netron 一起使用。
,没有办法做到这一点,因为 TensorRT 模型(引擎)针对某些硬件(特定的 NVIDIA GPU 架构)进行了优化。它已经“编译”了(类似于 coreML mlmodel
被编译为 mlmodelc
,因为 TensorFlow(或 TFLite)模型不是为特定硬件“编译”的。
来自 NVIDIA 论坛:https://forums.developer.nvidia.com/t/visualizing-tensorrt-engine/69032
我想您是在要求类似于 tensorboard 或 netron 的东西?不幸的是,我不知道 TRT 的方法。
来自 Netron (lutzroeder) 的创造者:
除非记录了这种格式,否则不确定这里可以做很多事情。 Netron 有一个仅限浏览器的版本,因此即使存在用于支持非推理场景的 Python 或 C++ API,它也无济于事。
当然,您仍然可以在创建 TensorRT 模型之前将 ONNX 模型可视化。 TensorRT 只需要一个优化的模型,所以我不希望它有所不同。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。