微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

如何可视化 TensorRT 网络图?

如何解决如何可视化 TensorRT 网络图?

我们当前的流程:tf2->onnx->TensorRT 的对话(所有16328 位选项)

是否有像 https://github.com/lutzroeder/netron 这样的现有工具(或任何其他方式)来查看 TensorRT输出模型?

谢谢!

解决方法

目标是从onnx/TensorRT压缩后可视化吗?或者只是为了一般的形象化?您始终可以只使用 keras tool

我相信基于此 youtube video,您也可以将 TensorRT 模型与 netron 一起使用。

,

没有办法做到这一点,因为 TensorRT 模型(引擎)针对某些硬件(特定的 NVIDIA GPU 架构)进行了优化。它已经“编译”了(类似于 coreML mlmodel 被编译为 mlmodelc,因为 TensorFlow(或 TFLite)模型不是为特定硬件“编译”的。

来自 NVIDIA 论坛:https://forums.developer.nvidia.com/t/visualizing-tensorrt-engine/69032

我想您是在要求类似于 tensorboard 或 netron 的东西?不幸的是,我不知道 TRT 的方法。

来自 Netron (lutzroeder) 的创造者:

除非记录了这种格式,否则不确定这里可以做很多事情。 Netron 有一个仅限浏览器的版本,因此即使存在用于支持非推理场景的 Python 或 C++ API,它也无济于事。


当然,您仍然可以在创建 TensorRT 模型之前将 ONNX 模型可视化。 TensorRT 只需要一个优化的模型,所以我不希望它有所不同。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。