如何在 Android Studio 中使用 onnxruntime 和 .ort 模型

如何解决如何在 Android Studio 中使用 onnxruntime 和 .ort 模型

我正在尝试创建一个包含机器学习模型的 Android 应用。 我有一个 onnx 模型，以及一个 Python 脚本文件、两个带有标签名称的 json 文件，以及一些用于 mel 谱图计算的 numpy 数据。

我试着和onnxruntime一起去，然后跟着these instructions. 所以现在我已经从 onnx 模型和“支持 nnapi 的 Android 最小构建”创建了 model.ort 文件，所以我有了 Build onnxruntime pkg。

由于我对此完全陌生，我该如何继续？ 我如何“在设备上推理”？

此外，我是否必须将运行模型的 Python 脚本转换为 Java？ 谢谢！

解决方法

为了在 Android 应用程序中使用 onnxruntime，您需要构建一个 onnxruntime AAR(Android Archive) package。这个AAR包可以直接导入android studio，你可以在上面的链接中找到关于如何从源代码构建AAR包的说明。

我们现在有一个 end-to-end example，它是一个使用 MobileNetV2.ort 的示例 ORT 移动图像分类应用程序。在这个例子中，提供了一个构建的 AAR 包。您可以下载示例 android 应用程序，将 onnxruntime aar 包导入 android studio 并在您的 android 设备上尝试以了解推理的工作原理。