如何解决如何在 Python 中对 LSTM 神经网络进行模型不可知？
我在我的数据集上使用了 LSTM 神经网络（Keras 包），并希望使用模型不可知方法来找出变量对我的预测的影响。 数据集是一个具有三个维度的数组。我有多个 ID，每个 ID 都有自己的序列，每个 ID 都有不同的时间步长。我的数据集的形状如下所示：(18610,151,18) (ID's,time-steps,variables) 一个时间步长中一个 ID 的变量输出如下所示（预测类别为 1）：>
[2.00000000e+00 0.00000000e+00 2.10544316e-03 1.56082309e-03
0.00000000e+00 1.01647775e-01 0.00000000e+00 4.28571559e-01
6.95422174e-01 8.52459016e-01 1.20027614e-01 1.00000000e+00
0.00000000e+00 0.00000000e+00 0.00000000e+00 0.00000000e+00
0.00000000e+00 1.00000000e+00] 1
所有模型不可知方法（据我所知）都不适用于这些具有三个维度的数组数据集。有没有办法仍然找到变量的影响（使用 Lime、部分依赖图或 Shapley？）以便我可以解释模型？我更喜欢使用部分依赖图来查看全局解释。
有谁知道怎么做（使用示例代码）？在此先感谢您！
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。
