微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

优化器的雅可比计算

如何解决优化器的雅可比计算

我在 tensorflow 中实现了一个扩展的卡尔曼滤波器优化器。我必须根据模型生成的预测计算雅可比而不是梯度。该模型正在生成一个热图,其中包含从不同视角检测到的对象,并将其放置在单个热图上。 我正在为渐变胶带使用以下循环:

image,label = inputs
with tf.GradientTape(persistent=True) as tape:
      predictions = self(image)
      loss = self.compiled_loss(label,predictions,regularization_losses=self.losses)
    
Hs = tape.jacobian(predictions,self.trainable_variables)

雅可比计算花费了太多时间。我的输出即预测大小是 177x152(热图图像)。我知道它正在创建一个 26907 个元素的矩阵。但是磁带不应该帮助雅可比更快地计算吗?我对 jacobian 的实现是错误的吗?或者这仅仅是计算二阶导数的缺点?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。