如何解决如何为张量流模型的特定层打印梯度值?
我正在 TensorFlow 2.3 中训练模型
我想查看模型不同层的梯度值。
我知道如何访问模型的层。
with tf.GradientTape() as tape:
lstm = model(song_emb_inp=song_emb_id_x_batch,time_bucket_emb_inp=time_bucket_emb_id_x_batch,training=True)
loss = compute_loss(model,song_emb_id_y_batch,lstm)
grads = tape.gradient(loss,model.trainable_variables)
for var,g in zip(model.trainable_variables,grads):
print(f'{var.name},shape: {g.shape}')
它给出了以下输出-
如何打印所有这些可训练层的梯度值?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。