如何在训练过程中手动更新参数而不干扰Pytorch中的自动分级?

如何解决如何在训练过程中手动更新参数而不干扰Pytorch中的自动分级?

这是我的代码

class model(torch.nn.Module):
    def __init__(self,config):
        super(model,self).__init__()
        self.memory_matrix = torch.zeros((user_num,self.k,self.embedding_dim),device=self.device,requires_grad=False)

    def forward(self,users,items):
        for clicks in items:
            # ...
            self.memory_matrix[users] = self.memory_matrix[users] * (1 - z.unsqueeze(2) @ erase.unsqueeze(1)) \
                                    + z.unsqueeze(2) @ add.unsqueeze(1)
            a = a * self.memory_matrix

该模型与推荐系统有关,并且为每个用户维护一个存储矩阵。我向模型提供用户历史记录点击,即包含用户交互项的序列。在处理用户的历史点击时,应根据当前点击更新存储矩阵。为此,我在__init__函数中将存储矩阵初始化为张量,并在训练期间更新该存储矩阵。完成对整个历史记录单击的处理后,backward函数将更新模型的参数。这就是问题所在,语句a = a * self.memory_matrix显示a的斜率取决于当时的存储矩阵,这意味着a的斜率取决于存储矩阵的旧版本(例如,当循环执行一次时的存储矩阵),而不是存储矩阵的最终版本。这是因为在后续训练期间会更新内存矩阵。结果,autograd无法工作,因为它不存储旧版本的内存矩阵。

记忆矩阵始终是手工更新的,不需要计算梯度。

我发现tensorflow中的scatter_update可以做到这一点,如何在Pytorch中实现呢?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其他元素将获得点击?
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。)
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbcDriver发生异常。为什么?
这是用Java进行XML解析的最佳库。
Java的PriorityQueue的内置迭代器不会以任何特定顺序遍历数据结构。为什么?
如何在Java中聆听按键时移动图像。
Java“Program to an interface”。这是什么意思?
Java在半透明框架/面板/组件上重新绘画。
Java“ Class.forName()”和“ Class.forName()。newInstance()”之间有什么区别?
在此环境中不提供编译器。也许是在JRE而不是JDK上运行?
Java用相同的方法在一个类中实现两个接口。哪种接口方法被覆盖?
Java 什么是Runtime.getRuntime()。totalMemory()和freeMemory()?
java.library.path中的java.lang.UnsatisfiedLinkError否*****。dll
JavaFX“位置是必需的。” 即使在同一包装中
Java 导入两个具有相同名称的类。怎么处理?
Java 是否应该在HttpServletResponse.getOutputStream()/。getWriter()上调用.close()?
Java RegEx元字符(。)和普通点?