微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

BERT 用于词法替换

如何解决BERT 用于词法替换

我一直在尝试让 BERT 生成语义上接近目标词的候选词法。 我使用的一种选择是连接原始句子而不像作者在 paper 中所做的那样进行屏蔽。 + 并且我正在将“(或什至 [MASK])”连接到目标词的下一个

然后,this paper 表示您可以使用嵌入删除生成词法替换候选。有人能解释一下这篇论文中“部分被嵌入 dropout 掩盖”是什么意思吗?

如何通过在代码中使用嵌入 dropout 对目标词应用部分掩码?

干杯

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。