如何解决在 DL4J 中使用 RNN 预测下一个单词 - “标签”应该是什么？
我正在尝试创建一个 RNN，根据前一个单词预测下一个单词。但我正在努力将其建模为数据集，特别是如何将要预测的下一个单词指示为“标签”。
我可以为词汇表中的每个单词使用热标签编码向量，但是 a) 它会有数万个维度，因为词汇量很大，b) 我会丢失单词中包含的所有其他信息向量。也许这些信息在计算错误时会很有用，即预测与实际单词的偏差程度。
我该怎么办？我应该只使用一个热编码向量吗？
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。
