一、词嵌入
(1)NNLM（Neural Network Language Model）
paper:http://www.jmlr.org/papers/volume3/bengio03a/bengio03a.pdf
code:https://github.com/graykode/nlp-tutorial/tree/master/1-1.NNLM
Bengio等人在2001年提出的NNLM是最经典的语言模型，属于n-gram，对每个token采用低维向量表示（摈弃one-hot，因为其元素之间正交，且会维度爆炸），算法的流程如上，实现：
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
