微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

python – Tensorflow:Word2vec CBOW模型

我是tensorflow和word2vec的新手.我刚研究了使用Skip-Gram算法训练模型的word2vec_basic.py.现在我想用CBOW算法训练.如果我简单地反转train_inputs和train_labels,这是否可以实现?

解决方法:

我认为CBOW模型不能简单地通过在Skip-gram中翻转train_inputs和train_labels来实现,因为CBOW模型体系结构使用周围单词的向量之和作为分类器预测的单个实例.例如,你应该一起使用[the,brown]来快速预测而不是使用快速预测.

enter image description here

要实现CBOW,您必须编写一个新的generate_batch生成函数,并在应用逻辑回归之前总结周围单词的向量.我写了一个例子,你可以参考:https://github.com/wangz10/tensorflow-playground/blob/master/word2vec.py#L105

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐