如何解决在 Elasticsearch Kuromoji 分词器中努力理解用户字典格式
我想为日语使用 Elasticsearch kuromoji 插件。但是,我很难理解分词器中文件的 user_dictionary 格式。它在弹性文档 https://www.elastic.co/guide/en/elasticsearch/plugins/current/analysis-kuromoji-tokenizer.html 中解释为以下形式的 CSV:
kuromoji 分词器默认使用 MeCab-IPADIC 字典。可以将 user_dictionary 附加到默认字典。字典应采用以下 CSV 格式:
<text>,<token 1> ... <token n>,<reading 1> ... <reading n>,<part-of-speech tag>
所以文档中没有太多相关内容。
查看文档显示的示例条目时,它可能如下所示:
東京スカイツリー,東京 スカイツリー,トウキョウ スカイツリー,カスタム名詞
所以,分解一下,第一个元素是字典文本:
-
東京スカイツリー
- 东京晴空塔 -
東京 スカイツリー
- 是东京天空树 - 我假设这里的空间是表示标记,但想知道为什么只有“东京”是一个单独的标记,而天空树没有拆分为“天空”“树”? -
トウキョウ スカイツリー
- 然后我们有一个阅读表格。再说一遍,“东京”“天空树”——再说一遍,为什么它会这样分裂。我可以在这个栏目中指定一种以上文本的阅读形式吗(当然如果有的话) - 最后是词性,这是我不明白的一点。
カスタム名詞
表示“自定义名词”。我假设我可以定义词性,例如动词,名词等。但是规则是什么,应该遵循词性名称的某种格式。我看到了将其指定为“名词” -名詞
的示例。但在这个例子中是自定义名词。
任何人都有一些想法,材料,尤其是围绕词性领域的材料 - 例如可用值是什么。此外,该字段对整体标记器功能有什么影响?
谢谢
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。