微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

文本挖掘的大致理解

文本挖掘的基本过程:

1.文本分析

主要就是对文本进行分词处理(去标点,去停用词,词干处理),找出有含义的最小单位--词。

实例: 

提高全体居民的生产生活水平

(1)提高 高全 全体体居 居民 名的 的生 生产 产生 生活 活水 水平

(2)提高 全体居民 的 生产 生活 水平

(3)提高 全体 居民 的 生产 生活 水平

......

哪种是最好的分割呢?不同的方法会产生不同的结果。

基本方法:最大匹配法、最大概率法分词、最短路径分词方法隐马尔可夫模型方法

2.文档模型及特征提取

文档模型其实就是选择一种计算框架,有三种常用模型:布尔模型、向量空间模型、概率模型。

怎样表示一篇文档,涉及到特征提取:特征词及其权重关键词摘要特定信息抽取。

tf:term frequency 词频

idf:inverse document frequency 逆文档频率

3.挖掘

文档特征化后,基于不同的目的,考虑在计算机的世界里完成以下任务:

检索 分类 过滤聚类 TDT

当然,有时候维度过大,需要考虑降维或者维度重构,所有这些基于数理统计中的矩阵分解(PCA ICA)。

4.结果评价

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐