使用scala计算单词之间的余弦相似度

如何解决使用scala计算单词之间的余弦相似度

我有一个包含 UserId、MovieId 和标签的文件。我想计算标签之间的余弦相似度，但标签不仅是单词，还有短语或句子。所以计算单词之间的相似度是不准确的。我想计算标签中这些句子或短语之间的相似度。

数据样本

UserId	MovieId	标签
109367	45571	“喜剧与动作”
88312	8432	“无声喜剧”
3844	4565	“神奇的喜剧！”
6433	7677	“喜剧错误”
279	5434	“浪漫喜剧”

我正在尝试找出标签中每一行之间的余弦相似度。

代码：

val lines = scala.io.source.fromFile("file:///usr/local/spark/dataset/algorithm3/comedy").getLines.mkString
    val lines2=scala.io.source.fromFile("file:///usr/local/spark/dataset/algorithm3/funny").getLines().mkString("\n")
  import java.nio.file.Files
import java.nio.file.Paths

   val result=textCosine(lines,lines2)
         println("The cosine similarity score: "+result)
  }
 
  /**
         * Modular length of the vector
    * @param vec
    */
  def module(vec:Vector[Double]): Double ={
   // math.sqrt( vec.map(x=>x*x).sum )
    math.sqrt(vec.map(math.pow(_,2)).sum)
  }
 
  /**
         * Find the inner product of two vectors
    * @param v1
    * @param v2
    */
  def innerProduct(v1:Vector[Double],v2:Vector[Double]): Double ={
    val listBuffer=ListBuffer[Double]()
    for(i<- 0 until v1.length; j<- 0 until v2.length;if i==j){
      if(i==j){
        listBuffer.append( v1(i)*v2(j) )
      }
    }
    listBuffer.sum
  }
 
  /**
         * Find the cosine of two vectors
    * @param v1
    * @param v2
    */
  def cosvec(v1:Vector[Double],v2:Vector[Double]):Double ={
    val cos=innerProduct(v1,v2) / (module(v1)* module(v2))
    if (cos <= 1) cos else 1.0
  }
 
  def textCosine(lines:String,lines2:String):Double={
         val set=mutable.Set[Char]() //Count all words in two sentences
    lines.foreach(set +=_)
    lines2.foreach(set +=_)
    println(set)
    val ints1: Vector[Double] = set.toList.sorted.map(ch => {
      lines.count(s => s == ch).todouble
    }).toVector
    println("===ints1: "+ints1)
    val ints2: Vector[Double] = set.toList.sorted.map(ch => {
      lines2.count(s => s == ch).todouble
    }).toVector
    println("===ints2: "+ints2)
    cosvec(ints1,ints2)
  }
  
}

我想要这样的输出

标签	相似性
"喜剧和动作	0.534
"喜剧错误"	0.435
“奇幻喜剧”	0.325
"无声喜剧	0.466

如何在 Scala 中实现？