微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Flink Socket WordCount常见异常及解决方案

一.代码实现 

package cn.socket

import org.apache.flink.streaming.api.scala._ // 数据类型异常,动态数据引入
// import org.apache.flink.api.scala._ // 数据类型异常,静态数据引入

/**
  * Created by Administrator on 2020/3/22.
  */

object SocketwindowWordCount {
  def main(args: Array[String]) : Unit = {

    // 指定的IP和接口
    val hostname: String = "192.168.136.7"
    val port: Int = 9001

    // 获取流处理环境
    val env: StreamExecutionEnvironment = StreamExecutionEnvironment.getExecutionEnvironment

    // 获取socket计算数据
    val text: DataStream[String] = env.socketTextStream(hostname, port, '\n')

    text.print()
    // wordcount
    val windowCounts = text
      .flatMap { w => w.split("\\s") }
      .map(w => (w, 1))
      .keyBy(_._1)
      .sum(1)

    // 设置并行度,打印
    windowCounts.print().setParallelism(1)

    // 执行
    env.execute("Socket Window WordCount")
  }
}

二.常见异常

Error:(15, 16) Could not find implicit value for evidence parameter of type org.apache.flink.api.common.typeinfo.Typeinformation[String]
      .flatMap { w => w.split("\\s") }
               ^
Error:(15, 16) not enough arguments for method flatMap: (implicit evidence$11: org.apache.flink.api.common.typeinfo.Typeinformation[String])
org.apache.flink.streaming.api.scala.DataStream[String]. Unspecified value parameter evidence$11. .flatMap { w => w.split("\\s") } ^

  如图:

  

  原因分析:

    在flink中的大部分算子中,并没有认的隐式类型参数的定义,我们在使用时也没有显式地指定类型,因此会报类型异常。

三.解决方

import org.apache.flink.streaming.api.scala._ // 数据类型异常,动态数据引入
import org.apache.flink.api.scala._ // 数据类型异常,静态数据引入

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐