如何解决将流水线 RDD 转换为 Spark 数据帧
从这里开始:
items.take(2)
[['home','alone','apparently'],['st','louis','plant','close','die','old','age','workers','making','cars','since','onset','mass','automotive','production','1920s']]
type(items)
pyspark.rdd.PipelinedRDD
我想将其转换为 Spark 数据框,每个单词列表都有一列和一行。
解决方法
您可以使用 toDF
创建一个数据框,但请记住先将每个列表包装在一个列表中,以便 Spark 可以理解您每行只有一列。
df = items.map(lambda x: [x]).toDF(['words'])
df.show(truncate=False)
+------------------------------------------------------------------------------------------------------------------+
|words |
+------------------------------------------------------------------------------------------------------------------+
|[home,alone,apparently] |
|[st,louis,plant,close,die,old,age,workers,making,cars,since,onset,mass,automotive,production,1920s]|
+------------------------------------------------------------------------------------------------------------------+
df.printSchema()
root
|-- words: array (nullable = true)
| |-- element: string (containsNull = true)
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。