Cccc杨

导航

2021年3月11日 #

spark中的文件读取与存储

摘要: 一、saveAsTextFile(path:String) 把RDD保存到hdfs中。 二、reparation(numPartitions:Int) 可以增加或减少此RDD的并行级别 在内部 它使用shuffle重新分发数据。 //首先查看这个RDD有多少分区 scala> allscores.p 阅读全文

posted @ 2021-03-11 16:50 Cccc杨 阅读(170) 评论(0) 推荐(0) 编辑