我有一个二维 numpy 数组。如何从矩阵中的每一行都是 rdd 中的一个条目创建 pyspark rdd?
这样:
rddData.take(1)[0] == list(aaData[0])
aaData 是 numpy 二维数组(矩阵),rddData 是从 aaData 创建的 rdd?
请您参考如下方法:
只是并行化它:
mat = np.arange(100).reshape(10, -1)
rdd = sc.parallelize(mat)
np.all(rdd.first() == mat[0])
## True
