Skip to main content
 首页 » 编程设计

python之将 numpy 矩阵转换为 pyspark rdd

2024年08月23日33落叶

我有一个二维 numpy 数组。如何从矩阵中的每一行都是 rdd 中的一个条目创建 pyspark rdd?

这样:

rddData.take(1)[0] == list(aaData[0]) 

aaData 是 numpy 二维数组(矩阵),rddData 是从 aaData 创建的 rdd?

请您参考如下方法:

只是并行化它:

mat = np.arange(100).reshape(10, -1) 
rdd = sc.parallelize(mat) 
 
np.all(rdd.first() == mat[0]) 
## True