Skip to main content
 首页 » 编程设计

python之无法使用 PySpark pickle listreverseiterator 对象

2025年04月02日36mengfanrong

我是 python 的新手。以下代码存在一些序列化问题:

from pyspark.mllib.stat import Statistics 
import random 
data = sc.parallelize([range(100),range(100),random.sample(range(100),100),reversed(range(100))]) 
print(Statistics.corr(data)) 

我得到:

TypeError: can't pickle listreverseiterator objects

所以“反转”似乎创建了一个不可序列化的对象 - 知道如何处理这个吗?

非常感谢!

请您参考如下方法:

替换:

reversed(range(100)) 

与

list(reversed(range(100)))