Skip to main content
 首页 » 编程设计

python之Pyspark rdd : 'RDD' object has no attribute 'flatmap'

2024年09月03日35xiaohuochai

我是 Pyspark 的新手,实际上我正在尝试从 Pyspark RDD 对象构建平面图。但是,即使 pyspark RDD 类明确存在此函数,根据文档,我也无法使用它并收到以下错误:

AttributeError: 'RDD' object has no attribute 'flatmap' 

我在下面一行调用后一个函数:

my_rdd = my_rdd.flatmap(lambda r: (r[5].split('|'))) 

导入如下:

from pyspark.sql import * 
from pyspark.sql.functions import * 
from pyspark.sql import SparkSession 
from pyspark import SparkContext as sc 
from pyspark import SparkFiles 
spark = SparkSession.builder.getOrCreate() 

此外,一些其他函数,如 my_rdd.count 正在运行,这让我认为 SparkContext 已正确实现。

您对它可能失败的原因有什么想法吗?

请您参考如下方法:

my_rdd = my_rdd.flatMap(lambda r: (r[5].split('|'))) 

大写!!!