我是 Pyspark 的新手,实际上我正在尝试从 Pyspark RDD 对象构建平面图。但是,即使 pyspark RDD 类明确存在此函数,根据文档,我也无法使用它并收到以下错误:
AttributeError: 'RDD' object has no attribute 'flatmap'
我在下面一行调用后一个函数:
my_rdd = my_rdd.flatmap(lambda r: (r[5].split('|')))
导入如下:
from pyspark.sql import *
from pyspark.sql.functions import *
from pyspark.sql import SparkSession
from pyspark import SparkContext as sc
from pyspark import SparkFiles
spark = SparkSession.builder.getOrCreate()
此外,一些其他函数,如 my_rdd.count 正在运行,这让我认为 SparkContext 已正确实现。
您对它可能失败的原因有什么想法吗?
请您参考如下方法:
my_rdd = my_rdd.flatMap(lambda r: (r[5].split('|')))
大写!!!
