我是 Python 的新手。我安装了带有 PySpark 内核 (Spark 2.2.0) 的 Anaconda3 – 4.4.0。
我正在尝试在我的 Windows 7 操作系统上使用一个简单的文本文件来测试一个简单的脚本,以确保我的 Python 安装的某些功能正常工作。
这是我的脚本:
word_counts = ('C:\\Users\\oakins1p\\WeeklyMeeting.txt') \
.flatMap(lambda line: line.split()) \
.map(lambda word: (word, 1)) \
.reduceByKey(lambda a, b: a + b)\
.saveAsTextFile('C:\\Users\\oakins1p\\WeeklyMeetingOutput.txt')\`
我不断收到 AttributeError: 'str' object has no attribute 'flatMap' 并且我不确定如何解决这个问题。
请您参考如下方法:
word_counts 是一个字符串,不能简单地对其调用 flatMap()。
首先尝试使用 textFile() 读取文件,如下所示:
from pyspark import SparkContext
sc = SparkContext.getOrCreate()
word_counts = sc.textFile(filepath).flatMap()...
受此启发example .
