我遇到了 spark-submit 的问题,抛出的错误不是 Jupyter 命令,即 pyspark 启动了一个 web ui 而不是 pyspark shell
背景信息:
- 在 MAC 上使用 brew 安装了 Scala 和 Spark
- 已安装 Conda Python 3.5
- Spark 命令适用于 Jupyter Notebook
- 终端上的“pyspark”启动 notebook 而不是 shell
非常感谢任何帮助。
请您参考如下方法:
PYSPARK_DRIVER_PYTHON 变量设置为自动启动 ipython/jupyter(可能是预期的。)运行 unset PYSPARK_DRIVER_PYTHON 然后再次尝试 pyspark。
如果您希望这是默认设置,您可能需要修改您的配置文件脚本。
