Skip to main content
 首页 » 编程设计

python之将数据从 Google BigQuery 加载到 Spark(在 Databricks 上)

2025年04月02日38xiaohuochai

我想加载数据到Spark (在 Databricks 上)来自 Google BigQuery .我注意到 Databricks 为 Amazon S3 提供了大量支持,但不为 Google 提供支持。

从 Google BigQuery 将数据加载到 Spark(在 Databricks 上)的最佳方式是什么?会 BigQuery connector允许我这样做还是仅对托管在 Google 云存储上的文件有效?

请您参考如下方法:

BigQuery 连接器是一个使用公共(public) BigQuery API 的客户端库:它运行 BigQuery 导出作业到 Google Cloud Storage,并利用文件创建顺序尽早启动 Hadoop 处理以提高整体吞吐量。

无论您碰巧找到 Hadoop 集群,此代码都应该适用。

也就是说,如果您正在处理大数据,那么您可能会发现网络带宽吞吐量是一个问题(您与 Google 的网络连接有多好?),并且由于您正在从 Google 的网络读取数据,那么 GCS network egress costs将适用。