我想加载数据到Spark (在 Databricks 上)来自 Google BigQuery .我注意到 Databricks 为 Amazon S3 提供了大量支持,但不为 Google 提供支持。
从 Google BigQuery 将数据加载到 Spark(在 Databricks 上)的最佳方式是什么?会 BigQuery connector允许我这样做还是仅对托管在 Google 云存储上的文件有效?
请您参考如下方法:
BigQuery 连接器是一个使用公共(public) BigQuery API 的客户端库:它运行 BigQuery 导出作业到 Google Cloud Storage,并利用文件创建顺序尽早启动 Hadoop 处理以提高整体吞吐量。
无论您碰巧找到 Hadoop 集群,此代码都应该适用。
也就是说,如果您正在处理大数据,那么您可能会发现网络带宽吞吐量是一个问题(您与 Google 的网络连接有多好?),并且由于您正在从 Google 的网络读取数据,那么 GCS network egress costs将适用。
