Azure 如何使用databricks connect在本地执行Spark代码?

Azure 如何使用databricks connect在本地执行Spark代码?,azure,apache-spark,databricks,azure-databricks,Azure,Apache Spark,Databricks,Azure Databricks,有没有一种方法可以在本地执行Spark代码 原因是,我希望执行一些测试作为CI/CD管道的一部分,而无需启动并运行群集。否,databricks connect需要运行群集。 如果您不使用任何特定于databricks的代码(如dbutils),您可以在本地运行spark并执行该代码-假设您仍然可以访问所需的数据源。不幸的消息,因为我需要等待开源Delta Lake支持databricks中可用的DDL/DML。谢谢。我在单元测试模拟spark_会话中遇到了类似的问题。你是怎么解决的?

有没有一种方法可以在本地执行Spark代码


原因是,我希望执行一些测试作为CI/CD管道的一部分,而无需启动并运行群集。

否,
databricks connect
需要运行群集。
如果您不使用任何特定于databricks的代码(如
dbutils
),您可以在本地运行spark并执行该代码-假设您仍然可以访问所需的数据源。

不幸的消息,因为我需要等待开源Delta Lake支持databricks中可用的DDL/DML。谢谢。我在单元测试模拟spark_会话中遇到了类似的问题。你是怎么解决的?