Apache spark 如何实现spark.ui.filter

Apache spark 如何实现spark.ui.filter,apache-spark,servlet-filters,Apache Spark,Servlet Filters,我在2 CentOS机器上安装了一个spark群集。我想保护集群(主节点)的web UI。我制作了一个基本的身份验证过滤器servlet。我无法理解: 我应该如何使用spark.ui.filter来保护我的web ui 我应该将servlet/jar文件放在哪里 请帮忙。将jar文件放在文件夹/opt/spark/conf/中的所有节点中。在终端中,键入以下命令: 导航到目录/usr/local/share/jupyter/kernels/pyspark/kernel.json 编辑kerne

我在2 CentOS机器上安装了一个spark群集。我想保护集群(主节点)的web UI。我制作了一个基本的身份验证过滤器servlet。我无法理解:

  • 我应该如何使用spark.ui.filter来保护我的web ui
  • 我应该将servlet/jar文件放在哪里
    请帮忙。

    将jar文件放在文件夹
    /opt/spark/conf/
    中的所有节点中。在终端中,键入以下命令:

    • 导航到目录
      /usr/local/share/jupyter/kernels/pyspark/kernel.json
    • 编辑kernel.json文件
    • 将以下参数添加到PYSPARK_SUBMIT_ARGS
      --jars/opt/spark/conf/filterauth.jar–conf spark.ui.filters=authenticate.MyFilter
    这里,filterauth.jar是创建和验证的jar文件。MyFilter表示


    希望这能回答您的问题。:)

    将jar文件放在文件夹
    /opt/spark/conf/
    中的所有节点中。在终端中,键入以下命令:

    • 导航到目录
      /usr/local/share/jupyter/kernels/pyspark/kernel.json
    • 编辑kernel.json文件
    • 将以下参数添加到PYSPARK_SUBMIT_ARGS
      --jars/opt/spark/conf/filterauth.jar–conf spark.ui.filters=authenticate.MyFilter
    这里,filterauth.jar是创建和验证的jar文件。MyFilter表示


    希望这能回答您的问题。:)

    我还需要处理这个安全问题,以防止未经授权访问spark独立UI。最后我在网上冲浪后把它修好了,程序是:

  • 使用标准的基本身份验证协议编码并编译java过滤器,我参考了这个[博客]:
  • 将上述过滤器类打包为jar文件,将其放入$spark\u home/jars中/
  • 在$spark_home/conf/spark-default.conf中添加配置行,如下所示:

    • spark.ui.filters xxx.BasicAuthFilter#完整类名
    • spark.test.BasicAuthFilter.params user=foo,password=cool,realm=some

      访问spark UI所需的用户名和密码,“领域”与您键入的内容无关

  • 重新启动所有从进程和主进程,并进行测试以发现其工作正常

  • 我还需要处理这个安全问题,以防止未经授权访问spark独立UI。最后我在网上冲浪后把它修好了,程序是:

  • 使用标准的基本身份验证协议编码并编译java过滤器,我参考了这个[博客]:
  • 将上述过滤器类打包为jar文件,将其放入$spark\u home/jars中/
  • 在$spark_home/conf/spark-default.conf中添加配置行,如下所示:

    • spark.ui.filters xxx.BasicAuthFilter#完整类名
    • spark.test.BasicAuthFilter.params user=foo,password=cool,realm=some

      访问spark UI所需的用户名和密码,“领域”与您键入的内容无关

  • 重新启动所有从进程和主进程,并进行测试以发现其工作正常

  • 您可以在stack exchange for batter response中提出此问题您可以在stack exchange for batter response中提出此问题