代码之家  ›  专栏  ›  技术社区  ›  dks551

通过spark submit将pyspark应用程序打包和部署到群集时出错

  •  1
  • dks551  · 技术社区  · 8 年前

    我的代码结构如下:-

    my_app
        |
        |--- common
        |   |
        |   |---init.py
        |   |---spark
        |       |--init.py
        |    
        |   
        |--- subproject1
        |   |    
        |   |-- init.py
        |   |-- main.py
        |   |--job
        |       |
        |       |--myjob.py
        |       |--init.py
        |---setup.py
    

    因此,我的应用程序的入口点是子项目1-->主要的皮耶。my_应用程序有两个模块——公共和子项目1。 基本上,我想做的是向我的spark cluster提交如下内容

    spark submit--py文件作业。鸡蛋干管。py

    但当我提交时,我收到了两个问题:-

    1. 首先是主要问题。py位于my_应用程序内的子项目下。

    2. 从主服务器导入错误。当我尝试导入公共模块时。

    如何解决这个问题?

    0 回复  |  直到 8 年前
    推荐文章