我的代码结构如下:-
my_app
|
|--- common
| |
| |---init.py
| |---spark
| |--init.py
|
|
|--- subproject1
| |
| |-- init.py
| |-- main.py
| |--job
| |
| |--myjob.py
| |--init.py
|---setup.py
因此,我的应用程序的入口点是子项目1-->主要的皮耶。my_应用程序有两个模块——公共和子项目1。
基本上,我想做的是向我的spark cluster提交如下内容
spark submit--py文件作业。鸡蛋干管。py
但当我提交时,我收到了两个问题:-
-
首先是主要问题。py位于my_应用程序内的子项目下。
-
从主服务器导入错误。当我尝试导入公共模块时。
如何解决这个问题?