代码之家 › 专栏 › 技术社区 › dkx22

用芹菜运行线程模块;不允许后台进程有子进程

celery queue asynchronous python-2.7 python

0

dkx22 · 技术社区 · 6 年前

我已经在我的烧瓶应用程序中实现了一个芹菜队列。一切正常。但我需要用 this module called sublist3r 当我在芹菜任务中使用它时,我会收到这个错误:

[2019-02-16 21:32:52,658: INFO/ForkPoolWorker-6] Task tasks.task.addd[57793628-de25-4c89-a265-5fee69a8b2bf] succeeded in 0.0236732449848s: None
[2019-02-16 21:32:52,660: WARNING/ForkPoolWorker-6] Exception in thread Thread-1:
Traceback (most recent call last):
  File "/usr/lib/python2.7/threading.py", line 801, in __bootstrap_inner
    self.run()
  File "/usr/lib/python2.7/threading.py", line 754, in run
    self.__target(*self.__args, **self.__kwargs)
  File "/home/me/code/proj/tasks/task.py", line 15, in getd
    sub = sublist3r.main(url, 40, None, ports=None, silent=True,verbose=False, enable_bruteforce=False, engines=None)
  File "/home/me/code/proj/sublist3r/sublist3r.py", line 871, in main
    subdomains_queue = multiprocessing.Manager().list()
  File "/usr/lib/python2.7/multiprocessing/__init__.py", line 99, in Manager
    m.start()
  File "/usr/lib/python2.7/multiprocessing/managers.py", line 524, in start
    self._process.start()
  File "/usr/lib/python2.7/multiprocessing/process.py", line 124, in start
    'daemonic processes are not allowed to have children'
**AssertionError: daemonic processes are not allowed to have children**

这是因为我试图使用一个使用线程的模块吗? 如何在队列中或异步使用此模块?

谢谢你

0 回复 | 直到 6 年前

1

2ps 6 年前

看来 sublist3r 使用多处理并尝试启动自己的进程。你不能在芹菜中真正做到这一点,因为在生产中,芹菜已经在它自己的子进程中启动了一个工人,而且从错误消息中可以看出,芹菜不允许你启动sublist3r使用的多处理进程。如果您想使用它,最好的办法是重写子列表3r中的类,以便从 celery.Task 而不是 multiprocessing.Process .