代码之家  ›  专栏  ›  技术社区  ›  Ichorus

在python中创建代理框架以实现灵活的脚本分发和数据收集的最佳方法是什么

  •  0
  • Ichorus  · 技术社区  · 17 年前

    我想做的是:我有数百台服务器,它们有非常大的日志文件,分布在几十个不同的客户端。我正在创建漂亮的python脚本,以不同的方式解析日志,并希望聚合我从所有不同服务器收集的数据。我还想集中处理不断变化的脚本。这个想法是有一个可以连接到每个服务器的线束,将脚本scp到服务器,用pexpect或类似的东西运行流程,然后将结果数据scp回到单独的文件中进行聚合,或者(我认为最好)流式传输数据并动态聚合。我没有设置密钥(也不想设置密钥),但我确实有一个包含连接信息、登录名、密码等的数据库。

    4 回复  |  直到 17 年前
        2
  •  1
  •   Dan Lorenc    17 年前

    并行Python为分布式计算和通信提供了一些功能:

    http://www.parallelpython.com/

        3
  •  1
  •   JimB    17 年前

    看一看 Func 它是一个使用python与大量机器进行rpc风格通信的框架。作为额外的好处,它内置了TLS,因此您不需要在ssh隧道之上叠加安全层。

        4
  •  0
  •   Alexey Melezhik    9 年前

    sparrow

    因此,你也可以用多种语言和Python编写脚本!Sparrow将脚本视为具有版本、所有权和文档的软件包,就像您通过deb或rpm安装软件包一样。

    Sparrow提供了一种以集中方式开发和管理各种脚本的简洁方法。

    PS.免责声明-我是工具作者