代码之家  ›  专栏  ›  技术社区  ›  Piotr Gwiazda

如何“提交”一个特别的sql到flink上

  •  1
  • Piotr Gwiazda  · 技术社区  · 8 年前

    我使用Apache梁和弗林克SDK和JAVA SDK。似乎将作业部署到flink意味着构建一个80兆字节的胖jar,并上传到flink作业管理器。 有没有一种方法可以轻松地部署轻量级sql来运行beam sql?也许已经部署了作业,以便soemhow获取和运行特别查询?

    1 回复  |  直到 8 年前
        1
  •  2
  •   Anton    8 年前

    如果我理解你的问题的话,我认为现在不可能。目前,beam-sdk将始终构建一个fat-jar,它将实现管道并包含所有管道依赖项,并且它将无法接受轻量级的即席查询。

    如果您对更多的交互体验感兴趣,可以查看正在进行的使beam更具交互性的工作,例如:

    • SQL shell: https://s.apache.org/beam-sql-packaging . 这描述了一个正在工作的beam sql shell,它应该允许您在repl环境中本地快速执行小型sql查询,以便您可以交互地浏览数据,并在提交长时间运行的作业之前设计管道。但这不会改变作业提交给Flink(或任何其他跑步者)的方式。因此,在提交长时间运行的作业之后,您可能仍然需要使用常规的作业管理工具来控制它。

    • 蟒蛇: https://s.apache.org/interactive-beam . 描述将现有运行程序包装到交互式包装器中的方法。