代码之家  ›  专栏  ›  技术社区  ›  d8aninja

(linux ami)emr cluster版本的“free”命令

  •  0
  • d8aninja  · 技术社区  · 7 年前

    当我从aws linux ami-ie启动pyspark时,我试图分配内存给spark,并将精确的参数传递给 driver-memory 和 executor-memory 我调用Pyspark时的参数。

    我知道我可以看看这里 Instance Types 现成答案页 在这个emr集群的每个实例上我有多少内存? 但是我想知道我是否可以通过aws cli本身来实现(“live”),这样我就可以看到在启动了spin-up过程之后,我实际使用了多少。

    我也知道 free Linux中的命令,但这似乎只给了我ssh的主节点的空闲内存。我还知道yarn ui和hadoop api,但在这种情况下,如果可能的话,我想从命令行进行检查。

    1 回复  |  直到 7 年前
        1
  •  1
  •   loneStar    7 年前

    有关群集内存使用情况的信息将在yarn管理器中提供。

    Yarn top
    

    纱线管理器提供有关节点、使用的内存和可用内存的信息。 跟踪所有应用程序。

    以下链接提供有关纱线的详细信息 https://docs.aws.amazon.com/emr/latest/ManagementGuide/emr-web-interfaces.html

    enter image description here