代码之家  ›  专栏  ›  技术社区  ›  farjam

在AWS CLI中将所有csv文件合并为一个csv

  •  0
  • farjam  · 技术社区  · 6 年前

    我有一个S3存储桶,其中有一个名为batch的文件夹。在批处理文件夹中,我有20个CSV文件。使用AWS ClI(确切地说是bash文件),我如何将所有这些csv文件合并到一个csv文件中,并将其向上移动到一个文件夹中。

    通常在终端中,我是这样做的:

    cd batches && cat ./*csv > combined.csv
    

    对于AWS CLI中的S3存储桶,有什么类似的方法可以做到这一点?

    0 回复  |  直到 6 年前
        1
  •  1
  •   jellycsc    6 年前

    如果你总共只有20个CSV文件,那么Marcin的建议可能是正确的选择。如果你有更大的CSV,那么我建议你利用S3中的多部分上传,并在aws-lambda中处理它们。