代码之家 › 专栏 › 技术社区 › ZK Zhao

齐柏林飞艇:与弦混合时出现问题的表格显示

apache-zeppelin pyspark

ZK Zhao · 技术社区 · 6 年前

例如,如果我使用z.show()直接输出表

%pyspark
df = spark.createDataFrame([
    (0, 0, "2018-06-03", "2018-06-03"),
    (1, 1, "2018-06-04", "2018-06-04"),
    (2, 10, "2018-06-03", None),
    (4, 1, "2018-06-05", "2018-06-01")])\
  .toDF("orderid", "customerid", "product_name", "product_name2")
print("test print string 1")
z.show(df)
z.show(df.describe())

输出很好,像这样

但是,如果在输出表之间添加字符串

%pyspark
df = spark.createDataFrame([
    (0, 0, "2018-06-03", "2018-06-03"),
    (1, 1, "2018-06-04", "2018-06-04"),
    (2, 10, "2018-06-03", None),
    (4, 1, "2018-06-05", "2018-06-01")])\
  .toDF("orderid", "customerid", "product_name", "product_name2")
print("test print string 1")
z.show(df)
print("test print string 2") # If I add this
z.show(df.describe())

输出变成这个(没有显示表格)

我想知道,我怎么能把弦乐和齐柏林的桌子表演混在一起呢?

我想这个问题可能是因为字符串导致齐柏林飞艇的表显示格式错误?

1 回复 | 直到 6 年前

zjffdu 6 年前

嗯,这是齐柏林飞艇的问题。解决方法是添加'%text'以显式指定输出类型,如下所示

df = spark.createDataFrame([
    (0, 0, "2018-06-03", "2018-06-03"),
    (1, 1, "2018-06-04", "2018-06-04"),
    (2, 10, "2018-06-03", None),
    (4, 1, "2018-06-05", "2018-06-01")])\
  .toDF("orderid", "customerid", "product_name", "product_name2")
print("test print string 1")
z.show(df)
print("%text test print string 2") # If I add this
z.show(df.describe())

推荐文章

Leonard · Pyspark:JSON到Pyspark数据帧

2 年前

Fran Arenas · Pyspark collect()方法在Pycharm或控制台中执行测试时给出了不同的顺序

2 年前

titutubs · 有没有一种更有效的方法来为Databricks SQL中的bin值编写代码?

2 年前

markwatson · AWS Glue:如何在输出中添加具有源文件名的列?

7 年前

juamd · 顺序(k,<元组>)RDD

7 年前

Gaurav Gupta · 如何加载多行记录的CSV文件?

7 年前

Jared · 如何在本地模式下运行的pyspark中读取S3?

7 年前

ka_boom · 在pyspark中链接多个groupBy

7 年前

ds_user · 在apache spark中复制记录计数

7 年前

ds_user · 结合类型和子类型的Apache Spark组

7 年前