代码之家 › 专栏 › 技术社区 › Hussain Asghar

是否将文本数据转换为SVMFile格式以用于垃圾邮件分类?

apache-spark-mllib bigdata machine-learning apache-spark

Hussain Asghar · 技术社区 · 7 年前

如何将文本数据转换为LibSVM文件格式,以训练垃圾邮件分类模型。 SVMFiles是否已标记?

1 回复 | 直到 7 年前

user9179787 7 年前

SVM格式既不是必需的,也不是有用的。在Apache Spark ML示例中使用它,只是因为它可以直接映射到所需的格式。

SVMFiles是否已标记?

不一定,但Spark只能读取标记的变体。

实际上,您应该使用 org.apache.spark.ml.feature 用于从数据中提取相关特征的工具。

你可以跟随 the documentation 还有一些问题。,

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

2 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

2 年前

Dhruv · 在sbt控制台上运行Spark

2 年前

Leonard · Pyspark:JSON到Pyspark数据帧

2 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

3 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

3 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

3 年前